服务器端json数据文件分割合并解决方案

问题引入

Json 是什么就不多说了,本文把Json理解成一种协议。

印象之中,Json貌似是前端的专属,其实不然,服务器端组织数据,依然可以用Json协议。

比如说,某公司有一套测评题目(基于Json协议),这些题目比较珍贵,不想直接放在js中,所以就将题目文件放在服务器端,然后通过一个接口去请求,多一层控制,就多了一层保护,通过在接口上加权限,可保证数据安全。

如此一来,服务器端必定会有一个Json文件(纯文本文件),Json文件中包含Json数据。

假设Json数据结构如下:

 {
"name": "题库",
"items": [{
"name": "测评-1",
"items": [/*...*/]
},{
"name": "测评-2",
"items": [/*...*/]
},{
"name": "测评-3",
"items": [/*...*/]
}/*...*/]
}

暂不讨论这样设计的合理性,假定已经是这么设计了,无法再做更改。但凡是有些规模的项目,需求变动都比较频繁,项目工期也比较紧张,不得不做出妥协,完美的设计是不存在的。

随着时间和规模的增长,测评会越来越多,而且每个测评本身包含的数据也不少,这样一来,这个Json文件会越来越大。

众所周知,IO操作是一个巨大的瓶颈,如果Json文件太大,占用IO过多,将导致性能严重下降。同时Json文件太大,也不好管理,不符合开闭原则。

因此,我们迫切需要对Json文件进行拆分,把数据量大、独立性强、自成一体的Json数据转移到主体的外部,单独放在一个Json文件中,这样不仅缩小了单个文件的体积,也方便管理。

其实这样做最大的优点是可以实现懒加载,或者说是按需加载。

这样的情景很常见,比如在进行数据检索时,一般情况下,会先看到一个数据概要列表,列出几项重要信息,其他次要信息需要点击“详情”按钮时,才去加载。

拿上边测评的例子来说,第一步仅需显示出有哪些测评,然后根据用户的选择,再去加载对应测评的详细信息。没有必要一上来就把所有的信息都返回给客户端,不仅浪费资源,还降低了数据安全性。

如何才能实现Json文件的合并呢?请看下章~~~

解决方案:Jean

Jean是一个Java工具类,她可以实现Json文件合并、依赖管理,灵感来自于前端模块化开发。

这名字是怎么来的呢?前端模块化开发,国内比较厉害的就是Sea.js了,小菜要写的是Java工具类,要不就叫Jea?于是赶紧上网查查Jea有没有啥特殊含义,万一是敏感词就不好了。结果一查,查到了Jean,可翻译为“珍”,相当不错的名字嘛,就是她了!

Jean的思想是在Json文件中,加入一段特殊代码,来引入其他Json文件,有点像Jsp中的include。语法为:@Jean("family","./items/family.js")。可以把@Jean()理解成函数调用,里边有两个参数,第一个参数是属性名称,第二个参数是依赖文件的相对路径。

文章开篇测评的例子,可以写成这样:

 {
"name": "题库",
"items": [{
"name": "测评-1",
@Jean("items","./items1/test.js")
},{
"name": "测评-2",
@Jean("items","./items2/test.js")
},{
@Jean("items","./items3/test.js"),
"name": "测评-3"
}/*...*/]
}

假设./items1/test.js中内容为:

 {
name: "测评-1-内容"
}

由此可以看出,@Jean在Json文件中的写法,就和普通的属性写法一样,如果是写在最后边,末尾就不用加逗号,其他情况同样需要加逗号。

通过工具类解析之后,@Jean("items","./items1/test.js")会变成:"items": {name: "测评-1-内容"},替换之后,为了保证格式正确,所以写@Jean的时候需要按照正常的语法加逗号。

第一个参数,将会转换成@Jean占位符被替换后的Json属性名称,如果不写,默认为"jean"。

第二个参数是该属性依赖的Json文件的相对路径,当然是相对于当前Json文件的,Jean会根据当前Json文件的路径,找到依赖的Json文件,然后读取内容,再合并到当前Json文件中。目前小菜实现的Jean工具类,只能识别./和../两种相对路径语法(含义与HTML相对路径语法相同)。

所以,@Jean仅仅是一个占位符,包含有@Jean的Json字符串,必须经过Jean工具类处理之后,才是合法的Json字符串。同时,Jean仅仅关心依赖,而不关心依赖的组织形式,这样可以带来巨大的灵活性,无论怎样组织文件结构,最终体现到Jean的仅仅是一个相对路径而已。

Jean工具类提供了三个public方法:

 /**
* 解析所有的jean表达式
* @param json json字符串
* @param jsonPath json字符串所在路径,完整路径
* @return 解析后的json字符串
*/
public static String parseAll(String json,String jsonPath){} /**
* 解析单个jean表达式
* @param express jean表达式
* @param jsonPath json字符串所在路径,完整路径
* @return 解析结果
*/
public static String parseOne(String express,String jsonPath){} /**
* 解析特定的jean表达式
* @param json json字符串
* @param jsonPath json字符串所在路径,完整路径
* @param names 需要解析的属性名称列表
* @return 解析后的json字符串
*/
public static String parseTarget(String json,String jsonPath,List<String> names){}

第一个方法就是说给我一个包含@Jean的Json字符串,再给我这个Json字符串所在文件的绝对路径,我就把所有的@Jean解析成依赖文件中的内容。

为啥非要单独传入一个绝对路径呢?其实可以直接传入Json文件的路径,这样既能拿到需要解析的Json字符串,又能获取当前Json文件的绝对路径。但这样有一个缺点,就是每调用一次,就要读一次文件,小菜单独把路径写成一个参数,就是要把读文件的过程留给用户,具体怎么读,由用户说了算,最终把需要解析的Json字符串和参照路径给我就可以了。例如:

 String json = "{@Jean(\"item1\",\"./../../item.js\"),@Jean(\"item2\",\"../item.js\")}";
System.out.println(parseAll(json, "E:/root/json")); //print {"item1": {"name": "xxx1"},"item2": {"name": "xxx2"}}

第二个方法可以直接解析一个@Jean表达式,不多解释。例如:

 String expression = "@Jean(\"item1\",\"./../../item.js\")";
System.out.println(parseOne(expression, "E:/root/json")); //print "item1": {"name": "xxx1"}

第三个方法可以解析指定的@Jean表达式,@Jean表达式第一个参数是属性名称,想解析哪个属性,就把它放在List<String>中,其他不做解析的,属性值为null。这样就实现了懒加载。例如:

 List<String>  names = new ArrayList<String>();
names.add("item1");
String json = "{@Jean(\"item1\",\"./../../item.js\"),@Jean(\"item2\",\"../item.js\")}";
System.out.println(parseTarget(json, "E:/root/json", names)); //print {"item1": {"name": "xxx"},"item2": null}

Jean源码

 import java.io.BufferedReader;
import java.io.File;
import java.io.FileInputStream;
import java.io.IOException;
import java.io.InputStreamReader;
import java.util.ArrayList;
import java.util.HashMap;
import java.util.List;
import java.util.Map;
import java.util.regex.Matcher;
import java.util.regex.Pattern; /**
* json文件合并工具类
* @author 杨元
*/
public class Jean { /**
* 识别jean表达式
*/
private static Pattern jeanRegex = Pattern.compile("(@Jean\\((\"[^\"]*\",)?\"[^\"]*\"\\))");
/**
* 识别jean表达式中的所有参数
*/
private static Pattern paramRegex = Pattern.compile("\"([^\"]*)\"");
/**
* 识别jean表达式中的name参数
*/
private static Pattern nameRegex = Pattern.compile("\"([^\"]*)\",");
/**
* 默认属性名称
*/
private static String defaultName = "jean"; /**
* 解析所有的jean表达式
* @param json json字符串
* @param jsonPath json字符串所在路径,完整路径
* @return 解析后的json字符串
*/
public static String parseAll(String json,String jsonPath){
//识别jean表达式
List<String> jeans = regexMatchList(jeanRegex, json);
jeans = noRepeat(jeans); //解析
for(String jean : jeans){
json = json.replace(jean, parse(jean, jsonPath));
} return json;
} /**
* 解析单个jean表达式
* @param express jean表达式
* @param jsonPath json字符串所在路径,完整路径
* @return 解析结果
*/
public static String parseOne(String express,String jsonPath){
return parse(express, jsonPath);
} /**
* 解析特定的jean表达式
* @param json json字符串
* @param jsonPath json字符串所在路径,完整路径
* @param names 需要解析的属性名称列表
* @return 解析后的json字符串
*/
public static String parseTarget(String json,String jsonPath,List<String> names){
//识别jean表达式
List<String> jeans = regexMatchList(jeanRegex, json);
jeans = noRepeat(jeans);
//处理属性名映射
Map<String, Boolean> nameMap = new HashMap<String, Boolean>();
for(String s : names){
nameMap.put(s, true);
} //解析
String replacement = "";
Matcher matcher = null;
String name = "";
for(String jean : jeans){
matcher = nameRegex.matcher(jean); //判断是否传入属性名称
if(matcher.find()){
name = matcher.group(1);
//判断是否需要解析
if(nameMap.get(name) != null){
replacement = parse(jean, jsonPath);
}else{
//不需要解析直接将属性值写为null
replacement = "\""+name+"\": null";
}
}else{
//无属性名直接用默认的jean
replacement = "\""+defaultName+"\": null";
} json = json.replace(jean, replacement);
} return json;
} /**
* 解析jean表达式
* @param express jean表达式
* @param jsonPath json文件所在路径,完整路径
* @return jean表达式执行结果
*/
private static String parse(String express,String jsonPath){
//识别参数
List<String> params = regexMatchList(paramRegex, express);
//默认属性名称
String name = defaultName;
//格式化路径
jsonPath = removeSuffix(jsonPath, "/"); //判断是否传入了属性名称
if(params.size() > 1){
name = params.get(0);
} //解析路径
String path = getAbsolutePath(jsonPath, params.get(params.size()-1)); //读取内容并返回
name = wrapWith(name, "\"");
return name + ": " + readJsonFile(path);
} /**
* 从字符串中移除指定后缀
* @param source 源字符串
* @param suffix 需要移除的后缀
* @return 处理后的源字符串
*/
private static String removeSuffix(String source,String suffix){
if(source.endsWith(suffix)){
source = source.substring(0, source.length()-suffix.length());
} return source;
} /**
* list内容去重
* @param list 内容为string的list
* @return 内容去重后的list
*/
private static List<String> noRepeat(List<String> list){
Map<String, String> map = new HashMap<String, String>();
List<String> result = new ArrayList<String>(); for(String s : list){
map.put(s, null);
} for(String s : map.keySet()){
result.add(s);
} return result;
} /**
* 用指定的字符串包裹内容
* @param content 内容
* @param wrap 包裹字符串
* @return 包裹后的内容
*/
private static String wrapWith(String content,String wrap){
return wrap+content+wrap;
} /**
* 读取Json文件(纯文本文件,utf-8编码)
* 这个方法可以替换成自己项目中封装的方法
* @param path 文件路径
* @return 文件内容
*/
private static String readJsonFile(String path){
String encoding = "utf-8";
StringBuilder sb = new StringBuilder(256); File file = new File(path);
InputStreamReader iReader = null;
BufferedReader bReader = null; try{
iReader = new InputStreamReader(new FileInputStream(file), encoding);
bReader = new BufferedReader(iReader);
String line = null; while((line = bReader.readLine()) != null){
sb.append(line.trim());
} bReader.close();
iReader.close(); }catch(Exception e){
if(iReader != null){
try {
iReader.close();
} catch (IOException e1) {
iReader = null;
}
}
if(bReader != null){
try {
bReader.close();
} catch (IOException e1) {
bReader = null;
}
}
} return sb.toString();
} /**
* 将相对路径转换成绝对路径
* 只识别 ./ ../
* @param refrence 基准参照路径
* @param relative 相对路径表达式
* @return 绝对路径
*/
private static String getAbsolutePath(String refrence,String relative){
if(relative.startsWith("./")){
refrence = getAbsolutePath(refrence, relative.replaceFirst("\\./", ""));
}else if(relative.startsWith("../")){
refrence = getAbsolutePath(refrence.substring(0, refrence.lastIndexOf("/")),
relative.replaceFirst("\\.\\./", ""));
}else{
refrence = refrence + "/" + relative;
} return refrence;
} /**
* 将正则表达式的匹配结果转换成列表
* @param regex 正则表达式对象
* @param input 要检索的字符串
* @return 结果列表
*/
private static List<String> regexMatchList(Pattern regex,String input){
List<String> result = new ArrayList<String>();
Matcher matcher = regex.matcher(input);
while(matcher.find()){
result.add(matcher.group(1));
} return result;
} }

其他

欢迎留言,共同探讨!

上一篇:JS 异步系列 —— Promise 札记


下一篇:html5响应式设置