需求:将批量数据灌入redis中
如果通过代码形式将数据灌入redis中,效率比较低,以下将根据redis的特性进行快速的批量灌库
环境:centos7
- 将数据整理成规定格式的文件,比如:
SET key value
SET key value
- 安装格式转换工具
# yum install unix2dos
- 使用工具转换文件格式
# unix2dos cf_reclist.redis
- 使用命令灌库
# cat cf_reclist.redis | /usr/local/src/tools/redis-2.8.3/src/redis-cli --pipe
可能出现的问题:
如果需要灌库的文件较大,则需要切分成多个小文件,再进行灌库
//按行切分文件,每10000行为一个小文件
]# split -l 10000 2.data
//cat所有小文件进行批量灌库
]# for i in `ls *`; do cat $i | /usr/local/src/tools/redis-2.8.3/src/redis-cli --pipe;done