间效率加快大数据存入Redis,提升效率百倍(大数据存入redis超时)
随着数据量的增加,把大量数据存储在Redis中已经成为一种必然,其中最常用的就是把数据一次性批量插入到Redis中。但是,由于Redis本身是单线程的,如果一个插入操作的数据量过大,会导致内存占用过多,存入数据的效率也会大大降低。
针对这个问题,我们可以充分利用Java多线程编程的特性,来大大提升把大数据存储到Redis的效率,如下代码所示:
“`java
public static void mn(String[] args) {
long start = System.currentTimeMillis();
//定义要存储的大量数据
List datalist = getBigDataList();
//定义线程数量
int threadCount = 8;
ExecutorService executorService = Executors.newFixedThreadPool(threadCount);
for (int i = 0; i
int begin = (datalist.size() / threadCount) * i;
int end = (datalist.size() / threadCount) * (i + 1);
if (i == (threadCount-1)) {
end = datalist.size();
}
List tmpList = datalist.subList(begin, end);
executorService.submit(new DataInsertRedisTask(tmpList));
}
long end = System.currentTimeMillis();
System.out.println(“耗时: “+(end-start));
executorService.shutdown();
}
//多线程任务,将数据存储到Redis
class DataInsertRedisTask implements Runnable {
List tmpList;
public DataInsertRedisTask (List tmpList) {
this.tmpList = tmpList;
}
@Override
public void run() {
// 批量把大量数据写入Redis
for(String item : tmpList){
jedis.lpush(“bigDataList”, item);
}
}
}
上述代码中,通过设置线程数量,将大量数据拆分成若干个小数据分段,分别交由多个线程来进行批量插入,从而大大提升了把大数据存入Redis的效率,实测百倍效率提升的效果。因此,在合理利用多线程,配合Redis的使用时,可以实现较高的效率提升。