POI和easyExcel的讲解和使用

目录

应用场景:

Apache POI:

EasyExcel:

POI具体实现:

POI-Excel 写:

POI-Excel 读:

大文件写HSSF:

大文件写XSSF:

大文件写SXSSF:

EasyExcel:

导入相关依赖:

Write:

Read:


应用场景:

1、将用户信息导出为excel表格

2、将Excel表中的信息录入到网站数据库

开发中经常会涉及到excel的处理,如导出Excel,导入Excel到数据库中

操作Ecxel目前比较流行的iu是Apache POI 和阿里巴巴的 easyExcel

Apache POI:

EasyExcel:

        他是阿里巴巴开源的一个框架,使用简单,节省内存

        EasyExcel能大大减少内存占用的主要原因是在解析Excel时没有将文件数据一次性全部加载到内存中,而是从磁盘上一行一行读取数据,逐个解析

        easyExcel中基本不会出现内存溢出

POI具体实现:

POI-Excel 写:

        excel中分为两个版本 03 和 07,03版只能存储65536条数据,07版理论上可以存储无数条数据

        代码在idea中 区分03 07 版本,03版本和07版本使用的区别只在 1、创建使用的关键字不一样【可以参上我上面发的结构图】 2、文件的后缀不一样

@Test
void testWrite03() throws IOException {

    String PATH = ("E:\\Javastudy\\teshuchengzhang\\Code\\Spring\\PoiandEasyExceldemo\\src\\main\\java\\com\\example\\poiandeasyexceldemo\\controller");

    //工作簿 03版        这里用的是HSSF    如果是07的话就用XSSF
    Workbook workbook = new HSSFWorkbook();
    //工作表
    Sheet sheet = workbook.createSheet("统计表");
    //创建一个行 0 就是第一行
    Row row1 = sheet.createRow(0);
    //单元格(1,1)
    Cell cell = row1.createCell(0);
    cell.setCellValue("今日新增观众");
    //单元格(1,2)
    Cell cell2 = row1.createCell(1);
    cell2.setCellValue("今日收入");
    //创建第二行
    Row row2 = sheet.createRow(1);
    Cell cell21 = row2.createCell(0);
    cell21.setCellValue("统计时间");
    //(2.2)
    Cell cell22  =row2.createCell(1);
    String time = new DateTime().toString("yyyy-MM-dd HH:mm:ss");
    cell22.setCellValue(time);

    //生成一张表(IO)流  03版本使用的是xls结尾
   FileOutputStream fileOutputStream= new FileOutputStream(PATH+"案例03.xls");
    workbook.write(fileOutputStream);
    //关闭流
    System.out.println("生成完毕");
}

POI-Excel 读:

读取不同数据类型的数据:

@Test
public void GetDiffTypeTest() throws IOException {
    //获取文件流
    FileInputStream inputStream = new FileInputStream("E:\\Javastudy\\teshuchengzhang\\Code\\Spring\\PoiandEasyExceldemo\\src\\main\\java\\com\\example\\poiandeasyexceldemo\\biaoge测试表格.xlsx");
    //创建一个工作簿
    Workbook workbook = new XSSFWorkbook(inputStream);
    Sheet sheet = workbook.getSheetAt(0);
    //获取标题内容
    Row rowTitle = sheet.getRow(0);
    if(rowTitle!=null){
        int cellCount = rowTitle.getPhysicalNumberOfCells();
        for(int cellNum = 0;cellNum<cellCount; cellNum++){
            Cell cell = rowTitle.getCell(cellNum);
            if(cell!=null){
                int cellType = cell.getCellType();
                String cellValue = cell.getStringCellValue();
                System.out.print(cellValue+"|");

            }
        }
        System.out.println();
    }
    //获取表中的内容
    int rowCount = sheet.getPhysicalNumberOfRows();
    for(int rowNum = 1;rowNum<rowCount;rowNum++){
        Row rowData = sheet.getRow(rowNum);
        if(rowData!=null){
            //读取列
            int cellCount = rowTitle.getPhysicalNumberOfCells();
            for(int cellNum = 0;cellNum< cellCount;cellNum++){
                System.out.println("["+(rowNum+1)+"-"+(cellNum+1)+"]");

                Cell cell = rowData.getCell(cellNum);
                //匹配列的数据类型
                if(cell!=null){
                    int cellType = cell.getCellType();
                    String cellValue = "";

                    switch (cellType){
                        case HSSFCell.CELL_TYPE_STRING://字符串
                            System.out.print("[String]");
                            cellValue = cell.getStringCellValue();
                            break;
                        case HSSFCell.CELL_TYPE_BOOLEAN://布尔
                            System.out.print("[BOOLEAN]");
                            cellValue = String.valueOf(cell.getBooleanCellValue());
                            break;
                        case HSSFCell.CELL_TYPE_BLANK://空
                            System.out.print("[BLANK]");
                            break;
                        case HSSFCell.CELL_TYPE_NUMERIC://数字(日期、普通数字)
                            System.out.print("[NUMERIC]");
                            if(HSSFDateUtil.isCellDateFormatted(cell)){
                                System.out.print("[日期]");
                                Date date = cell.getDateCellValue();
                                cellValue = new DateTime(date).toString("yyyy-MM-dd");
                            }else{
                                System.out.print("[转换为字符串输出]");
                                cell.setCellType(HSSFCell.CELL_TYPE_STRING);
                                cellValue = cell.toString();
                            }
                            break;
                        case HSSFCell.CELL_TYPE_ERROR:
                            System.out.print("[数据类型错误]");
                            break;
                    }
                    System.out.println(cellValue);
                }
            }
        }
    }
    inputStream.close();
}

大文件写HSSF:

缺点:最多只能处理65536行,否则会抛出异常

优点:过程中写入缓存,不操作磁盘,最后一次性写入磁盘速度快

大文件写XSSF:

缺点:写数据时速度非常慢,非常耗内存,也会发生内存泄露,如100万条

优点:可以写较大数据量,如20万条

大文件写SXSSF:

优点:可以写非常大的数据量,如100万条甚至更多条,写数据速度快,占用更少的内存

代码:

@Test
public void testWrite07BigDatas() throws IOException {
    //07 使用SXSSFWorkbook来实现。
    String PATH = "E:\\Javastudy\\teshuchengzhang\\Code\\Spring\\PoiandEasyExceldemo\\src\\main\\java\\com\\example\\poiandeasyexceldemo\\controller";
    //时间
    System.out.println(System.currentTimeMillis());

    //创建一个簿
    Workbook workbook = new SXSSFWorkbook();
    //创建一个表
    Sheet sheet = workbook.createSheet();
    //写入数据
    for(int rowNum=0;rowNum<65536;rowNum++){
        Row row = sheet.createRow(rowNum);
        for(int cellNum = 0;cellNum<10;cellNum++){
            Cell cell  =row.createCell(cellNum);
            cell.setCellValue(cellNum);
        }
    }
    System.out.println("over");
    System.out.println(System.currentTimeMillis());

    FileOutputStream outputStream =new FileOutputStream(PATH+"testWrite07BIgData.xlsx");
    workbook.write(outputStream);
    outputStream.close();
    //还需要添加一步:清除临时文件
    ((SXSSFWorkbook)workbook).dispose();
    System.out.println("over");
    System.out.println(System.currentTimeMillis());

}

注意:

  • 过程中会产生临时文件,需要清理临时文件
  • 默认由100条记录被保存在内存中,如果超过这数量,则最前面的数据被写入临时文件
  • 如果想自定义内存中数据的数量,可以使用new SXSSFWorkbook(数量)

EasyExcel:

我们如果使用easyExcel的话,就不再需要去单独导入POI的依赖了,点进easyExcel的依赖 那里就包含了POI的依赖了。

导入相关依赖:

<dependency>
    <groupId>joda-time</groupId>
    <artifactId>joda-time</artifactId>
    <version>2.10.1</version>
</dependency>

<dependency>
    <groupId>com.alibaba</groupId>
    <artifactId>easyexcel</artifactId>
    <version>2.2.0-beta2</version>
</dependency>

<dependency>
    <groupId>org.projectlombok</groupId>
    <artifactId>lombok</artifactId>
    <version>1.18.34</version>
</dependency>

<dependency>
    <groupId>com.alibaba</groupId>
    <artifactId>fastjson</artifactId>
    <version>1.2.83</version>
</dependency>

Write:

首先创建实体类:

@Getter
@Setter
@EqualsAndHashCode
public class DemoData {
    @ExcelProperty("字符串标题")
    private String string;
    @ExcelProperty("日期标题")
    private Date date;
    @ExcelProperty("数字标题")
    private Double doubleData;
    /**
     * 忽略这个字段
     */
    @ExcelIgnore
    private String ignore;
}

测试类中的代码:

@SpringBootTest
public class EasyExcelTest {
    String PATH = "E:\\Javastudy\\teshuchengzhang\\Code\\Spring\\PoiandEasyExceldemo\\src\\main\\java\\com\\example\\poiandeasyexceldemo\\biaoge";

    private List<DemoData> data() {
        List<DemoData> list = new ArrayList<DemoData>();
        for (int i = 0; i < 10; i++) {
            DemoData data = new DemoData();
            data.setString("字符串" + i);
            data.setDate(new Date());
            data.setDoubleData(0.56);
            list.add(data);
        }
        return list;
    }
    @Test
    public void easyExcel() {

        //测试成功--------------------------------------------------------------------

        // 注意 simpleWrite在数据量不大的情况下可以使用(5000以内,具体也要看实际情况),数据量大参照 重复多次写入

        // 写法1 JDK8+
        // since: 3.0.0-beta1
        String fileName = PATH+"测试表格.xlsx";
        // 这里 需要指定写用哪个class去写,然后写到第一个sheet,名字为模板 然后文件流会自动关闭
        // 如果这里想使用03 则 传入excelType参数即可
        EasyExcel.write(fileName, DemoData.class)
                .sheet("模板")
                .doWrite(data());

    }
}

Read:

实体类代码:

@Data
public class DemoData {
    private String string;
    private Date date;
    private Double doubleData;
}

持久层代码:

public class DemoDAO {
    public void save(List<DemoData> list) {
        // 如果是mybatis,尽量别直接调用多次insert,自己写一个mapper里面新增一个方法batchInsert,所有数据一次性插入
    }
}

监听器代码:

public class DemoDataListener extends AnalysisEventListener<DemoData> {
    private static final Logger LOGGER = LoggerFactory.getLogger(DemoDataListener.class);
    /**
     * 每隔5条存储数据库,实际使用中可以3000条,然后清理list ,方便内存回收
     */
    private static final int BATCH_COUNT = 5;
    List<DemoData> list = new ArrayList<DemoData>();
    /**
     * 假设这个是一个DAO,当然有业务逻辑这个也可以是一个service。当然如果不用存储这个对象没用。
     */
    private DemoDAO demoDAO;

    public DemoDataListener() {
        // 这里是demo,所以随便new一个。实际使用如果到了spring,请使用下面的有参构造函数
        demoDAO = new DemoDAO();
    }

    /**
     * 如果使用了spring,请使用这个构造方法。每次创建Listener的时候需要把spring管理的类传进来
     *
     * @param demoDAO
     */
    public DemoDataListener(DemoDAO demoDAO) {
        this.demoDAO = demoDAO;
    }

    /**
     * 这个每一条数据解析都会来调用
     *
     * @param data
     *            one row value. Is is same as {@link AnalysisContext#readRowHolder()}
     * @param context
     */
    @Override
    public void invoke(DemoData data, AnalysisContext context) {
        System.out.print(JSON.toJSONString(data));
        list.add(data);
        // 达到BATCH_COUNT了,需要去存储一次数据库,防止数据几万条数据在内存,容易OOM
        if (list.size() >= BATCH_COUNT) {
            saveData();
            // 存储完成清理 list
            list.clear();
        }
    }
    /**
     * 所有数据解析完成了 都会来调用
     *
     * @param context
     */
    @Override
    public void doAfterAllAnalysed(AnalysisContext context) {
        // 这里也要保存数据,确保最后遗留的数据也存储到数据库
        saveData();
        LOGGER.info("所有数据解析完成!");
    }

    /**
     * 加上存储数据库
     */
    private void saveData() {
        LOGGER.info("{}条数据,开始存储数据库!", list.size());
        demoDAO.save(list);
        LOGGER.info("存储数据库成功!");
    }
}

测试类代码:

@SpringBootTest
public class EasyExcelRead {
    String PATH = "E:\\Javastudy\\teshuchengzhang\\Code\\Spring\\PoiandEasyExceldemo\\src\\main\\java\\com\\example\\poiandeasyexceldemo\\biaoge";
    @Test
    public void simpleRead() {
        //完成----------------------
        String fileName = PATH+"测试表格.xlsx";
        // 有个很重要的点 DemoDataListener 不能被spring管理,要每次读取excel都要new,然后里面用到spring可以构造方法传进去
        // 写法1:
        // 这里 需要指定读用哪个class去读,然后读取第一个sheet 文件流会自动关闭
        EasyExcel.read(fileName, DemoData.class, new DemoDataListener()).sheet().doRead();
    }
}

上一篇:如何在Mysql中生成0-23完整的小时数据