php导出1万条数据excel_实用！用PHP导出百万级大数据到Excel

实用！用PHP导出百万级大数据到Excel

作者:PHPYuan 时间:2018-07-31 03:41:41

关注我们的人

月薪都过万了

一、数据量分析

假设我们需要单日导入的数量为20W+

Excel2003版最大行数是65536行

Excel2007开始的版本最大行数是1048576行

所以需要使用的Excel版本为2007版本及以上，也就是后缀为.xlsx的Excel

以导出7天的数据量计算，大概在140W行数数据，超出最大行数限制，所以建议以每天来拆分工作表

二、目前PHP处理Excel的类库

PHPExcel - 官方不再维护

PHPOffice/PhpSpreadsheet - 建议使用

三、性能分析

本机测试

20W行数据

数据有7列(1列约10个中文字符，其他列简单int)

运行环境:MacBook Pro A1502

CPU: Intel Core i5-4258U(2.4GHz/L3 3M)

内存容量: 8GB

PHP版本: 7.0.30

运行模式: CLI

PhpSpreadsheet版本: 1.3.1

PhpSpreadsheet配置:关闭预处理、未使用缓存

脚本运行时间:244秒

物理内存峰值:1008M(可以使用分段写入或使用缓存减少本机内存占用)

Excel文件大小:5M

补充:

1. PhpSpreadsheet大数据写入Excel，建议关闭预处理$writer = new PhpOfficePhpSpreadsheetWriterHtml($spreadsheet);

$writer->setPreCalculateFormulas(false);

2.使用缓存

PhpSpreadsheet提供缓存功能,支持APCu、Redis、Memcache

以Redis为例$client = new Redis();

$client->connect('127.0.0.1', 6379);

$pool = new CacheAdapterRedisRedisCachePool($client);

$simpleCache = new CacheBridgeSimpleCacheSimpleCacheBridge($pool);

PhpOfficePhpSpreadsheetSettings::setCache($simpleCache);

四、结论

在实时性要求不是很高的场景下，可以使用PhpSpreadsheet处理大数据Excel

需要注意的就是数据行数、PHP内存限制修改

在业务层面，告知用户Excel生成结束的时间(如预计30分钟后可下载)。

五、更快的解决方案？

1、JAVA POI框架

JAVA POI中提供了大数据导出操作类SXSSFWorkbook

运行环境:MacBook Pro A1502

CPU: Intel Core i5-4258U(2.4GHz/L3 3M)

内存容量: 8GB

JDK版本: 1.8

POI版本: 3.17

对比测试-20W数据

运行时间:8秒

物理内存峰值:56M

极限测试-单表100W数据

运行时间:22秒

物理内存峰值:200M

2、使用其他格式的类"Excel"

生成原生的Excel比较消耗性能

可以考虑选择使用CSV格式

或者使用XML格式描述Excel

点击“了解更多”免费学习PHP！

点击“了解更多”免费学习PHP！

点击“了解更多”免费学习PHP！

重要的事情说三遍！

分享到：

>> 下一篇:php用6行代码实现九九乘法表 (2018-07-31 03:41)