前言： 很多時候，因?yàn)閿?shù)據(jù)統(tǒng)計(jì)，我們需要將數(shù)據(jù)庫的數(shù)據(jù)導(dǎo)出到Excel等文件中，以供數(shù)據(jù)人員進(jìn)行查看，如果數(shù)據(jù)集不大，其實(shí)很容易；但是如果對于大數(shù)集的導(dǎo)出，將要考慮各種性能的問題，這里以導(dǎo)出數(shù)據(jù)庫一百萬條數(shù)據(jù)為例，導(dǎo)出時間不過20秒，值的學(xué)習(xí)的一種大數(shù)據(jù)導(dǎo)出方式。
一、導(dǎo)出思路
- 需要考慮服務(wù)器內(nèi)存
- 需要考慮程序運(yùn)行的最大時間
- 缺少BOM頭導(dǎo)致亂碼的處理
- 如果導(dǎo)出數(shù)量過大，推薦使用循環(huán)導(dǎo)出，每次循環(huán)這里以導(dǎo)出一萬條為例，循環(huán)100次即可全部導(dǎo)出
二、導(dǎo)出源碼
- 下面源碼將數(shù)據(jù)庫信息修改成自己的即可使用
- 親測導(dǎo)出一百萬條數(shù)據(jù)，3個字段，不過20秒
- 如果服務(wù)器硬件不支持一次讀取一萬條數(shù)據(jù)，可將循環(huán)次數(shù)提高，導(dǎo)出數(shù)量降低
?php
//讓程序一直運(yùn)行
set_time_limit(0);
//設(shè)置程序運(yùn)行內(nèi)存
ini_set('memory_limit', '128M');
$fileName = '測試導(dǎo)出數(shù)據(jù)';
header('Content-Encoding: UTF-8');
header("Content-type:application/vnd.ms-excel;charset=UTF-8");
header('Content-Disposition: attachment;filename="' . $fileName . '.csv"');
//打開php標(biāo)準(zhǔn)輸出流
$fp = fopen('php://output', 'a');
//添加BOM頭，以UTF8編碼導(dǎo)出CSV文件，如果文件頭未添加BOM頭，打開會出現(xiàn)亂碼。
fwrite($fp, chr(0xEF).chr(0xBB).chr(0xBF));
//添加導(dǎo)出標(biāo)題
fputcsv($fp, ['姓名', '年齡', '地區(qū)']);
//鏈接數(shù)據(jù)庫
$dsn = "mysql:host=127.0.0.1;port=3306;dbname=db_www;charset=utf8";
$pdo = new PDO($dsn, 'root', '');
$step = 100; //循環(huán)次數(shù)
$nums = 10000; //每次導(dǎo)出數(shù)量
for($i = 0; $i $step; $i++) {
$start = $i * 10000;
$sql = "SELECT uname,age,city FROM `hd_test` ORDER BY `id` LIMIT {$start},{$nums}";
$pdostatement = $pdo->query($sql);
$result = $pdostatement->fetchAll(PDO::FETCH_ASSOC);
foreach ($result as $item) {
fputcsv($fp, $item);
}
//每1萬條數(shù)據(jù)就刷新緩沖區(qū)
ob_flush();
flush();
}
三、快速生成百萬條測試數(shù)據(jù)
這里推薦數(shù)據(jù)庫的蠕蟲復(fù)制命令
先建好表后，插2條測試數(shù)據(jù)后，執(zhí)行幾次下列命令，即可指數(shù)增長
INSERT INTO hd_test (uname,age,city) SELECT uname,age,city FROM hd_test;
到此這篇關(guān)于PHP快速導(dǎo)出百萬級數(shù)據(jù)到CSV或者EXCEL文件的文章就介紹到這了,更多相關(guān)PHP 導(dǎo)出百萬級數(shù)據(jù)內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！
您可能感興趣的文章:- 利用phpExcel實(shí)現(xiàn)Excel數(shù)據(jù)的導(dǎo)入導(dǎo)出(全步驟詳細(xì)解析)
- ThinkPHP使用PHPExcel實(shí)現(xiàn)Excel數(shù)據(jù)導(dǎo)入導(dǎo)出完整實(shí)例
- php中導(dǎo)出數(shù)據(jù)到excel時數(shù)字變?yōu)榭茖W(xué)計(jì)數(shù)的解決方法
- 使用PHPExcel實(shí)現(xiàn)數(shù)據(jù)批量導(dǎo)出為excel表格的方法(必看)
- php+ajax實(shí)現(xiàn)帶進(jìn)度條的大數(shù)據(jù)排隊(duì)導(dǎo)出思路以及源碼
- PHP導(dǎo)出MySQL數(shù)據(jù)到Excel文件(fputcsv)
- php把數(shù)據(jù)表導(dǎo)出為Excel表的最簡單、最快的方法（不用插件）
- php導(dǎo)出excel格式數(shù)據(jù)問題
- PHP使用mysqldump命令導(dǎo)出數(shù)據(jù)庫
