場(chǎng)景：
爬取的數(shù)據(jù)生成數(shù)據(jù)表，結(jié)構(gòu)與另一個(gè)主表相同，需要進(jìn)行合并+去重
解決：（直接舉例）
首先創(chuàng)建兩個(gè)表pep，pep2，其中pep是主表
CREATE TABLE IF NOT EXISTS `pep/pep2`(
`id` INT UNSIGNED AUTO_INCREMENT,
`no` VARCHAR(100) NOT NULL,
PRIMARY KEY ( `id` )
)ENGINE=InnoDB DEFAULT CHARSET=utf8;
然后向pep中插入兩條數(shù)據(jù)，pep2中插入一條與pep中相同的一條數(shù)據(jù)
insert into pep(no) values('abc');
insert into pep(no) values('caa');
insert into pep2(no) values('abc');
將pep2的數(shù)據(jù)插入pep中
insert into pep (no) select no from pep2;
分組去重創(chuàng)建新的臨時(shí)表tmp
create table tmp select id,no from pep group by no;
注意：創(chuàng)建完這個(gè)表的id字段類型已經(jīng)不是主鍵自增
可能也會(huì)報(bào)錯(cuò)
```Syntax error or access violation: 1055 Expression #1 of SELECT
list is not in GROUP BY clause and contains nonaggregated
column 'XXX.Y.ZZZZ' which is not functionally dependent on
columns in GROUP BY clause; this is incompatible with
sql_mode=only_full_group_by
```
解決：執(zhí)行以下兩個(gè)命令：
```
mysql> set global sql_mode='STRICT_TRANS_TABLES,NO_ZERO_IN_DATE,NO_ZERO_DATE,ERROR_FOR_DIVISION_BY_ZERO,NO_AUTO_CREATE_USER,NO_ENGINE_SUBSTITUTION';
mysql> set session sql_mode='STRICT_TRANS_TABLES,NO_ZERO_IN_DATE,NO_ZERO_DATE,ERROR_FOR_DIVISION_BY_ZERO,NO_AUTO_CREATE_USER,NO_ENGINE_SUBSTITUTION';
```
刪除pep表，并將tmp表重命名為pep
drop table pep;
alter table tmp rename to pep;
查看desc結(jié)構(gòu)和select * from pep發(fā)現(xiàn)id的字段類型變了，這里需要改回原來(lái)的類型；
alter table pep add primary key (id);
alter table pep modify id int auto_increment;
還有可以使用join來(lái)做去重，更快的還可以添加一個(gè)字段（可以是幾個(gè)字段+起來(lái)的的md5值），給這個(gè)字段創(chuàng)建一個(gè)唯一索引unique，以后插入數(shù)據(jù)的時(shí)候，自動(dòng)回過(guò)濾掉重復(fù)的數(shù)據(jù)。
總結(jié)
以上就是這篇文章的全部?jī)?nèi)容了，希望本文的內(nèi)容對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，謝謝大家對(duì)腳本之家的支持。
您可能感興趣的文章:- MySQL 常見的數(shù)據(jù)表設(shè)計(jì)誤區(qū)匯總
- MySQL數(shù)據(jù)表分區(qū)策略及優(yōu)缺點(diǎn)分析
- MySQL高級(jí)特性——數(shù)據(jù)表分區(qū)的概念及機(jī)制詳解
- MySQL如何構(gòu)建數(shù)據(jù)表索引
- MySQL 索引和數(shù)據(jù)表該如何維護(hù)
- Mysql刪除數(shù)據(jù)以及數(shù)據(jù)表的方法實(shí)例
- MySQL創(chuàng)建數(shù)據(jù)表時(shí)設(shè)定引擎MyISAM/InnoDB操作
- 刪除mysql數(shù)據(jù)表如何操作
- 關(guān)于MYSQL 你需要知道的數(shù)據(jù)類型和操作數(shù)據(jù)表
- MySQL創(chuàng)建數(shù)據(jù)表并建立主外鍵關(guān)系詳解
- MySQL 如何設(shè)計(jì)統(tǒng)計(jì)數(shù)據(jù)表
