1.首先讀取Excel文件
數(shù)據(jù)代表了各個(gè)城市店鋪的裝修和配置費(fèi)用，要統(tǒng)計(jì)出裝修和配置項(xiàng)的總費(fèi)用并進(jìn)行加和計(jì)算；
2.pandas實(shí)現(xiàn)過程
import pandas as pd
#1.讀取數(shù)據(jù)
df = pd.read_excel(r'./data/pfee.xlsx')
print(df)
cols = list(df.columns)
print(cols)
#2.獲取含有裝修 和 配置 字段的數(shù)據(jù)
zx_lists=[]
pz_lists=[]
for name in cols:
if '裝修' in name:
zx_lists.append(name)
elif '配置' in name:
pz_lists.append(name)
print(zx_lists)
print(pz_lists)
#3.對(duì)裝修和配置項(xiàng)費(fèi)用進(jìn)行求和計(jì)算
df['裝修-求和'] =df[zx_lists].apply(lambda x:x.sum(),axis=1)
df['配置-求和'] = df[pz_lists].apply(lambda x:x.sum(),axis=1)
print(df)
補(bǔ)充：pandas 中dataframe 中的模糊匹配 與pyspark dataframe 中的模糊匹配
1.pandas dataframe
匹配一個(gè)很簡(jiǎn)單,批量匹配如下
df_obj[df_obj['title'].str.contains(r'.*?n.*')] #使用正則表達(dá)式進(jìn)行模糊匹配,*匹配0或無限次,?匹配0或1次
pyspark dataframe 中模糊匹配有兩種方式
2.spark dataframe api, filter rlike 聯(lián)合使用
df1=df.filter("uri rlike
'com.tencent.tmgp.sgame|%E8%80%85%E8%8D%A3%E8%80%80_|android.ugc.live|\
%e7%88f%e8%a7%86%e9%a2%91|%E7%%8F%E8%A7%86%E9%A2%91'").groupBy("uri").\
count().sort("count", ascending=False)
注意點(diǎn)：
1.rlike 后面進(jìn)行批量匹配用引號(hào)包裹即可
2.rlike 中要匹配特殊字符的話，不需要轉(zhuǎn)義
3.rlike '\\\\bapple\\\\b' 雖然也可以匹配但是匹配數(shù)量不全，具體原因不明，歡迎討論。
In [5]: df.filter("name rlike '%'").show()
+---+------+-----+
|age|height| name|
+---+------+-----+
| 4| 140|A%l%i|
| 6| 180| i%ce|
+---+------+-----+
3.spark sql
spark.sql("select uri from t where uri like '%com.tencent.tmgp.sgame%' or uri like 'douyu'").show(5)
如果要批量匹配的話，就需要在后面繼續(xù)添加uri like '%blabla%',就有點(diǎn)繁瑣了。
對(duì)了這里需要提到原生sql 的批量匹配,regexp 就很方便了，跟rlike 有點(diǎn)相似
mysql> select count(*) from url_parse where uri regexp 'android.ugc.live|com.tencent.tmgp.sgame';
+----------+
| count(*) |
+----------+
| 9768 |
+----------+
1 row in set (0.52 sec)
于是這里就可以將sql中regexp 應(yīng)用到spark sql 中
In [9]: spark.sql('select * from t where name regexp "%l|t|_"').show()
+---+------+------+
|age|height| name|
+---+------+------+
| 1| 150|Al_ice|
| 4| 140| A%l%i|
+---+------+------+
以上為個(gè)人經(jīng)驗(yàn)，希望能給大家一個(gè)參考，也希望大家多多支持腳本之家。如有錯(cuò)誤或未考慮完全的地方，望不吝賜教。
您可能感興趣的文章:- 利用python Pandas實(shí)現(xiàn)批量拆分Excel與合并Excel
- 解決python3安裝pandas出錯(cuò)的問題
- Python機(jī)器學(xué)習(xí)三大件之二pandas
- Python Pandas知識(shí)點(diǎn)之缺失值處理詳解
- Python基礎(chǔ)之pandas數(shù)據(jù)合并
- python基于Pandas讀寫MySQL數(shù)據(jù)庫(kù)
- python pandas合并Sheet,處理列亂序和出現(xiàn)Unnamed列的解決
- python 使用pandas同時(shí)對(duì)多列進(jìn)行賦值
- Python3 pandas.concat的用法說明
- Python數(shù)據(jù)分析之pandas讀取數(shù)據(jù)
