婷婷综合国产,91蜜桃婷婷狠狠久久综合9色 ,九九九九九精品,国产综合av

主頁 > 知識(shí)庫 > 用好anyproxy提高公眾號(hào)文章采集效率

用好anyproxy提高公眾號(hào)文章采集效率

熱門標(biāo)簽:福建高頻外呼防封系統(tǒng)哪家好 周口網(wǎng)絡(luò)回?fù)芡夂粝到y(tǒng) 全國各省地圖標(biāo)注點(diǎn) 商丘外呼系統(tǒng)好處 隨州銷售電銷機(jī)器人公司 外呼系統(tǒng)人工客服 400電話申請辦理 百度地圖標(biāo)注類型是酒店 網(wǎng)絡(luò)電話400申請

影響因素主要會(huì)有以下幾點(diǎn):

1、網(wǎng)絡(luò)環(huán)境不佳;

2、手機(jī)或模擬器中微信客戶端崩潰;

3、其它一些網(wǎng)絡(luò)傳輸錯(cuò)誤;

因?yàn)槲冶容^看重采集系統(tǒng)的運(yùn)行成本,這個(gè)成本包括硬件投入,運(yùn)算力投入和占用的人工精力。所以必須提高運(yùn)行的穩(wěn)定性。因此如果采集中斷,必然增加人工精力的成本。所以針對這一點(diǎn)我對anyproxy做了一些進(jìn)階的改造,并且借助了其它一些工具提高了運(yùn)行效率。以下就是具體的解決方法:

一、代碼升級(jí)

1)微信瀏覽器白屏

解決方法:修改文件requestHandler.js,還是在rule_default.js同級(jí)目錄下,(mac系統(tǒng)/usr/local/lib/node_modules/anyproxy/lib/;win系統(tǒng)評(píng)論區(qū)網(wǎng)友cnbattle提供C:\Users\Administrator\AppData\Roaming\npm\node_modules\anyproxy\lib)

在代碼中找到proxyReq.on("error",function(e){這個(gè)函數(shù),并修改內(nèi)容

//userRes.end();//把這一行注釋掉
userRes.end('script>setTimeout(function(){window.location.reload();},2000);/script>');//插入這一行

這樣當(dāng)發(fā)生錯(cuò)誤時(shí),會(huì)返回一個(gè)刷新當(dāng)前頁面的js;這樣程序就能繼續(xù)下去了

2)替換所有圖片,減輕瀏覽器負(fù)擔(dān)

首先需要制作一張非常小的圖片,我做的是1x1像素,png透明圖;放到任意文件夾里。然后修改文件rule_default.js的代碼:

在文件開頭有許多var的位置加入以下代碼

var fs = require("fs"),
 img = fs.readFileSync("/Library/WebServer/Documents/space.png");//代碼絕對路徑替換成自己的

在下面的代碼中找到shouldUseLocalResponse : function(req,reqBody){函數(shù),在函數(shù)內(nèi)插入代碼:

if(/mmbiz\.qpic\.cn/i.test(req.url)){
 req.replaceLocalFile = true;
 return true;
}else{
 return false;
}

繼續(xù)在下面的代碼中找到dealLocalResponse : function(req,reqBody,callback){函數(shù),在函數(shù)內(nèi)插入代碼:

if(req.replaceLocalFile){
 callback(200, {"content-type":"image/png"},img );
}

這三段代碼就會(huì)將公眾號(hào)里面的所有圖片替換成本地圖片,減輕網(wǎng)絡(luò)傳輸壓力和瀏覽器占用的內(nèi)存,有效的提高運(yùn)行效率;

3)禁止手機(jī)或模擬器訪問一些無用的和會(huì)導(dǎo)致錯(cuò)誤的網(wǎng)址

同樣在rule_default.js里找到代碼replaceRequestOption : function(req,option){函數(shù),在函數(shù)內(nèi)部插入代碼:

var newOption = option;
if(/google|btrace/i.test(newOption.headers.host)){//這里面的正則可以替換成自己不希望訪問的網(wǎng)址特征字符串,這里面的btrace是一個(gè)騰訊視頻的域名,經(jīng)過實(shí)踐發(fā)現(xiàn)特別容易導(dǎo)致瀏覽器崩潰,所以加在里面了,繼續(xù)添加可以使用|分割。
 newOption.hostname = "127.0.0.1";//這個(gè)ip也可以替換成其他的
 newOption.port  = "80";
}
return newOption;

這個(gè)修改之前的文章也提到過了,在這里重新再詳細(xì)介紹一下。他的用途很多,不同的手機(jī)和模擬器都有可能訪問一些無用的地址導(dǎo)致設(shè)備變慢,通過這個(gè)代碼就可以阻止訪問。

二、使用pm2管理anyproxy進(jìn)程

pm2 是一個(gè)帶有負(fù)載均衡功能的Node應(yīng)用的進(jìn)程管理器.

當(dāng)你要把你的獨(dú)立代碼利用全部的服務(wù)器上的所有CPU,并保證進(jìn)程永遠(yuǎn)都活著,0秒的重載, PM2是完美的。它非常適合IaaS結(jié)構(gòu),但不要把它用于PaaS方案(隨后將開發(fā)Paas的解決方案).

主要特性:

內(nèi)建負(fù)載均衡(使用Node cluster 集群模塊)

后臺(tái)運(yùn)行

0秒停機(jī)重載,我理解大概意思是維護(hù)升級(jí)的時(shí)候不需要停機(jī).

具有Ubuntu和CentOS 的啟動(dòng)腳本

停止不穩(wěn)定的進(jìn)程(避免無限循環(huán))

控制臺(tái)檢測

提供 HTTP API

遠(yuǎn)程控制和實(shí)時(shí)的接口API ( Nodejs 模塊,允許和PM2進(jìn)程管理器交互 )

測試過Nodejs v0.11 v0.10 v0.8版本,兼容CoffeeScript,基于Linux 和MacOS.

首先安裝pm2

sudo npm install -g pm2

在pm2環(huán)境下運(yùn)行anyproxy

sudo pm2 start anyproxy -x -- -i

現(xiàn)在anyproxy就在pm2的環(huán)境中運(yùn)行了

之后還有幾個(gè)pm2的命令可以幫助管理和監(jiān)控anyproxy

//查看運(yùn)行日志
sudo pm2 logs anyproxy [--lines 10]
//關(guān)閉anyproxy
sudo pm2 delete anyproxy
//重啟anyproxy
sudo pm2 restart anyproxy
//監(jiān)控內(nèi)存占用
sudo pm2 monit
//監(jiān)控運(yùn)行狀態(tài)
sudo pm2 list

特別提示:pm2運(yùn)行后,終端窗口是可以關(guān)閉的。

使用pm2管理anyproxy進(jìn)程,最重要的目的是:anyproxy因?yàn)殄e(cuò)誤而退出程序之后,pm2可以另anyproxy自動(dòng)重啟。

三、取消sudo密碼,并使pm2開機(jī)自啟

以下內(nèi)容是在mac環(huán)境下的方法,windows也應(yīng)該有類似的方法,如果了解的網(wǎng)友可以私信發(fā)給我。

1)首先取消sudo的密碼

運(yùn)行命令:

sudo visudo

找到代碼:

%admin   ALL = (ALL) ALL

修改為:

%admin   ALL = (ALL) NOPASSWD: ALL

這樣sudo的密碼就取消掉了,然后就可以將pm2加入到開機(jī)自啟動(dòng)中了

2)設(shè)置開機(jī)自啟

在終端中輸入命令:

cd
touch autoexec.sh
vim autoexec.sh

然后進(jìn)入編輯模式,按鍵盤字母i開始編輯,粘貼代碼:

#!/bin/sh 
sudo pm2 start anyproxy -x -- -i
sudo pm2 monit

編輯完之后,按esc,再鍵入命令wq保存退出編輯模式。

再執(zhí)行命令:

chmod 755 autoexec.sh

這樣一個(gè)可執(zhí)行文件就建立好了

然后打開mac系統(tǒng)的“系統(tǒng)偏好設(shè)置”,找到“用戶與群組”,在左側(cè)選擇當(dāng)前用戶,右側(cè)選擇登錄項(xiàng);然后點(diǎn)擊+號(hào),找到當(dāng)前用戶的根目錄(可以按shift+command+h快捷鍵),選擇autoexec.sh文件,添加到登錄項(xiàng)中,就可以開機(jī)自啟動(dòng)了。

經(jīng)過以上的幾項(xiàng)設(shè)置之后,anyproxy系統(tǒng)就會(huì)比原來更加穩(wěn)定,其實(shí)主要原因是模擬器或手機(jī)的不穩(wěn)定導(dǎo)致的anyproxy發(fā)生的錯(cuò)誤。經(jīng)過實(shí)際測試,anyproxy目前可以長時(shí)間運(yùn)行不崩潰。而微信客戶端還是在運(yùn)行大約6個(gè)小時(shí)之后崩潰,以2秒翻一頁的速度,采集總數(shù)大約1萬個(gè)頁面。如果不采集閱讀量,就可以是1萬個(gè)公眾號(hào)的歷史消息頁。

微信客戶端的崩潰現(xiàn)象是退出微信瀏覽器,停留在查看公眾號(hào)資料頁面。所以如果希望再進(jìn)一步提高自動(dòng)化,也可以使用觸動(dòng)精靈之作自動(dòng)化腳本,定時(shí)推出微信瀏覽器,再點(diǎn)擊歷史消息頁。這樣應(yīng)該就可以實(shí)現(xiàn)長時(shí)間自動(dòng)化采集了。

標(biāo)簽:佛山 定西 海南 十堰 迪慶 樂山 南寧 六安

巨人網(wǎng)絡(luò)通訊聲明:本文標(biāo)題《用好anyproxy提高公眾號(hào)文章采集效率》,本文關(guān)鍵詞  用好,anyproxy,提高,公眾,;如發(fā)現(xiàn)本文內(nèi)容存在版權(quán)問題,煩請?zhí)峁┫嚓P(guān)信息告之我們,我們將及時(shí)溝通與處理。本站內(nèi)容系統(tǒng)采集于網(wǎng)絡(luò),涉及言論、版權(quán)與本站無關(guān)。
  • 相關(guān)文章
  • 下面列出與本文章《用好anyproxy提高公眾號(hào)文章采集效率》相關(guān)的同類信息!
  • 本頁收集關(guān)于用好anyproxy提高公眾號(hào)文章采集效率的相關(guān)信息資訊供網(wǎng)民參考!
  • 推薦文章
    婷婷综合国产,91蜜桃婷婷狠狠久久综合9色 ,九九九九九精品,国产综合av
    国产日产亚洲精品系列| av激情综合网| 男女性色大片免费观看一区二区 | 亚洲欧美偷拍三级| 国产91丝袜在线播放九色| 精品乱码亚洲一区二区不卡| 亚洲一二三级电影| 欧美性感一类影片在线播放| 91精品欧美久久久久久动漫| 麻豆免费精品视频| 91蝌蚪porny九色| 国产精品丝袜黑色高跟| 久久99热国产| 日韩三级免费观看| 久久av资源网| 91精品国产色综合久久ai换脸 | 日日夜夜精品视频天天综合网| 9人人澡人人爽人人精品| 亚洲精品一区在线观看| 丝袜美腿高跟呻吟高潮一区| 日韩欧美亚洲国产另类| 奇米综合一区二区三区精品视频| 日韩免费福利电影在线观看| 高清国产一区二区| 亚洲欧美偷拍卡通变态| 欧美日韩色综合| 另类人妖一区二区av| 欧美性受xxxx黑人xyx性爽| 日韩影视精彩在线| 久久久三级国产网站| 在线观看视频一区二区欧美日韩| 亚洲国产日产av| 4438x成人网最大色成网站| 国产精品一区二区在线看| 亚洲图片另类小说| 欧美一级黄色大片| 不卡的电影网站| 丝瓜av网站精品一区二区| 日韩精品一区二区三区四区视频| 成人一区二区三区视频| 亚洲gay无套男同| 国产视频一区在线观看| 91亚洲午夜精品久久久久久| 日本三级韩国三级欧美三级| 中文成人综合网| 欧美一区二区三区免费| 成人午夜视频福利| 天堂影院一区二区| 国产精品国产精品国产专区不蜜| 欧美日韩国产美| 成人永久免费视频| 国产剧情一区二区三区| 肉肉av福利一精品导航| 一区二区中文视频| 国产清纯在线一区二区www| 欧美撒尿777hd撒尿| 国产精品888| 强制捆绑调教一区二区| 亚洲在线中文字幕| 国产精品久久久久久久第一福利| 日韩女优视频免费观看| 欧美日韩一级片网站| 94-欧美-setu| 国产成人aaaa| 精品一区二区三区的国产在线播放 | 久久精品二区亚洲w码| 一区二区三区.www| 综合中文字幕亚洲| 欧美韩日一区二区三区| 久久先锋影音av鲁色资源网| 日本韩国欧美在线| 成人精品视频.| 国产成人av一区二区三区在线 | 欧美老肥妇做.爰bbww| 91日韩一区二区三区| 99精品国产热久久91蜜凸| 国产成人一区在线| 国产精品 欧美精品| 国模娜娜一区二区三区| 久久草av在线| 美女精品自拍一二三四| 日韩综合小视频| 免费观看在线综合| 久热成人在线视频| 精品亚洲免费视频| 国产成人一级电影| 成人国产一区二区三区精品| 丁香天五香天堂综合| 国产99久久久国产精品免费看| 国产91精品一区二区麻豆亚洲| 日本不卡视频一二三区| 亚洲影院理伦片| 日韩黄色在线观看| 国产精品一区二区三区乱码| 成人深夜在线观看| 91小视频免费观看| 欧美一区二区日韩| 久久久久青草大香线综合精品| 久久蜜桃av一区二区天堂 | 国产在线播放一区| 美女视频网站久久| 激情五月婷婷综合网| 国产成人精品免费视频网站| 91浏览器在线视频| 91麻豆精品国产91久久久久| 精品国产免费人成电影在线观看四季| 欧美韩日一区二区三区| 亚洲黄色小说网站| 人妖欧美一区二区| 国产成人精品亚洲777人妖| 欧美在线一二三| 欧美刺激午夜性久久久久久久| 精品日韩一区二区三区| 亚洲图片激情小说| 亚洲国产三级在线| 午夜天堂影视香蕉久久| 老司机精品视频在线| 成人动漫在线一区| 欧美一区二区私人影院日本| 亚洲国产电影在线观看| 亚洲午夜精品17c| 免费观看日韩av| 成人av在线观| 欧美老肥妇做.爰bbww| 国产精品乱码一区二三区小蝌蚪| 亚洲高清免费观看 | 久久综合色综合88| 国产亚洲精品福利| 亚洲成在人线在线播放| 国内精品写真在线观看| 91高清视频在线| 国产精品美女久久久久久久| 日韩成人一区二区三区在线观看| 黑人巨大精品欧美一区| 粉嫩久久99精品久久久久久夜| 欧美人动与zoxxxx乱| 中文字幕一区二区日韩精品绯色| 美国毛片一区二区三区| 色哟哟日韩精品| 久久综合视频网| 亚洲国产日韩一级| 99久久久无码国产精品| 久久亚洲一级片| 丝袜亚洲另类丝袜在线| 色婷婷久久一区二区三区麻豆| 久久人人97超碰com| 免费人成在线不卡| 欧美另类一区二区三区| 亚洲最新在线观看| 色噜噜狠狠成人网p站| 国产精品色呦呦| 福利一区二区在线观看| 精品入口麻豆88视频| 日本不卡视频在线| 欧美大黄免费观看| 看电影不卡的网站| 精品欧美久久久| 国产主播一区二区三区| 日韩一区二区中文字幕| 六月丁香婷婷色狠狠久久| 884aa四虎影成人精品一区| 一区二区三区日韩欧美精品| 91首页免费视频| 国产精品久久久久久久第一福利 | 免费不卡在线视频| 欧美一区二区三区不卡| 久久99久久99| 久久综合久久鬼色中文字| 日本亚洲免费观看| 精品少妇一区二区| av电影在线观看一区| 五月天亚洲婷婷| 日韩欧美一级精品久久| 波多野结衣在线一区| 中文字幕中文在线不卡住| 色久优优欧美色久优优| 麻豆久久一区二区| 国产精品免费久久久久| 9191久久久久久久久久久| 国产99久久久国产精品免费看| 亚洲一区二区影院| 欧美精品一区男女天堂| 日本道色综合久久| 国产精品一二三四五| 亚洲成a人在线观看| 久久久久综合网| 欧美午夜宅男影院| 538在线一区二区精品国产| 精品影视av免费| 亚洲在线一区二区三区| 精品国产人成亚洲区| 色综合天天性综合| 麻豆免费看一区二区三区| 亚洲国产精华液网站w| 91国偷自产一区二区开放时间| 精品一区二区三区香蕉蜜桃| 亚洲乱码国产乱码精品精小说 | 在线中文字幕不卡| 美腿丝袜亚洲综合| 亚洲一区二区在线视频|