本文目錄一覽：

在分析之前，讓我們簡(jiǎn)要介紹一下人工智能的應(yīng)用。人工智能因其在數(shù)據(jù)分析、知識(shí)提取和自主學(xué)習(xí)方面的突出優(yōu)勢(shì)，被廣泛應(yīng)用于網(wǎng)絡(luò)保護(hù)、數(shù)據(jù)管理、信息審查、智能安全、金融風(fēng)險(xiǎn)控制和輿情監(jiān)測(cè)等領(lǐng)域。在這些領(lǐng)域，往往會(huì)出現(xiàn)一些安全風(fēng)險(xiǎn)，常見風(fēng)險(xiǎn)如下:

1、人工智能安全風(fēng)險(xiǎn)——框架的安全風(fēng)險(xiǎn)

近年來，著名的深度學(xué)習(xí)框架TensorFlow和Caffe及其依賴庫(kù)多次被發(fā)現(xiàn)存在安全漏洞，被攻擊者利用，導(dǎo)致系統(tǒng)安全問題。以生成模型[3]為例。原始工作原理是:將輸入X映射到低維表示的Z編碼器，再映射回高維重構(gòu)的X解碼器，表示如下圖所示:

如果輸入是7，攻擊后的輸出可能是8。如圖所示:

此外，人工智能可以用來編寫計(jì)算機(jī)病毒和木馬。原始的惡意腳本是手動(dòng)編寫的。人工智能技術(shù)可以通過插入拮抗樣本[4]，繞過安全檢測(cè)，實(shí)現(xiàn)這些過程的自動(dòng)化。同樣，人工智能技術(shù)也可以自動(dòng)生成智能僵尸網(wǎng)絡(luò)[5]，它可以在不等待僵尸網(wǎng)絡(luò)控制命令的情況下對(duì)其他系統(tǒng)進(jìn)行大規(guī)模、自動(dòng)的攻擊，大大提高了網(wǎng)絡(luò)攻擊的破壞程度。(頁(yè)面)

2、人工智能安全風(fēng)險(xiǎn)——數(shù)據(jù)安全風(fēng)險(xiǎn)

攻擊者可以通過網(wǎng)絡(luò)的內(nèi)部參數(shù)得到網(wǎng)絡(luò)訓(xùn)練的數(shù)據(jù)集。人工智能技術(shù)還將增強(qiáng)數(shù)據(jù)挖掘能力，提高隱私泄露風(fēng)險(xiǎn)，比如2018年3月的Facebook數(shù)據(jù)泄露事件。

3、人工智能安全風(fēng)險(xiǎn)——算法的安全風(fēng)險(xiǎn)

深度學(xué)習(xí)網(wǎng)絡(luò)目標(biāo)函數(shù)的定義不準(zhǔn)確、不合理或不正確，可能會(huì)導(dǎo)致錯(cuò)誤甚至有害的結(jié)果。錯(cuò)誤的目標(biāo)函數(shù)、代價(jià)過高的目標(biāo)函數(shù)以及表達(dá)能力有限的網(wǎng)絡(luò)都可能導(dǎo)致網(wǎng)絡(luò)產(chǎn)生錯(cuò)誤的結(jié)果。例如，2018年3月，一輛優(yōu)步自動(dòng)駕駛汽車發(fā)生事故，機(jī)器人視覺系統(tǒng)未能及時(shí)識(shí)別突然出現(xiàn)在道路上的行人，導(dǎo)致行人發(fā)生碰撞并死亡。算法的偏差和人工智能的不可解釋性也是主要問題。在美國(guó)，人工智能算法被用來預(yù)測(cè)罪犯，一些列表顯示許多無辜的人受到了傷害，其中大部分是黑人，甚至系統(tǒng)的開發(fā)者也沒有合理的解釋這個(gè)決定。拮抗樣本的存在也會(huì)導(dǎo)致算法的誤判。通過給下面的圖片添加一點(diǎn)噪聲，人工智能將很有信心地確認(rèn)熊貓是長(zhǎng)臂猿。

4、人工智能安全風(fēng)險(xiǎn)——信息安全風(fēng)險(xiǎn)

有了足夠的訓(xùn)練數(shù)據(jù)，人工智能可以產(chǎn)生用于非法活動(dòng)的虛假信息。比如人工智能面部修飾DeepFakes，以及最近推出的DeepNude。一些罪犯使用假聲音和假視頻進(jìn)行詐騙。現(xiàn)在谷歌已經(jīng)發(fā)明了一種聊天機(jī)器人，它可以完全愚弄人們?cè)陔娫捝狭奶臁?/p>

以上就是《人工智能安全風(fēng)險(xiǎn)有哪些?安全在這個(gè)行業(yè)竟然這么重要》，在分析之前，讓我們先簡(jiǎn)單介紹一下人工智能的應(yīng)用。人工智能由于其在數(shù)據(jù)分析、知識(shí)提取和自主學(xué)習(xí)方面的突出優(yōu)勢(shì)，如果你想知道更多的人工智能安全的發(fā)展，可以點(diǎn)擊本站的其他文章進(jìn)行學(xué)習(xí)。

谷歌能夠自動(dòng)打電話的AI，被稱贊通過圖靈測(cè)試的Duplex，為什么背后卻是真人在偽裝？

這些所謂的AI，和Engineer.ai一樣，只存在于論文中、Demo中、產(chǎn)品的介紹中。為什么？因?yàn)槁涞靥歉辛恕＞退愎雀?、Facebook這樣的AI重鎮(zhèn)，也遭遇著這樣的情況。

甚至一直以來，谷歌展現(xiàn)的姿態(tài)，都是完全AI，完全自動(dòng)化，完全不需要人類。只是之前官方博客里，有云淡風(fēng)輕提到過，機(jī)器能夠自主完成大部分任務(wù)，并識(shí)別自己無法處理的情況，然后讓人類來處理。但現(xiàn)實(shí)呢？這項(xiàng)技術(shù)還很年輕、使用有限。目前谷歌仍在使用人工呼叫來幫助獲取數(shù)據(jù)、訓(xùn)練AI。

有谷歌鐵桿支持者認(rèn)為，谷歌這樣謹(jǐn)慎而不激進(jìn)地引入Duplex，是明智的。但炫酷的Demo和尷尬的現(xiàn)實(shí)對(duì)比下，無疑是一記耳光。還有一些公司，遭遇落地骨感的過程中，也是方法頻出。比如美國(guó)的一家自動(dòng)駕駛貨運(yùn)公司Starsky Robotics，核心目標(biāo)和所有的無人駕駛公司一樣，致力于讓卡車自動(dòng)駕駛。

AI可能是泡沫，但別害怕泡沫破滅現(xiàn)在，時(shí)間已是2019年，當(dāng)我們談?wù)揂I，一切都有了根本性的不同。

在競(jìng)爭(zhēng)最激烈的領(lǐng)域，第一階段的戰(zhàn)爭(zhēng)甚至已經(jīng)結(jié)束，曾經(jīng)燦若群星的一眾AI新勢(shì)力，現(xiàn)在層次分明，甚至有公司已無力參與下一階段競(jìng)爭(zhēng)。還有行業(yè)與行業(yè)的邊界，技術(shù)公司通過AI線下落地，場(chǎng)景企業(yè)也在加持AI攻堅(jiān)技術(shù)，都說AI+，但新增紅利歸屬誰(shuí)，最大紅利誰(shuí)吃掉，勝負(fù)難分。

雖然目前AI發(fā)展存在泡沫，我們不應(yīng)該害怕泡沫的破滅。因?yàn)?，一個(gè)洗牌的時(shí)代已經(jīng)來臨，深度泛濫、偽AI創(chuàng)業(yè)的公司難有未來。一個(gè)新的時(shí)代也正在來臨，落地為王，技術(shù)價(jià)值轉(zhuǎn)換為商業(yè)價(jià)值的公司，一定是未來。

電話機(jī)器人合法的使用不會(huì)有問題。首先，電話機(jī)器人是進(jìn)行線下銷售的，它是幫助企業(yè)進(jìn)行電話銷售，最大范圍地尋找客戶，每天撥打電話有規(guī)定的，每個(gè)號(hào)碼不得撥打超過2次，一小時(shí)內(nèi)不能撥打同一個(gè)號(hào)碼。其次，這個(gè)是國(guó)家政策支持的，國(guó)家支持人工智能的發(fā)展，而且它的上市是經(jīng)過國(guó)家層層把關(guān)的。另外使用電話機(jī)器人目的是為了解決銷售員繁瑣、復(fù)雜的工作問題，它是助力企業(yè)發(fā)展。