本文目錄一覽：

在分析之前，讓我們簡要介紹一下人工智能的應用。人工智能因其在數據分析、知識提取和自主學習方面的突出優勢，被廣泛應用于網絡保護、數據管理、信息審查、智能安全、金融風險控制和輿情監測等領域。在這些領域，往往會出現一些安全風險，常見風險如下:

1、人工智能安全風險——框架的安全風險

近年來，著名的深度學習框架TensorFlow和Caffe及其依賴庫多次被發現存在安全漏洞，被攻擊者利用，導致系統安全問題。以生成模型[3]為例。原始工作原理是:將輸入X映射到低維表示的Z編碼器，再映射回高維重構的X解碼器，表示如下圖所示:

如果輸入是7，攻擊后的輸出可能是8。如圖所示:

此外，人工智能可以用來編寫計算機病毒和木馬。原始的惡意腳本是手動編寫的。人工智能技術可以通過插入拮抗樣本[4]，繞過安全檢測，實現這些過程的自動化。同樣，人工智能技術也可以自動生成智能僵尸網絡[5]，它可以在不等待僵尸網絡控制命令的情況下對其他系統進行大規模、自動的攻擊，大大提高了網絡攻擊的破壞程度。(頁面)

2、人工智能安全風險——數據安全風險

攻擊者可以通過網絡的內部參數得到網絡訓練的數據集。人工智能技術還將增強數據挖掘能力，提高隱私泄露風險，比如2018年3月的Facebook數據泄露事件。

3、人工智能安全風險——算法的安全風險

深度學習網絡目標函數的定義不準確、不合理或不正確，可能會導致錯誤甚至有害的結果。錯誤的目標函數、代價過高的目標函數以及表達能力有限的網絡都可能導致網絡產生錯誤的結果。例如，2018年3月，一輛優步自動駕駛汽車發生事故，機器人視覺系統未能及時識別突然出現在道路上的行人，導致行人發生碰撞并死亡。算法的偏差和人工智能的不可解釋性也是主要問題。在美國，人工智能算法被用來預測罪犯，一些列表顯示許多無辜的人受到了傷害，其中大部分是黑人，甚至系統的開發者也沒有合理的解釋這個決定。拮抗樣本的存在也會導致算法的誤判。通過給下面的圖片添加一點噪聲，人工智能將很有信心地確認熊貓是長臂猿。

4、人工智能安全風險——信息安全風險

有了足夠的訓練數據，人工智能可以產生用于非法活動的虛假信息。比如人工智能面部修飾DeepFakes，以及最近推出的DeepNude。一些罪犯使用假聲音和假視頻進行詐騙?，F在谷歌已經發明了一種聊天機器人，它可以完全愚弄人們在電話上聊天。

以上就是《人工智能安全風險有哪些?安全在這個行業竟然這么重要》，在分析之前，讓我們先簡單介紹一下人工智能的應用。人工智能由于其在數據分析、知識提取和自主學習方面的突出優勢，如果你想知道更多的人工智能安全的發展，可以點擊本站的其他文章進行學習。

谷歌能夠自動打電話的AI，被稱贊通過圖靈測試的Duplex，為什么背后卻是真人在偽裝？

這些所謂的AI，和Engineer.ai一樣，只存在于論文中、Demo中、產品的介紹中。為什么？因為落地太骨感了。就算谷歌、Facebook這樣的AI重鎮，也遭遇著這樣的情況。

甚至一直以來，谷歌展現的姿態，都是完全AI，完全自動化，完全不需要人類。只是之前官方博客里，有云淡風輕提到過，機器能夠自主完成大部分任務，并識別自己無法處理的情況，然后讓人類來處理。但現實呢？這項技術還很年輕、使用有限。目前谷歌仍在使用人工呼叫來幫助獲取數據、訓練AI。

有谷歌鐵桿支持者認為，谷歌這樣謹慎而不激進地引入Duplex，是明智的。但炫酷的Demo和尷尬的現實對比下，無疑是一記耳光。還有一些公司，遭遇落地骨感的過程中，也是方法頻出。比如美國的一家自動駕駛貨運公司Starsky Robotics，核心目標和所有的無人駕駛公司一樣，致力于讓卡車自動駕駛。

AI可能是泡沫，但別害怕泡沫破滅現在，時間已是2019年，當我們談論AI，一切都有了根本性的不同。

在競爭最激烈的領域，第一階段的戰爭甚至已經結束，曾經燦若群星的一眾AI新勢力，現在層次分明，甚至有公司已無力參與下一階段競爭。還有行業與行業的邊界，技術公司通過AI線下落地，場景企業也在加持AI攻堅技術，都說AI+，但新增紅利歸屬誰，最大紅利誰吃掉，勝負難分。

雖然目前AI發展存在泡沫，我們不應該害怕泡沫的破滅。因為，一個洗牌的時代已經來臨，深度泛濫、偽AI創業的公司難有未來。一個新的時代也正在來臨，落地為王，技術價值轉換為商業價值的公司，一定是未來。

電話機器人合法的使用不會有問題。首先，電話機器人是進行線下銷售的，它是幫助企業進行電話銷售，最大范圍地尋找客戶，每天撥打電話有規定的，每個號碼不得撥打超過2次，一小時內不能撥打同一個號碼。其次，這個是國家政策支持的，國家支持人工智能的發展，而且它的上市是經過國家層層把關的。另外使用電話機器人目的是為了解決銷售員繁瑣、復雜的工作問題，它是助力企業發展。