人類歷史上任何一場科技革命,都不同程度影響著人們生 產生活方式的改變,尤其是科學技術在戰爭領域的應用,更是 推動了世界格局的重塑。

人工智能(AI)技術的發展,同樣昭示 人類下一場科技革命即將到來。

首先我們先來看看人工智能安全發展現狀

(一)人工智能發展與安全在高速前進中相生相滅 在整個人工智能發展過程中,人工智能安全就是人工智能賴 以行駛的軌道。 目前人工智能整體處在競爭上升期,發展長遠 規劃、應用規模層次上缺少確切規范約束控制。

人類腦科學研究沒有破解之前,人工智能控制權掌握在電腦 系統手里。 一些由于認識水平和制造能力帶來的安全問題和 薄弱環節,就很容易降低安全防御能力引發嚴重后果。 比如,人工智能傳感器可能被干擾;系統可能被劫持,數據的 泄露、篡改“污染”可能“教壞”智能機器人的學習認知;人工智 能軟件漏洞可能被黑客利用。

(二)廣泛的應用導致安全影響更深遠

未來人工智能技術在國防和社會基礎設施等關系國家安 全發展的關鍵領域上的運用值得關注。

1.人類倫理道德日益面臨來自人機交互的挑戰

人工智能高速發展越發強大政務機器人,已不能停留在機器三定律認識水平上,人工智能如何負面影響人的具體細節的內容并沒有細化,而它潛在對人大腦思維學習進化和倫理道德帶來巨大挑戰 威脅日益劇增。

2.法律發展滯后難以對智能安全風險 雖然在短期內人工智能存在的安全風險還處于可控范圍,隨 著應用領域范圍日益擴展,具有高度自主性的無人智能沖擊傳 統行業原則和法律框架,尤其是責任的認定更加困惑,以往法 律條款需要重新商榷和完善。

二、如何看待人工智能安全問題

(1)以犧牲長遠利益來盲目追逐人工智能技術的發展和經濟 效益,這種觀點,具體的做法表現為把人工智能技術價值局限 于商品,不遵循事物本身成長規律不計資源代價失衡的去開發 ,去創造更高利益政務機器人,涸澤而漁,不注重人工智能自身健康,忽視 安全問題和其他事物之間的共生可持續發展。

(2)就是你提到的“人工智能威脅論”。 人工智能的快速發展終會替代人 類,即使有益于人類、替代以往反復低效能的應用也被認為不 可。 這種觀點主要是對人工智能缺乏全面認識。 問題的關鍵 在于人工智能能否具備智力和能力,為人類服務,并健康存 在。

我認為,智能安全風險伴隨人工智能客觀存在。 有限的分層 次合理的開發,平衡人工智能發展和安全的矛盾,就可以防控 在危害人類生存利益最低范圍之內。

三、人工智能安全的發展趨勢 國家安全方面,“對國家安全帶來深刻改變的顛覆性技術 ”,人工智能賦能,突破常規管控極難,濫用門檻進一步降低,容 易落入極端組織和犯罪團伙之手。 近年在政治選舉中出現的 利用大數據和社交平臺部署“機器水軍”達成“選舉”的行為 ,彰顯出新的政治安全風險。

軍事安全方面,一方面,越來越多的國家試圖研發“智能化致 命性武器”,越來越容易獲得這種超時距的“遠程精確打擊能力 ”機器人事件可能不再停留在科幻。

另一方面,個別國家或非國 家實體可能和商業公司共同開發工業機器人轉化用于實戰。社會安全方面,人工智能技術的創新使用不斷突破現有法律 規范和道德倫理的限制,帶來多維安全挑戰。

一是智能機器對 傳統人工的替代,直接給本來就存在就業壓力的發達國家帶來 社會風險。

二是物聯網技術讓大量個人隱私直接暴露給智能 設備。

三是人為編寫的軟件與算法,智能產品成為安全攻擊新 的突破口。