10 月 10 日消息，據美國 CNBC 9 日報道，穀歌前 CEO 埃裏克・施密特發出嚴肅警告：AI 存在不可忽視的危險，而且極易被駭客利用。

他表示：“AI 可能出現擴散問題嗎？絕對可能。”這種風險包括技術落入不法分子手中，進而被濫用或改作他用。

“有證據顯示，無論是封閉還是開源的模型，都可能被駭客攻擊並移除安全防護。在訓練過程中，AI 學到很多技能，其中最糟糕的情況是，它可能學會如何殺人。”

施密特補充道：“所有主要公司都確保這些模型無法回答此類問題。做法正確，每家公司都是出於正確理由執行這一措施。儘管如此，這些模型仍有被逆向工程的可能，還有很多類似風險存在。”

AI 系統容易受到攻擊，常見手段包括提示注入和越獄。據IT之家瞭解，所謂“提示注入攻擊”即駭客在用戶輸入或網頁、文檔等外部數據中隱藏惡意指令，以欺騙 AI 執行不該執行的操作，例如洩露私人數據或運行有害命令。越獄則是操控 AI 的回答，使其繞過安全規則生成受限制或危險內容。

施密特表示，目前尚無完善的“非擴散機制”來控制 AI 帶來的風險。儘管警告嚴峻，施密特對 AI 總體保持樂觀，他認為這項技術的價值遠未被充分認識。“在亨利・基辛格去世前，我與他合著了兩本書，我們認為，一種並非完全屬於我們、但在一定程度受控的外來智能出現，對人類意義重大，因為人類習慣處於食物鏈頂端。到目前為止，這一觀點正在驗證 —— 這些系統的能力將遠超人類隨時間的成長。”

他補充道：“GPT 系列最終帶來了 ChatGPT 熱潮，兩個月吸引一億用戶，異常驚人。這顯示了 AI 的力量。我認為 AI 被低估，而非被高估，我期待在五到十年內證明自己是對的。”

來源：中國IT之家