英國首相蘇納克（Rishi Sunak）宣佈計畫成立首個人工智能安全研究所。今天早些時候，微軟、Google、OpenAI 和 Anthropic 宣佈為前沿模型論壇提供 1000 萬美元的基金，以確保安全、負責任地開發生成式人工智慧。

1698316621_roadtoaiss_govuk.jpg© 由 cnBeta.COM 提供

蘇納克於2023年5月會見了人工智慧行業的領導者，即OpenAI、Google和Anthropic，討論技術的保障措施。與唐寧街代表的會面為確保安全、負責任地發展人工通用智能（AGI）的倡議做了準備。

蘇納克說：”在安全可靠的情況下，人工智慧有可能帶來變革和經濟增長。”

在這一進展之後，英國政府宣佈將於 11 月 1 日和 2 日舉行人工智慧安全峰會。此次峰會將彙聚人工智慧公司、政府、民間團體和人工智慧領域的專家，目標是考慮人工智慧的風險，尤其是在發展前沿的風險討論如何通過國際協調行動降低風險。

此次峰會將重點關注前沿人工智慧（Frontier AI），這是一類能力極強的基礎模型，其性能與現有模型相當或更勝一籌。

就在峰會召開前一周，英國首相在倫敦的一次演講中宣佈成立人工智慧安全研究所，這在世界上尚屬首次。根據蘇納克的說法，該研究所將”仔細評估和測試新型人工智慧，以便我們瞭解新模型的能力”。英國政府還就前沿人工智慧的風險以及人工智慧攻擊的規模和速度導致的網路安全漏洞發佈了兩份討論檔。這兩份檔警告說，在未來，我們可能會看到由人工智慧進行和防禦的網路攻擊，而在每一個步驟中，人類的監督都會被最小化。

來源：ugmbbc 的報導