北京時間9月14日，OpenAI承認，其最新AI推理模型o1“顯著”增加了AI被濫用於製造生化武器的風險。

OpenAI的系統卡是一種解釋AI如何運作的工具。該工具表示，新模型對化學武器、生化武器、放射性武器和核武器(CBRN)相關問題的風險為“中等”，這是OpenAI有史以來給出的最高風險。OpenAI表示，這意味著該模型“顯著提高了”專家製造生化武器的能力。

專家稱，如果具備更先進功能的AI軟體落在危險分子手中，這會帶來更高的濫用風險。例如，o1模型就具備了逐步推理能力。

OpenAI首席技術官米拉·穆拉蒂(Mira Murati)向英國《金融時報》表示，由於o1模型具備了先進功能，該公司在向公眾推出它時特別“謹慎”。她補充說，這個模型已經被所謂的“紅隊”(各個科學領域的專家)測試過。穆拉蒂表示，o1模型在整體安全指標上的表現遠遠好於之前的模型。

來源：中國鳳凰網科技