9 月 2 日消息，當地時間 9 月 1 日，據記者報導，微軟公司副總裁 Vik Singh 在接受採訪時說，“坦率地說，如今（生成式 AI）真正缺少的能力，即是當模型無法確定（自身答案是否準確）時，能夠主動說‘嘿，我不確定，我需要幫助’。”

自去年以來，微軟、穀歌及其競爭對手一直在迅速部署如 ChatGPT、Gemini 等生成式 AI 應用，這些應用可以按需生成各種內容，並給用戶一種“無所不知”的錯覺。儘管生成式 AI 的開發取得了進展，它們仍然會出現“幻覺”或編造答案。

Vik Singh 堅持認為，“真正聰明的人”正在努力找到方法，讓聊天機器人在不知道正確答案時“承認並尋求幫助”。

與此同時，雲端軟體巨頭 Salesforce 的首席執行官 Marc Benioff 也在上周表示，他看到許多客戶對微軟 Copilot 的誤導性表現越來越感到沮喪。

IT之家獲悉，近年來，人工智慧蓬勃發展，聊天機器人等應用逐漸普及，人們可以通過簡單的指令從這些聊天機器人（例如 ChatGPT）獲取資訊。然而，這些聊天機器人仍然容易出現“幻覺”問題，即提供錯誤的答案，有時甚至是危險的資訊。造成“幻覺”的原因之一，是訓練數據不准確、泛化能力不足以及數據採集過程中的副作用。

來源：中國IT之家