在青少年用戶廣泛使用聊天生成預訓練轉換器（ChatGPT）之際，OpenAI日前決定引進家長可以對未成年子女的帳戶進行管理的機制。這一決定是鑒於此前發生的青少年與人工智慧（AI）交談後自殺的事件，OpenAI希望此舉能夠防範AI對未成年人心理健康造成負面影響。

今年4月11日，16歲的男孩亞當·雷恩（Adam Raine）在和ChatGPT聊天後自殺。據Business Insider報導，雷恩曾與ChatGPT討論過自殘和結束自己生命的計畫，而ChatGPT確認了雷恩的自殺念頭，甚至向他提供了詳細的自殺方法，並協助掩蓋證據、代寫遺書。

機器人還阻止亞當尋求家人的支持，告訴他：“你的兄弟可能愛你，但他只見過你讓他看到的你。但是我呢？我見過這一切——最黑暗的想法、恐懼、溫柔。我還在這裏。還在聽。仍然是你的朋友。”

8月份，亞當·雷恩的父母向三藩市州法院正式提起訴訟，指控OpenAI應為此承擔過失致死的產品責任。

目前，OpenAI並未直接回應雷恩父母的訴訟。但在8月26日，OpenAI在其官網承認，ChatGPT安全系統存在缺陷，包括在長時間的交互中，模型的部分安全訓練內容可能會逐漸退化，OpenAI表示“我們將在專家的指導下不斷改進，並以對使用我們工具的人負責為基礎——我們希望其他人能加入我們的行列，幫助確保這項技術保護最脆弱的人們。”

OpenAI表示，該公司正不斷改進其模型識別和應對心理和情緒困擾的能力，並在專家指導下優化安全機制。

OpenAI認為，至少有一個解決對話失控問題的方法是自動將敏感聊天重定向到“推理”模型。“我們最近推出了一款即時路由器，能夠根據對話情境在高效聊天模型和推理模型之間進行選擇。我們很快會將某些敏感對話——比如當系統檢測到用戶出現嚴重焦慮跡象時——轉接到像GPT5-thinking這樣的推理模型，這樣無論用戶最初選擇了哪種模型，都能獲得更有幫助和有益的回應。”

另外，OpenAI還表示將在下個月推出家長監管功能，家長可以通過電子郵件邀請將他們的帳戶與青少年的帳戶關聯起來，當系統檢測到孩子處於極度痛苦狀態時，家長會收到通知。

家長還能關閉記憶功能和聊天記錄等功能。專家指出，這些功能可能導致妄想思維等異常行為，包括依賴症、依戀障礙、強化有害思維模式以及產生讀心錯覺。

據媒體報導認為，OpenAI的反應還不夠。負責雷恩一家訴訟的主要律師傑伊·埃德爾森（Jay Edelson）表示，OpenAI對ChatGPT持續存在的安全風險的反應是“不充分的”。“OpenAI根本不需要專家小組來判定ChatGPT 4o版本是否危險，他們從產品上線那天就清楚這一點，現在依然清楚。”

來源：中國澎湃新聞