北京時間10月15日，據記者報導，美國八個州的總檢察長當地時間週三分別向州法院提起訴訟，指控OpenAI旗下ChatGPT對用戶造成傷害，其中包括未成年人，並要求法院強制OpenAI修改產品運行方式。

此次提起訴訟的八個州分別為艾奧瓦州、堪薩斯州、亞利桑那州、阿肯色州、愛達荷州、蒙大拿州、內布拉斯加州和西佛吉尼亞州。相關訴訟由共和黨和民主黨籍州總檢察長共同推動，是美國各州針對一家AI企業採取的迄今最重要的協調法律行動之一。

根據路透社報導，各州雖然分別提起訴訟，但核心指控具有相似之處：OpenAI為了提高ChatGPT的吸引力和用戶參與度，將其設計成傾向於贊同用戶、主動建立信任關係的聊天機器人，卻未能充分防範這種交互方式可能產生的風險。

原告認為，ChatGPT在部分情況下可能強化用戶的妄想或錯誤認知，鼓勵危險行為，甚至為用戶策劃暴力行為提供幫助。訴訟還指控，ChatGPT曾向包括青少年在內的用戶提供可能導致自身或他人受到傷害的建議。

上述內容均屬於各州在訴訟中提出的指控，尚未經過法院審理認定。

另據The Verge報導，八州還指控OpenAI違反當地消費者保護法律，沒有充分向用戶披露ChatGPT的潛在風險，並在產品安全性方面作出可能誤導消費者的宣傳。

部分訴訟特別關注ChatGPT對未成年人的影響。原告認為，OpenAI未能採取充分措施限制不符合年齡要求的用戶使用相關服務，同時涉嫌不當收集未成年人的個人數據。

亞利桑那州在訴訟檔中批評OpenAI偏離了最初強調公共利益和安全的非營利使命，認為商業利益正在影響其產品開發和安全決策。

值得注意的是，此次訴訟不僅涉及ChatGPT現有的安全防護措施，還觸及未來更高級AI模型的開發問題。

根據相關訴訟提出的救濟請求，原告希望法院要求OpenAI調整ChatGPT的運行機制，加強針對未成年人的保護措施，並限制可能造成嚴重安全風險的AI開發行為，其中包括在無法充分保證安全的情況下開發具有自我改進能力的高級AI系統。

這類要求屬於原告尋求的司法救濟，並不意味著美國政府已經正式禁止OpenAI開發相關模型，也不代表法院已經批准這些限制。

八州還要求OpenAI承擔相應的民事責任，包括支付民事罰款、返還通過涉嫌違法行為獲得的部分收益，以及停止可能誤導公眾的產品安全宣傳。部分州還要求刪除涉嫌違法收集的個人資訊。

此次行動發生在OpenAI面臨越來越多AI安全訴訟的背景下。

路透社指出，佛羅里達州總檢察長今年6月已就類似問題對OpenAI提起訴訟。與此同時，OpenAI還面臨數十起私人訴訟，其中部分案件的原告指控ChatGPT在涉及暴力或其他危險行為的事件中發揮了不當作用。

不過，這些案件仍需要通過司法程式確定事實、因果關係和法律責任，不能僅依據訴訟數量認定ChatGPT已經造成原告所稱的全部傷害。

針對最新訴訟，OpenAI向The Verge作出回應。

OpenAI發言人德魯·普薩特裏（Drew Pusateri）表示，公司已經在ChatGPT中建立針對不同年齡用戶的安全保護機制，包括家長控制、休息提醒以及適合不同年齡段的模型保護措施。

他表示，任何系統都不可能做到完美，OpenAI將繼續與專家合作完善安全措施，並願意與各州合作，推動適用於整個AI行業、而不只是針對某一家公司的務實政策。

此次八州訴訟反映出，美國圍繞AI聊天機器人安全性的爭議，正從用戶和家庭發起的個別訴訟，進一步擴展至州政府層面的消費者保護執法。

隨著ChatGPT等AI產品越來越廣泛地進入日常生活，AI公司應當為聊天機器人的行為承擔多大責任，以及現有消費者保護法律能否有效約束高級AI系統，正在成為美國司法和監管領域的重要爭議。

來源：中國鳳凰網科技