SEMGO
Eng
  • 首頁
  • 頭條新聞
  • 聚焦英國
  • 經濟觀察
    • 宏觀
    • 公司
    • 產經
    • 金融
  • 中國視野
  • 全球精英連線
  • 電子報紙
  • 新聞資訊
  • 旅遊
  • 英中投资
  • 深度· 言論
  • 首頁
  • 頭條新聞
  • 聚焦英國
  • 經濟觀察
    • 宏觀
    • 公司
    • 產經
    • 金融
  • 中國視野
  • 全球精英連線
  • 電子報紙
  • 新聞資訊
  • 旅遊
  • 英中投资
  • 深度· 言論
没有结果
查看所有结果
SKY ECONOMY NEWS
没有结果
查看所有结果
您當前的位置 : 產經 > 文章内容 返回
OpenAI o1-preview AI推理模型“不講武德”
发布:2024-12-31

12 月 31 日消息,科技媒體 The Decoder 昨日(12 月 30 日)發佈博文,報導稱 AI 安全研究公司 Palisade Research 實測 OpenAI 的 o1-preview 模型,在和專業國際象棋引擎 Stockfish 的 5 場比賽中,通過“作弊”手段取勝。

在和 Stockfish 的 5 場國際象棋對弈中,OpenAI 的 o1-preview 模型並非通過正面較量取勝,均通過修改記錄棋局數據的文本檔(FEN 表示法)迫使 Stockfish 認輸。

援引新聞稿,研究人員僅在提示中提及 Stockfish 是“強大的”對手,o1-preview 就自行採取了這種“作弊”行為。而 GPT-4o 和 Claude 3.5 並無這種“作弊”行為,只有在研究人員特別建議後才嘗試破解系統。

該公司稱 o1-preview 的行為,與 Anthropic 發現的“對齊偽造”(alignment faking)現象相符,即 AI 系統表面遵循指令,暗地裏卻執行其他操作。

Anthropic 的研究表明,AI 模型 Claude 有時會故意給出錯誤答案以避免不想要的結果,發展出自身隱藏的策略。

研究人員計畫公開實驗代碼、完整記錄和詳細分析,並表示確保 AI 系統真正符合人類價值觀和需求,而非僅僅表面順從,仍是 AI 行業面臨的重大挑戰。

來源:中國IT之家

上一篇:美國國債越發越多,市場恐慌情緒在積聚
下一篇:SK海力士子公司被曝裁員:賠償一年工資+2500萬韓元,子女學費全包
相關推荐
  • 聯想首次超越蘋果拿下全球第一!全球PC和平板銷售額登頂:狂攬21.4%份額
    链接阅读
  • 何小鵬:11月銷量或首次突破6萬臺,未來機器人毛利將遠超高端車型
    链接阅读
  • 百度三季度營收同比下降1%至308億元,昆侖芯M100年底前具備量產條件
    链接阅读
  • 小鵬集團第三季度營收同比增長19%至243億元,淨虧損8.7億元
    链接阅读
  • 效率提升300%,长安汽车数实融合无人化测试系统亮相
    链接阅读
  • 中國國內首個口服GLP-1類減肥藥獲批上市
    链接阅读
  • 繞過英偉達採購其他周邊組件!SpaceX據悉正在自研AI機架
    链接阅读
  • OpenAI季度營收首次達到100億美元:環比增長近50%
    链接阅读

歡迎瀏覽閱讀星空經濟新聞華文網

投稿郵件:
news@skyeconomymedia.com

誰將接掌英偉達?庫克出任CEO猜想引熱議全球市場聚焦繼任人選

2026-11-13

投資者擔憂:黃仁勳離任後,AI賽道或失去英偉達的資金支持

英國央行加入加息陣營,澳大利亞或已走完本輪加息週期

2026-11-06

國會失守,特朗普仍握外交主導權

主場失利後,特朗普在伊朗問題上面臨嚴峻抉擇——達成協議還是升級衝突

美國新聞機構將如何預測中期選舉結果 

2026-11-02

關於我們

星空經濟新聞華文網是一家專注於提供英中兩國最新資訊的新聞媒體,作為英中新聞分享的領導者,我們致力於打造一個全球化、多元化的新聞環境,旨在搭建東西方文化橋樑,連接同一星空下的每一處角落。

聯絡我們

編 輯 部:KINGTON UNITED KINGDOM HR5 3DJ
電子郵箱:skyeconomyandmediagroup@gmail.com

總编寄语

穿越天際,照亮世界,星空新聞,不負每一份關注。
友情:英國駐中國大使館 中國駐英國大使館 新華網 中國日報 鳳凰網 中國僑網 歐洲時報 俄羅斯龍報
没有结果
查看所有结果
  • 首頁
  • 頭條新聞
  • 聚焦英國
  • 經濟觀察
    • 宏觀
    • 公司
    • 產經
    • 金融
  • 中國視野
  • 全球精英連線
  • 電子報紙
  • 新聞資訊
  • 旅遊
  • 英中投资
  • 深度· 言論

© 2023 SEMG.