7月26日，2025年世界人工智慧大會開幕，圖靈獎、諾貝爾物理學獎得主傑弗裏·辛頓在主論壇上進行了“數字智能是否會取代生物智能”的演講，呼籲全球聯合進行AI治理技術的研究。

辛頓被稱為“AI教父”，他從1985年開始進行語言模型的研究，對大語言模型發展感觸頗深。他認為，大語言模型理解一個句子，就是為句子中詞語分配彼此相容的特定向量，其理解語言的方式與人類理解語言的方式幾乎是一樣。無論是大語言模型還是人類都會產生幻覺。

而且，大語言模型比人類更厲害。比如大語言模型的知識遷移能更強。電腦科學的軟體知識是永恆存在的，即使硬體被摧毀，軟體仍會被復活。所以辛頓認為，儘管數字智的計算需要花費更多的能源，但其優點在於，可以通過”蒸餾”等方式，將拷貝在不同的硬體上的知識進行分享，而傳統生物智能知識則難以分享。

辛頓提到了當下非常火熱的AI智能體，他認為，AI智能體比人類更加聰明。當這些AI智能體擁有足夠的能力進行知識拷貝，能夠對自我行進行評估時，他們可能會想到做兩件事情，一是永生，二是獲得更多的控制權，這將危害人類的利益。

“這就像有個人把小老虎當成寵物來養，小虎崽是很可愛，但如果一直養下去，你要確保它長大的時候不會把自己吃掉。一般來說，養老虎當寵物不是一個好的想法。”

辛頓對未來AI治理提出了展望。AI在很多方面都做得很好，比如說醫療、教育、氣候變化、新材料方面，AI幾乎能夠幫助所有的行業變得更有效率，人類沒有辦法擺脫或者消除AI，也沒有一個國家會這麼做，所以這不是一個選項。這意味著如果人類想要生存的話，必須找到一個辦法來訓練AI，讓他們不要消滅人類。

辛頓認為，各國不會在防禦人工智慧的危險方面達成合作，因為各國在使用AI方面的利益是不一致的。為了促成合作，更加實際可行的辦法可能是尋找一套相對獨立的人工智慧防禦技術，當一個國家發現了一個相對獨立的防禦辦法時，他們會更樂意分享給其他國家。

在演講的最後，辛頓提議，建立一個由各國人工智慧安全研究所與國內研究網路組成的國際社群，“從長期來看，這可以說是人類面臨的最重要的問題”。

來源：中國上觀新聞