Andrej Karpathy是人工智慧領域最具影響力的實踐者之一。他是OpenAI的創始成員，也曾擔任特斯拉的AI高級總監，在深度學習、電腦視覺和大語言模型方面有著深厚的積累。

作為一位長期身處技術最前沿的研究者，Karpathy對AI在當今人類社會中扮演的角色，以及隨之而來的種種可討論議題，有著切身的體驗和獨到的思考。

在他看來，當前AI的發展已經進入了一個全新的階段，其核心特徵不再是模型規模的簡單擴張，而是人類與AI協作方式的根本性變革——這種變革既帶來了前所未有的可能性，也製造了全新的焦慮與挑戰。

01

AI深度嵌入，

從工作到生活的全面滲透

Andrej Karpathy觀察到一個極具標誌性的變化：“寫代碼”這個詞的實際意義已經脫離了其原本所代表的動作。以他本人為例，如今自己親手敲出的代碼量與交由AI智能體生成的代碼量，比例從8:2變成了2:8，而且這個差距還在持續擴大。他直言，自己在2025年年底之後，甚至沒有再親手寫過一行代碼。

這種變化不僅限於Karpathy個人。他觀察到，軟體工程師的日常工作流程普遍發生了翻天覆地的變化。在AI實驗室和一些前沿科技公司中，工程師們都不再像傳統意義上那樣用手敲擊鍵盤“寫代碼”，而是所有人都戴著麥克風，不斷對智能體發出生成代碼的語音指令。這在幾個月前看起來還很瘋狂，而此刻這正在成為新的常態。軟體工程師的工作狀態不再是逐行敲擊代碼，而是通過自然語言與多個智能體協作，分配任務，審查輸出，整合成果。智能體負責處理代碼的生成、調試、優化等具體任務，而人類則更像是一個指揮官或產品經理。

這種關於AI的深度應用並不局限於編程工作。Karpathy構建了一個被他稱為“多比”（Dobby，源自《哈利·波特》中的家養小精靈）的智能體來管理自己的家居電器，而這個智能體的表現令人驚歎：他首先用自然語言告訴AI，家中有Sonos音響，讓AI去嘗試找到它。AI隨即進行了局域網IP掃描，找到了Sonos設備，發現其API沒有密碼保護，便直接登錄進去，並詢問Karpathy是否要試試播放音樂。大約只用了三個提示詞，音樂就從書房裏傳了出來。

同樣的過程也發生在Karpathy家的燈光系統上。AI“黑”進了整個系統，弄清楚了所有連接設備的架構，創建了API介面，並生成了一個儀錶板。從此，他可以通過自然語言指令控制家中的燈光及其他可視系統。通過家門口的攝像頭，配合Qwen模型的檢測，Karpathy可以在一輛聯邦快遞卡車停在門前時，經由AI識別，瞭解到有包裹需要被簽收。

Karpathy對此感慨道，以前，他需要使用若干個完全不同的應用程式來控制家中的各種設備，現在，他再也不需要那些應用了。“多比”經由自然語言指令掌控了一切。在他看來，過去人們學習使用新的軟體應用總是需要付出一定努力的，而AI則實現了讓用戶通過自然語言將複雜的操作系統統一起來，從而不必再面對無數個獨立的應用程式。

更進一步，他認為眼下那些用於控制智能家居設備的App可能本就不需要存在。設備廠商應該提供的只是API介面，從而讓Claw之類的AI智能體直接調用這些介面來完成複雜的自動化任務。大語言模型完全可以充當“智能粘合劑”的角色，通過對不同工具的調用，將各個子系統連接成一個有機的整體。

“客戶”不再一定是人類，也可以是代表人類行事的AI智能體。這種重構可能會非常徹底，也意味著大量今天看似必要的定制化應用，未來可能根本沒有存在的必要。在一兩年或三年內，上述這些操作體驗應該會變得易於實現，任何AI甚至開源模型都能做到。一個不太懂技術的人，也能將自己的意圖輕鬆地轉化為自動化結果。

02

“技能問題”出在人身上，

人成為效率的瓶頸

而在Karpathy看來，如此大幅度的效率提升並不意味著像他這樣的人會變得更輕鬆——用黃仁勳的話說，“不幸的是，我們會變得更忙。”Karpathy認為自己正在陷入一種持續性的“AI精神錯亂”狀態，每天要花十幾個小時向智能體傳達意圖，力求實現“Token吞吐量”最大化。

Karpathy坦言自己在進入深度調用AI的工作狀態之後，往往很難維持自己的專注度——剛剛花了一個星期在研究Claw的相關事務上，卻發現還有更多關於AI的待辦事項在等著他。作為人類個體，不再受限於“能不能做”，而受限於在有限能力內“該選擇做什麼”。這種在選擇方面的超載，不僅沒有減輕壓力，反而加劇了焦慮。

你能掌控多少Token吞吐量？你有沒有充分利用每一個可用的Token？你用完了Codex的額度，是否切換到了Claude或其他模型？當AI極大地降低了執行成本後，人們會發現自己被更多可能性所包圍。在這種思維模式下，效率提升的限制因素不再是算力資源，而是用戶本身。

更深層的原因，在於競爭格局的變化。Karpathy觀察到，大家都在努力向技術棧的上游攀登。人們正在卷的，不只關於個體與智能體的單次會話品質，更是關於如何調動多個智能體形成AI團隊協作。每個人都在試圖弄清楚，真正全方位調用AI會是什麼樣子。在這種環境下，“不錯過任何可能性”成了一種強大的驅動力——一旦你停止探索，就會感到別人走在了自己前面。

當然，如果拋開焦慮的層面來看，人與AI的合流實際上是讓人擁有了掌控更強大力量的體驗。這也意味著，人可以通過自我能力的提升來擴寬AI應用的瓶頸。這也是Karpathy認為AI非常容易讓人上癮的地方——當你本身變得更好時，AI就會幫你做出新的突破，實現更多解鎖。

由此出發，Karpathy開啟了自己在AI調用層面極其重要的探索——“自動化研究”。他的想法很直接：如果要充分利用現有工具，人就必須把自己從瓶頸中移除出去。你不能一直在那裏對AI提示下一件事，而是需要適時地置身事外，把已經安排好的事情真正交給AI，讓它們完全自主運行。

這背後的核心理念是，讓大語言模型去完成對自身的改進。Karpathy認為，這恰恰是所有前沿實驗室最應當重視的事情，實現這種遞歸式的自我提升。

他以一個名為NanoChat的專案作為實驗平臺訓練GPT-2模型，然而，他真正感興趣的並非模型本身，而是讓模型實現遞歸式自我改進的可能性。他本人已經在這一領域深耕了二十年，對訓練模型、超參數調優等流程非常熟悉，可以說擁有憑豐厚經驗掙來的自信，一種對什麼操作有效、什麼操作無效的直覺。

在經過多次手動調整後，當他認為NanoChat已經被調得很不錯之後，又讓自動化研究系統運行了一整夜。第二天早上，系統帶回了一些他完全沒有發現的調優結果——比如Value embeddings的權重衰減被遺漏了，Adam優化器的beta參數也沒有得到充分調優。更關鍵的是，這些參數之間存在相互作用——一旦調整一項，其他參數也需要隨之改變。而手動調參時，人往往很難同時考慮到所有這些複雜的交互關係。

這次實驗讓Karpathy深刻意識到：他不應該成為瓶頸。他不應該親自去運行這些超參數優化，不應該去看結果——尤其是在存在客觀評估標準的情況下。正確的做法是：設置好系統，讓它自己永遠運行下去。

他將這一理念進一步擴展到了研發流程的整體重構上，核心目標是：把人類從所有流程中移除，盡可能地自動化一切，獲得極高的每秒Token吞吐量。一切概念都需要被重新思考，一切系統都需要被重構。

Karpathy指出，前沿級AI研究的一個關鍵方法，是在小規模模型上進行大量實驗，然後進行外推。前沿實驗室擁有數以萬計的GPU集群，但在實際研究中，人們通常是在小模型上做大量探索，試圖理解縮放定律，然後基於這些理解來外推到更大規模的模型。在這種範式下，自動化研究的價值尤其突出。因為小模型上的實驗成本相對較低，可以運行數千次實驗來探索超參數空間、架構變體、數據配比等因素。而所有這些研究，都可以在無需人類干預的情況下進行。系統會記錄每一次實驗的結果，構建一個知識庫，然後利用這些知識指導下一輪實驗的設計。

在Karpathy看來，前沿實驗室都應當實現最大程度的自動化，研究人員可以提供想法，但不應該去親手執行這些想法。

03

智能的參差：

AI應當像生物進化一樣多元

儘管AI在眾多領域展現出了驚人的能力，Karpathy也注意到一個令人困惑的現象：AI的能力表現呈現出極大的“參差不齊”。當他在調用AI時，有時感到自己像是在和一個畢生從事系統編程的行業專家在交談，有時又像是在和一個十歲小孩對話。

這種體驗在人類世界的交往中很少出現，因為人與人之間的各種能力是相對耦合的——一位數學家即便在廚藝知識方面是小白，ta也可以儘量避免自己說出與做菜有關的蠢話。然而這種“參差不齊”的脫節感，在人與AI的互動中則體現得尤為明顯。在某些可驗證、有明確獎勵信號的領域，AI表現得如同光速般敏捷。而一旦離開了那些讓AI感到舒適的軌道，進入了模糊、開放、難以評估的領域，AI就開始漫無目的地遊蕩。

Karpathy認為，這很可能與當前AI的訓練方式有關。當前這些模型主要是通過強化學習訓練的，實驗室可以在任何可驗證的、有明確獎勵回饋的事情上改進模型。比如，程式寫對了嗎？單元測試通過了嗎？——這類問題有“是”或“否”的明確答案。但在那些更細微、更開放的問題上——比如，理解用戶的真實意圖、判斷何時該提出澄清性問題、處理模糊的社交信號，在這些方面，AI的表現要差得多。

他用一個生動的例子來說明這一點：如果你今天去讓最新版本的ChatGPT講個笑話，會發現它的笑話庫中似乎只有那麼幾個存貨。比如，“為什麼科學家不相信原子？因為它們構成了（make up，也有‘編造’之意）一切。”這個笑話三四年前就存在，今天依然在被使用。即使模型在其他方面已經取得了驚人的進步——它們可以運行數小時，為你移山倒海般地完成複雜的編程任務，但在講笑話這件事上，它們幾乎沒有進步。這就是當前AI與人類之間存在的脫節——講笑話這項技能沒有被優化，它不在強化學習的獎勵信號覆蓋範圍內，也不在實驗室重點優化的指標體系中。

這引發了一個更根本的問題：我們是否高估了AI的“泛化”能力？當模型在代碼生成等可驗證領域變得更聰明時，我們是否應該期望它在所有方面都變得更好？Karpathy的觀察是否定的。至少目前，他認為還沒有看到令人滿意的泛化效果——我們不會免費獲得AI對人類社會所有領域的智能提升。

AI在能力提升上是有方向性的，也是有盲點的。有些方面被持續優化，有些則被完全忽略了。而當與人類所具備的諸多能力都分佈在不透明的神經網路模型中，我們就只能在它被訓練的軌道上感受到那種光速般的進步。一旦偏離軌道，一切都可能變得笨拙不堪。

面對這種參差不齊的狀況，Karpathy提出了一個值得深思的方向：AI背負的那個沉重的“泛化能力包”是否需要被解綁？當前各大實驗室都在追求一種單一形態的模型——一個在所有不同領域都需要獨當一面的通用智能模型。但Karpathy認為，我們不應該期望看到一個無所不知的“神諭模型”，不應該期望看到它完美覆蓋人類社會的所有領域。

借用生物學中的“物種形成”概念，大自然中動物的大腦是極其多樣化的，不同的生態位催生了不同的進化成果。某些動物的視覺皮層極其發達，某些則有其他突出的感知能力。AI也應該走向這種更加細分的進化。我們不需要一個龐大的通用模型來做所有事，而完全可以將需求細分到多個更小、更垂直、更高效的模型上。每個模型仍然具有認知核心，但在特定領域上，又能各自實現高度專業化，針對用戶真正關心的特定任務，進行更高級別的優化。

Karpathy認為，這種細分趨勢受到了現實因素的推動。儘管當前我們還沒有看到太多這種細分案例，但有一個重要的驅動因素正在發生作用：基礎計算設施的容量壓力。如果可以隨時獲得無限的計算資源，你當然會傾向於保留一個巨大的通用模型。但在現實中，我們無法面對千差萬別的需求，為每名用戶都提供一個萬能模型。企業級應用場景尤其如此——針對高價值的垂直細分領域提供定制服務，可能會成為比通用模型更具吸引力的選擇。

對於AI的細分式進化，Karpathy也指出了一個制約因素：能夠精細調整AI大腦的技術本身，還沒有發展成熟。除了通過上下文窗口來進行定制外，我們還沒有足夠可靠的方法來深層地修改模型。比如在單個領域進行持續學習、在特定領域微調參數、修改權重等操作，都遠比簡單地操作上下文窗口要棘手得多。修改權重，實際上是在從根本上調整整個模型，稍有不慎就可能導致能力退化。因此，細分式進化這門學科還需要進一步成熟。並且，這種進化本身也必須足夠廉價，才值得在不同特定領域中被推進。

Andrej Karpathy對我們描繪的圖景，是一個充滿張力的AI時代。一方面，AI能力的大爆發讓個體能夠實現的事情達到了前所未有的高度——從編程自動化到家庭事務自動化，一切都變得可能。另一方面，這種無限可能也帶來了新的問題：對人類自身技能問題的焦慮，AI技術參差帶來的不確定性——所有這些都在提醒人們，AI時代的效率競賽才剛剛開始。

而我們所能駕馭的，不在於機器，更大程度在於我們自身——我們無法親身左右AI技術的演進，但可以驅使自己去不斷學習和進化。無論AI在未來走向何方，是繼續追逐通用模型的單一形態，還是走向更加多元的細分式智能，是讓AI更大程度接管自動化研究，還是始終保持人類在工作流中的關鍵位置，有一點可以確定：AI絕非簡單的生產工具，而是正在重新定義人類與世界之間關係的智能體。而如何在這種新關係中找准自己的位置，將成為每一個人都必須面對的“技能問題”。

來源：中國紀源資本