近日，知名人工智能專家Ilya Sutskever在一次長達一個半小時的深度訪談中，分享了他對當前人工智能發展路徑的獨到見解。此次訪談內容豐富，涵蓋了從預訓練的局限性到未來超級智能的預測等多個話題，為人工智能領域的研究者和愛好者提供了寶貴的思考方向。

Ilya指出，當前主流的人工智能方法，盡管在不斷改進，但仍然無法實現真正的通用人工智能（AGI）。他比喻說，現有的系統就像是一個經過大量編程競賽訓練的學生，雖然能解決特定領域的問題，但在泛化能力和創造力上遠不及人類。他強調，模型在評估測試中表現優異，但在實際應用中卻常常出現令人困惑的錯誤，這反映出模型在泛化能力上的不足。

對于預訓練，Ilya認為，盡管預訓練在數據量和自然性方面具有巨大優勢，但它仍然無法完全模擬人類的學習過程。他提到，人類在15歲之前接觸的數據量遠不及預訓練模型，但人類的理解深度和泛化能力卻遠超模型。他進一步指出，預訓練可能無法完全捕捉到人類情緒和價值函數等復雜特征，這些特征在人類決策和行動中起著至關重要的作用。

在討論未來人工智能的發展路徑時，Ilya預測，未來5到20年內，我們將見證擁有“大陸級算力”的超級智能的誕生。他認為，這種超級智能將深刻改變經濟和社會結構，帶來前所未有的增長和變革。然而，他也強調，這種變革將伴隨著巨大的挑戰和風險，如何確保超級智能的安全和可控性將是未來研究的重要方向。

Ilya還分享了他對AI對齊問題的看法。他認為，一個可能的解決方案是構建一個關心感知生命的AI系統。他提出，這種系統可能更容易實現，因為AI本身將是有感知的，能夠理解和模擬人類的情感和價值觀。他還強調了增量部署和提前部署的重要性，認為通過逐步引入AI系統，可以幫助人們更好地適應和接受這種變革。

在談到自己的研究方法時，Ilya強調了研究品味的重要性。他認為，一個好的研究想法應該兼具美感、簡潔性和優雅性，同時受到大腦工作原理的啟發。他提到，自己的許多重大突破都源于對人類學習過程的深刻理解和模擬，這種自頂向下的信念支撐著他在面對實驗挫折時保持信心和堅持。

訪談最后，Ilya還分享了他對未來AI公司戰略趨同的預測。他認為，隨著AI能力的不斷提升，各家公司將在對齊策略上逐漸趨同，共同致力于構建一個安全、可控且有益的超級智能系統。他相信，通過全球范圍內的合作和努力，我們有望迎來一個更加繁榮和美好的未來。