5 min remaining
0%
人工智慧與機器學習

奇點被困在交通中:為什麼「擴展法則」已經死去,而AGI無法修復你的破碎公司

探索人工智慧在商業中的限制的殘酷現實。擴展法則已經死去,單純增加人工智慧無法解決你公司的低效率問題。

5 min read
Progress tracked
5 分鐘閱讀·

簡而言之:Dario Amodei(Anthropic的執行長)剛剛承認:建立GPT-4的「擴展法則」正遭遇瓶頸。我們已經耗盡了數據、能量,以及僅僅讓模型「變大」的投資報酬率。新的戰場是測試時計算(能思考的代理)和擴散(讓人工智慧在現實世界中實際運作)。但這裡有個殘酷的事實:人工智慧無法拯救你的公司。如果你的組織運作緩慢、官僚,並且充滿糟糕的想法,人工智慧只會幫助你以十倍的速度產生糟糕的程式碼,直到你最優秀的工程師辭職。

我是James,Mercury Technology Solutions的執行長。

東京 - 2026年2月19日

每個人都在等待AGI(人工通用智慧)的來臨。

我們一直期待某個人工智慧模型出現,能立即取代我們的工作、解決癌症,並管理我們的損益表。但看看周圍吧。你的收件箱依然一團糟,企業軟體依然糟糕,我們仍在進行手動資料輸入。

為什麼會有這樣的脫節?

最近的兩次訪談—一個來自Dario Amodei(Anthropic)和一個來自Dax Raad(anoma.ly)的殘酷誠實看法—解釋為什麼人工智慧革命感覺像是卡在交通中。

1. "擴展法則"的終結

在過去五年中,矽谷的操作手冊很簡單:運算 $\times$ 數據 $\times$ 參數 = 智慧。

只需購買更多的Nvidia GPU,抓取更多的網際網路內容,模型就會變得更聰明。

但達里奧·阿莫代伊剛剛證實了伊利亞·蘇茲克維爾在2024年警告我們的事情:「愚蠢擴展」的時代即將結束。

我們已經遇到了三道牆:

  1. 數據牆:我們已經抓取了地球上所有高品質的文本。如果我們在SEO垃圾和AI生成的無用內容上訓練模型,模型將遭遇「模型崩潰」。
  2. 電力牆:訓練 GPT-4 的成本達數百萬。下一代的成本達數百億,並需要一個中型城市的能源。投資報酬率(邊際效用)正在急劇下降。
  3. 靜態智商限制:一個模型可以記住整個網際網路,但知道更多事實並不意味著它能思考更深入。轉型:

產業已經轉變為 The industry has shifted from 預訓練(讓大腦變得更大)到測試時計算(給大腦思考的時間)。

像 o1/o3 系列的模型不僅僅是反應;它們會暫停,使用「系統 2」思考,自我修正 100 次,然後回答。戰鬥不再是誰擁有最大的基礎模型。這是關於誰能建立最好的

代理人。Agents.

2. 兩條曲線:"能力" 與 "擴散"

如果人工智慧這麼聰明,為什麼還沒有運行經濟呢?

阿莫迪用兩條曲線來解釋這個問題:

  • 曲線 A (能力): 人工智慧的智商。這條曲線是向上攀升的。我們可能在 2026-2027 年達到 AGI 水準的能力。
  • 曲線 B (擴散): 現實世界採用它的速度。這條曲線的進展非常緩慢。

想像一下,你明天發明了一個傳送器。汽車會在第二天消失嗎?不會。你必須建立傳送站、通過區域法規、獲得 FDA 安全批准,並說服人們這不會對他們造成傷害。

存在著巨大的摩擦減緩擴散:

  • 最後一哩:人工智慧可以寫程式碼,但它不知道你遺留伺服器的 IP 位址或你混亂的內部 IAM 權限。
  • 官僚主義:一家初創公司在 5 分鐘內採用人工智慧。一家財富 500 強銀行則需要 18 個月的法律、合規和安全審查,員工才能打開這個工具。
  • 物理法則:一個人工智慧今天可能在模擬中發現癌症的療法,但臨床試驗仍然需要 5 年。人工智慧無法加速生物時間。

3. 現代企業的黑暗現實

這讓我們來到 Dax Raad 的殘酷真實觀察。

執行長談論他們的團隊,就像他們是高效能的機器,只有瓶頸是打字速度。

"如果我們給他們人工智慧,他們將能夠建造十倍的產品!"

胡說。

當你把人工智慧給一個普通的企業團隊時,實際上發生了什麼:

  1. 壞點子擴展得更快:你的組織很少有好點子。在過去,撰寫程式的高成本使你避免建造愚蠢的功能。現在,人工智慧使得建造垃圾變得便宜,因此你的產品瞬間變得臃腫。
  2. 朝九晚五的現實:大多數員工不想成為 "十倍工程師"。他們想做最低限度的工作以保住自己的工作,然後回家。他們使用人工智慧不是為了做更多工作,但要做他們的當前工作更輕鬆。
  3. 雜亂程式雪崩:你的兩位實際上才華橫溢的工程師現在正在淹沒於試圖審查和修正其他團隊提交的大量「雜亂程式」(AI 生成的平庸)中。他們會辭職。
  4. CFO 恐慌:你的 CFO 看不到 10 倍的收入增長。他們只看到 AWS 的帳單每位工程師每月增加了 2,000 美元,因為 LLM API 調用。

結論:真正的機會

人工智慧並不能修復一個破碎的公司;它只是放大了問題。

2026-2030週期的贏家不會是那些建立最聰明的基礎模型的公司。

贏家將是"擴散力學。"

那些能夠將這種「神一般的智商」成功地融入充滿混亂、官僚主義和遺留程式碼的財富500強現實中的公司。

如果你能解決最後一公里的問題,繞過合規的摩擦,並阻止你的工程師產生低劣程式碼,你就掌握了進入王國的鑰匙。

奇點已經來臨。它只是在等待法務批准預算。

Mercury Technology Solutions:加速數位化。

Frequently Asked Questions

What are the main limitations of AI in business according to the article?

The article highlights that AI has significant limitations, including the end of 'Scaling Laws,' which means simply making models larger no longer yields better results. Additionally, AI can amplify existing inefficiencies in organizations, leading to faster production of subpar outputs rather than enhancing overall productivity.

What is meant by 'Test-Time Compute' and why is it important?

'Test-Time Compute' refers to the ability of AI models to think and self-correct during the decision-making process rather than just reacting. This shift is crucial as it allows AI to provide more thoughtful and context-aware responses, marking a departure from merely increasing model size to improving how models operate in real-world scenarios.

Why is the adoption of AI in large enterprises often slow?

The article points out that large enterprises face numerous frictions in AI adoption, such as bureaucratic processes, compliance reviews, and the integration of AI with legacy systems. These challenges slow down the implementation of AI compared to faster-paced startups that can integrate new technologies more readily.

How can companies effectively utilize AI without falling into common pitfalls?

Companies can avoid pitfalls by focusing on improving their internal processes and ensuring that their teams have good ideas to leverage AI effectively. It's important to address issues like poor quality outputs, bureaucratic delays, and compliance hurdles to make the most of AI technology.

What does the article suggest is the key to success in the upcoming AI-driven business landscape?

The article suggests that the key to success in the next few years will not be the smartest AI models, but rather the ability to overcome the challenges of integrating AI into existing systems. Companies that can navigate these complexities and enhance their operational efficiency will emerge as leaders in the AI-driven market.