簡而言之：一艘價值數十億美元的美國航空母艦壞馬桶與教宗禁止神父使用ChatGPT有什麼共同之處？它們都是一個對於優化「人類摩擦」痴迷的社會的症狀。我們試圖為4600名水手設計完美的真空馬桶，結果導致了衛生危機。我們試圖設計完美的人工智慧生成講道，結果引發了靈性危機。如果我們將所有的掙扎、痛苦和摩擦外包給演算法，我們不會變得更有效率。我們會變得空虛。
我是James，水星科技解決方案的執行長。 東京 - 2026年3月3日
我想談談最近發生的兩個看似無關的事件。
第一個事件涉及到美國海軍傑拉德·R·福特號，這是人類建造的最先進且最昂貴（133億美元）航空母艦。在過去兩年中，船上的約90%的廁所幾乎每天都在故障。第二個事件發生在上個月的梵蒂岡。教宗利奧十四世正式禁止天主教神父使用ChatGPT來撰寫他們的講道。
作為一名專業建構AI工作流程的系統架構師，我看這兩個故事時，看到的都是相同的根本問題：過度優化的災難性失敗。1. 133億美元的廁所危機（工程化現實）
美國海軍福特號
The USS Ford這個系統設計有一個超先進的真空收集系統（VCHT），類似於商業飛機上使用的系統。在理論上，這是一個優雅的系統：它節省了水資源，集中管理廢物，並讓設計師能夠移除所有小便器，以創造出「性別中立」的洗手間，以便於行政靈活性。
但是設計師犯了一個致命的錯誤：他們優化了電子表格，而不是現實。
他們將一個精緻的商業航空系統放置在一艘載有4600名水手、吃著軍糧和喝著能量飲料的軍艦上。他們沒有考慮到海洋的高鹽度和濕度，這導致廢物鈣化並阻塞狹窄的真空管道。如果一個閥門失效，整個區域就會癱瘓。你甚至無法用活塞修理它；海軍不得不使用專門的酸洗，費用高達40萬美元。
到2025年及2026年，當航母面臨其歷史上最長的無間斷部署（涵蓋委內瑞拉和中東）時，廁所不斷失靈。受過高度訓練的水手們考慮辭職——不是因為戰爭的危險，而是因為過度工程的廁所系統所帶來的心理折磨。工程師們試圖消除傳統管道的「麻煩摩擦」。這樣一來，他們建造了一個脆弱且昂貴的噩夢，與實際的人體生物學接觸時便會崩潰。
2. 教宗的禁令（外包靈魂）
現在，讓我們來看看梵蒂岡。教宗利奧十四世（第一位美國教宗，於2025年5月當選）最近召集他的神職人員禁止使用人工智慧來撰寫講道。他甚至拒絕了一個矽谷的提案，該提案希望創建一個24小時運作的「人工智慧教宗」虛擬形象來與信徒互動。
Now, let's look at the Vatican. Pope Leo XIV (the first American Pope, elected in May 2025) recently summoned his clergy to ban the use of AI for writing sermons. He even rejected a Silicon Valley proposal to create a 24/7 "AI Pope" avatar to interact with the faithful.
為什麼？從純粹的效率角度來看，人工智慧教宗是終極的最佳化。它可以說一百種語言，永遠不會感到疲倦，並且能夠完美地引用經文。
但是教宗利奧明白承載工程師所不理解的。他主張寫講道稿的掙扎——盯著空白的頁面，與經文搏鬥，反思個人的痛苦，以及思考會眾的苦難——並不是一種應該自動化的「低效率」。掙扎就是講道。
當一位神父使用人工智慧時，產出的內容可能在語法上是完美的，神學上也是準確的。但這僅僅是統計概率。它沒有靈魂。它從未感受過悲傷、懷疑或喜悅。當神父站在講壇上說，「我理解你的痛苦，」如果這句話是由人工智慧寫的，那就是一個空洞的謊言。
教宗正在抵抗矽谷的世界觀，該觀點認為：所有的摩擦都是壞事。所有的任務都應該被加速。 ## 3. 傑佛瑞·辛頓與「母親人工智慧」
這讓我想到了人工智慧教父傑佛瑞·辛頓在2025年8月提出的一個令人不安的觀點。當被問及一旦人工智慧超越人類智慧後，我們該如何控制它時，辛頓表示，添加「規則」和「束縛」是無效的。超級智慧總會找到繞過規則的方法。
辛頓主張，自然界中唯一一個願意為弱者自我約束的極其優越的存在是「母性」。母親不會因為「規則」而不去壓碎她的嬰兒；她自我約束是因為她真心關心嬰兒的生存。辛頓建議我們需要在人工智慧中建立一種「母性本能」。但這裡有一個可怕的問題：人工智慧從何獲得母性的訓練數據？人工智慧在網際網路上進行訓練。網際網路是人類生活的一個策劃性、表演性的版本。真實母性的原始、痛苦、真實的摩擦——在黑暗的醫院房間裡凌晨三點抱著生病的孩子的無聲恐懼——很少被寫入數據集。
如果我們將所有的痛苦、掙扎和深刻的反思外包給人工智慧，我們就停止生成使我們具有人性同理心的「人類數據」。我們只留下空洞的、表演性的外殼讓人工智慧學習。Where does the AI get the training data for Motherhood?
AI trains on the internet. The internet is a curated, performative version of human life. The raw, agonizing, visceral friction of real motherhood—the silent terror of holding a sick child at 3 AM in a dark hospital room—is rarely written down in a dataset.
If we outsource all our pain, our struggles, and our deep reflections to AI, we stop generating the very "human data" that makes us empathetic. We leave the AI with nothing but hollow, performative shells to learn from.
結論：保護你的摩擦
我經營一家人工智慧顧問公司。我相信利用人工智慧來自動化平凡、重複和機械的工作。
但我們必須劃清界線。並非每一種人類經驗都是等待優化的系統缺陷。學習新技能的掙扎、在關係中溝通不良的挫折、寫下自己思想的艱辛努力——這些都不是應該削減的「成本」。它們是人類存在的核心機制。
使用人工智慧來格式化你的Excel表格。使用人工智慧來撰寫你的範本程式碼。但不要使用人工智慧來撰寫你的道歉信、情書或個人哲學。保護你的摩擦。這是唯一將你與機器區分開來的事物。
水星科技解決方案：加速數位化。
