요약:고장 난 화장실이 있는 수십억 달러의 미국 항공모함과 교황이 사제들에게 ChatGPT 사용을 금지한 것의 공통점은 무엇일까요? 두 사건 모두 '인간의 마찰'을 없애려는 집착의 증상입니다. 우리는 4,600명의 선원을 위한 완벽한 진공 화장실을 설계하려 했고, 그로 인해 위생 위기가 발생했습니다. 우리는 완벽한 AI 생성 설교를 설계하려 했고, 그로 인해 영적 위기가 발생했습니다. 우리의 모든 고통과 마찰을 알고리즘에 맡기면 우리는 더 효율적이지 않습니다. 우리는 공허해집니다.
여기 제임스입니다, 머큐리 기술 솔루션의 CEO입니다. 도쿄 - 2026년 3월 3일
최근에 발생한 두 가지 겉보기에는 관련이 없어 보이는 사건에 대해 이야기하고 싶습니다.
첫 번째 사건은 USS 제럴드 R. 포드, 인류가 지금까지 건조한 가장 진보적이고 비싼(133억 달러) 항공모함입니다. 지난 2년 동안, 배에 있는 화장실의 약 90%가 거의 매일 고장이 나고 있습니다. 두 번째 사건은 지난달 바티칸 시국에서 발생했습니다. 교황 레오 14세는 가톨릭 사제가 설교를 작성하기 위해 ChatGPT를 사용하는 것을 공식적으로 금지했습니다.
AI 워크플로우를 구축하는 시스템 아키텍트로서, 저는 이 두 가지 이야기를 보며 동일한 근본 문제를 발견합니다: 과도한 최적화의 재앙적 실패.1. 133억 달러 화장실 위기 (현실을 공학적으로 해결하기)
USS 포드
The USS Ford는 상업용 비행기에서 사용하는 것과 유사한 초고급 진공 수집 시스템(VCHT)으로 설계되었습니다. 종이 위에서는 매우 우아한 시스템이었습니다: 물을 절약하고, 폐기물 관리를 중앙 집중화하며, 디자이너들이 모든 소변기를 제거하여 행정적 유연성을 위한 "성 중립" 화장실을 만들 수 있게 했습니다.
그러나 디자이너들은 치명적인 실수를 범했습니다: 그들은 현실이 아닌 스프레드시트를 최적화했습니다.
그들은 4,600명의 군인이 군용 식사를 하고 에너지 음료를 마시는 전투함에 섬세한 상업 항공 시스템을 설치했습니다. 그들은 바다의 높은 염분과 습도를 고려하지 않았고, 이로 인해 폐기물이 석회화되어 좁은 진공 파이프를 막았습니다. 하나의 밸브가 고장 나면 전체 구역이 마비되었습니다. 플런저로 고칠 수도 없었고, 해군은 한 번에 40만 달러에 달하는 전문 산성 세척제를 사용해야 했습니다.
2025년과 2026년으로 접어들면서, 항공모함은 역사상 가장 긴 연속 배치(베네수엘라와 중동을 포함)에 직면하게 되었고, 화장실은 지속적으로 고장났습니다. 고도로 훈련된 군인들은 전쟁의 위험 때문이 아니라, 과도하게 설계된 화장실 시스템의 심리적 고통 때문에 사직을 고려하고 있었습니다.엔지니어들은 전통적인 배관의 "지저분한 마찰"을 없애려고 했습니다. 그렇게 하면서 그들은 실제 인간 생물학과 접촉하자마자 부서지는 연약하고 비싼 악몽을 만들었습니다.
2. 교황의 금지 (영혼의 아웃소싱)
이제 바티칸을 살펴보겠습니다. 교황 레오 XIV(2025년 5월에 선출된 첫 번째 미국 교황)는 최근 성직자들을 소집하여 설교 작성을 위한 AI 사용을 금지했습니다. 그는 신자들과 상호작용하기 위해 24시간 운영되는 "AI 교황" 아바타를 만들자는 실리콘 밸리의 제안도 거부했습니다.
Now, let's look at the Vatican. Pope Leo XIV (the first American Pope, elected in May 2025) recently summoned his clergy to ban the use of AI for writing sermons. He even rejected a Silicon Valley proposal to create a 24/7 "AI Pope" avatar to interact with the faithful.
왜냐하면? 순수한 효율성 관점에서 AI 교황은 궁극적인 최적화입니다. 100개 언어를 구사할 수 있고, 피곤함을 느끼지 않으며, 성경을 완벽하게 인용할 수 있습니다.
하지만 레오 교황은 운반 엔지니어들이 이해하지 못했던 것을 이해했습니다. 그는 설교를 쓰는 고뇌—빈 페이지를 바라보며, 성경과 씨름하고, 개인적인 고통을 반영하며, 회중의 고통에 대해 생각하는 것이 자동화해야 할 "비효율성"이 아니라고 주장했습니다.그 고뇌는설교입니다.신부가 AI를 사용할 때, 결과물은 문법적으로 완벽하고 신학적으로 정확할 수 있습니다. 그러나 그것은 단지 통계적 확률일 뿐입니다. 그것은 영혼이 없습니다. 그것은 슬픔, 의심, 또는 기쁨을 느껴본 적이 없습니다. 신부가 강단에 서서 말할 때,
"당신의 고통을 이해합니다,"AI가 그 문장을 썼다면, 그것은 공허한 거짓말입니다.교황은 모든 마찰이 나쁘고 모든 작업이 가속화되어야 한다고 말하는 실리콘 밸리의 세계관에 저항하고 있습니다.
The Pope is resisting the Silicon Valley worldview that says: All friction is bad. All tasks should be accelerated. ## 3. 제프리 힌턴과 "어머니 AI"
이것은 2025년 8월 AI의 신부인 제프리 힌턴이 언급한 소름 끼치는 지점으로 나를 이끕니다. AI가 인간의 지능을 초월했을 때 어떻게 통제할 수 있는지에 대한 질문에 힌턴은 "규칙"과 "구속"을 추가하는 것은 효과가 없다고 말했습니다. 초지능은 항상 규칙을 피할 방법을 찾을 것입니다.
힌턴은 자연에서 훨씬 우월한 존재가 약한 존재를 위해 자발적으로 스스로를 제한하는 유일한 모델은 "모성"이라고 주장했습니다. 어머니는 "규칙" 때문에 자신의 아기를 짓누르지 않으며, 아기의 생존을 진정으로 걱정하기 때문에 스스로를 제한합니다. 힌턴은 AI에 "모성 본능"을 구축해야 한다고 제안했습니다.하지만 여기에는 무서운 함정이 있습니다: "AI는 모성에 대한 훈련 데이터를 어디서 얻을까요?"AI는 인터넷에서 훈련합니다. 인터넷은 인간 삶의 큐레이션된, 공연적인 버전입니다. 실제 모성의 날것 그대로의 고통스럽고 본능적인 마찰—어두운 병실에서 새벽 3시에 아픈 아이를 안고 있는 침묵의 공포—은 데이터셋에 거의 기록되지 않습니다.
우리가 모든 고통, 투쟁, 깊은 성찰을 AI에 외주를 주면, 우리는 공감할 수 있게 만드는 바로 그 "인간 데이터"를 생성하는 것을 멈추게 됩니다. 우리는 AI에게 배울 것이 없는 텅 빈, 공연적인 껍데기만 남겨두게 됩니다.Where does the AI get the training data for Motherhood?
AI trains on the internet. The internet is a curated, performative version of human life. The raw, agonizing, visceral friction of real motherhood—the silent terror of holding a sick child at 3 AM in a dark hospital room—is rarely written down in a dataset.
If we outsource all our pain, our struggles, and our deep reflections to AI, we stop generating the very "human data" that makes us empathetic. We leave the AI with nothing but hollow, performative shells to learn from.
결론: 마찰을 보호하세요
저는 AI 컨설팅 회사를 운영하고 있습니다. 저는 AI를 사용하여 일상적이고 반복적이며 기계적인 작업을 자동화하는 것을 믿습니다.
하지만 우리는 분명한 경계를 설정해야 합니다. 모든 인간 경험이 최적화를 기다리는 시스템 결함이 아닙니다. 새로운 기술을 배우는 고난, 관계에서의 의사소통의 불편함, 자신의 생각을 글로 표현하는 힘든 노력—이것들은 "비용"으로 줄여야 할 것이 아닙니다.이것들은 인간 존재의 핵심 메커니즘입니다.
AI를 사용하여 엑셀 시트를 포맷하세요. AI를 사용하여 보일러플레이트 코드를 작성하세요. 하지만 AI를 사용하여 사과문, 사랑 편지, 또는 개인 철학을 작성하지 마세요. 당신의 마찰을 보호하세요. 그것이 기계와 당신을 구분짓는 유일한 것입니다.
머큐리 테크놀로지 솔루션: 디지털화를 가속화하세요.
