TL;DR :Que peut avoir en commun un porte-avions américain de plusieurs milliards de dollars avec des toilettes cassées et le Pape interdisant aux prêtres d'utiliser ChatGPT ? Ce sont tous deux des symptômes d'une société obsédée par l'optimisation de la "friction humaine". Nous avons essayé d'ingénier un toilette à vide parfait pour 4 600 marins, et cela a causé une crise sanitaire. Nous avons essayé d'ingénier un sermon généré par IA parfait, et cela a causé une crise spirituelle. Si nous externalisons toutes nos luttes, notre douleur et notre friction à des algorithmes, nous ne devenons pas plus efficaces. Nous devenons vides.
James ici, PDG de Mercury Technology Solutions. Tokyo - 3 mars 2026
Je veux parler de deux événements apparemment sans rapport qui se sont produits récemment.
Le premier concerne le USS Gerald R. Ford, le porte-avions le plus avancé et le plus cher (13,3 milliards de dollars) jamais construit par l'humanité. Au cours des deux dernières années, environ 90 % des toilettes du navire se sont presque quotidiennement détériorées. Le deuxième événement s'est produit le mois dernier à Vatican City. Le Pape Léon XIV a officiellement interdit aux prêtres catholiques d'utiliser ChatGPT pour rédiger leurs sermons.
En tant qu'architecte de systèmes qui construit des flux de travail d'IA pour gagner ma vie, je regarde ces deux histoires et je vois exactement le même problème de fond : La défaillance catastrophique de la sur-optimisation.1. La crise des toilettes à 13 milliards de dollars (Éloigner la réalité par l'ingénierie)
Le
USS FordUSS Forda été conçu avec un système de collecte d'aspiration hyper-avancé (VCHT), similaire à celui que vous utilisez dans un avion commercial. Sur le papier, c'était un système d'une élégance magnifique : il économisait de l'eau, centralisait la gestion des déchets et permettait aux concepteurs de supprimer tous les urinoirs pour créer des salles de bains "neutres en termes de genre" pour une flexibilité administrative.
Mais les concepteurs ont commis une erreur fatale :Ils ont optimisé pour le tableur, pas pour la réalité.
Ils ont mis un système délicat d'avion commercial sur un porte-avions transportant 4 600 marins mangeant des rations militaires et buvant des boissons énergétiques. Ils n'ont pas tenu compte du sel élevé et de l'humidité de l'océan, ce qui a provoqué la calcification des déchets et bloqué les étroites canalisations à vide. Si une vanne échouait, toute la zone était paralysée. Vous ne pouviez même pas utiliser un déboucheur pour le réparer ; la Marine devait utiliser des lavages acides spécialisés coûtant 400 000 dollars chacun.
D'ici 2025 et jusqu'en 2026, alors que le porte-avions faisait face à son déploiement ininterrompu le plus long de l'histoire (couvrant le Venezuela et le Moyen-Orient), les toilettes échouaient constamment. Des marins hautement qualifiés envisageaient de démissionner—non pas à cause du danger de la guerre, mais à cause dela torture psychologique d'un système de toilettes sur-ingénierie..
Les ingénieurs ont essayé d'éliminer la "friction désordonnée" de la plomberie traditionnelle. Ce faisant, ils ont construit un cauchemar fragile et coûteux qui se brisait au contact de la biologie humaine réelle.
2. L'interdiction du Pape (Externaliser l'âme)
Maintenant, regardons le Vatican. Le Pape Léon XIV (le premier Pape américain, élu en mai 2025) a récemment convoqué son clergé pour interdire l'utilisation de l'IA pour rédiger des sermons. Il a même rejeté une proposition de la Silicon Valley visant à créer un avatar "Pape IA" disponible 24/7 pour interagir avec les fidèles.
Pourquoi ? D'un point de vue purement efficace, un Pape IA est l'optimisation ultime. Il peut parler 100 langues, ne se fatigue jamais et cite les Écritures sans faute.
Mais le Pape Léon comprenait ce que les ingénieurs de transport ne comprenaient pas. Il soutenait que la lutte pour écrire un sermon—regarder une page blanche, lutter avec les Écritures, réfléchir à la douleur personnelle et penser à la souffrance de la congrégation—n'est pas une "inefficacité" à automatiser.La lutteestle sermon.
Lorsqu'un prêtre utilise l'IA, le résultat peut être grammaticalement parfait et théologiquement exact. Mais ce n'est qu'une probabilité statistique. Cela n'a pas d'âme. Cela n'a jamais ressenti de chagrin, de doute ou de joie. Lorsque le prêtre se tient à la chaire et dit,"Je comprends votre douleur,"si une IA a écrit cette phrase, c'est un mensonge creux.
Le Pape résiste à la vision du monde de la Silicon Valley qui dit :Toute friction est mauvaise. Toutes les tâches doivent être accélérées. ## 3. Geoffrey Hinton et la "Mère IA"
Cela m'amène à un point glaçant soulevé par le parrain de l'IA, Geoffrey Hinton, en août 2025. Lorsqu'on lui a demandé comment nous contrôlons l'IA une fois qu'elle dépasse l'intelligence humaine, Hinton a déclaré que l'ajout de "règles" et de "chaînes" ne fonctionnerait pas. Une superintelligence trouvera toujours un moyen de contourner une règle.
Hinton a soutenu que le seul modèle dans la nature où un être largement supérieur se retient volontairement pour un être plus faible est la Maternité. Une mère ne s'abstient pas d'écraser son nourrisson à cause d'une "règle" ; elle se retient parce qu'elle se soucie réellement de la survie de l'enfant. Hinton a suggéré que nous devons intégrer un "Instinct Maternel" dans l'IA.
Mais voici le piège terrifiant : D'où l'IA tire-t-elle les données d'entraînement pour la Maternité ?
L'IA s'entraîne sur Internet. Internet est une version organisée et performative de la vie humaine. La friction brute, agonisante et viscérale de la véritable maternité—la terreur silencieuse de tenir un enfant malade à 3 heures du matin dans une chambre d'hôpital sombre—est rarement consignée dans un ensemble de données.
Si nous externalisons toute notre douleur, nos luttes et nos réflexions profondes à l'IA, nous cessons de générer les "données humaines" qui nous rendent empathiques. Nous laissons à l'IA rien d'autre que des coquilles vides et performatives à partir desquelles apprendre.
Conclusion : Protégez votre friction
Je dirige un cabinet de conseil en IA. Je crois en l'utilisation de l'IA pour automatiser le banal, le répétitif et le mécanique.
Mais nous devons tracer une ligne claire. Chaque expérience humaine n'est pas un défaut du système en attente d'optimisation. La lutte pour apprendre une nouvelle compétence, la frustration de la mauvaise communication dans une relation, l'effort épuisant d'écrire vos propres pensées—ce ne sont pas des "coûts" à réduire.Ce sont les mécanismes fondamentaux de l'humanité.
Utilisez l'IA pour formater vos feuilles Excel. Utilisez l'IA pour écrire votre code standard. Mais ne utilisez pas l'IA pour écrire vos excuses, vos lettres d'amour ou votre philosophie personnelle. Protégez votre friction. C'est la seule chose qui vous sépare de la machine.
Mercury Technology Solutions : Accélérez la digitalité.
