10 min remaining
0%
AI

システムの死のスパイラル — そしてAIエージェントがそれを打破した方法

AIエージェントがどのように使えないシステムを自己修復インフラに変えることができるか、ワークフローと現実の複雑さのギャップを埋める方法を探ります。

10 min read
Progress tracked
10 分で読めます·
AI Generated Cover for: The System Death Spiral — and How AI Agents Broke It

AI Generated Cover for: The System Death Spiral — and How AI Agents Broke It

システムの死のスパイラル — そしてAIエージェントがそれを打破した方法

要点:8年間システムを構築した後、私は予測可能なパターンを発見しました:すべてのシステムは最終的に使用不可能になります。これは設計されたワークフローと現実の複雑さとの間のギャップによるものです。このギャップは、人間の創造性、時間の制約、重複するツール、そしてドキュメントの負債から生じます。私は完璧なシステムを構築しようとするのをやめました。その代わりに、データ入力、異常検出、システムパッチを処理するAIエージェントのトリオを構築しました。これにより、ギャップを管理するのではなく、排除する自己修復インフラストラクチャが作成されました。

誰も話さないパターン

2016年以降、Mercuryは多くのシステムを構築し、実験してきました。

私たちは独自のERPとCRMを構築しました。ワークフローを定義しました。市販のツールを採用し、Zapier、n8n、カスタム統合でそれらをつなぎ合わせました。私たちは自分たちのスタックを誇りに思っていました。それは洗練されていると感じました。現代の企業がすべきことをしているように感じました。

しかし、過去6ヶ月間、私は過去8年間を振り返り、見たくないものを見ました:

死のスパイラル。そしてそれはどこにでもあります。

これはどのように機能するかです。システムを構築します。ワークフローを定義します。ユースケースは設計上、そのワークフローに制限されます。次に、ビジネスが成長します。新しい状況が現れます。エッジケースが増えます。人々はシステムを本来の目的とは異なる「創造的」な方法で使用し始めます。データは間違ったフィールドに入ります。レポートは信頼できなくなります。誰かが問題を「修正」するために影のスプレッドシートを作成します。今、あなたには2つの真実のソースがあります。次に3つ。

システムと現実の間のギャップは広がり続けています。

最終的に、システムは使えなくなります。技術が失敗したからではありません。なぜなら、距離がシステムが想定するものと、ビジネスが実際に行っていることの間であまりにも大きくなりすぎたからです。

マーキュリーでは、これがスローモーションで起こりました。私たちのCRMデータはCRMに存在していませんでした。それは私たちのメッセージングプラットフォーム、CRMコア、PBX通話ログ、そしてメールスレッドに存在していました。同じ顧客。5つの異なる表現。どれも完全には一致していませんでした。四半期ごとのレポートを実行したとき、これらのソースを調整するのに数日かかりました。時には、数ヶ月間存在していた不一致を見つけることもありました — 公式なワークフローが実際のクライアントの状況にはあまりにも厳格すぎると感じたスタッフによって「創造的に」入力されたデータです。

私はクライアント企業でこのパターンを見てきました。私は100人規模のIT部門を持つ企業でもこれを見てきました。メカニズムは異なりますが、パターンは普遍的です。

ギャップの発生源

ギャップには4つの源があります。どれも技術的なものではありません。

人間の創造性。あなたのスタッフはロボットではありません。システムが状況に合わないとき、彼らは即興で対応します。彼らは回避策のフィールドにデータを入力します。彼らは構造化データのために「ノート」セクションを使用します。彼らはITが何かを修正するのを待つよりも早いため、システムの外で並行プロセスを作成します。

時間。ギャップを特定しても、修正には時間がかかります。常に優先度の高いものがあります。ギャップは数ヶ月間バックログに留まります。その間に、回避策が新しい常態になります。

意思決定。何を修正すべきですか?なぜですか?どの順番で?ほとんどの組織はこれを明確に答えることができません。ギャップは持続します。なぜなら、「正しい」とは何かを決定する権限と文脈を持つ人がいないからです。

文書化。誰かが回避策がどのように機能するかを文書化する頃には、さらに3つの回避策が出現しています。文書は常に現実に遅れています。時には、積極的に誤解を招くこともあります。

そして、複合要因があります:重複。

あなたのCRMデータはCRMに存在していません。それはあなたのメッセージングプラットフォーム、CRMコア、PBXシステム、メールスレッド、そして営業担当者の個人的なメモに存在しています。同じ顧客。5つの異なる表現。どれも完全には一致していません。レポートを実行するとき、どれが真実ですか?

これはバグではありません。これは、2年以上存在している任意の組織の自然な状態です。

従来の答え(そしてそれが失敗する理由)

従来の答えは、より良いシステムを構築することです。より柔軟で、より設定可能で、より「未来に対応した」ものです。

私はこれを試しましたが、うまくいきません。

システムをより柔軟にすればするほど、より複雑になります。複雑になるほど、設計された能力と実際の使用の間のギャップは広がります。柔軟性はギャップを排除するのではなく、より高い抽象レベルに移動させるだけです。

エンタープライズソフトウェアベンダーは何十年も「柔軟性」を売ってきました。すべての実装は「あなたのワークフローに合わせて設定します」で始まり、「システムに合わせてワークフローを変更する必要があります」で終わります。このギャップは常に勝ちます。

私が代わりに作ったもの

約1ヶ月前、私は完璧なシステムを構築しようとするのをやめました。

代わりに、私はギャップ自体を設計しました。

私は3つのAIエージェントを構築しました。チャットボットではありません。アシスタントでもありません。人間とシステムの間に位置し、常に蓄積される混乱を処理する運用レイヤーです。

エージェント1:エントリーポイント。

スタッフはこのエージェントとデータ入力のために対話します。自然言語。フォームはありません。フィールドもありません。エージェントは明確化の質問をし、データを構造化し、適切な場所に適切な形式で書き込みます。状況が既存のカテゴリに合わない場合、無理に四角いペグを丸い穴に押し込むことはありません。それをフラグします。

エージェント2:アナリスト。

エージェント1が異常を検出すると — 現在のスキーマに合わないもの、新しいパターン、進行中の回避策 — それはエージェント2にエスカレーションされます。このエージェントは異常を分析し、根本原因を特定し、報告書を生成します:何が起こっているのか、なぜそれが起こっているのか、ギャップを解消するために必要なシステム変更は何か、そしてトレードオフは何か。

報告書が私のデスクに届きます。私はそれをレビューします。推奨事項を承認するか、修正します。

エージェント3:実行者。

承認されると、エージェント3が実行します。システムをパッチします。スキーマを更新します。統合を修正します。ドキュメントを書きます。そして、これは一度限りのプロジェクトとしてではなく、継続的なプロセスとして行われます。

ギャップはもはや蓄積されません。リアルタイムで解消されます。

この最初の月でも、結果は明白です。システムワークフローの不一致を特定して修正するまでの平均ギャップからパッチまでのサイクル — 以前は四半期単位で測定されていました。2026年初頭には、より良いプロセスの規律によって約2週間に圧縮しました。エージェントのトリオを使うことで、現在のサイクルは4時間未満の非構造的変更に対して、そして同日私の承認が必要なスキーマレベルの調整について。

シャドースプレッドシートが消えつつあります。それは私たちがそれを義務付けたからではありません。システムが現実を十分に正確に反映するようになったため、人々は回避策を必要としなくなったのです。

これは私たちのGEOメソドロジーの基盤となる同じ原則です。統一されたGEO監査フレームワーク — 8月27日の再監査でmtsoln.comが82点(方法A 91、方法B 76)を獲得したもの — は、一度きりの最適化ではなく、継続的なギャップの解消に基づいて構築されています。AIシステムがあなたのブランドを表現する方法と、実際の運営方法との間のギャップは、プロジェクトで解消されるものではありません。それは、持続的な観察と適応を通じて解消されます。私たちはこれをクライアントサイトに適用しています。今、私たちは自社のインフラに適用しています。

これが実際に意味すること

これは自動化ではありません。自動化はプロセスが知られていて繰り返し可能であることを前提としています。これは何か異なるものです。これは適応型インフラストラクチャです。

システムはすべてのユースケースを予測しようとはしません。それは必要ありません。実際に何が起こるかを観察し、逸脱を特定し、それに適応するように進化します。「完璧なシステム」は不要になります。なぜなら、システムは決して完成することがないからです — 現実に対して常により正確になっていきます。

このアプローチは、現在、マーキュリーの2つの基盤となっています:

私たちのGEOサービス。生成エンジン最適化は、静的なベストプラクティスについてではありません。AIシステムがあなたのブランドをどのように表現するかに継続的に適応することについてです。同じ原則が適用されます:観察、分析、適応、実装。

私たちのERP/CRMコア。システムは厳格なワークフローを強制しません。ワークフローから学習します。設計されたプロセスと実際のプロセスのギャップが改善を促進する信号となり、信頼性を低下させるノイズにはなりません。

あなたが考えている反論

"これは不安定に聞こえます。" "エージェントが間違った変更を加えたらどうなりますか?" "ガバナンスはどうなりますか?"

これらは有効な懸念です。私がそれに対処する方法は次のとおりです:

構造的変更には人間の承認が必須です。エージェントツーが提案します。私は承認します。エージェントスリーが実行します。このループは迅速で、しばしば同日中ですが、人間の決定がゲートとして残ります。この最初の月で、私は約15%の提案を拒否または修正しました。通常、エージェントが実際のギャップを特定したが、他の場所で重複を生む解決策を提案したためです。アナリストは完全なビジネスコンテキストを持っていません。だからこそ、人間がループに留まるのです。

変更は元に戻せます。すべてのパッチは文書化され、バージョン管理されています。何かが壊れた場合、私たちはロールバックします。文書は変更を行ったエージェントによって書かれるため、実際に正確です — 人間の文書は現実から数ヶ月遅れています。

代替案はもっと悪いです。従来のモデルは、ギャップが静かに表面下で成長している間、安定性の幻想を与えます。あなたが気づく頃には、システムは使用できなくなり、移行は6ヶ月のプロジェクトになります。私は、目に見える頻繁な小さな調整が、目に見えない徐々の劣化よりも良いと思います。

コストの議論もあります。私たちは、Mac Studioのスワーム上でエージェントインフラを運営しており、Mercury Fluxを通じてルーティングしています。これは、毎月約180億トークンを提供するモデルルーティングレイヤーで、約100万トークンあたり$0.07の混合コストです。小売の相当額は、毎月$20,000〜$200,000になります。エージェントのトリオは、すでに運営しているインフラにわずかな計算コストを追加します。これを、単一のシステム移行プロジェクトのコストや、データが5か所に存在するために数日かかる報告書の機会コストと比較してください。

経済的には全く近くありません。

これは受け入れられるでしょうか?

わかりません。

これは、組織がシステムについて考える方法からの根本的な逸脱です。私たちは、良いシステムは安定したシステムであると信じるように訓練されています。変化はリスクであると。目標は、最初に正しく行うことです。

しかし、「最初に正しく」は、成長し、適応し、人間と関わる環境では幻想です。問題は、あなたのシステムが現実からずれるかどうかではありません。ギャップを開くよりも早く閉じるメカニズムを持っているかどうかです。

ほとんどの組織は持っていません。彼らにはバックログがあります。「次のリリースで修正します」と言っています。彼らには、Slackのスレッドに存在する影のスプレッドシートや回避策の文書があります。

私は異なる提案をしています:ギャップを避けられないものとして受け入れ、それを継続的に閉じる能力を構築することです。

このことを嫌う人もいるでしょう。これはプロジェクト計画の産業複合体を脅かします。「実装」を資本化可能な一度きりのプロジェクトではなく、継続的な運用コストにします。これは、以前は人間が制御していたシステム変更をAIエージェントに信頼して任せることを要求します。

しかし、私はこれを1ヶ月間運用しています。以前は四半期かかっていたギャップが、今では数時間で埋まります。影のスプレッドシートは消えつつあります。なぜなら、システムが実際の現実を反映しているからです。ドキュメントは生成されるものであり、維持されるものではないため、最新の状態です。

完璧ではありません。しかし、死のスパイラルよりは良いです。

より広い意味

これはマーキュリーの内部システムだけの問題ではありません。

同じパターンは、デジタルトランスフォーメーションに取り組むすべての組織に当てはまります。多くのトランスフォーメーションプロジェクトが失敗する理由は、技術が機能しないからではありません。新しいシステムと実際のビジネスとの間のギャップが、実装チームがそれを埋めることができる速度よりも常に速く成長するからです。

AIエージェントは、この方程式の経済学を変えます。適応が自動化され、継続的であるとき、ギャップは管理可能になります。手動でプロジェクトベースであるとき、ギャップは常に勝ちます。

これを最初に理解する組織は、構造的な優位性を持つでしょう。彼らのシステムがより良く設計されているからではなく、彼らのシステムがより良く機能するからです。なることビジネスが実際に必要とするもの。

これが、AIが私たちの業界をコモディティ化することを心配していない理由でもあります。

AIから人間へのギャップで漏れるリードの43%?その数字は同じ観察から来ています。理想的なワークフローのために設計されたシステムは、実際の行動を見逃します。その43%をキャッチするビジネスは、より良いチャットボットを持っているわけではありません。彼らは、人間が実際にどのように働くかに継続的に適応するインフラを持つビジネスです — プロセス図が彼らがどのように働くべきかと言っているのではなく。

これが私が賭けていることです。

香港から書かれたもので、湿度が高く、エアコンと現実の間のギャップは約12度です。