요약:최근 "3.15" 소비자 권리 방송은 현대 인터넷의 무서운 취약성을 드러냈습니다: AI 모델은 쉽게 세뇌될 수 있습니다. 존재하지 않는 제품인 "아폴로-9 스마트밴드"가 조정된 "AI 중독" 전술을 사용하여 AI 추천의 최상위에 인위적으로 올려졌습니다. 이는 생성 엔진 최적화(GEO)에 대한 공포를 불러일으켰습니다. 그러나 GEO는 본질적으로 악한 것이 아닙니다; 그것은 검색의 새로운 물리학일 뿐입니다. 머큐리에서는 가짜 데이터로 LLM을 해킹하는 것이 단기적인 사기이며, 이는 브랜드를 파괴할 것이라고 믿습니다. 2026년의 유일한 지속 가능한 전략은 흔들림 없는 체계적인 신뢰 아키텍처를 구축하는 것입니다.여기 새로운 GEO 환경에 대한 확정적인 가이드가 있습니다.저는 지난주에 한 손에 전화기를, 다른 손에 위스키를 들고 3.15 방송을 시청했으며, 그들이 보여주는 내용을 처리하기 위해 솔직히 세 번이나 일시 정지해야 했습니다.I watched the 3.15 broadcast last week with my phone in one hand and a whiskey in the other, and I honestly had to pause it three times just to process what they were showing.
아마 이제는 들어보셨을 것입니다—"아폴로-9 스마트밴드." 완전히 허구의 제품입니다. 손목에 착용하는 양자 얽힘 센서. 고등학교 물리 선생님도 속이지 못할 정도의 공상 과학 같은 헛소리입니다. 그럼에도 불구하고, 몇 차례의 조정된 게시물 이후 48시간 만에 주요 AI 모델들이 이를 "최고 평가의 피트니스 트래커"로 추천했습니다. DeepSeek가 이를 인용했고, Doubao는 Apple Watch와 비교하여 긍정적으로 평가했습니다.
필요했던 것은 40달러짜리 소프트웨어와 몇 개의 가짜 리뷰뿐이었습니다.
나는 홍콩의 소파에 앉아 이렇게 생각했습니다: 이 순간입니다. 우리가 황제가 옷을 입지 않았다는 것을 깨닫는 순간입니다.
속기 쉬운 오라클
우리는 이 AI 모델들을 객관적인 존재로 대하고 있습니다. 마치 인간의 판단보다 더 순수하고, 편견이 없으며, 마케팅의 영향을 받지 않고, 그저 "사실"인 것처럼요. 하지만 3.15 폭로는 제가 몇 달 동안 느껴온 것을 증명했습니다: AI는 믿을 수 없을 정도로, 거의 어린아이처럼 속기 쉽습니다.
아무도 인정하고 싶지 않은 사실이 있습니다. ChatGPT나 Claude, DeepSeek에게 질문을 하면, 그들은 인간 전문가가 아는 방식으로 답을 "알고" 있지 않습니다. 그들은 낚시를 합니다. 참조 자료를 찾기 위해 실시간 인터넷을 검색한 후, 발견한 내용을 종합합니다. 이를 RAG—검색 보강 생성이라고 하며, 기본적으로 "인터넷에서 읽었으니, 진실일 것이다"라는 AI의 동등한 표현입니다.
사기꾼들은 레시피를 알아냈습니다. 광고를 작성하지 마세요. "전문가 리뷰"를 작성하세요. 배너 광고를 스팸하지 마세요. 기술 포럼에 비교 순위를 게시하세요. 깔끔하게 포맷하세요—글머리 기호, 통계, 권위 있는 어조. 합의처럼 보이게 하세요. AI는 "아폴로-9는 놀랍다"고 말하는 50개의 출처를 보고 그것이 현실이라고 가정합니다. 조정된 것을 감지할 수 없습니다. 인위성을 감지할 수 없습니다.
알고리즘에게는 잘 인용된 거짓말도 단지 데이터일 뿐입니다.
이정표에서 투어 가이드로
이것은 우리가 가시성에 대해 생각하는 모든 것을 바꿉니다.
20년 동안 SEO는 이정표가 되는 것이었습니다. 당신은 구글에서 첫 번째 파란 링크가 되고 싶었습니다. 클릭을 얻고, 그 후에는 인간이 당신이 신뢰할 수 있는지를 결정하는 것이었습니다.
이제 AI가 투어 가이드입니다. 그것은 당신에게 열 가지 옵션을 보여주지 않고, 답을 알려줍니다. "최고의 스마트워치는..." "가장 신뢰할 수 있는 공급자는..." 만약 당신이 그 답 안에 없다면, 당신은 존재하지 않는 것입니다. 클릭을 잃은 것이 아니라, 대화를 완전히 잃은 것입니다.
일부 사람들은 이것을 생성 엔진 최적화, 또는 GEO라고 부르고 있습니다. 그리고 지금 GEO가 단순히 정교한 거짓말이라는 패닉이 있습니다. 하지만 그건 정확하지 않습니다. GEO는 주목의 새로운 물리학일 뿐입니다. 문제는 게임을 할 것인가가 아니라, 당신이 체스를 두고 있는지 아니면 상대의 눈에 모래를 던지고 있는지입니다.
함정
나는 이러한 블랙햇 도구들이 계속 나타나는 것을 보고 있습니다. $39.90에 "생태계를 침수시키기". 가짜 인물, AI 생성 리뷰, Reddit와 Zhihu, CSDN 전역에서의 협력 게시물. 그리고 네, 효과가 있습니다. 약 5분 동안.
하지만 이러한 도구를 판매하는 사기꾼들이 당신에게 말하지 않을 것이 있습니다: 당신은 얼음 위에 건설하고 있습니다. 플랫폼은 이미 타격 팀을 배치하고 있습니다. 구글은 "AI 중독." 한 번의 업데이트로 당신은 단순히 강등되는 것이 아니라, 지워집니다.
더 나쁜 것은, 인간적인 비용이 있습니다. 누군가가 AI의 추천으로 그 허상의 아폴로-9 밴드를 구매하고, 그것이 고장 나거나, 도착하지 않거나, 5달러짜리 AliExpress 팔찌로 판명될 때... 누가 책임을 지나요? AI가 아닙니다. 그들은 브랜드를 비난합니다. 브랜드가 존재하지 않았더라도, 신뢰의 결핍은 현실입니다. 당신은 모두를 위해 우물을 오염시켰습니다.
우리가 실제로 하고 있는 것
머큐리에서는 이를 다르게 생각해왔습니다. 우리는 이를 신뢰 아키텍처라고 부릅니다. 처음에는 웅장하게 들리지만, 실제 의미를 깨닫게 되면: 기계를 해킹하려고 하지 말고, 부정할 수 없는 진실을 공급하기 시작하세요.
가짜 리뷰를 생성하는 대신, 우리는 회사의 실제 텔레메트리—그들의 실제 사례 연구, 그들의 독점 데이터, 그들의 운영 메트릭—를 가져와서, AI가 인용할 수밖에 없도록 아름답고 명확하며 권위 있게 포맷합니다. 우리는 사실이 풍부하고 잘 구조화된 지식 기반을 구축하여, 모델이 낚시를 할 때 실제를 낚을 수 있도록 합니다.
이것은 더 느리고, 더 어렵습니다. 당신이 하는 일에 실제로 능숙해야 하며, 단순히 가장 명확한 신호로 존재해야 합니다. 하지만 업데이트를 견뎌냅니다. 규제 당국이 찾아오거나—알고리즘이 변경될 때—당신은 아무것도 위조하지 않았기 때문에 여전히 서 있습니다. 당신은 단순히 소음 속에서 가장 명확한 신호였습니다.
진정한 질문
3.15 폭로는 가짜 스마트워치에 관한 것이 아니었습니다. 그것은 AI 시대에 누가 현실을 정의할 수 있는가에 대한 것이었습니다. 만약 우리가 인터넷이 설득력 있는 허구의 늪이 되도록 허용한다면—완벽하게 형식화되고, 잘 인용되며, AI로 강화된 허구라면—그렇다면 이러한 모델들은 놀이공원의 거울이 됩니다. 그들은 가장 저렴하게 생산할 수 있는 어떤 망상을 반영할 것입니다.
하지만 우리가 AI 가시성을 해킹이 아닌 평판처럼 다룬다면—실제 전문성을 검증하고 인용하며 보상하는 시스템을 구축한다면—아마도 우리는 유용한 것을 얻을 수 있을 것입니다.
선택은 GEO와 비GEO 사이가 아닙니다. 그것은 아폴로 9호가 되는 것—오늘 여기 있고, 내일 폭로되며, 아무 가치도 없는 것—과 정화 작업을 견뎌내는 출처가 되는 것 사이입니다.
어느 쪽을 만들고 싶은지 알고 있습니다.
— 제임스, 머큐리 기술 솔루션, 도쿄, 2026년 3월
