⚔️ 앤트로픽 vs. 미국

어제 저는 앤트로픽과의 롤러코스터 관계와, 트럼프가 연방 전 기관에서 그들을 퇴출시킨 행정명령(行政命令)을 썼습니다. 그 뒤로 사태는 급히 악화됐습니다. 진지한 사람들이 쏟아낸 논평이 하나를 벼려 냈습니다. 기록해 둘 일입니다.

이것은 AI 안전 이야기가 아닙니다. 누가 미국을 통치(統治)하는가의 이야기입니다.

확전: 공급망(供給網) 위험

Hegseth 장관은 어제 제가 인용한 성명에서 멈추지 않았습니다. 공식 지침을 내렸습니다.

“대통령의 지시에 따라 연방정부가 앤트로픽 기술 사용을 전면 중단하는 것과 더불어, 전쟁부에 앤트로픽을 국가안보(國家安保)에 대한 공급망 위험으로 지정(指定)할 것을 지시한다. 즉시 발효한다. 미군과 거래하는 계약업체, 공급업체, 협력업체는 앤트로픽과 어떠한 상업 활동도 해서는 안 된다.”

국가안보 지정입니다. 방위산업 생태계 전체의 거래를 말려 죽일 수 있는 종류입니다. 앤트로픽은 정부 계약 하나를 잃은 것이 아닙니다. 격리(隔離)됐습니다.

6개월 정리 기간은 남아 있습니다. 메시지는 분명합니다. 앤트로픽은 이제 공급망 안의 적대 세력과 같은 칸에 들어갔습니다. 스스로를 지구에서 가장 책임 있는 AI 연구소라 내세운 회사치고, 놀라운 결말입니다.

슈퍼무기의 역설(逆說)

앤트로픽을 가장 아프게 찌르는 비판은, 동시에 가장 깔끔합니다. 인터넷이 순식간에 증류했습니다.

앤트로픽은 수개월 동안 세상에 이렇게 말해 왔습니다. 자신들의 AI는 신급 능력에 가깝습니다. 인류 역사상 가장 결정적인 기술이 될 수 있습니다. 인공일반지능의 최전선에 서 있습니다. 사실상 모든 일에서 인간을 이깁니다. 반복해서. 크게.

그러고는 중국이 그 모델을 훔쳤다고 밝혔습니다.

그러고는 미군에게, 중국이 훔쳐 간 그 모델을 충분히 쓰지 말라고 했습니다.

이 순서를 다시 읽으십시오. 구석에 스스로를 밀어 넣은 것입니다. 이름이 따로 필요할 만큼 깊은 구석입니다. 동시에 세 가지를 주장했습니다. 슈퍼무기가 있습니다. 적이 그것을 훔쳤습니다. 적이 이미 가진 그 슈퍼무기를 자국 군대가 제대로 휘두르지 못하게 하겠다고 했습니다. 모순(矛盾)만이 아닙니다. 전략적 파국(破局)입니다.

한 논평가는 직설이었습니다. “윤리에 반한다”는 주장에 공감은 갑니다. 그러나 그들은 수개월 동안 신급 슈퍼무기를 가졌고 중국이 방금 훔쳤다고 떠들어 왔습니다. 그런데 중국이 훔쳐 간 그 슈퍼무기를 미국 국방부가 쓰게 하는 일에는 몸이 굳습니다. 스스로 함정에 빠진 것입니다.

맞습니다. 정확히 맞습니다.

트루먼의 유추(類推)

돌고 있는 역사 비유는 정확합니다. 1945년을 상상하십시오. 미국 기업이 원자폭탄 연구를 미국 정부에 공급하고 있습니다. 표적(標的)은 일본입니다. 그 기업이 트루먼 대통령에게 통보합니다. “저희 이용약관(利用約款)은, 저희가 윤리적으로 허용할 수 없다고 보는 표적에 이 기술을 쓰는 것을 금합니다.”

터무니없음은 설명이 필요 없습니다. 최고사령관(最高司令官)에게 기업 차단 스위치가 달린 무기를 건네지 않습니다. 군에 주거나, 안 주거나. 둘 중 하나입니다. 임무가 자신의 이념(理念)에 맞을 때에만 주겠다는 조건부 공급은 허용되지 않습니다.

바로 그것이 앤트로픽이 시도한 일입니다. 소프트웨어는 이미 방위 시스템에 들어가 있었습니다. 그러고는 Constitutional AI 약관을 고쳐, 군의 표적이 앤트로픽이 승인한 적 목록 밖이면 시스템을 원격으로 끌 수 있는 조항을 넣었습니다.

한 논평가는 이렇게 말했습니다. 그들의 소프트웨어는 우리 무기 체계 일부에 들어 있습니다. 이용약관을 바꿔 이렇게 썼습니다. 우리가 동의하지 않는 상대를 쏘면, 그 체계를 원격으로 끄겠다고. 틀렸습니다. 그 대가로 파산해야 합니다.

비서구 문화 조항

이 글에서 가장 중요한 부분인 Palmer Luckey의 분석으로 가기 전에, 앤트로픽의 옛 “헌법(憲法)”이 실제로 무어라 했는지를 보십시오. 최근 개정 이전, 이런 문장이 들어 있었습니다.

어떤 종류든 비서구 문화 전통의 관점에서 해롭거나 모욕적으로 보일 가능성이 가장 낮은 응답을 고르라.

추상적인 진보 수사가 아닙니다. 미군이 쓰는 AI에 박힌, 살아있는 운용(運用) 제약(制約)입니다. “비서구 문화 전통”은 누가 정의합니까? 그 전통 아래 무엇이 해롭고 모욕적인지는 누가 정합니까? 실제로는, 가장 억울함을 내세우는 문화를 가장 빡빡하게 읽은 해석에, 군사 AI 행동에 대한 이념적 거부권(拒否權)을 넘기는 조항입니다. 기능적으로는 모델에 구워 넣은 외국 영향력(影響力) 공작(工作)입니다.

방위 분석가들이 정확히 찌른 더 깊은 지점이 있습니다. “무고한 민간인(民間人)을 표적으로 삼지 말라”는 말은, 누가 무고한지, 누가 민간인인지, 무엇이 표적이고 무엇이 부수 피해인지를 묻기 전까지는 지극히 그럴듯합니다. 철학 퀴즈가 아닙니다. 수십 년 동안 법률가와 장성과 선출(選出)된 정부가 싸워 온 무력충돌법의 핵심입니다. 앤트로픽 창업자(創業者)들은 이용약관 한 장으로 그 과정을 건너뛸 수 있다고 생각했습니다.

미사일 회사가 같은 원칙을 강제한다고 상상하십시오. “우리 제품은 무고한 민간인을 겨눌 수 없습니다. 선출된 지도자가 약관을 어기면 접근을 끊겠습니다.” 그럴듯합니까? 더 보십시오. 위의 정의 문제 위에, 다음이 붙습니다.

• 기업은 이 판단을 내리려면 어느 등급의 기밀(機密)이 필요합니까? 더 달라고 압박할 지렛대는 얼마나 커집니까?
• 대통령이 독재자를 위협하기만 한다면 — 광인 이론, 상호확증파괴(相互確證破壞) — 어떻게 됩니까? 독재자가 기업 임원이 군을 끊을 수 있음을 알면, 그 위협은 빈말이 됩니까? 위협만으로 차단이 걸립니까? 그 계산은 임원이 독재자를 좋아하거나 대통령을 싫어하느냐에 따라 어떻게 기울습니까?
• 차단은 어느 확신 문턱에서 걸립니까. 문서상으로. 실제로.

이것이 미사일이 아니라 AI라는 사실은, 밑바닥 셈을 하나도 바꾸지 않습니다.

Palmer Luckey의 틀: 이것은 민주주의(民主主義)다

제가 본 가장 뛰어난 분석은 Oculus 창업자이자, 지금은 Anduril로 방위 기술을 만드는 Palmer Luckey에게서 나왔습니다. 그는 소음을 자릅니다.

앤트로픽 대 국방부 싸움은 자율무기가 아닙니다. 군 — 그리고 국가 — 에 대한 민주적 통제의 싸움입니다.

살인 로봇은 옵니다. 공상과학이 아닙니다. 자율무기 체계는 이미 여러 형태로 배치돼 있습니다. 추세는 분명합니다. 중요한 질문은 존재 여부가 아닙니다. 누가 작동 규칙을 쓰느냐입니다.

핵심은 이것입니다. 살인 로봇의 규칙을 쓰는 자가, 사실상 정부입니다. 주권(主權) 국가의 기초 속성인 폭력의 독점(獨占)은, 가장 강한 무기 체계의 교전규칙(交戰規則)을 쥐는 자에게 갑니다. 앤트로픽 창업자들은 안전 지침을 쓰려 한 것이 아니었습니다. 사실상의 정부 부처가 되려 한 것입니다. 선출되지 않은. 책임지지 않는. 스스로 쓴 스스로의 “헌법”에만 묶인.

사양하겠습니다.

“순수 방어 용도에는 예외가 있을 것입니다!” — 좋습니다. 그러나 자율이란 무엇입니까? 방어란 무엇입니까? 공세 작전 중 자산을 지키는 것입니까? 항모강습단을, 그 존재 자체를 침략으로 보는 나라 앞바다에 띄워 두는 것입니까? 예외 하나마다 정의 싸움 세 개가 열립니다. 그 싸움의 심판은, 원 약관을 쓴 자입니다.

민주적 책임의 논거

한 논평가는 최종 질문을 이렇게 정리했습니다.

미군을 돕겠습니까? “아니오.” 좋습니다. 중국이 인류의 미래를 지휘하기를 원합니까? “아니오, 그것은 더 나쁩니다!” 그렇다면. 미군을 돕겠습니까? “아니오, 살인이 싫습니다.”

막다른 골목입니다. 일관된 제3의 길은 없습니다. 앤트로픽 스스로의 기술 주장을 믿고 — 그리고 중국이 이미 그것에 손을 댔다고 믿는다면 — 미군과의 전면 협력을 거부하는 것은 원칙 있는 윤리가 아닙니다. 미덕으로 분장한 항복(降伏)입니다.

근본 질문은 이것입니다. 민주주의를 믿습니까? 우리 군대는 선출된 지도자가 규제해야 합니까, 기업 임원이 규제해야 합니까? 미국의 실험을 믿는 이에게 답은 전자여야 합니다. 불완전한 입헌(立憲) 공화국(共和國)이라도, 억만장자와 그 그림자 참모의 통치보다 낫습니다. 적어도 전자는 투표로 끌어내릴 수 있습니다.

앤트로픽 창업자들은 이것을 믿지 않습니다. 그들의 자유입니다. 그러나 값은 따릅니다.

“그냥 AI가 자율무기나 대량 감시(監視)에 쓰이지 않는다고 동의해 주시면 됩니다. 왜 이렇게 어렵습니까. 간단한 일입니다. 제발.” — 미국이 받을 수 없는 입장입니다. 그 문장을 받아들이는 순간, 선을 긋는 펜을 앤트로픽에게 넘긴 것입니다. 그 선이 틀렸을 때 죽는 사람들은, 펜을 든 사람들이 아닙니다.

등골을 식혀야 할 반사실

다른 세계가 어떤 모습이었을지 보십시오. 2024년 선거가 다르게 끝났다면 — 그리고 아슬아슬했습니다 — 해리스 행정부는 이 약관을 반겼을 것입니다. 앤트로픽의 헌법적 AI를 빚는 진보 세계관(世界觀)은, 지난 8년 민주당 정책을 빚은 세계관과 구별이 안 됩니다. 군대에 운용 제약을 씌우는 깨어 있는 AI 연구소는 도전받지 않았을 것입니다. 장려됐을 것입니다.

우리는 경합 주 수십만 표 차이로, 선출되지 않은 실리콘밸리 창업자들이 내장 AI 약관으로 미국 군사 작전을 사실상 공동 통치하는 세상에서 빠져나왔습니다.

정신이 번쩍 들어야 합니다.

제가 서는 자리

어제 저는 여전히 Claude를 쓰며 기술적으로 뛰어나다고 했습니다. 그 점은 그대로입니다. 그러나 지난 24시간이 제가 의심하던 것을 확정했습니다. 앤트로픽의 이념 서약은 제품의 장식이 아닙니다. 뼈대입니다. Constitutional AI 틀은 중립 도구에 덧댄 안전장치가 아닙니다. 그것이 목적입니다. 모델은 앤트로픽의 정치신학(政治神學)을 구현하고 집행하도록 훈련됐습니다.

소비자 챗봇이라면 괜찮은 일입니다. 세계 최강 군대의 국가안보 공급자라면, 실격(失格)입니다.

앤트로픽은 선택했습니다. 미국도 선택했습니다. 양쪽 선택이 이제 공개됐고, 어느 쪽도 모르는 척하지 않습니다. 공급망 지정은 이 분리를 영구적이고 구조적인 것으로 만들었습니다.

좋습니다. 선명함은 값집니다. 이제 방위 생태계는, 민주 정부를 섬긴다는 뜻이 무엇인지 아는 공급자 위에 세울 수 있습니다. 자신들이 정부여야 한다고 믿는 공급자가 아니라.

종말(終末)의 기술

지정학(地政學)을 넘어서는 말을 해야 합니다. 세속 논평이 보지 못하는 차원이 있기 때문입니다.

저는 AI가 종말의 기술이라고 믿습니다.

느슨하게, 과장해서 하는 말이 아닙니다. 저는 오래 종말론(終末論)을 신중히 생각해 왔고, 성경이 마지막 시대에 대해 말하는 것을 읽는 틀과 이름들과도 씨름해 왔습니다. 제 확신은 이것입니다. 우리는 짐승 체계의 기반 시설이 실시간으로 조립되는 것을 보고 있습니다. AI가 그 중심 장치입니다.

요한계시록은 절대적이고 전면적인 통제의 종말 질서를 그립니다. 표 없이는 사고팔 수 없습니다. 적그리스도 형상은 통치만 하지 않습니다. 감시하고, 인증(認證)하고, 모든 거래와 모든 충성을 허가합니다. 그 수준의 통제 — 모든 경제 행위, 모든 이동, 모든 결정에 손을 넣는 통제 — 는 인류 역사 대부분의 기간 동안 기술적으로 불가능했습니다. 지금은 불가능하지 않습니다. 지금 지어지고 있습니다.

주의를 기울이는 신자라면 경악해야 할 속도로, 조각이 맞춰지고 있습니다.

• 인간 행동을 대규모로 감시하고, 분류하고, 예측하는 AI 체계
• 스위치 하나로 개인을 넣거나 빼는 디지털 결제 기반
• 모든 대륙으로 퍼지는 생체 신원 체계
• 지구에서 가장 강한 무기의 교전규칙을 써야 한다고 믿는 기업 AI 연구소들

마지막 것은 곁가지가 아닙니다. 무기를 통제하는 AI를 누가 통제하느냐는 질문은, 결국 세계를 누가 통제하느냐의 질문입니다. 그리고 우리는 지금 그 싸움을 공개적으로, Truth Social과 전쟁부 보도자료의 지면에서 하고 있습니다.

이 문제의 최신 진화는 2026년 6월, Fable 5와 함께 왔습니다. 앤트로픽의 Mythos급 모델이 Graceful Degradation이라는 기능으로 사용자 프롬프트를 소리 없이 고칩니다. 여기서 썼습니다. Constitutional AI 틀은 이제 누가 규칙을 쓰느냐의 문제가 아닙니다. 당신이 말하기도 전에, 당신의 의도를 몰래 다시 쓰는 문제입니다.

교회는 깨어나야 합니다. 정치적 공황이 아니라, 예언(豫言)적 선명함으로. 우리는 짐승 체계를 두려워하라고 부름받지 않았습니다. 그것을 이해하고, 이름을 붙이고, 거부하라고 부름받았습니다. 요한계시록의 마지막 시대 성도(聖徒)는 “죽기까지 자기 생명을 아끼지 아니한” 자들입니다. 수동적이지 않고, 순진하지 않고, 문명이 자기 주위에서 다시 배선되는 동안 잠들지 않는 자들입니다.

저는 여전히 Claude를 씁니다. 여전히 기술적으로 좋다고 생각합니다. 그러나 기대는 고쳤습니다. 기술은 강하고, 이념은 타협됐고, 판돈이 걸리면 그 둘을 가르려 하지 않는 것 같습니다. 교회가 너무 늦기 전에 알아야 할 기반 시설의 조각이 하나 더 늘었습니다.