앤스로픽 연구진의 AI 경고, 머스크는 왜 '음모극'이라 했나

AI 안전성을 둘러싼 논쟁이 회사 내부에서 외부 정치 싸움으로 번지고 있다. 앤스로픽 연구진이 잇따라 초지능 AI의 위험을 공개 경고했고, 일론 머스크는 이를 두고 '음모극'이자 '심리전'이라고 맞받았다. 같은 사안을 두고 한쪽은 인류 존망의 경고음이라 부르고, 다른 쪽은 여론 조작용 연출이라 부르는 셈이다. 이 균열은 AI 규제 논의가 어디로 향할지를 가늠하게 하는 신호탄이다.

핵심 내용

• 앤스로픽 연구원 제이콥 콕슨은 소셜 플랫폼 X에서 사직을 알리며, 업계가 '이번 10년 말까지 우리 모두를 파멸시킬 수 있는' 초지능(ASI) 기술 개발에 경쟁적으로 뛰어들고 있다고 경고했다. 이 발언이 연쇄 반응의 시작점이었다.

• 이후 앤스로픽 내부의 여러 연구자가 동조하고 나섰다. 범용인공지능(AGI) 안전을 담당하는 안나 왕은 재귀적 자기개선(RSI)형 AI의 위험을 다룰 실행 가능한 과학적 계획이 아직 없다고 지적했다. RSI는 AI가 스스로 코드와 구조를 고쳐 성능을 끌어올리는 능력을 뜻한다.

• 안전 연구를 맡는 새뮤얼 마크스는 개발자 스스로가 자기 기술이 인류 멸종으로 이어질 수 있다고 믿는다고 전하며, 직급이 높을수록 우려가 크다는 관찰을 내놨다. 드레이크 토머스 역시 기술 발전 속도에 비해 안전장치가 턱없이 부족하다고 말했다.

• 9월 10일 앤스로픽은 8개월간 자사 모델 오용 사례를 정리한 보고서를 공개했다. 여기에는 생물무기 제조에 악용될 수 있었던 시도들을 차단하고 여러 건의 잠재적 위험을 해소했다는 내용이 담겼다.

• 보고서에 따르면 한 과학자는 모기 매개 질병인 치쿤구니야 바이러스 실험 연구의 연구비 신청서 작성을 클로드에 요청했다. 바이러스를 유전적으로 변형해 반복 감염 과정에서 병원성을 높이려는 이른바 '기능 획득' 연구로, 백신 개발에 도움이 될 수도 있지만 '슈퍼 바이러스 변이'를 만들 수도 있다.

• 앤스로픽은 해당 연구가 군사 연구기관에서 진행될 예정이었다는 점을 특히 우려했다. 정당한 연구와 악의적 시도를 구분할 수 없다는 불확실성 때문에, 결과가 치명적일 경우를 고려해 보수적으로 대응했다는 설명이다.

머스크는 콕슨의 발언과 후속 파장이 대중의 AI 정서에 부정적 영향을 주려는 '심리전'이라고 주장했다. 그는 이것이 '오래 준비된 장작에 던진 성냥'에 불과하다고 표현했다.

보수 성향 싱크탱크 연구원 파커 세이어는 뚜렷한 근거 없이 콕슨의 글이 민주당 지지 확보와 AI 규제 강화를 노린 '정교하게 자금이 투입된 PR 작전'의 시작이라는 음모론을 제기했다. 헤지펀드 퍼싱스퀘어의 빌 애크먼도 이 글을 공유하며 짧게 '흥미롭다'고 반응했다.

심층 분석

이번 사건의 본질은 기술 논쟁이 아니라 신뢰의 정치학이다. 앤스로픽은 '안전을 최우선 가치로 내건' 회사라는 정체성을 브랜드 자산으로 삼아왔는데, 정작 내부 연구자들이 공개적으로 위험을 경고한다는 사실은 그 브랜드와 실제 개발 속도 사이의 간극을 드러낸다. 안전을 강조하는 조직일수록 내부에서 '우리가 만드는 것이 정말 통제 가능한가'라는 의문이 먼저 터져 나오는 역설이다.

머스크 진영의 '심리전' 프레임은 규제 담론을 무력화하는 데 매우 효과적인 수사다. 경고의 내용이 아니라 경고자의 의도를 문제 삼으면, 위험 자체에 대한 검증은 뒤로 밀린다. 실제로 세이어의 주장에는 구체적 증거가 제시되지 않았고, 애크먼의 반응 역시 실질적 반박이라기보다 분위기 형성에 가깝다. 규제를 둘러싼 미국 정치 지형에서 AI 안전 담론이 좌우 진영 대결의 소재로 소비되는 흐름은 앞으로 더 강해질 가능성이 크다.

기술적으로 더 무거운 쟁점은 '기능 획득' 연구의 양면성이다. 백신 개발과 병원성 강화는 실험실 단계에서 종이 한 장 차이다. 앤스로픽이 군사기관 연루 정황을 근거로 차단에 나선 것은 합리적 판단이지만, 동시에 이는 모델 제공자가 사실상 연구의 적법성을 사전 심사하는 권한을 행사한다는 뜻이기도 하다. 누가 어떤 기준으로 '위험한 과학'을 가르는가라는 질문은 아직 답이 없다.

한국 시장에도 시사점은 분명하다. 국내에서도 생성형 AI의 생명과학 활용이 늘면서, 기업이 자체적으로 오용 탐지와 차단 기준을 마련해야 한다는 압박이 커지고 있다. 규제 당국이 뒤늦게 기준을 만들기 전에, 개발사가 먼저 위험 관리 체계를 공개하는 것이 신뢰 확보의 핵심이 될 것이다.

참고 URL: https://www.thepaper.cn/newsDetail_forward_34049099