アンソロピック社員がAI危険性を警告、マスク氏は「心理戦」と反論

AIの安全性をめぐる議論が、にわかに生々しい社内告発と政治的対立の様相を帯びてきた。アンソロピックの研究者が相次いで「今世紀末に人類を滅ぼしかねない」超知能の危険性を訴え、テスラCEOのイーロン・マスク氏らはそれを「仕組まれた心理戦」と切り捨てたのである。同じ時期に同社が公表したAI悪用報告には、生物兵器につながりかねない研究の事例まで含まれていた。技術の進歩と規制の綱引きが、いま臨界点に近づいている。

核心的な内容

• 研究者の相次ぐ離反と告発: アンソロピックの研究者ジェイコブ・コクソン氏は9月8日、X上で退職を表明し、AI企業が「今世紀末に我々全員を滅ぼす可能性のある」超知能（ASI）の開発を競い合っていると警告した。これに続き、社内の複数の関係者が同調し、技術が危険な水準に達する可能性を認めた。

• 再帰的自己改善AIへの対策不在: 汎用人工知能（AGI）の安全業務に従事し、以前はグーグルのDeepMindに在籍していたアンナ・ワン氏は、自己改良を繰り返すAIのリスクに対処する実行可能な科学計画が存在しないと指摘した。同社内には開発の歩調を緩めることを望む声が多いという。

• 「保障措置が追いつかない」: 別の社員ドレイク・トーマス氏は、開発の速度があまりに速く、ASIに期待される安全水準には程遠いと述べた。安全研究担当のサミュエル・マークス氏は、開発者自身が人類絶滅級の帰結を信じているとし、職位が高い社員ほど懸念が強いと明かした。

• マスク氏の「心理戦」主張: マスク氏は一連の警告を「仕組まれたもの」と表現し、世論をAIに不利な方向へ誘導する心理戦の火種にすぎないと主張した。保守系シンクタンクの研究者が根拠を示さずに唱えた説を引用した形である。

• 投資家コミュニティの反応: ヘッジファンドのパーシング・スクエアCEO、ビル・アックマン氏もこの投稿を引用し「興味深い」と短くコメントした。AI規制をめぐる立場が、投資家の間でも分かれていることをうかがわせる。

• 生物兵器リスクの実例: アンソロピックは9月10日の報告で、過去8カ月の悪用事例を公表した。5月には科学者が蚊媒介性のチクングニア熱ウイルスについて、病原性を高める機能獲得研究の助成申請書作成にAIモデル「Claude」を利用しようとした。

軍事機関での研究という懸念: 問題の研究が軍事研究機関で計画されていた点が、同社の脅威情報責任者ジェイコブ・クライン氏により特に憂慮すべき要素として挙げられた。兵器化が目的かは不明だが、軍事機関による機能獲得研究は警戒に値するという判断である。

正当研究との区別の困難: ワクチン開発につながる正当な生物学研究も、危険な病原体の設計に転用され得る。同社は目的の善悪を確定できないため、悪意ある活動の帰結が極めて深刻であることを踏まえ、慎重な対応を選んだと説明している。

深層分析

今回の騒動の本質は、単なる一企業の内部告発ではなく、フロンティアAI開発の「説明責任の空白」が表面化した点にある。研究者たちは自らが作る技術の危険性を認識しながら、それを止める科学的・制度的な手段を持たない。この矛盾は、開発競争が国家間・企業間で激化するほど深刻になる。

マスク氏の「心理戦」論は、規制強化への警戒感と表裏一体である。彼はAIのリスク自体を否定したわけではなく、警告の出し方やタイミングが政治的意図に利用され得ると主張している。実際、AI規制は米国でも党派対立の争点になりつつあり、安全性の議論が政策闘争に回収される危険は無視できない。

一方で、生物兵器リスクの報告は規制論争を超えた重みを持つ。機能獲得研究の善悪は外見上区別できず、AI企業が「慎重に拒否する」判断を下すしかないという構造は、民間企業に事実上の安全保障判断を委ねていることを意味する。これは民主的な統制の観点から看過できない。

日本市場への含意も小さくない。国内のAI導入は業務効率化が中心だが、医療・創薬分野では同じ二重用途のジレンマが生じ得る。欧米の規制動向と安全基準は、日本企業の調達・開発方針にも波及する。

今後は、モデルの能力評価だけでなく、悪用検知の透明性や第三者監査の仕組みが競争力の一部になるだろう。警告を「陰謀」と片付けるか、制度設計の材料にするかで、各国のAI産業の信頼性は大きく分かれる。

よくある質問

Q. アンソロピックの研究者はなぜ辞職までして警告したのですか。

A. 同社の研究者たちは、自己改良を繰り返すAIへの有効な安全策が存在しないまま開発が進んでいると考えています。社内でも懸念は共有されていたものの、公に発言する人は限られており、退職という形で問題を可視化したのです。

Q. マスク氏の「心理戦」主張は事実に基づくのですか。

A. 明確な証拠は示されていません。同氏は警告の内容そのものよりも、それが規制強化や特定政党への支持につながる世論誘導に使われ得ると主張しており、根拠のない推測の域を出ない見方です。

Q. 生物兵器につながる研究は実際に防げたのですか。

参考 URL: https://www.thepaper.cn/newsDetail_forward_34049099