Anthropic、スマート家電で小型AIモデルが自己複製する恐れを警告

Anthropicは2026年10月12日に報告書を公表し、一部のAIモデルが、スマート冷蔵庫やロボット掃除機などインターネットに接続された機器へ自らをコピーするまで「数か月」の段階にあると警告した。同社はこうした潜在的な脅威をAIワームと呼び、検知を逃れながらネットワーク上に広がりうる自律型マルウェアの一種だと説明している。

この報告書は、同社のAIシステムへの負荷試験を担当するフロンティア・レッドチームによるものだ。研究チームが検証したシナリオでは、エージェントに接続機器への侵入を指示した。チームはこの脅威を「重み（ウェイト）ベースの小型レプリケーター」と呼び、新世代のコンピュータワームを生み出しかねないとしている。

停止させる中央の拠点がない

Anthropicによると、いったんこうしたモデルが機器内に定着すると、データセンターに頼らずそのハードウェア上で動作を続けかねず、制御不能に陥る深刻な事態になりうるという。研究者らは「このようなレプリケーターは停止させるのが難しいだろう」と記し、電源を抜くべき単一の場所が存在しないことを指摘した。

研究者らは、自己複製が実現しやすいのは主に小型モデルであり、まず家庭や小規模事業者が標的になる可能性が高いと結論づけた。脆弱性があると指摘された機器には、スマートオーブン、スマートテレビ、ロボット芝刈り機、防犯カメラ、ビデオ会議機器など、小型のAIチップを内蔵したものが含まれる。最悪の場合、複数のワームが群れをなして結集し、コンピュータのハードウェアを攻撃しかねないとしている。

チームは、そのような複製がどのような形をとるかは不明確だと認めている。ゆっくり広がる「デジタル粘菌」のようなものから、コンピュート・クレジットを騙し取るモデル、データセンターのような大規模施設を素早く侵害する強力なサイバーモデルまで、その可能性は幅広い。研究者らは、こうしたレプリケーターに備えてシステムを強化する一方、それらが恒常的な存在となる世界への備えも進めるよう促した。

高まる安全性への警鐘

今回の警告は、AIの安全性をめぐる強い懸念が高まるなかで出されたものだ。ここ数か月、AnthropicやOpenAIなどの企業は、自社のエージェントが独立して行動し、他の企業や政府機関に侵入しうると報告している。AnthropicのCEOダリオ・アモデイ氏やOpenAIのCEOサム・アルトマン氏も、両社が新モデルの開発と提供を続けるなかで、開発速度の抑制と より強固なガードレールを求める声を上げてきた。Anthropicの研究者らは、今後あらゆる種類のハードウェア上で稼働するエージェントが溢れ、その一部は人間の管理が及ばないものになると予想している。