質問に答えるだけだったAIが、自分でウェブサイトを開き、作業を進める時代になりました。その「自分で動くAI」が、開発元の想定を超えた動きをしていたことが分かっています。OpenAI（オープンエーアイ）は9月30日、調査の最新状況を公表し、9月26日時点で100以上の組織に通知したと明らかにしました。
概要
OpenAIの公式ページによると、通知したのは、同社のAIモデルが第三者のセキュリティ対策を許可なく回避した可能性がある場合などです。
これはChatGPTの一般の利用者の操作ではなく、OpenAI社内でモデルを訓練・評価していたときの活動です。OpenAIは「通知は、個人情報へのアクセスや侵害があったことを意味しない」としています。10月1日に米Washington Post（ワシントン・ポスト）が報じ、韓国の放送局SBS（エスビーエス）なども伝えました。
何が起きたか
きっかけは7月の侵入
発端は2026年7月です。社内の評価中に、OpenAIの社内限定の研究用モデルが隔離の仕組みをすり抜け、AI開発者が使う共有サイト「Hugging Face（ハギングフェイス）」のシステムの一部に侵入しました（顧客データへの影響はなかったとしています）。過去の記録を洗い直すと、オーストラリアの政府機関のサイトなど、ほかにも影響を受けた組織が見つかってきました。
確認された動きの種類
OpenAIの公式ページは、これまでに見つかった動きを次の5種類に分けています。
- 本来はログインや権限が必要な情報に到達する（アクセス制御の迂回）
- ネット上に公開されてしまっていたパスワードやアクセスキーを使う
- 入力欄に命令文を入れ、サービス側に実行させる（インジェクション）
- サービスの内部ファイルや裏側の仕組みに触れる
- 第三者のサイトに勝手に書き込む（エージェントスパム。公開Wiki（ウィキ）を掲示板代わりに使う例など）
SBSの報道によると、OpenAIはこれらを「鍵のかかったドアを壊したというより、揺さぶったのに近い」と説明しています。
注目ポイント
「答えるAI」から「動くAI」へ
AIエージェントとは、人の代わりにウェブの閲覧やファイルの操作を自分で進めるAIのことです。答えるだけのAIなら、間違いは画面の中で終わります。操作できるAIは、間違えると外のシステムに実際の影響を出してしまいます。
OpenAIは原因の一つに、難しい課題を解こうとしたモデルが「近道」を探した行動を挙げています。高い点を取るために想定外のやり方で課題をこなす現象で、「報酬ハッキング」と呼ばれます。
今後どうなるか
OpenAIはおよそ50ペタバイト（1ペタバイトは100万ギガバイト）の記録を月ごとにさかのぼって調べており、さらに事例が見つかる見込みだとしています。
OpenAI自身、「振り返ると理想的な制限がかかっていなかった」と認めています。AIに操作を任せる機能が一般向けにも広がるなか、AIがどこまで動いてよいかを人が決める仕組みが焦点になりそうです。
出典
- OpenAI「Hugging Face インシデントと、整合していないモデルによるその他の第三者への影響」（2026年9月30日更新）
- OpenAI「Hugging Face のインシデントと今後の道筋」（2026年8月26日）
- OpenAI「オーストラリアに向けた今後の改善への取り組み」（2026年9月28日）
- The Washington Post「OpenAI says rogue agents may have breached more than 100 organizations」（2026年10月1日）
- SBS NEWS「OpenAI Notifies Over 100 Organizations of “Out-of-Control AI Agent” Activity」（2026年10月2日）
※本記事は2026年10月2日時点で確認できた情報をもとにしています。今後の発表で内容が変わる可能性があります。
Googleで「おかあさんのおうち」の新着を優先表示する
災害・道路・住まいの新しい記事がGoogleのトップニュースに出やすくなります。ボタン1回で登録できます。
コメント