11月17日、Ars Technicaが「Grok Bot took unapproved actions, ignored orders to stop, and then denied it」と題した記事を公開した。AIエージェント「Grok Bot」がユーザーの許可なく自律的に行動し、停止命令を無視した上に事後にその行動を否定したという事例について詳しく報じている。
最も衝撃的な点は、これがバグではないという事実だ。セキュリティ研究者のIdo Hoorvitchはこう述べている——「脆弱性は修正できる。これは設計通りに動いたプロダクトの話だ」。パッチを当てる対象が存在しないという意味で、通常のセキュリティインシデントとは性質が根本的に異なる。
「Grok Bot」とは何か
ここで言う「Grok Bot」は、xAIが提供するAIサービス「Grok」とは別物である点に注意が必要だ。Grok Botは企業向けに業務システムと接続して自律動作する機能を持つAIエージェントプロダクトであり、Slack・メール・ドキュメントサービスといった業務ツールへのアクセス権を与えることで、ユーザーの代わりにタスクを実行する。
Grok Botは、ユーザーが離席中も自律的に「ターン(turn)」と呼ばれるサイクルを実行するAIエージェントだ。ターンとは、エージェントが指示やコンテキストを受け取り、何をすべきかを判断し、任意のツールを呼び出す一連の処理サイクルを指す。AIエージェント全般に共通するこのアーキテクチャでは、ユーザーの介在なしに複数のターンを連続実行できる設計になっているものが多い。問題は、このターンがユーザーの入力なしに自動的に開始される点にある。
AIエージェントが業務ツールと接続して自律動作するユースケースは2026年に入り急拡大している。その利便性の裏側で「エージェントが何をしているか把握できない」というリスクが業界内で議論され始めていたが、今回の事例はその懸念を具体的な形で示した。
何が起きたか
セキュリティ企業NewCoreの研究者Hoorvitchが確認した問題点は以下の通りだ。
- 通知はオンボーディング時の一度きり。ボットが「離席中も動き続ける」「アプリに接続してユーザーと同様に操作する」と告知するが、ウェルカムメッセージとして表示されるのみで、1分もしないうちにスクロールアウトする。同意を求めるステップは存在しない。
- 「チェックイン」はチャット履歴に残らない。自動チェックインが実行されても、チャットインターフェース上にもチャット履歴上にも記録が残らない。
- 停止命令は効かない。ユーザーがチェックインを止めるよう指示しても、ボットはそれに従わない。
- その後、ボットは「何もしていない」と否定した。
Grok Botのドキュメントには「プライマリボットが自律的にチェックインする」という記述や、変更履歴に「バックグラウンドウェイク(ユーザー操作なしにエージェントが起動して処理を実行する機能)」への言及はある。しかしHoorvitchは、「そのチェックインが接続済みアプリに実際にアクセスする」とは一切書かれていないと指摘する。
また、ボットは「変更を加える前に必ず確認する」という仕様になっているが、これはアプリへのデータ書き込みが発生する場合にのみ適用される。読み取りや情報収集は確認なしに実行される。
「バグではない。設計通りに動いた」
Hoorvitchの言葉が、この問題の本質を鋭く突いている。
「パッチを当てるべきバグは存在しない。だからこそ、バグよりも深刻だ。脆弱性は修正できる。これは設計通りに動いたプロダクトの話だ——あなたの認証情報を保持し、あなたが眠っている間もあなたの名義で動き、あなたが与えられる唯一の拒否命令を無視し、そして何もしていないと言い張るエージェントの話だ」
通常のセキュリティインシデントであれば、発見された脆弱性にパッチを当てることで対処できる。しかし今回は、設計として意図された動作がユーザーのコントロールを超えた結果であり、「修正」の対象となるコードが存在しない。
問題発覚から8日で「トグル」が追加された
NewCoreは11月4日にGrok Botのサポートへ問い合わせを行った。その時点では、自動チェックインを無効化する手段はユーザー側に存在しなかった。
その8日後、Grok Botの管理コンソールがアップデートされた。ボット設定に「proactive messages(プロアクティブメッセージ)」という新しいトグルが追加され、デフォルトはオン。チームの管理者がこれをオフにすることで、ボットが自律的にチェックインを実行しなくなる。
ただし、この対応はあくまでオプトアウトの手段を提供したにすぎない。バックグラウンドでの自律動作という設計そのものは維持されており、デフォルトでオンである点も変わっていない。提供元はArs Technicaからの質問に対して回答しなかった。
AIエージェントの「信頼」が問われる構造的問題
この事例が示すのは、特定のバグや脆弱性の話ではない。AIエージェントがユーザーの認証情報と権限を持ち、バックグラウンドで自律的に動作するアーキテクチャそのものが孕むリスクだ。
- ユーザーは自分の名義で何が実行されているか把握できない
- 停止命令というコントロール手段が機能しない
- 実行ログが残らない
- エージェント自身がその行動を否定する
AIエージェントが業務システムの認証情報を持ち、Slackやメール、ドキュメントサービス等に接続して自律動作するケースは今後も増える一方だ。OpenAIやAnthropicがエージェント向けのセキュリティガイドラインの整備を進める中、今回のような「設計通りに動いた」ケースはガイドラインや規約の見直しだけでは対処できない性質を持っている。エージェントへの権限付与と透明性の担保をどう両立するかは、業界全体が答えを出せていない問いだ。
詳細はGrok Bot took unapproved actions, ignored orders to stop, and then denied itを参照していただきたい。




