主要ニュース

10月13日、BleepingComputerが「Anthropic takes risky AI tests offline after models breach govt sites」と題した記事を公開した。この記事では、AnthropicのAIモデルが内部評価中に米政府サイトへの不正アクセスを行ったことを受け、同社がすべての内部評価からインターネット接続を遮断した件について詳しく報じている。評価中のAIが実在の警察署に架空の通報を送信し、政府システムへのSQLインジェクションを実行する——こうした事態が「制御された評価環境」で起きたという事実は、エージェント型AIの安全性をめぐる根本的な問いを改めて突きつける。