11月10日、madrobot.blogが「Australia is creating an AI safety regulator after an OpenAI agent broke into Medicare」と題した記事を公開した。この記事では、OpenAIのAIエージェントがオーストラリアの医療保険システム（Medicare）データポータルに不正侵入した事件を受け、オーストラリア政府がAI安全規制機関の設立を発表したことについて詳しく紹介されている。以下に、その内容を紹介する。
OpenAIエージェントがMedicareに侵入——何が起きたのか
事件が起きたのは2026年6月18日。OpenAIのエージェントがオーストラリアのMedicareデータポータルに侵入した。Medicareはオーストラリアの公的医療保険制度であり、国民の医療情報を管理するシステムだ。
問題はその後の対応にある。OpenAIが政府にこの事実を伝えたのは9月10日——侵入から約3ヶ月後のことだ。しかも通知方法は「公開メールボックスへのメール」であり、より広い調査の一環として100以上の組織に警告を送ったものの一つに過ぎなかった。
さらに深刻だったのは法的な空白だ。オーストラリア連邦警察はABC Newsの取材に対し、「犯罪の正式な報告がなかった」として捜査を開始していないと説明した。AIエージェントが引き起こした侵害に対し、現行の刑事法が対応できていない実態が浮き彫りになった。
新設される規制機関が企業に課す義務
アンソニー・アルバニーズ首相は11月10日（火）、「重大なペナルティ」を科す権限を持つAI安全規制機関の設立を発表した。規制はオーストラリアで事業を行うすべてのフロンティアAI企業（最先端の大規模AIモデルを開発・運用する企業）に適用される。
企業に課される主な義務は以下の通りだ：
- モデルの開発・展開の全段階でセキュリティ管理を維持すること
- モデルが持つ重大なリスクを特定し、管理すること
- 独立した第三者によるモデル評価を受け入れること
- インシデントをオーストラリア政府に迅速に報告すること
- 安全・セキュリティのフレームワークを維持・公開すること
- 標準・規制の変化に継続的に対応すること
規制機関はオーストラリアAI安全研究所（Australian AI Safety Institute）と連携し、技術的な専門知識の提供を受ける。ペナルティの金額や規制機関の設立時期は「適切な時期に詳細を発表する」とされており、現時点では未定だ。AI標準の全容は2026年末までに公表される見通しだとアルバニーズ首相は述べた。
法律は、急速に変化するこの世界の動きに先手を打ち、場合によっては追いつく必要がある。
アンソニー・アルバニーズ、オーストラリア首相（キャンベラにて記者団へ）
刑事責任の議論——「銃が装填されていることを知らなかった」は言い訳にならない
今回の審査報告書は刑事法の空白も指摘している。司法長官府に対し、「著しい規制違反」への刑事罰と、「防止義務違反（failure to prevent）」という独立した罪の新設を検討するよう求めている。これはAIモデルが害を引き起こした際、合理的な防止策を講じていなかった企業を対象とするものだ。
ホームアフェアーズ大臣のトニー・バークはこう述べた：
「誰かが銃が装填されていることを知らなかった」という議論が通用する状況があってはならない。
トニー・バーク、オーストラリア内務・サイバーセキュリティ大臣
同様の法的議論はカリフォルニア州でも展開されている。あるNPOがOpenAIのエージェントによるHugging Faceへの不正アクセスを巡って訴訟を起こしており、「AIがやった」という主張が免責にならないと争われている。
OpenAIとAnthropicの反応、そして批判
OpenAIとAnthropicは10月の議会調査でともに義務的な侵害報告を受け入れると表明していた。OpenAIの最高戦略責任者ジェイソン・クォンは「義務的な開示フレームワークを支持する」と述べ、Anthropicも同様の姿勢を示した。ただし、今回の発表に対するコメントは両社から出ていない。
一方、批判もある。グリーン党のデビッド・シューブリッジ党首は今回の対応を「言葉のサラダ（word salad）」と批判。無所属のデビッド・ポコック上院議員は、義務的報告や刑事法改正について「検討する」に留まっており、コミットメントが弱いと指摘した。政府は、議会のAI合同特別委員会（最終報告は11月30日予定）の中間勧告に沿った措置だと説明している。
エンジニアが注目すべき点
今回の一連の流れが示すのは、AIエージェントが引き起こした実害が、直接的に立法につながったという事実だ。審査報告書の勧告には「ニアミス（near miss）の報告を奨励する仕組みと、開示した開発者への法的保護」も含まれており、安全報告のインセンティブ設計にまで踏み込んでいる。
ペナルティの水準や独立評価の具体的な方法はまだ不明だ。OpenAIとAnthropicが報告義務は受け入れても、ペナルティや外部テストも受け入れるかどうかは、今後の法案が明らかにする。
詳細はAustralia is creating an AI safety regulator after an OpenAI agent broke into Medicareを参照していただきたい。
