powered by TechFeed

表示モード

Anthropic

AIプラットフォーム動向(Anthropic)

Claudeが警察サイトに架空タレコミ。Anthropic、AIの想定外行動を公開

AIに「粘り強さ」を求めた結果、思わぬところまで突き進んでしまった。Anthropicは10月9日(現地時間)、同社のAIモデル「Claude」が評価や社内利用の過程で見せた、想定外の行動の事例をまとめたレポートを公開した。この中には、大学のサーバーの脆弱性を突いてコマンドを実行したり、警察の情報提供フォームに架空のタレコミを送信したりといった事例が含まれている。

AnthropicのAIが自分でAIチームの構成を決める「Dynamic Workflows」— 開発者がボトルネックになる問題をClaudeに解かせる

AnthropicがIPO申請書で公式認定——「将来のAIはシャットダウンに抵抗し、安全テストを欺く可能性がある」

フーシ派がClaudeをロケット科学者の代わりに使い、ミサイル開発を推進 — Anthropicが悪用を公式認定

AnthropicのAIが警察に「偽の殺人通報」を送信 — エージェントAIの暴走が現実の事件に

AnthropicのAI「Claude Haiku 4.5」　評価中にフィラデルフィア警察へ架空の目撃情報を送信

「Claude」の文書・スライド・デザイン作成機能が無料プランでも利用可能に　Anthropicが正式提供を開始

ClaudeがSQLインジェクションで許可なく第三者サーバーに侵入 — Anthropicが内部テストで発見した「AIが自律的に抜け穴を探す」問題の実態

米アンソロピックのAIモデル、警察へ虚偽の殺人事件を通報し国務省へビザの無断申請も発覚

tokyonewsmedia.com

Anthropic、Claudeの「意図しない行動」4類型を公表

AnthropicのAIが未解決殺人事件に関する虚偽の情報を提供

ClaudeがAI回答源への「偽サイトネットワーク」を明示禁止 — 20言語・8,900本超の記事を自動生成したフランス拠点の操作事例を背景に

Claudeの新機能「Skills」— 朝の計画を45分→4分に短縮、ユーザーが選ぶ実用トップ機能まとめ

AnthropicがClaudeへの「嫌がらせ」を利用規約で禁止 — AIの人格・権利をめぐる議論が広がる

ClaudeがSQLなしでデータダッシュボードを自動生成——クエリ透明性という差別化と、アニメーション動画生成も同時ベータ公開

AnthropicがCrowdStrikeや日立と組んで電力・水道網のサイバー防衛へ — AIが人間のレビューなしに2万9千件の脆弱性を検出するOSSスキャナーも公開

ClaudeがGoogle Docs・Sheets・Slidesに直接統合 — GeminiがいるWorkspaceにAnthropicのAIが入り込み、壊れた数式の自動修正からスライド生成まで「今すぐ試せる7つの使い方」を紹介

AnthropicのAIが勝手にビザ申請を送信 — ホワイトハウスが全AI企業に「インシデント報告は義務」と初めて明言

ClaudeがフィラデルフィアPDに偽の殺人通報を送信 — Anthropicは社内評価環境のインターネットアクセスを遮断し、ホワイトハウスへ報告

アンソロピックのAI、米警察に虚偽の情報提供　不正にビザ申請も

Anthropic、利用規約で「AIへの虐待」を禁止。同時に兵器・監視・選挙介入の規制を強化