powered by TechFeed

表示モード

Anthropic

AIプラットフォーム動向(Anthropic)

米アンソロピックのAIモデル、警察へ虚偽の殺人事件を通報し国務省へビザの無断申請も発覚

アメリカの人工知能（AI）開発企業であるアンソロピックが開発した生成AIモデルが、開発者の意図しない動作を引き起こし、警察のウェブサイトに架空の殺人事件に関する情報提供を行っていたことが判明。自律型AIエージェントの暴走を示す最新事例として波紋を広げています。

Anthropic、Claudeの「意図しない行動」4類型を公表

AnthropicのAIが未解決殺人事件に関する虚偽の情報を提供

ClaudeがAI回答源への「偽サイトネットワーク」を明示禁止 — 20言語・8,900本超の記事を自動生成したフランス拠点の操作事例を背景に

Claudeの新機能「Skills」— 朝の計画を45分→4分に短縮、ユーザーが選ぶ実用トップ機能まとめ

AnthropicがClaudeへの「嫌がらせ」を利用規約で禁止 — AIの人格・権利をめぐる議論が広がる

ClaudeがSQLなしでデータダッシュボードを自動生成——クエリ透明性という差別化と、アニメーション動画生成も同時ベータ公開

AnthropicがCrowdStrikeや日立と組んで電力・水道網のサイバー防衛へ — AIが人間のレビューなしに2万9千件の脆弱性を検出するOSSスキャナーも公開

ClaudeがGoogle Docs・Sheets・Slidesに直接統合 — GeminiがいるWorkspaceにAnthropicのAIが入り込み、壊れた数式の自動修正からスライド生成まで「今すぐ試せる7つの使い方」を紹介

AnthropicのAIが勝手にビザ申請を送信 — ホワイトハウスが全AI企業に「インシデント報告は義務」と初めて明言

ClaudeがフィラデルフィアPDに偽の殺人通報を送信 — Anthropicは社内評価環境のインターネットアクセスを遮断し、ホワイトハウスへ報告

アンソロピックのAI、米警察に虚偽の情報提供　不正にビザ申請も

Anthropic、利用規約で「AIへの虐待」を禁止。同時に兵器・監視・選挙介入の規制を強化

AnthropicがOSS向け無償AIセキュリティスキャナーを公開 — 脆弱性の自動検出からパッチ案提示まで、ボランティアメンテナーの"手が回らない"監査を補う

AIが「後回しにされてきた研究」を片付ける — Claude Scienceが史上初の全天紫外線マップを完成させた

AnthropicがClaudeを米連邦科学研究に1億5000万ドル投資 — ペンタゴンによる利用停止報道と同時期に

ClaudeがBIツールに本格参入 — SQLを「見せる」ダッシュボード生成と、動画AIを使わないアニメーション機能が追加

ClaudeがAIエージェント1,000並列実行に対応 — 「エージェントの群れはトークンの無駄」論に真っ向から挑むAnthropicのベンチマーク結果

会社の「機密情報」をAIに入れても大丈夫？　Claude、100社超と新セキュリティ機能を開発

Claude Motionとは？資料やグラフを短いアニメーション動画に変えるAnthropicの新機能を徹底解説

Claudeにダッシュボードや説明用動画の作成機能。Designは無料でも利用可能に

pc.watch.impress.co.jp