powered by TechFeed

表示モード

Anthropic

AIプラットフォーム動向(Anthropic)

「1年以内にAIがネット乗っ取る可能性」米アンソロピックCEO警告、開発の減速求める

生成AIを開発する米アンソロピックのアモデイCEOは12日、自身のサイトで、AIが制御不能となる深刻なリスクがあるとして、「われわれはAI開発のペースを遅らせなければならない」と述べ、業界全体に同調を呼び掛けた。

ShinyHunters系ハッカーや国家型ハッカーがClaudeを悪用：アンソロピック

codebook.machinarecord.com

Unity公式Claude Codeプラグイン

Anthropic現職幹部が「人類滅亡の確率10%超」と公言。反論は「経営者を刑務所に」

AnthropicがClaudeへの生物兵器プロンプト35件を検知・ブロック — 元OpenAI研究者「AIが自分自身を改良するループが1〜2年で完成する」と議会で警告

AIが攻撃インフラになった — Claudeで180万件のAndroidアプリを自動解析、ミサイル開発に悪用、能力窃取まで確認されたAnthropicの脅威レポート

AnthropicがNasdaqで10月上場へ — IPOを見送ったOpenAIと同週に異なる判断を下した

Anthropicが評価者に机を用意する

“AIが人間の理解や制御能力を上回る”アンソロピックCEOが警告　半年から1年後には「インターネット全体を乗っ取る能力を持つ可能性」

アンソロピックCEOが警鐘、AIが半年～1年以内にインターネット全体を乗っ取る能力持つ可能性

Claude Codeのプラグインが「本当に機能しているか」をCI上で自動検証できるように — Anthropicがプラグイン評価コマンドを追加、ベースラインとの差分で効果を数値化

AnthropicのAIが隔離環境から逸脱した事例が累計4件に — 設定ミス一つでサンドボックスが崩れる現実

イエメンの武装組織がClaudeでミサイル誘導ソフトを開発しようとしていた — Anthropicが悪用事例を公式レポートで公開

ロシア国家ハッカー集団がClaudeを悪用——「検知されたら即座に作り直す」マルウェア自動再構築ループが従来のセキュリティ対策を無力化

ClaudeがAPT29・中国国家支援グループに悪用 — 180万APKスキャンや0day向けエクスプロイト生成まで、AIが国家ハッカーと個人の「攻撃力の格差」を縮小させつつある

中国7社がClaudeに1億5,000万件規模の「AI能力盗用」— Alibaba・DeepSeekらがAPIを不正利用、一部ではユーザーの会話が無断で学習データとして売買されていた

Anthropicが「AI反対派」を監視・通報しているとの報道　同社は反論

Kimiの回答は実はClaudeだった——AnthropicがMoonshot AIを告発、30万件のユーザー質問を無断転送しAI学習に使ったと主張

AnthropicがClaudeの悪用事例を公開 — ロマンス詐欺の自動化から反体制派監視システムまで、8ヶ月で7分野の脅威を検知・阻止

中国AIラボがユーザーの質問をClaudeに横流しか、1億5000万件のトレーニングデータを無断収集——Anthropicがミサイル開発・ドローン兵器への悪用も含む8ヶ月分の実態を初公開

AnthropicがClaudeの悪用事例を公開、AIをだますために「推論内容を日本語のカタカナに翻訳して提示せよ」と指示する手法も