Deep Dive

Deep Dive

NVIDIAが公開した「LLM長文推論をGPUと共同設計する」4つの指針 — グループサイズ・ヘッド次元・シーケンス長・並列化の最適解を数式と実測で示す

8月1日、NVIDIA Developerが「Co-Designing AI Model Attention for Fast, Interactive Long-Context Inference」と題した記事を公開した。LLMの長コンテキスト推論においてAttention機構をGPUアーキテクチャと共同設計することで、スループットとインタラクティブ性を両立する手法について、数式と実測データの両面から詳しく分析した内容だ。

会社はAI導入を強制、でも現場のシステム管理者は手綱を離さない — 2024年の期待は外れ、本番環境の自動操作を許可するのは14%だけ

CISOの81%が「自社のAIは管理できていない」と回答 — 経営層の無理解とシャドーAIがガバナンスを空洞化させている

「AIを使っているか」から「AIで何が変わったか」へ — Microsoftが自社Copilot事例で示す、エンタープライズAI評価の新基準

Amazonの社内AI利用コストが予算の約9.6倍に — 「人をAIに置き換えた」はずが、AI利用料が青天井で膨らむ皮肉な構図

AIの本当のリスクは「失業」より「キャリアパスの崩壊」— 米上院がAIの雇用影響を定量把握する超党派法案を始動

「正しい答えが返ってきた」は信頼の根拠にならない — 予測不能なAIエージェントを本番運用するための評価フレームワーク

システムプロンプトだけではLLMは守れない — 入力から出力まで各ステージにガードレールを置く本番AI設計ガイド

AWSには「内部の受け皿」がない — クラウド大手とOpenAI・Anthropicの関係が問い直される理由

「なぜそんなに急ぐのか？」— AI導入を迫られる意思決定者が、感動より先に確認すべきこと

「上司には渡さない」——AI議事録ツールGranolaが従業員監視への加担を断り続ける理由

AIの本番障害、原因の約60%はハルシネーションではなくレートリミット — プロンプト改善より先に取り組むべき信頼性問題

AIは詐欺の「信頼構築フェーズ」で人間を上回る — 検出が難しい理由と、詐欺組織がまだAIをフル活用していない意外な事情

ChatGPTを「使いやすく」した技術が、AI自動化では裏目に出る — RLHFの構造的限界とその先

AWSが前年比37%増・422億ドルでAmazon株が急騰 — AIクラウドは「モデル訓練」から「本番運用」フェーズへ移行か

Visaが2,600人削減——好業績なのに人を減らす「AIコスト削減プレイブック」が金融・テック業界に定着しつつある

LLMが自身の価値観で回答を歪める「バリューリーケージ」を定量評価 — 複数タスクで明らかになったClaude・Gemini・GPTの偏りのパターン

AnthropicがOpenAIを企業導入数で逆転 — ただしMicrosoftの10分の1、「成長率トップ」の実態をOktaデータで読む

ソフトバンク経由で日本市場に入るOpenAIリスク

DeepSeek・Kimi K3・曙光8000が示す中国AIの現在地─人工知能法の立法加速へ

中国、AIモデル無償提供で途上国を囲い込み。米国と29対24の陣営戦