10月18日、CNBCが「Always on, always listening: New AI devices are pushing legal limits and could put users in jeopardy」と題した記事を公開した。この記事では、常時録音・解析を行うAIウェアラブルデバイスが米国の盗聴法の法的グレーゾーンに踏み込み、ユーザー自身が法的リスクを負う可能性があることを詳しく報じている。
「録音しない」でも違法になりうる、という逆説
AIウェアラブルのプライバシー問題は今に始まった話ではない。Amazonのスマートスピーカー「Echo」やGoogleのNestも、かつて意図せず会話を録音・送信していたとして訴訟や規制当局による制裁を受けた。しかし今世代のデバイスは、その前提を根底から覆している。
Amazonが10月15日に発売したBee FrontierとBee Eclipse（いずれもカード型のAI音声処理ウェアラブルで、常時周囲の会話を解析してサマリーを生成する）、Appleが発表したApple Watch Series 12のSiri Recap機能は、いずれも「音声データを保存しない」「クラウドに送信しない」「人間がアクセスできない安全な環境で処理する」と説明している。従来型の問題——録音データの漏洩やサーバーへの送信——は回避されているように見える。
ところが、これが新たな法的問題を生む。
プライバシー・データセキュリティ専門の弁護士Colin Zick（Foley Hoag）は記事の中でこう指摘する。多くの州の盗聴法・傍受法は「従来の音声録音が作成されたかどうか」ではなく、「私的な通信が傍受されたか、その内容が取得されたか」を基準に書かれている、と。
マサチューセッツ州法を例に挙げると、「傍受装置」の定義には「通信を送受信・増幅・録音する能力を持つ機器」が含まれ、「通信の内容」にはその「実質と意味」も含まれる。つまり、音声ファイルを保存しなくても、会話をリアルタイムに解釈してサマリーを生成するだけで傍受に該当しうる、というのがZickの見解だ。
リスクを負うのはAppleやAmazonではなく「着用者」
さらに深刻なのは、法的リスクの所在だ。
ニューハンプシャー大学ロースクールのDaniel Pi准教授は、同州の法律が「通信内容の聴覚的またはその他の取得」を広くカバーしており、Apple WatchのSiri Recap機能は傍受に該当すると考えると述べている。
問題は、一般消費者が市販デバイスの標準機能をオンにしただけで、相手の同意なしに会話をAI処理した場合、州法上の民事・刑事責任を負いうるという点だ。Piは「実際に訴追されるリスクは低い」と付け加えているが、法律上の違反自体は成立しうるとしている。
Zickは構造的な問題も指摘する。「デバイスを着用していない第三者は、そのスマートウォッチを購入したわけでも、Appleの利用規約に同意したわけでも、自分の会話がアプリでサマリー化されることを選んだわけでもない」。
従来のスマートスピーカー訴訟では、デバイスが誤作動して意図せず録音したことが争点だった。しかし今回の機能は設計上、会話の内容を取得・解釈するものであり、ユーザーが意図的にオプトインしている。この点が法的分析を変え、責任の矛先をメーカーから着用者へと向けさせる可能性がある。
「自分が持っていないデバイスに監視される」時代
元CIA職員で、企業向けリスク・インテリジェンスサービスを提供するスタートアップVeilantのSVPを務めるMichael Stokesは、より大きな構造変化を指摘する。
「バイスタンダー（傍観者）問題が真の懸念だ。技術を所有していなくても監視される可能性がある」
彼がCIA在籍時に取り組んだ「ユビキタス技術監視（ubiquitous technical surveillance）」——日常的なデバイスが継続的に情報を生成し、個人の身元・位置・人間関係を明らかにしうる世界——が、AIによって民生品レベルで実現しつつあるというのが彼の見立てだ。
かつて、ある人物に関する情報を収集・整理・分析するには数千時間の作業が必要だった。AIはそのプロセスを自動化し、偶発的に収集されたデータからも有用な情報を抽出するコストを劇的に下げた。
「過去に私たちが持っていたと思っていた、小さなプライバシーの隙間はもはや存在しない」とStokesは言う。
対抗手段も登場
こうした状況に対し、スタートアップのDeveillanceは「Spectre I」というホッケーパック型のデバイスを開発した。周囲のマイクが音声を正常に処理できないよう「adversarial signals（敵対的信号）」を発して会話を攪乱する仕組みで、AIによる音声解析そのものを物理的に妨害することを狙っている。敵対的信号を使ったマイク無効化技術は学術研究でも取り上げられてきた手法であり、Spectre Iはそれを小型民生品に落とし込んだ製品と位置づけられる。
同社創業者のAida Baradariは「テクノロジーを使いながら、自分のコアな価値観や権利を手放さなくて済む状況が必要だ」と述べている。
一方、現実の現場ではどうか。記事に登場するユーザーのChris Thomasは、MetaのスマートグラスとAmazonのBeeウェアラブルを日常的に着用しているが、バーで不快感を示した見知らぬ人に対して「オフにするのではなく、完全に外す」と述べている。「（カメラが）本当にオフになっているとは信じてもらえないから」というのがその理由だ。技術仕様よりも人間の信頼感が先行するという、この問題の本質を端的に示している。
詳細はAlways on, always listening: New AI devices are pushing legal limits and could put users in jeopardyを参照していただきたい。
