10月18日、Futurismが「Bosses Deploying AI-Powered Spyware That Watches Workers Constantly」と題した記事を公開した。AIを活用した従業員監視ツールが職場に急速に普及している実態を詳しく報じている。
「一言一句、すべて記録されている」
英国の法律サービス企業Co-opは、OpenAIのモデルを活用したシステムを使い、従業員の電話応対を常時録音・評価している。このシステムは電話1件につき50以上の評価項目をチェックし、合否スコアを自動で算出する。顧客対応の多い従業員は、1日あたり数時間にわたってAIに監視され続けるという。
内部告発者がThe Guardianに語った言葉が、その実態をよく表している。
「あなたは監視されている。コンプライアンス目的で時々録音されるのとは全く違う。発した言葉のすべて、声を出すたびに監視されている。本当にディストピア的な感覚だ。これは始まりに過ぎない」
——Co-op従業員（The Guardian取材より）
Co-op側は声明で「AIは品質保証プロセスの重要な要素」と説明し、「意思決定者ではなくサポートツールとしてのみ使用している」と強調した。
米国では61%の職場がAI分析ツールを導入済み
これはCo-op一社の話ではない。米国では、すでに職場の61%がAI分析ソフトウェアを生産性測定に導入しているというサーベイ結果がある。
こうした従業員監視ソフトウェアは、業界では「Bossware（ボスウェア）」と総称される。テレワーク普及を背景に2020年前後から急拡大し、当初はスクリーンショットの定期撮影やキーストローク計測といった単純な記録機能が中心だった。それがAIと組み合わさることで、音声・映像・行動パターンをリアルタイムで解析し、スコアリングまで自動化する段階へと進化している。
具体的な事例も相次いでいる。バーガーキングは今年、従業員にAIヘッドセットの着用を義務化。顧客対応の「フレンドリーさ」を監視し、「Patty」と呼ばれるチャットボットからリアルタイムで指示を送る仕組みを導入した。
Metaは今夏、従業員のキーストロークと画面を記録するツールを展開した。元記事によれば生産性の把握を目的としたものとされているが、運用中に従業員同士の機密データが誤って閲覧できる状態になったことが発覚し、運用を一時停止している。
「コンピューターが上司になるべきではない」
専門家や労働組合は、こうした動きに強い懸念を示している。英国の通信労働者組合（Communication Workers Union）のジョン・チャドフィールド全国担当者はThe Guardianにこう述べた。
「AIはあらゆる問題の解決策として売り込まれているが、このような事例を見れば、合理的な職場慣行を損ない、何の理由もなく労働者の生活を苦しくすることがあると明らかだ。説明責任のないコンピューターシステムが人々の管理者になるべきではない」
AIが職場に与える影響は、業務の自動化・代替にとどまらない。従業員への負荷を増大させる方向にも、そして「従業員のすべてのインタラクションをデータポイントに変換してスコア化する」方向にも作用している。
冒頭のCo-op従業員が「これは始まりに過ぎない」と語ったように、Bosswireの導入は現在進行形で拡大している。企業側が掲げる「品質向上」「業務効率化」という理由づけが正当かどうか、そして説明責任のないアルゴリズムが人事評価に介在することを社会がどこまで許容するかは、労働法・プライバシー法の整備とあわせて、今まさに問われ始めている局面だ。
詳細はBosses Deploying AI-Powered Spyware That Watches Workers Constantlyを参照していただきたい。
