Signal社長のMeredith Whittaker氏がSXSW会議でエージェント型AIが引き起こす可能性のあるプライバシーとセキュリティの「深刻な問題」について警告しました。ユーザーに代わって様々なタスクを実行するAIエージェントが、システム全体にルート権限のようなアクセスを必要とし、クラウドサーバーでの処理が避けられないことで、OSとアプリケーション層の境界が曖昧になる危険性を指摘しています。

エージェント型AIの利便性の裏に潜む危険性

SXSW（サウス・バイ・サウスウエスト）会議の舞台で、セキュアな通信アプリを提供するSignalの社長Meredith Whittaker氏が、最近注目を集めている「エージェント型AI」に関する重大な懸念を表明しました。

Whittaker氏は、エージェント型AIの利用を「脳を瓶に入れるようなもの（putting your brain in a jar）」と表現。AIがユーザーに代わって様々なタスクを自動的に実行する新しいコンピューティングパラダイムには、プライバシーとセキュリティの両面で深刻な問題があると警告しています。

「エージェント型AIはユーザーの生活に価値を追加する方法として宣伝されています。例えば、コンサートを検索し、チケットを予約し、カレンダーにイベントをスケジュールし、友達にそれが予約済みだとメッセージを送るといったタスクをAIエージェントが行えるようになるでしょう」とWhittaker氏は説明しました。

「だから私たちは脳を瓶に入れてしまえばいいと。そうすれば、私たちが触れなくても全部やってくれるんですよね？」と皮肉を込めて述べています。

「ルート権限」に匹敵するアクセス権の必要性

Whittaker氏が特に懸念を示したのは、こうしたタスクを実行するためにAIエージェントが必要とするアクセス権の範囲です。

「AIエージェントはウェブブラウザへのアクセスと、それを操作する方法、チケット代金を支払うためのクレジットカード情報へのアクセス、カレンダー、そして友達にテキストを送るためのメッセージングアプリへのアクセスが必要になります」

「システム全体でこのプロセスを駆動するには、ルート権限のようなものが必要になり、それらのデータベースのすべてにアクセスすることになります。おそらく暗号化されていない状態で、なぜならそれを暗号化して行うモデルは存在しないからです」とWhittaker氏は警告しました。

クラウドサーバーでの処理は避けられない現実

さらに問題を複雑にしているのが、処理能力の問題です。Whittaker氏は「十分に強力なAIモデルを使用する場合、それがデバイス上で実行される可能性はありません」と指摘。

「それはほぼ確実にクラウドサーバーに送信され、そこで処理されて送り返されることになります。ですから、エージェントを取り巻くこのハイプ（過度な期待）には、セキュリティとプライバシーに関する深刻な問題が潜んでいます」

特に懸念されるのは、「アプリケーション層とOS層の間の血液脳関門を破壊する恐れ」があるという点です。別々のサービスをすべて結合し、そのデータを混同することで、従来のプライバシー保護の境界が曖昧になる危険性を指摘しています。

Signalのようなメッセージングアプリへの影響

Whittaker氏は、SignalのようなメッセージングアプリがAIエージェントと統合された場合、メッセージのプライバシーが損なわれる可能性があると説明しました。

「エージェントは友達にテキストを送信するためにアプリにアクセスし、また、それらのテキストを要約するためにデータを引き出す必要があります」と具体的な脅威を説明しています。

こうした懸念は、パネルディスカッションの早い段階でWhittaker氏が言及した、AI業界が「大量データ収集による監視モデル」の上に構築されているという指摘に続くものです。

「より大きいほど良いというAIパラダイム」、つまりより多くのデータを収集するほど優れたAIになるという考え方には、好ましくない潜在的な結果があるとWhittaker氏は警告しています。

まとめ：

Whittaker氏は最後に、エージェント型AIによって、「生活の緊急事態の面倒を見てくれる魔法の魔人ボット（magic genie bot）」という名目で、プライバシーとセキュリティがさらに損なわれる危険性があると締めくくりました。

便利さと引き換えに、私たちはどこまでプライバシーを手放す準備があるのか。エージェント型AIが急速に普及し始めている今、Whittaker氏の警告は業界全体に重要な問いを投げかけています。

【出典】