問われるAI技術とWebブラウザの距離感

WebブラウザにAI技術を統合した、いわゆるエージェントブラウザの分野で競争が激しさを増しつつあるなか、たいへん気になるニュースを目にしました。Perplexity AI社の提供するエージェントブラウザ、Cometに深刻な脆弱性が発見されたというのです。

発見したのは、プライバシーの重視などユーザーファーストを謳うWebブラウザ、Braveを提供するBrave Software社。詳細を、同社のBlog記事「エージェント型ブラウザのセキュリティ：Perplexity Cometにおける間接プロンプトインジェクション」で読めます。

このニュースを解説したITmedia NEWSの記事『“ブラウザを自律操作するAI”が暴走 「要約して」と入力しただけなのにパスワードが盗まれた その手口とは？』より、一部を以下に引用します。

AIアシスタントは、ユーザーの代理として行動するため、全サイトにアクセスできる権限を持っている。これは便利な半面、悪用されるとAIはユーザーの完全な権限で動作し、銀行口座、企業システム、プライベートメール、クラウドストレージなど、認証済みのあらゆるサービスにアクセスできる。これにより、悪意を持った攻撃者はさまざまな行動を実行できる。

エージェントブラウザでは、ユーザーの信任を受けたAIアシスタントが、まさにユーザーの代理人＝エージェントとして振る舞います。ユーザーと同等の権限をもってWebサイトやWebサービスにアクセス可能なエージェントが、攻撃者によって欺かれたとなれば、その影響は極めて深刻なものとなり得ます。

先述のBrave Software社のBlog記事には、次のようにあります。

我々が実演した攻撃は、従来のWebセキュリティの前提がエージェント型AIには当てはまらないことを示しており、エージェント型ブラウジングには新しいセキュリティとプライバシーのアーキテクチャが必要であることを明らかにしています。

冒頭で触れたように、WebブラウザとAI技術の統合は昨今、活況を呈しています。つい最近ではソフトウェア企業のAtlassian社が、AIブラウザのDiaを手掛けるThe Browser Companyの買収を9月5日付けで発表、話題となりました（同社のBlog記事「アトラシアンはThe Browser Companyを歓迎します」参照）。

そうした現状があるだけに、ユーザーの保護を二の次にして、WebブラウザとAI技術の統合が拙速に進められてはいないか？たとえその統合がWebの未来にとって必要だとしても、セキュリティやプライバシーの確保がなおざりにされていないか？気になるところです。

ところで、Brave Software社がCometの脆弱性について公表したのは8月20日のことでしたが、WebブラウザベンダーのVivaldi Technologies社でCEOを務めるJon von Tetzchner氏は8月28日、「Vivaldi、立場を表明：人間のブラウジングのために」という声明を発表しています。

もし、AI が知的財産を盗んだり、プライバシーや開かれたウェブを侵害したりすることなく、同じゴールに向けて貢献するのであれば、Vivaldi は AI を利用するでしょう。反対に、人々を受動的な消費者に変えてしまうのであれば、利用しません。

かねてよりVivaldiは、AI技術から距離を置くスタンスを明らかにしていましたが（「Vivaldi が AI の流れに乗らない理由とは」参照）、加熱するエージェントブラウザ開発競争に一石を投じるものとして、今回発表された声明は注目に値すると私は思います。

Webブラウザ/エージェントブラウザのベンダー各社にとって、そしてその製品を使うことになるであろう私たち一人一人にとって、AI技術とWebブラウザの距離感が、今後ますます問われることになるでしょう。