GoogleのDeepMindは、画像が本物かAIによって生成されたものかの検証を試みている人々を悩ませてきた問題を解決したと発表した。研究者らは、新しい透かし技術「SynthID」を用いることで、画像の本来の画質を損なうことなく、AIが生成したディープフェイクを特定できると発表している。ただし、このプログラムは現在、Googleのネイティブ画像生成システムでしか動作しないという難点がある。
DeepMindはブログ投稿で、ベータ版のSynthIDシステムはAIが生成した画像のピクセル内に透かしを埋め込むと述べています。つまり、人間の目には違いが分かりませんが、検出ツールを使えばこれらの特徴的な識別子を検出し、画像がAIによって作成されたと判断できるということです。SynthIDはGoogleのVertex AIプラットフォームを利用する企業で利用可能であり、Google独自のImagenモデルを利用するGoogleの大規模企業パートナーのみが利用できます。
GoogleのDeepMind部門（最近Google Brain AIチームと統合）は、この透かしの仕組みを具体的には明らかにしていない。研究者によると、SynthIDは、透かしがサイズ変更、圧縮、あるいはカラーフィルターで変更された後でも、その仕組みを維持するという。それ以外の点では、その仕組みは秘密にされており、おそらく外部の人間がそれを回避できないようにするためだろう。DeepMindのCEO、デミス・ハサビス氏はThe Vergeに対し、このシステムが効果的であることが証明されれば、最終的には「パートナー」と共有したいと考えていると語った。
しかし、これは透かしがGoogleエコシステム内の閉ループ内に存在することを意味します。システムは画像をスキャンしてImagenによって作成された可能性を評価することもできますが、AI画像生成ツールがどれだけ存在するかを考えると、この機能がどれほど有用であるかは判断が難しいです。
透かしでは誤情報の拡散を防げない
バイデン政権は、企業がAI画像を識別する手段を講じる必要性を強調しています。しかし、透かしだけでは、AIが生成したディープフェイクや誤情報の問題から私たちを救えないのです。
研究者たちは、多くの企業が独自のAIプラットフォームを売り込もうとしている現状において、ほとんどのAI検出ソフトウェアは必要な機能を十分に果たしていないと指摘している。カリフォルニア大学バークレー校のコンピュータサイエンス教授ハニー・ファリド氏は今月、サイエンティフィック・アメリカン誌に対し、透かしはAIディープフェイクによる被害に対する「緩和戦略」に過ぎないと語った。
ギズモードは、AIによる画像操作を防ぐ方法を模索してきた他のエンジニアたちと長々と話し合ってきたが、批評家たちは、完璧な方法は存在しないと指摘する。あるクリエイターが画像の歪みを防ぐ方法や、AIによって作成された画像にマークを付ける方法を思いつくたびに、別の誰かがそれを回避する方法を見つけ出す可能性があるのだ。
特に問題となっているのは透かしです。AI研究者のクレア・ライボウィッツ氏がMITテクノロジーレビューに最近掲載した記事で検証したように、透かしは操作された画像を暴くのに役立つ可能性はあるものの、ペンタゴンが爆発する偽画像のようなAI生成コンテンツがオンライン上に拡散してしまう前には、その効果は期待できません。透かしは削除可能ですが、削除の難易度は人それぞれです。しかし、最終的には、インターネットのデータ探偵たちが透かしを回避する方法を見つけるでしょう。
DeepMindでさえ、この方法は「極端な画像操作を完全に防ぐわけではない」とすぐに指摘し、一部の組織が「AI生成コンテンツを責任を持って扱う」ための方法だと述べた。
Google、Workspace向けAI機能をさらに強化すると発表
GoogleはCloud Nextカンファレンスで、多数の新しいAI機能を発表しました。その一つとして、GoogleはChatにDuet AIを搭載します。Duetは、Microsoftの365アプリで使用されているCopilotに似ています。Googleによると、このAIはユーザーのドライブやGmailアカウントだけでなく、スライドやスプレッドシートなどのアプリからも情報を取得できるとのことです。ユーザーはAIに共有会議室でのドキュメントや会話を要約させることができます。これらはすべて、ZoomやSlackにも計画されている機能と似ています。
Google WorkspaceのDuet AIは、トライアル登録を希望する企業向けに一般提供を開始しました。Googleは自社サービスに加え、他の大手AI企業にもクラウドプラットフォームの提供を開始する予定です。MetaのLlama 2言語モデルとAnthropicのClaude 2チャットボットは、Google Cloudビジネスソフトウェアを通じて利用可能になります。Llama 2は既にMicrosoftのAzureクラウドプラットフォームで利用可能であるため、GoogleはAI関連の最新の商用アプリケーションに追いつこうと尽力していますが、多くの点でまだ追い上げに追われている状況です。
