Googleは、バレンシアガを着たフランシスコ教皇の写真が一体どこから来たのかを突き止めるための新たな方法をいくつか提供している。Android、検索、Playストアの最新アップデートには共通のテーマがあり、いずれもユーザーがディープフェイクの汚れた歴史を発見し、報告するための選択肢を増やすことを目的としている。
例えばGoogle Playは水曜日に、生成AIアプリに関するアプリポリシーの更新計画をアプリ開発者に通知しました。来年初頭から、あらゆる種類のAIチャットボットや画像生成機能を組み込んだアプリは、不快なAIコンテンツに関するアプリ内報告メカニズムを備えることが義務付けられます。報告メカニズムはアプリ内に実装する必要があり、Googleはこれらの報告は各AIアプリの「コンテンツフィルタリングとモデレーションの参考になる」と述べています。
これは実質的に、同社のユーザー生成コンテンツ ポリシーと同じ要件であり、児童虐待コンテンツなどの制限されたコンテンツの作成を禁止する既存のポリシーに変更はありません。
Googleはまた、ユーザーが画像の直接的な履歴を確認できる機能も提供する予定で、これはAIディープフェイクへの対策として役立つ可能性があります。Googleは5月のGoogle I/Oで「この画像について」機能を初めて発表しましたが、ついに水曜日にユーザーへの提供を開始しました。このツールは、2021年に導入された既存のテキストベースの「この結果について」機能に似ていますが、ウェブページに関する情報を提供するのではなく、画像がインターネット上で以前にどこに表示されたかを追跡します。
画像をクリックした後、上部のバーにある3つの点をクリックし、「この画像について」をクリックすると、その画像が過去に使用されたウェブ検索結果が表示されます。画像が最後に使用されたページのタイムラインが表示され、オンラインで初めて表示された時期の大まかな推定値が表示されます。Googleはポーランドの有名な歪んだ家を例に挙げ、「『この画像について』では、歪んだ家がデジタルの錯覚ではなく、実際に存在することがわかります」と述べています。
このツールは、ファクトチェックサイトによって参照されているか、あるいは誰かのページから無断で転載されたかなど、より詳細な情報を提供します。また、画像のメタデータも共有します。メタデータには、AIによって生成されたかどうかを示すタグが含まれる可能性があります。GoogleとAdobeは、自社のAIアートジェネレーターで作成されたすべての作品にメタデータマークを付与することを約束していますが、これらのメタデータタグの変更が比較的容易であるという事実は考慮されていません。
「この画像について」は当初は通常の検索でのみ利用可能だが、Googleは今後、このツールにアクセスする方法をさらに追加していくとしている。
もう一つの大きなアップデートは、現在進行中のSearch Generative Experience（SGE）ベータ版です。これは、Googleの検索機能にAIチャットボットを実質的に追加するものです。これにより、内蔵チャットボットは他の「高品質なサイト」の情報に基づいて、「一部のソース」に関する詳細情報を提供できるようになります。WikipediaやGoogle Knowledge Graphからのデータがない場合は、「この結果について」に表示されます。
SGEの最近のアップデートでは、記事やページの要約機能が追加されましたが、Googleはチャットボットがユーザーに必要な情報を提供しつつ、その情報源が正当なものであることを保証することに苦慮しています。Googleは、真実の理解を困難にするAIを推進する多くの企業の一つに過ぎません。今、GoogleはAIの害悪を軽減しようと躍起になりながら、AIをめぐる激しい競争で他のネズミたちを出し抜こうと躍起になっています。
