生成AIの不気味さが話題になっているため、Googleフォトでは運転免許証や身分証明書など、個人を特定できる写真の編集ができません。対応Pixelデバイスでマジックエディターを使用しようとすると、利用規約に違反する可能性があるため、編集できないことを通知するウィンドウがポップアップ表示されます。
Googleは、フォトアプリの今後のバージョンでこの警告を拡充する可能性があります。Android Authorityは、11月1日にリリースが開始された最新のGoogleフォトAPKバージョン6.60のコードを調査しました。その結果、「Magic Editorは、GoogleのGenAI規約に違反するIDカード、領収書、その他の文書の写真を編集できません」という具体的なエラーメッセージの証拠を発見しました。このエラーメッセージは利用規約へのリンクで、別の写真でMagic Editorを試すことを提案しています。
Pixel 8で、運転免許証とパスポートの写真をたくさん使って試してみました。Magic Editorで顔写真の一部だけを操作できるようにしたのですが、Magic Editorは私のカードの写真に対して「操作を完了」できないというダイアログボックスが表示され、完全に拒否されました。カードの半分が影に覆われ、額の一部が反射で欠けているなど、画像が粗悪なので、もし何か操作しようとしたらどうなるのか気になります。でも、今日はそれがどうなるか分かりません。
このプロンプトについてGoogleに問い合わせました。回答が届き次第、お知らせします。Pixel 8 ProのMagic Eraser機能も試してみました。Android Authorityのスクリーンショットと同じプロンプトが表示され、IDカードに関する新しい用語も含まれていました。
AIを活用した編集への世界的な進出をめぐっては、現在、不安が広がっている。その懸念は主に、身分証明書の写真をすり替えて不正な目的で公的文書を「偽造」する人々への懸念のようだ。例えば、IDカードの写真をすり替えてアクセス権限を得たり、オンラインで商品を購入したりするといった行為だ。こうした行為はAIの登場以前から行われてきたが、重要なのは、それほど容易ではなかったということだ。
Android Authorityは、テキストプロンプトベースの画像生成機能がGoogleフォトに導入される可能性を示唆するコードを発見したようですが、これは驚くことではありません。Pixel 8/8 Proをお持ちなら、Magic Editorを使って写真を「リミックス」し、追加のコンテキストなしで全く新しい画像を作成できるようになりました。Magic Editorを開いて、写真にスタイルを設定するように指示してみてください。すると、その機械が実際に動作するのを目にするでしょう。
