ワシントン州の判事は、三重殺人事件の裁判において、「AIによって加工」されたビデオ証拠の提出を差し止めました。AIフィルターを適用すれば秘密の映像データにアクセスできると考えている人があまりにも多いことを考えると、これは良い判断と言えるでしょう。
ワシントン州キング郡のリロイ・マカロー判事は、火曜日のNBCニュースの報道によると、AI技術は「AIモデルが『表示すべき』と考えるものを表現するのに不透明な手法を用いていた」と新たな判決を下した。これは、AIが誇大宣伝される世界において、これらのAIツールで何が起こっているのかを明確に示した、爽快な事例と言えるだろう。
「本裁判所は、AI強化証拠の採用は争点の混乱と目撃証言の混乱を招き、AIモデルが使用する査読不可能なプロセスに関する裁判の中で時間のかかる裁判につながる可能性があると判断した」とマカロー判事は記した。
この事件は、2021年にシアトル郊外のバーで3人を殺害し、2人に負傷させたとして告発された46歳のジョシュア・プロカ被告に関するものだ。プロカ被告の弁護団は、AIで加工された、傍観者が撮影した携帯電話の動画を提出したいと望んでいたが、加工された映像から何が読み取れると考えているかは明らかではない。
プロカ氏の弁護士は、刑事事件を扱った経験のないクリエイティブビデオ制作の「専門家」をビデオの「加工」に起用したと報じられている。この匿名の専門家が使用したAIツールは、テキサス州に拠点を置くTopaz Labs社が開発したもので、インターネットに接続できる人なら誰でも利用できる。
近年のAI搭載画像処理ツールの登場により、この技術の可能性について誤解が広がっています。写真や動画をAIアップスケーラーに通すことで、既存の視覚情報をより鮮明に把握できると多くの人が信じています。しかし実際には、AIソフトウェアは画像に存在する情報をより鮮明にしているわけではなく、元々存在しなかった情報を追加しているだけなのです。
例えば、2022年のアカデミー賞授賞式でクリス・ロックがウィル・スミスに平手打ちされたとき、何らかのフェイスパッドをつけていたという陰謀論が広まりました。この説が始まったのは、人々が平手打ちのスクリーンショットを画像アップスケーラーにかけ、何が起こっているのかをよりよく見ることができると考えたからです。
しかし、AIによる画像加工ではそうはなりません。コンピュータープログラムは、画像をより鮮明にするために情報を追加するだけなので、実際には存在するものが歪んでしまうことがよくあります。下のスライダーを使うと、AIプログラムに画像加工を依頼する前の、拡散したピクセル化された画像を見ることができます。AIプログラムに画像加工を依頼することで、元の放送には存在しなかったものが「発見」されるのです。
スクリーンショット: Gizmodo
事件を捉えた無数の高解像度写真や動画は、ロックの顔にパッドが付いていなかったことを決定的に示している。しかし、映像を「8K」に「アップスケール」することで、ありふれた光景の中に隠された何かが見えるという思い込みは消えなかった。
AIを謳う製品の台頭は、これらのツールが実際に何を実現できるのかという点で、一般の人々の間に大きな混乱を招いています。ChatGPTのような大規模言語モデルは、本来は知的な人々に、これらのチャットボットが複雑な推論能力を持っていると思わせていますが、実際にはそうではありません。LLMは本質的に、次に吐き出すべき単語を予測し、人間らしい発音を実現しているに過ぎません。しかし、人間らしい発音をかなり正確に再現するため、多くのユーザーは、チャットボットが魔法のトリック以上の高度な機能を持っていると信じ込んでいます。
AI企業に数十億ドルもの資金が注ぎ込まれている限り、私たちはこの現実を背負って生きていくしかないように思えます。物事をよく理解しているはずの多くの人が、舞台裏で何か重大なことが起こっていると信じ込み、「偏見」やガードレールが厳しすぎるせいだとすぐに非難します。しかし、もう少し深く掘り下げてみると、これらのいわゆる幻覚は、意識が高すぎる人々が生み出した謎の力などではないことがわかります。単に、AI技術がうまく機能していないことが生み出した産物なのです。
幸いなことに、ワシントンの判事は、この技術ではより良い画像を提供できないと認めました。しかし、AIの誇大宣伝に惑わされ、その意味を理解していない判事が全米にたくさんいることは間違いありません。裁判でAI強化ビデオが使用され、事後的に視覚情報が追加されるだけになるのは時間の問題でしょう。
