人工知能を使って将来の交際相手の性感染症を検査できると主張していた出会い系アプリが、連邦取引委員会に同社の疑わしい主張を察知され、閉鎖された。
HeHealthという企業は以前、「AI搭載性感染症（STI）検査アプリ」と称するアプリを宣伝していました。これは、男性ユーザーに性器の写真を送ってもらい、性病の検査を行うという、滑稽な内容でした。Calmaraと名付けられたこのアプリは、AIの魔法を使って男性器の健康状態を判定します。HeHealthは、Calmaraは最大10種類の性感染症を最大94%の精度で検査できると主張し、ウェブサイトではこのアプリを「1分でわかるAI搭載ペニス健康チェッカー」と説明していました。
ご想像のとおり、Calmaraには問題がありました。まず、ほとんどの性感染症は肉眼では見えません。また、目に見える病気であっても、このアプリはあまりうまく機能していないようです。実際、ロサンゼルス・タイムズ紙による以前の調査では、このアプリは「無生物と人間の性器の区別に苦労し、珍しいペニス型の花瓶とペニス型ケーキの画像の両方に『クリア！』と明るく反応していた」と報告されています。確かに、これは良くありません。
FTCはHeHealthの検査結果が最適とは言えないことに気づき、同社に対する調査を開始しました。HeHealthに送付され、その後公表された書簡の中で、FTCは「政府は企業が健康関連の主張を行う際に、適切かつ信頼できる科学的根拠を示すことを義務付けている」と指摘し、HeHealthの自社サービスに関する主張の「裏付け」は「いくつかの理由から問題がある」ように思われると指摘しました。FTCは、HeHealthが自社のAIアルゴリズムの性能を「比較的少数の画像」を用いてテストしていたこと、そしてHeHealthが10種類の性感染症を検査できると主張していたにもかかわらず、このアルゴリズムに関連する研究では4種類しか特定できなかったと主張されていたことを明らかにしました。
FTCはその後、HeHealthに対し、Calmaraの閉鎖と、同アプリを通じて取得したすべての顧客データの削除を命じました。アプリの閉鎖後、FTCは同社に対する調査を継続しないと発表しました。このアプリのトラブルはThe Vergeによって初めて報じられました。
Calmaraが死んだのは、おそらくむしろ良かったのでしょう。サイバーセキュリティについて5年以上執筆してきた者として言うと、企業が歩くチンコ写真データベースになるというのは、少々賢明ではないように思います。そうなれば、データ漏洩（そして後に集団訴訟）は起こるのを待つばかりです。
