GoogleのAI画像判定サイトが世界公開　でも読めるのは4社の透かしだけ

Googleが10月7日、AIで作られた画像や動画、音声を判定するサイト「SynthID Detector」を、世界中のだれでも使えるようにした。synthid.com にファイルを上げると、AIの印が入っているかどうかが返ってくる。Google、Apple、ChatGPTのどれかのアカウントでログインすれば使える。言語は英語だけだ。

これでフェイク画像は見分けられる。……とはいかない。Google自身が、サイトの説明にこう書いている。「これは汎用のAI検出器ではありません」

Xでこの投稿を見る

読めるのは4社分の透かしだけ

この技術を作ったのは、GoogleのAI研究部門のGoogle DeepMindで、始まったのは2023年。AIが作った画像や動画に、肉眼では見えない電子透かしを埋め込む。トリミングやフィルター、フレームレートの変更、圧縮をしても、印は残るように作られている。音声なら、ノイズやMP3圧縮、速度の変更に耐えるという。

Google DeepMindが2025年10月に出した論文によると、この透かしを入れた画像と動画のコマは、すでに100億枚を超えた。

ただ、判定サイトが読めるのは、Google、OpenAI、NVIDIA、Kakaoの4社の分だけ。Appleは近日対応と書かれている。ここで抜けているのが、MetaとMicrosoftだ。この2社は別の方式を使っているので、初めから対象外になる。

対応するのは、画像ならJPEGやPNG、動画ならMP4やMOV、音声ならMP3やWAVなど。上げたファイルは判定が出たらすぐ消える。1日に使える回数にも上限がある。

つまり「透かしが見つかりませんでした」は、「AIじゃありません」ではない。Googleのよくある質問にも書いてある。はっきりした信号が出ない場合でも、そのコンテンツがAI製でないとは限らない、と。大きく加工すると信号が弱まり、見つからないこともある。逆に、まれだが、透かしのないものを「ある」と間違えることもあるという。

「完璧な解決策として売られているが、破れる」

ギズモード・ジャパンの記者は、政治家のフェイク画像をGeminiに投げてみた。返ってきたのは「この画像は人工的に生成、または編集されたものです」。判定は当たっている。ただ、そのあとに付いてきた説明は、まったく的外れだったという。

もっと厳しい数字を出したのは、カナダのウォータールー大学の研究だ。博士課程のアンドレ・カシスらが作った「UnMarker」という攻撃手法にかけると、SynthIDの検出率はほぼ100%から21%まで落ちた。研究は、アメリカの電気電子学会（IEEE）のセキュリティの国際会議で発表されている。カシスはこう話す。透かしは完璧な解決策として売り込まれているが、この技術は破れると我々は示した――。

実際に外れた例もある。ロイターが7月に調べたところ、Metaの判定ツールは、自社の画像生成AI「Muse Image」が作った40枚のうち、元の3分の1〜2分の1に切り抜いた画像では、55%を判定できなかった。Metaはこのツールが試験版だと認め、大きく切り抜くとContent Sealの信号が失われることがあると説明した。

では、意味がないのか。そうは見ない人もいる。カリフォルニア大学バークレー校の研究者サラ・バリントンはロイターに、ほかの防犯対策と同じで完全ではないかもしれないが、9割しか捕まえられなくても0からの大きな前進だ、と話した。

ネットの評判

まとめサイトのIT速報には、歓迎と冷めた声が並んでいる。「こういうの統一してくれるのホンマ助かる」と、各社の分が1か所で見られることを評価する声。一方で「ワイの書いた絵がAI判定されたのムカつく」という誤判定への不満や、「ワイが使ってたAI画像生成ツールやとこれひっかからんの」と、対象の狭さを指摘する声もある。

技術系メディアのInfoQが引用したRedditの投稿は、もっと厳しい。「最初から機能していない。自社のモデルが作った動画で、誤検出が多すぎる」。別の投稿は、除去する仕組みは簡単に作れる、AI画像で詐欺をやる相手にはただの段差だ、と書いた。同じくInfoQが引用したLinkedInの意見は、別の道を指す。C2PAのように、作られたときに記録を付ける方式こそ唯一広がる、あとから検出するのはいたちごっこだ、という見方だ。

Googleの透かしは、すでに100億枚を超える画像とコマに入っている。それでも、1本の研究論文が、その検出率を21%まで落とした。