バービーの写真を上げたら、ChatGPTに「児童の性的対象化」と止められた

人形の写真をChatGPTに上げたら、アカウントが止まった。メールに書かれていた理由は「Child Sexualization Activity」。子どもを性的な対象にした、という意味だ。写っていたのは、バービー人形。本当にそれで？

書いたのは、人形を商売にしている人。2026年9月5日（日本時間6日）、Redditの「r/ChatGPT」に投稿した。人形の写真を撮り、どの顔の型かを見分け、企画を練る。その仕事にChatGPT Businessを使っていた。

その日は、人形の写真をまとめて上げて「この人形の顔の型はどれ？」と聞いた。直後にアカウントが止まった。見返すと、1枚に服を着ていない人形が写っていたという。見分けるための写真で、前にも同じことをしてきたと本人は書いている。人形の種類を聞かれて「barbie dolls」とも答えている。

人形の写真で、仕事の記録ごと止まった

本人がいちばん心配しているのは、人形の話ではない。これは業務用のアカウントで、大事な仕事の会話や情報がそこに入っている、と書いている。止まったのは、取引の記録を置いた棚のほうだった。

ここでChatGPT Businessの作りが効く。OpenAIのヘルプには、メンバーは設定画面から自分のデータを書き出せない、とある。書き出せるのは、ワークスペースの持ち主だけだ。ログインできなくなった時点で、自分で取り出す道は細くなる。

アカウント停止を説明したヘルプ記事では、止める理由の一つに「Child exploitation」が挙がっている。異議申し立ては、届いたメールのリンクから出す。OpenAIは「できるだけ早く確認して返事をする」と書いているが、止まっている間にデータを見られるかは、このヘルプ記事にはない。

なぜ人形が「児童」と判定されたのか

分かっていない。「写真を上げたから止まった」というつながりは、本人の推測だ。OpenAIが本人に何を説明したのかも、投稿には書かれていない。

分かるのは、仕組みのほうだ。OpenAIは自社サイトで、届いた画像の検査にThornの仕組みを使っていると説明する。すでに知られている画像は指紋のような照合で見つけ、新しいものは画像分類器にかける。見つけたときは「すべてNCMECに通報し、関係するアカウントを直ちに停止する」とも書いてある。

確率の判定だから、外れもある。2024年の論文では、性的な画像を見分ける仕組みが、口の近くに食べ物や物がある写真、ベッドが写った写真、手や指が大きく写った写真を、誤って性的だと判定したという。人形の話は、この論文には出てこない。

では人の目で見直されるのか。その手順はヘルプに書かれていない。2026年6月には、OpenAIの開発者向け掲示板で、別の人が同じ「児童の性的搾取」で止められたと書いた。異議申し立ては却下され、やりとりも途中で止まったという。

ネットの評判

Redditのコメント欄は、同情とあきらめと、OpenAIへの文句が混ざった。

目立ったのは、大きなサイトの運営をしてきたというユーザーの一言だ。「この理由で止まると、方針上そもそも見直されない。永久に戻らないものとして扱ったほうがいい」。別のユーザーは「異議申し立てと、データの取り出しは別に進めたほうがいい。戻るのを待たず、いま請求しておくべきだ」と書いた。「データは定期的に書き出しておけ」という助言も付いた。

法人の扱いを責める声もある。あるユーザーは「月20ドルで趣味で触っている人と、会社を区別していない。画像を1枚まちがえて上げただけで事業ごと止めるのは、どうかしている」と書いた。一方で「人形は気味が悪い。問題があるとは思わない」と書くユーザーもいた。「人の形をしたものは何千年も前からある」とかばう声と、ちょうど向かい合っている。

10月1日、この投稿に「アカウントは戻った？」という質問が付いた。本人の返事は、見つからない。