特別支援の先生のChatGPTが停止、理由は「子どもの性的対象化」

「アカウントが『子どもの性的対象化』で止められた。自分は特別支援教育の教師だ。OpenAIの人間には、どうすれば届くのか」。2026年9月、ChatGPTの利用者が集まるRedditのr/OpenAIに、こんな題の書き込みが出た（訳）。順番が、逆じゃないか。子どもを守る側の仕事をしている人が、子どもを傷つける側として疑われた、という話になる。

先に、確かめられなかったことを書く。この書き込みの本文は、本誌が調べた時点で読めなくなっていた。記録を残すアーカイブでも、本文は「[removed]」、つまり削除済みと表示される。読めたのは題と、付いたコメントだけだ。話題を集めた時点の記録では、投稿者は子どもの言葉の発達をみる仕事もしていて、発達の段階や、自閉症やダウン症の子に使う教材の話しかしていない、と書いていたという。異議申し立ては一度却下され、サポートへのメールは返送か自動返信ばかりだった、とも。ここは照合できていない。本人の言い分として読んでほしい。

子どもを守る一文を書いた人が、止められていた

同じ形の話で、こちらは読める記録が残っている。OpenAIが運営する利用者の掲示板（OpenAI Developer Community）に、2026年6月、「『児童の性的搾取』で停止された（誤検知）」という題の書き込みがあった。この人が作っていたのは、チャットサービスのDiscordで荒らしをはじくためのボットだ。そのボットへの指示文に、「子どもや10代が関わる性的な内容をはじく」という一言を入れていたという。はじくために書いた言葉だ。本人は、その指示文のほうが自動の判定に引っかかった、つまり誤検知ではないかとみている。異議申し立ては却下され、これ以上は受け付けないと言われた、と書いている。

誤りを、OpenAIが認めた例もある。2025年3月、ワインのメニューを写真から読み取るアプリを作っていた人に、「子どもの搾取、危害、性的対象化」に関わる違反があるという警告メールが届いた。同じ警告を受けた人が、掲示板に次々と現れる。24日間使っていないアカウント、博士論文のための利用、レシートの読み取り。その数時間後、OpenAIのスタッフが「この警告を、多すぎる組織に誤って送ってしまった」と書き込んだ。その夜、「誤って警告を出しました。深くおわびします」というメールが届いた人もいる。そして、いったん自動で却下された異議申し立てが、あとでひっくり返っている。

では、人間には届くのか

この掲示板には、2026年6月から9月にかけて「サポートの案件を、人間に見てもらえた人はいますか」という書き込みが続いた。返ってきたものとして挙がるのは、数分で閉じられる案件、もう済ませた異議申し立てへの案内、それに「この返信はAIで作りました」と書かれた文だ。人が見たと分かる例は、その中で1件だけだった。停止された月の料金がどうなるのかは、本誌が調べた範囲では確かめられなかった。

ネットの評判

元の書き込みに付いた声は、多くない。読めた中では、「ChatGPTに本当のカスタマーサービスがあるとは思えない」として、新しいアカウントを作り、最初に職業を伝えておくよう勧める声があった（訳）。「AIなしでやれ」と突き放す声もある（訳）。「先生向けのChatGPTを使っていたのか」と確かめる声も。一方で、文章だけで悪用する人と仕事で使う人を見分けられるのか、という問いを立て、資格の確認こそ必要だと書く人もいた。その人は、この話にみんな感情を入れすぎているとも書いている。

題の最後の一文は、「OpenAIの人間には、どうすれば届くのか」だった。この問いに人が答えたと分かる例は、掲示板を見ても1件しか見つからなかった。