AIに確認を任せたら人間より安全だった　Claude Codeの既定が変わった

2026年8月14日から、AIにプログラムを書かせる道具「Claude Code」の既定が変わった。新しく始めた作業は、はじめから「auto mode」で動く。AIがファイルを書き換える前やコマンドを実行する前に、人間が「はい」を押す手順が、既定から外れた。

代わりに確認するのは、別のAIだ。Anthropicの説明では、分類器が操作を見て、危ないものだけ止める。発表は8月7日。対象はPro・Max・Teamの契約。企業向けとAPIは当面、使う人が選ぶ形のままだという。

では、人間は何を決めているのか。

Xでこの投稿を見る

2025年に手放したのは、ファイルとコマンド

西尾泰和氏が10月20日、公開メモ「西尾泰和の外部脳」に、この2年の変化を年表にまとめた。「最終判断は人間がやる」では、いまのAIを説明しきれない、というのが西尾氏の見方だ。

2024年まで、コーディングエージェントは遠慮がちだった。GitHub Copilotなどでは、AIが提案し、人間が受け入れて初めて編集が入った。変わったのは2024年12月17日。Cursorの0.44に「Yolo Mode」が入り、ターミナルコマンドを自分で実行できるようになった。

あとは早い。2025年2月24日、Claude Code v0.2.9に、承認の確認を省く「–dangerously-skip-permissions」が入る。西尾氏の整理では、2025年に人は「ファイルを書き換える」判断を手放し、年末には「コマンドを実行する」判断も手放した。便利だったからだ。

任せたのは、「人に聞くかどうか」

ここからが、この年表のいちばん変なところだ。

2025年10月16日のClaude Code v2.0.21に、AskUserQuestionが入った。それまで人間の役は「承認する」か「拒否する」の2択。それが、AIが案を並べて「どっちがいい？」と聞く形になった。聞き方をAIが決める。

2026年2月17日には、逆瀬川氏が「Agentワークフローで人間がボトルネックにならないためのSkill設計」を公開した。人間に質問する前に資料を読ませ、AI自身に判断と検証をさせる。「聞くかどうか」もAIが決める。

auto modeは、その先にある。2026年3月24日にTeam向けの研究プレビュー、7月10日に全ユーザーへ、8月14日に既定へ。何が人間の承認を必要とするかという判断自体も、AIに任せられるようになったと西尾氏は書いている。

人間の確認は、97%が「はい」だった

なぜ、そんな危ないほうへ進んだのか。Anthropicの説明を読むと、理由は逆だった。

有料の利用者1,053人のテストで、人間の確認が危険なコマンドを止められたのは13.6%。分類器は89%を止めた。2026年5〜6月の利用記録でも、深刻な被害が出たのは、手で承認したセッションで6.3%、auto modeで2.4%。人が見ていたほうが多い。

人の側の数字もある。許可を求める画面のうち、人は97%を承認していた。やり取りが50回を超えると、危険なコマンドを見つけられる割合は約17%から約5%まで落ちた。

「最後は人間が決める」は、人間が決めればうまくいく、という意味ではなかったらしい。

ネットの評判

西尾氏のページは、はてなブックマークで224人がブックマークしている。多いのは、言葉を分ける意見だ。「判断」はAIに任せられても、「意思決定」は責任と覚悟のいる人間の仕事、という整理。AIは責任を取らないから、見張る人間は必要だという声も目立つ。自動運転と並べて、最後だけ人間に残すのは無理があると指摘する人もいた。任せ続けると判断力が落ちる、という心配もあった。

切り替えは、利用者の手に残っている。CLIならShift+Tab、デスクトップアプリならモードの一覧から選ぶ。管理者は「defaultMode」で既定を固定できる。

そして、AIが危ないことをしようとして3回続けて止められると、確認役はまた人間に戻ってくる。