1兆パラメータを無料公開したMistral、「攻撃の余地」は自分で書いていた

1兆個の数値のかたまりが、タダで配られた。配ったのは、その数値を作った会社自身だ。しかも同じお知らせの中に「現実の攻撃をする力を押し上げる余地が見える」と書いてある。え、配っていいの？

10月29日、フランスのMistral AIが、最上位モデル「Mistral Large 4」の重みをHugging Faceで公開した。無料で、商売にも使える。Hacker Newsでは1,225ポイントが付き、コメントは342件まで伸びた（10月30日時点）。

1兆個、ただし8枚のGPUから

愛称は「Le Chonk（ル・ションク）」。総パラメータは1兆で、1回の計算で動くのは520億。文章だけでなく画像も扱い、160を超える言語を話す。学習にはNVIDIAのGrace Blackwellを3,800台使った。

ライセンスの名前は「Mistral Ecosystem Open-Weight License」。Mistralはこれを「MITライセンスを少し変えたもの」と説明する。使う、書き換える、追加学習させる、売る。どれも自由だ。条件は一つだけ。MaaSをやる会社は、別に商用ライセンスを買う。

で、タダなら家のパソコンで動くのか。動かない。Mistralが示した動かし方の例は、GPUを8枚束ねる前提だ。試すだけならAPIもある。入力100万トークンで0.70ドル（約110円）、出力で2.10ドル（約331円）。1ドル157円台での換算だ。

なぜ配るのか。Mistralの副社長ピエール・ストック氏は「AIは電気のようになる」と話した。どこかの一社にアクセスを止められては困る。重みが手元にあれば、止められない。それが売り文句だ。

「攻撃の余地が見える」と書いたのは、Mistral自身

Mistralは、このモデルをサイバー防衛の道具として売り込んでいる。悪意のあるサイバー関連の依頼を、平均96.6%断る。オープンなモデルで最高の数字だ、という説明だ。

その同じお知らせに、あの一文がある。公開前に実際の使われ方を見ていたところ、モデルは生きている標的への攻撃には応じなかった。ただ「現実の攻撃をする力を押し上げる余地が見える」。だから「ガードレールを直しているところで、これからの数か月も直し続ける」と続く。

ここが、安全性を重く見る人たちの引っかかるところだ。ガードレールを直せるのは、Mistralが貸しているAPIの上だけ。手元に落とした重みなら、追加学習で「断る仕組み」を外せる。しかも、重みがいったん出回れば回収できないと話しているのは、ストック氏自身だ。

セキュリティ会社Sophosの脅威情報担当、レイフ・ピリング氏は、こうしたモデルを「明らかに二重用途の技術だ」と評した。どの国で作られたかに関係なく、進んだモデルはどれも、見ていなければ暴走しうる。大事なのは、モデルがごまかそうとしても気づける見張りを、使う側が置けるかどうかだという。

なお、公開された重みを使った攻撃の報告は、いまのところ確認されていない。

ネットの評判

Hacker Newsのコメント欄で目立ったのは、安全性の話ではなかった。「これは本当にオープンなのか」という突っ込みだ。MaaSには別料金が付くのだから、オープンウェイトではなく「重みが手に入るだけ」と呼べ、との声。RedisやElasticsearchがライセンスを変えて叩かれたときと同じだ、という指摘もあった。中国のDeepSeekやQwenのほうがMITで素直に開いている、と比べる書き込みも複数あった。

一方で、欧州にデータを置いたまま動かせる点を評価する声は多い。米国の会社に頼らずに済むからだ。