無料のままで、
いつまで動くんだろう
――自分のクラウドに置いたAIに
写真はイメージ Photo by Nick Morrison on Unsplash
月0円で自分のクラウドに置くAI、無料枠が尽きると何が止まるか
スマホのメモ帳と、AIのアプリ。別々に開いて、同じ用事を二度打ち込んだ人は多いはずだ。
その両方を一つにまとめて、自分のクラウドに置ける道具「Talorys(タロリス)」が10月10日に公開された。プログラマーが集まる掲示板Hacker Newsでは、11日昼の時点で262点、コメント123件。公開したのは個人の開発者。プログラムの中身はGitHubにあり、ライセンスはMITだ。
置き場所は、自分のアカウント
入れ方は一行。パソコンの黒い画面に npx create-talorys@latest と打つ。要るのは、Node.jsという土台の20.18以上と、Cloudflareのアカウントだけ。サーバーを借りる必要はない。
できるのは、会話と、覚えておくこと。それにタスク、メモ、プロジェクトの管理と、時刻を決めた通知だ。公開ページには「明日、企画の確認をタスクに入れて」と話しかける例がある。自分のことを覚えさせておくと、会話のたびに、そのとき関係のありそうな記憶だけがAIに渡る。
ただ、記憶の選び方はまだ粗いらしい。「菜食主義だ」と覚えさせても夕食の案に鶏肉が出た、という報告が10月10日にGitHubへ上がった。
データは、自分のCloudflareアカウントにあるDurable Object一つに入る。公開されている説明には「遠隔測定、分析、追跡、広告のコードがなく、開発者には何も送らない」とある。安全についての説明書によると、外のサイトへつなぐ機能も、コマンドを動かす機能もない。できることは、そのぶん少ない。
0円の上限は、1日1万ニューロン
では、本当に0円で済むのか。
CloudflareはAIの使用量をニューロンという単位で数える。無料で使えるのは1日1万ニューロンまで。超えて使うには、有料のプランに上げるしかない。黙って請求が来る作りではない。有料のプランなら1,000ニューロンで0.011ドルだから、無料のぶんは1日0.11ドル、30日で3.3ドルにあたる。
もう一つ。データは自分のアカウントにあるが、考える部分は借り物だ。受け持つのはCloudflareのWorkers AIで、モデルは @cf/zai-org/glm-4.7-flash。中国のAI企業Z.ai(ZhipuAI)が作ったものを、Cloudflareが動かしている。会話と、そのとき渡される記憶は、ここを通る。
ネットの評判
いちばん長く続いた議論は、これを自己ホスト(自分で立てて動かすこと)と呼べるのかどうかだった。あるユーザーは「自己ホストとは、自分がホストするもののことだと私は定義する」と書いた。Cloudflare独自の仕組みに乗っているため、ほかへは簡単に移せないという指摘も並んだ。
擁護もある。「オープンソースなのだから、AIの呼び出し先を手元のモデルに差し替えるのは、比較的小さな手直しで済む」という声だ。枠の分かりにくさを挙げる声もあり、1万ニューロンは1日20〜30分ほどのやり取りぶんではないかと見積もる人もいた。(引用は英語の訳)
では、枠を使い切った日はどうなるのか。画面に、使い切ったと知らせる文が出る。返事が戻るのは、次のリセットのあとだ。公開されている説明には「ほかはすべて動き続け、データには手が付かない」とある。黙るのはAIだけで、タスクもメモも、決めた時刻の通知も、そのまま動く。
43万円の新型冷蔵庫、錆びて見える
Xで話題のアクア「AQR-DUX51B」
中止が4公演。倉敷は、無事に終わった
徳永英明、喉の不調からツアー復帰
40年仕入れてるけど、
こんな値は初めて
――エドノフーズの江戸野誠一郎社長
- GitHub - rociiu/talorys
- talorys/docs/security.md
- Proposal for semantic recall(GitHub Issue #2)
- Talorys(Hacker News)
- Workers AI Pricing(Cloudflare公式ドキュメント)
- glm-4.7-flash(Cloudflare公式ドキュメント)
- About z.ai
- Our Story
- rociiu (Roc Yu) · GitHub
- Talorys – A self-hosted personal AI agent on Cloudflare's free tier
- Talorys: agente de IA personal gratis en tu Cloudflare
