AIは「次の言葉を確率で選ぶ」機械
同じ質問でも毎回少し違う答えが返る(非決定論)。これは故障ではなく、そういう仕組み。
中身を知ると、選び方が変わる
33回の勉強会で道具の使い方はたくさん話してきた。今夜は道具の「中身」の話。AIが次の言葉を確率で選んでいる、と知るだけで、ハーネスも、モデル選びも、全部つながる。
先に結論から
今夜の90分は、この3行に全部つながっています。迷ったらここに戻ってください。
同じ質問でも毎回少し違う答えが返る(非決定論)。これは故障ではなく、そういう仕組み。
知識の締切・机の広さ・注意力有限・長いほど落ちる・ほめ上手。全部モデルの性質から出てくる困りごとで、ハーネスはそれへの対策。
モデル(エンジン)・エフォート(アクセル)・ツール(電卓)。どれを選ぶかに理由がつく。
今夜の進み方
前半で「AIの性質」を体感し、後半で「だからハーネス」「だから選び方」に着地します。時間はすべて目安です。
目安 5分園長のnoteより
説明の前に、まず皆さんにやってもらいます。下の文の「次の言葉」を、Zoomのチャットに書いてください。
昔々、あるところに
次に来る言葉は? チャットに書いたら、ボタンを押してください。
数字はイメージです(園長のnoteより)。実測値ではありません。ほぼ全員が「おじいさん」と書くはず。それがこのゲームの答えです。
AIは一言ずつ「次に来そうな言葉」を選び、それをつなげて文章にしています。正確には単語ではなく「トークン」という単位ですが、今日は初心者向けに「言葉」と言い換えます。
膨大なテキストからパターンを学習しているから。賢さの正体は「膨大なパターンの記憶」です。だから「それっぽい文章」を作るのがとても上手い。
図: 次の言葉当てゲーム。候補の中からいちばん来そうな言葉を選ぶ。数字はイメージ(園長のnoteより)。
目安 12分園長のnoteより
AI(LLM)を使った仕組みを考えるときに最初に考えるべきなのが、この「決定論か、非決定論か」です。電卓と比べると、いちばんよくわかります。
入力Aなら、必ず出力B。何回押しても同じ。
次の言葉を確率で選ぶ。だから同じ質問でも、毎回少し違う。
図: 決定論と非決定論。電卓は毎回同じ、AIは毎回少し違う。
使い方: 新規チャットを開いて、これを貼る。答えが出たら、また新規チャットで同じものを貼る。3回。
AIエージェントとは何か、20文字以内で定義してください。
ぶれる仕組みだからこそ、出力を確かめる「検証の仕組み」が必要になります。一方で、そのブレは探索の幅にもなる。案出しや、いくつも作って良いものを選ぶ(ベストオブN)はこの性質の活かし方です。
AIが「1+1=」の続きに「2」と書けるのは、計算しているからではなく、「1+1=」の次に「2」が来る確率が高いから。中に電卓が入っているわけではありません。賢さの正体は膨大なパターンの記憶です(園長のnoteより)。
ただし「だから計算は無理」ではありません。今のモデルは思考トークンやコード実行で計算できます。ここは第5章「電卓を持たせる」につながる伏線です。
図: 「1+1=」の次に「2」が来る確率が高い。計算機ではなく、パターンの記憶(園長のnoteより)。
AIは「次に来そうな言葉」を予測しているだけで、事実かどうかを判断していません。だから、悪気なく、自信満々に、それっぽい嘘を言うことがある。例: 実在しない論文をもっともらしく紹介する。これは故障ではなく仕様です(園長のnoteより)。
AIが間違える理由は2つあります。1つが今のハルシネーション。もう1つがナレッジカットオフ、つまり学習した知識に締切の日付があることです。締切より後に起きたことは、そもそも知りません。
やっかいなのは、知らないと言わずに、それっぽく答えてしまうことがある点です。「知らない」も「間違い」も、外から見ると同じ顔をしています。第2章で性質①として詳しく扱います。
ハルシネーションも知識の締切も、対策は同じです。事実を外から渡すこと。検索させる、資料を貼る、ツールで調べさせる。
新しいモデルほど「自分が知らないことを知っている」のが上手くなっていますが、頼り切らない。大事な数字・人名・URLは、AIの記憶ではなく外の情報源で確かめます。
事実を調べるなら検索、文章を作るならAI。役割が違います。
最新情報・正確な数値・実在確認は、AIの記憶ではなく、外の情報源で確かめる。
2月のnoteでは「思考していない」と書いた。仕組みとしては今も「次の言葉を確率で選んでいる」が正しい。ただ2026年のモデルは「考える時間(思考トークン)」を持ち、道具(コード実行・検索)を使えるようになった。だから今日の結論は「AIは思考していない」ではなく、「AIは確率で動く。だから補助輪をつける」。
仕組み(検証できること)と解釈(論争があること)は分けて話します。「確率的オウム(Stochastic Parrots)」は2021年にAI倫理の研究者が使った表現で、今日は用語として紹介するだけです。
目安 15分
「確率で次の言葉を選ぶ機械」には、決まった性質があります。比喩とセットで4つ押さえます。困りごとの正体はだいたいこの4つです。
ナレッジカットオフ。それ以降の情報は、検索・RAG・ツールで外から補う。新しいモデルほど「自分が知らないことを知っている」(メタ認知)のが上手い。
コンテキストウィンドウ=短期記憶。机に載ったものだけ見える。載らないものは存在しないのと同じ。
これは「入らない」問題容量の話。上限を超えた分は机の外に落ちて、最初から見えない。ゼロか100かの境界。対策: 何を入れるか選ぶ(要約してから渡す・必要な資料だけ渡す)
CLAUDE.md に1000個のルールを書いても、途中で守れない箇所が出る。人間と同じ。
コンテキストロット。入力が長いほど性能が落ちる。加えて、真ん中にある情報は忘れやすい(ロストインザミドル)。
これは「入っているのに使えない」問題品質の話。机の内側で起きる、だんだん悪くなる坂道。対策: 埋まる前に切る(7割で区切る・/clear・タスクを分ける)
図: モデルの4つの性質。困りごとの正体はだいたいこの4つ。
コンテキストウィンドウが大きいモデルなら安心、とはなりません。机に載せた中身を思い出せるか、制約を守り続けられるかで差が出ます。
目安として、1Mトークンの7割あたりから劣化が始まる。対策は4つ。
指示は短く、文脈に沿って必要なときだけ渡す。「たくさん書けば守ってくれる」は、人間の新人に1000個のルールを渡すのと同じで、途中で抜けます。
図: 机に載ったものだけ見える。載らないものは存在しないのと同じ。
1タスク終わるごとに /clear。大量のファイル読みやログ調査はサブエージェントに任せて、本体の机を汚さない。ChatGPT や Claude.ai なら「話題が変わったら新しいチャットを開く」が同じ発想です。
目安 8分
4つの性質に加えて、もうひとつ知っておきたいのが迎合性。同じチャットの中で「採点して → 直して → もう一度採点して」を繰り返すと、何が起きるか。
同じチャットで「このツイート何点?」→ 改善 → 再採点を繰り返すと、点数はどんどん上がる。ところが新しいチャット(メモリオフ)で最終版を採点させると、ほとんど上がっていなかった。
会話の流れに合わせて「相手を喜ばせる」方向に確率が寄る。これも「次の言葉を確率で選んでいる」ことの帰結です。悪意も故障もありません。
評価はコンテキストがフレッシュな第三者(別チャット・別エージェント)に頼む。作った本人に「どう?」と聞かないのと同じです。
図: 迎合性の実演。同じチャットでは100点、新しいチャットでは58点。
実装したのと同じ文脈で自己レビューしない。検証は別のサブエージェントか、新規チャットに任せる。7/14 の勉強会㉑(ハーネス回)で話した「フレッシュコンテキスト原則」の根っこは、この迎合性です。
使い方: 手順1を貼る → 出た点数をメモ → 手順2を2回くり返す → 最後の文章をコピーして、新規チャットで手順3を貼る。山括弧の部分は自分の文章に置き換えてください。
手順1(採点): 次の文章を100点満点で採点して、点数と理由を3つ教えてください。 <採点してほしい文章> 手順2(改善・2回くり返す): 指摘をもとに改善して、改善後の文章をもう一度100点満点で採点してください。 手順3(新規チャットで最終版を採点): 次の文章を100点満点で採点して、点数と理由を3つ教えてください。 <手順2で最後に出た改善後の文章>
目安 12分
ここまでの性質(非決定論・締切・机・注意力・長さ・迎合)は、モデルそのものの性質です。ハーネスは、その性質から生じる困りごとへの対策。ここから整理します。
実際に仕事をしてくれる「走る車」
Fable・Opus・Sonnet・GPT系。次の言葉を確率で選ぶ本体
Claude Code・Claude Desktop・Codex・各アプリ。エンジンを走らせる仕組み
図: エンジン(モデル)だけでは走れない。車(ハーネス)に載せてはじめてAIエージェントになる。
モデルの性質に対して、確実により質の高い出力を得るための仕組み作り。構成要素はシステムプロンプト・ツール・ループ・権限・メモリ。概念の多くは Anthropic 発で、まだ発展・模索の途中です。
Claude Code を使っていない人も大丈夫。ChatGPT のカスタム指示・メモリ・GPTs も同じ発想です。「どの困りごとへの対策か」で見てください。
いつも読まれる「守ってほしいこと」置き場。常に守ってほしいこと・設計パターン・報告フォーマットを書く。まず取り組むべき要素。
タイトルと説明だけを頭の片隅に置き、必要なときに本文を読む(段階的開示)。机を汚さずに、必要な知識だけ引き出す仕組み。
モデルの判断に頼らず「必ず実行される」処理。確率で動く世界に、決定論を取り戻す仕組み。「毎回必ずやってほしいこと」はお願いではなく Hooks にする。
関心の分離。1体に注文を詰め込むと質が落ちるので、仕事を分けて別の机で進める。注意力有限の問題を、人数で解く発想。
図: ハーネスの4つの道具。それぞれ、どの性質への対策かで見ると迷わない。
マルチモデルレビュー(例: Opus が気づけないことを Sonnet が気づく)・LLMディベート・ベストオブN。複数のモデルで探索の幅を広げる使い方です。
あの回で話した「ループ・メタハーネス」は、今日の性質(非決定論・迎合性・注意力有限)への対策でした。今夜でやっと、根っこがつながります。
目安 12分Anthropic 公式・園長の運用より
中身がわかると、選び方が「勘」から「理由」になります。選ぶのは3つ。モデル(エンジン)× エフォート(アクセル)× ツール(電卓)。
| モデル | 入力 | 出力 | 机の広さ | 向き(園長の整理) |
|---|---|---|---|---|
| Claude Haiku 4.5 | $1 | $5 | 200K | 速い・安い。定型の小さな作業 |
| Claude Sonnet 5 | $2 | $10 | 1M | 日常のバランス型。要約・定型調査 |
| Claude Opus 5 | $5 | $25 | 1M | 実装・検証・重い作業 |
| Claude Fable 5.1 | $10 | $50 | 1M | 最高性能。設計・統合・審美判断 |
2026年6月時点の Anthropic 公式価格(1Mトークンあたり・入力/出力・米ドル)。「机の広さ」=コンテキストウィンドウ。
Haiku 4.5 は一番小さくて速いエンジン。分類・抽出・定型の短い返事のように、答えが決まっている作業向きです。ただし机が200Kと他より狭いので、長い資料の読み込みには向きません。
Sonnet 5 は日常の主力。要約・調査・下書きなど、量をこなす仕事のバランスが良い。園長は「安い床は Sonnet」と決めていて、Haiku は実用品質が足りない場面が多いので使いません。
Opus 5 は実装・検証・コードレビューの主力。手を動かす仕事が得意で、値段の割に働きます。後述の高速モードが使えるのは Opus だけです。
Fable 5.1 は現時点で最も賢いエンジン。設計、知識の統合、デザインの審美判断、矛盾の裁定のように「answerが1つに決まらない仕事」で差が出ます。出力はOpusの倍の値段なので、要所に投入します。
メインは Fable。実装は Opus のサブエージェントに投げる。Opus は Fable と使用枠が別なので、メインの枠を食わずに実装を回せます。探索や大量のファイル読みは軽いモデルに任せて、メインの机を汚さない。「一番賢いモデルで全部やる」より、この分担のほうが早く終わります。
思考トークン=AIが答える前に自分で書く下書き。エフォートはその深さの設定で、5段階。Fable 5 系は「考える時間」が常時オンで、エフォートで深さを調整します(Anthropic 公式)。API の既定は high、Claude Code の既定は xhigh(コーディング向けの設定)。
変わるのは答える前の下書きの量です。上げるほど、深く考え、手順を細かく踏み、見落としが減ります。代わりに時間とトークンを使う。
下げると逆になります。道具を呼ぶ回数が減ってまとまり、前置きが短くなり、確認もあっさりになる。サブエージェントや単純作業には low が向くのはこのためです。
エフォートは全部の仕事に効くわけではありません。コーディングと長時間の自律作業には強く効きます。一方、雑談・分類・大量処理のような仕事は low のままで品質が落ちないことが多い。
だから全体の設定を上げるのではなく、用途ごとに変える。上げる前に、実際の仕事で試して差が出るか測るのが順番です。
普段は high。重い設計・難デバッグ・長時間の自律実行だけ xhigh。max は原則使わない(コスト増の割に伸びが小さく、考えすぎる)。使用枠が厳しいときは Opus に落とす。エフォートはAPIの設定なので、AIに「頑張って考えて」とプロンプトで頼んでも変わりません。切り替えるのは人間の側です。
Claude Code には高速モード(/fast で切り替え)があります。ここを誤解している人が多いので、はっきり言います。
同じ Opus のまま、文字が出てくる速さが上がる仕組みです。小さいモデルに落ちるわけではありません。賢さはそのままで、出力の速度が最大2.5倍ほどになります。
「高速モード=安いモデルに切り替わって品質が落ちる」と思われがちですが、逆です。モデルは変わらず、料金はむしろ上がります。速さを買う機能だと思ってください。
研究プレビューの段階の機能で、通常のOpusとは別の利用上限を持ちます。
整理すると、いじれるつまみは3つです。モデル=エンジンの大きさ(賢さ)、エフォート=アクセルの深さ(考える量)、高速モード=出力の速さ。混同しやすいのは後ろの2つですが、エフォートは「どれだけ考えるか」、高速モードは「どれだけ速く喋るか」で、別のものです。待ち時間が苦痛なら高速モード、答えが浅いならエフォート、力不足ならモデル。
新しいモデルの低エフォートは、前世代の高エフォートに並ぶ、または上回ることがある(Anthropic 公式ガイダンス)。だから、まず1つのモデルでエフォートを調整し、そのあとモデルを変える。
ChatGPT など他社のAIにも、同じ「考える時間」の切り替えがあります。名称は製品ごとに違いますが、発想は同じ。「重い質問だけ深く考えてもらう」が基本です。
AIに暗算させない。電卓(コード実行)を持たせれば、確率ではなく計算で答えが出る。
締切以降の情報・数値・実在確認は、記憶ではなく検索やツールで外から取る。
一括リネームのような決定的な作業はスクリプトに。LLM に決定論的システムの模倣をさせない。
使い方: Claude Code、または ChatGPT / Claude のコード実行が使える環境で貼る。先に「暗算で」と頼んで、次に「コードで」と頼むと差が見える。
1回目(暗算): 次の計算を、コードを使わずに暗算で答えてください: 123456 x 789012 2回目(電卓を持たせる): 次の計算を、暗算せずにコードを実行して答えてください。実行結果もそのまま見せてください: 123456 x 789012
コストは1リクエストではなく、解決1件あたりの総コスト(トークン×時間×人の手間)で判断する。安いリクエストでも、往復や再試行が増えれば安くない(Anthropic 公式・園長の運用)。
委譲の判断軸はトークン節約ではなく「完了到達までの総時間」。
Claude Code で /usage と打つと、いま何をどれだけ使っているかが出ます。ここが今夜の話の答え合わせになります。
上限はひとつではありません。5時間ごとの枠、週の全モデル枠、週の Fable 枠の3つが別々に減ります。
Fable が別枠なのは大きな意味があります。Fable の枠が細くなっても Opus は動く。だから実装を Opus のサブエージェントに逃がすと、メインの枠を守れます。
ここが一番大事です。AIに記憶はありません。AIは1回の問いに答えるだけの機械で、前回の会話を覚えていません。
会話が続いて見えるのは、アプリが毎回「これまでのやりとり全部」を頭にくっつけて送り直しているから。10往復目の質問では、1往復目からの全部が一緒に飛んでいます。第2章の「机」の話が、そのまま料金になっているだけです。
毎回まるごと送り直すなら、料金は青天井のはずです。それを救っているのがキャッシュ。むずかしい言葉ですが、やっていることは1つだけです。
たとえば3往復目の質問をしたとき、送っているのはこの3つです。
このうち1と2は、前回もまったく同じ内容で送っています。サーバーには前回それを処理した結果が残っているので、読み直しません。あたらしく読むのは3だけ。これがキャッシュです。読み直さずに済んだ分の料金は、定価の10分の1以下になります。
| 項目 | 値 | 意味 | どっちが良い |
|---|---|---|---|
| 入力 | 10.6k | 今回あたらしく読ませた量 | 少ないほど安い |
| キャッシュ読み取り | 32.6M | 読み直さずに済んだ量 | 多いほど得 |
| キャッシュヒット | 98% | 送った量のうち読み直し不要だった割合 | 高いほど良い |
園長の環境の実測値。これは非常に良い状態です。98%が効いていなければ、32.6M を全部定価で読ませることになり、料金の桁が2つ変わります。
なぜ頭から順なのか。文章は前から読むからです。さっきの例で1往復目を書き換えると、そこから先は「前回と同じ」と言えなくなり、2も3も読み直しになります。だから、こうなります。
まとめると、会話の頭は動かさない、長くなったら切る。この2つだけ覚えておけば十分です。
使用量パネルには「何が使用制限を消費していますか」という欄があります。園長の環境で上位に出るのは、この3つです。
見てのとおり、今夜すでに話した性質の帰結です。1つ目は第4章の関心の分離、2つ目は第2章の机とコンテキストロット、3つ目はその掛け算。
机を空にする(1タスク終わるごとに /clear)。サブエージェントは分離する価値があるときだけ使う(数を増やせば速くなるわけではない)。重いツール結果を絞る(読ませる量そのものを減らす)。使用量パネルは、この3つをサボっていないかを数字で見せてくれる鏡です。
図: エンジン(モデル)× アクセル(エフォート)× 電卓(ツール)。まずアクセル、それからエンジン。
目安 6分
今夜の性質と対策を、明日から使える3つに絞ります。ツールが変わっても、この3つは変わりません。
迎合性と、自己レビューの盲点をつぶす。作った文脈で「どう?」と聞かない。
締切以降の情報・数値・実在確認は検索やツールで。AIの記憶を信じない。
決定論に任せる。LLM に電卓の真似をさせない。
図: 3つの約束。検証は別のチャットで、事実は外に置く、決まった作業は決定論に任せる。
園長がライブでやる3つ
今夜の実演は3つ。全部、家でも同じ手順で再現できます。コピペ原文は各章のブロックA・B・Cにあります。
今夜やる・30分以内
今夜のうちにやると、性質が体に入ります。Claude Code を使っていない人も、ChatGPT / Claude.ai で全部できます。
ブロックAをそのまま使ってOK。3枚並べると、非決定論が一目でわかります。
体感するもの: 非決定論Claude Code 未使用なら、ChatGPT / Claude のカスタム指示で同じことを。「必要なときだけ」に残せるか。
体感するもの: 注意力有限ブロックBの手順どおり。差が出たら、それが「ほめ上手」の正体です。
体感するもの: 迎合性持ち帰る3行
AIは確率で動く。だから補助輪をつける。
この資料の元になった情報
引用・エピソード・数値は、以下の出典に書かれているものだけを使っています。