借り物のAIは、ある日突然消える

選んで、測って、最適化したモデルが、ある朝の通知で退役した。しかも1つではなかった。安い階層が丸ごと消え、残ったのは最高値の1つ——出力単価は前任の5倍だ。

レイテンシもコストも自分で握れるのに、土台のモデルだけは握れていなかった。速度・コストと並ぶ第三の判断軸として、供給の主権がここで立ち上がる。

ただし自前化は「動かす」だけでは足りない。既製の軽量モデルは品質で負けた（42〜69% 対 94%）。そして残り6日の危機に即応できたのは、代替が使えるかを人手なしで確かめられる計測基盤があったからだった。

ここまでの3回は、すべて「自分の手で性能を良くする」話だった。測って、分解して、レバーを引く。だが、どれだけ最適化を積んでも、自分ではどうにもならない層がひとつだけ残っていた。土台のモデルそのものだ。

それを思い知らされたのは、ある朝の退役通知だった。

退役は、1つでは済まなかった

外部のAI APIには「モデルの退役（提供終了）」がある。ある日、使っていたモデルに終了予定日が付く。

私の場合、それは連鎖した。まず、無料枠用のモデルと有料枠用のモデルの両方に、翌月・翌々月の終了予定が付いていることに気づいた。慌てて別のモデルへ寄せた。ところがその2週間後、寄せた先のモデルにも終了予定が判明する。見渡すと、同じ系列のモデルがまとめて退役の方向に動いていた。残り6日で代替を決めろ、という状況だった。

私のコードは、一行も壊れていない。問題はその下だ——土台として借りているモデルそのものを、貸し手の都合で引き上げられていく。バグではなく、供給が消えるのだ。

安い順に並べたら、背筋が寒くなった

退役していくモデルを、コストの安い順に並べてみた。

退役していくのは、ぜんぶ「安い階層」だった。生き残ったのは、いちばん高い1つだけ。しかもそのモデルは、前任の5倍に値上げされていた。

つまり失ったのは品質ではない。品質は、生き残った高いモデルでむしろ上がる。失ったのは、唯一の”安さ”だった。安い選択肢が根こそぎ消え、残ったのは最も高いプランへの片道切符だった。

実際、この生き残った高いモデルを全ユーザーに提供したら経済がどうなるかを、コストシミュレーションで確かめた。結果は明快で——現実的な課金転換率では、はっきり赤字だった。損益分岐に必要な転換率が、現実（数%）の何倍という破綻水準まで跳ね上がる。品質は上がっても、この単価では事業が回らない。安さが消えるとは、そういうことだった。

レイテンシは握れる。でも、土台は握れなかった

ここで、じわじわと本質が見えてきた。

• レイテンシは、自分で分解して、自分で縮められる。
• コストも、出力を削り、無駄を消して、自分で下げられる。
• でも——土台のモデルそのものだけは、供給側が退役させ、値上げする。私にできることは何もない。

借り物のCPUの上で、どれだけ賢く最適化を積み上げても、CPUごと引き上げられたら、その日で終わる。これが、外部APIに完全に依存することの、見えにくいリスクだった。

だから、自前で持つ —— 速さでも安さでもなく「主権」

第2回で、私は「近くて速い場所が欲しい」と書いた。でも本当に欲しかったのは、その先にあった。消えない・勝手に値上げされない場所だ。

自前で推論を持つ（セルフホスト）ことの本当の動機は、速さでもコストでもなく——供給の主権、つまり自分の土台を自分で握ることだった。

ただし、ここに落とし穴がある。既製の軽量モデルを自前で立てただけでは、品質で負ける。実際に測ると、既製の軽量モデルはどれも、生き残った本番モデルに対して大きく劣った——特に「訳の口語としての自然さ」で。

なぜ、こんな差がつくのか。裏にはこういう事情がある。生き残った本番モデル（外部APIが提供）は、実は高性能な大型モデルだ。外部の推論事業者は、その大型モデルを独自の高速推論基盤（専用チップ）に載せることで、「大きいのに低レイテンシ」——つまり賢さと速さを同時に——提供していた。だから外部APIを使っている間は、“大きくて速い”のいいとこ取りができていたのだ。ところが自前で安価なGPUに載せ替えると、速く・安く動かすにはモデルを小さくするしかない。その瞬間に犠牲になるのが、品質（とりわけ口語の自然さ）だった。

だから「自前で動かす」だけでは足りない。自前のデータでモデルを微調整（fine-tune）して専用機にする——そこまでやって初めて、主権と品質が両立する。この42%を84%、一部タスクでは巨大モデルと同点まで引き上げた具体的な仕込み方は、専門特化シリーズで。これは片手間ではなく、腰を据えた投資（moat）になる。

そして経済も裏返る。使うほど払う従量課金から、GPUを固定費で持つモデルへ。ある規模を超えれば、自前のほうが安く、しかも退役と値上げから自由になる（この試算とレイテンシの実測は第5回で）。

教訓

1. 外部APIの上では、土台を握っているのは供給側だ。 退役も値上げもコントロール外のサプライチェーンリスクで、しかも安い選択肢ほど先に消える。「いまは安い」を前提に事業を組むと、足元をすくわれる。
2. 供給の主権は、速度・コストと並ぶ第三の判断軸。 ただし自前化は「動かす」だけでは足りない——既製の軽量モデルは品質で負ける。主権を、品質を犠牲にして買ってはいけない。
3. 土台が揺れたときに効くのは、計測基盤だ。 6日で代替を確定できたのは、差し替えても品質が落ちないと人手なしで確認できたからだった。

---

付録：生データ