無料枠のモデルが入れ替わりました

Vercel AI Gatewayの無料スロットが更新されました。これまで無料で提供されていた Ling 3.0 Flash の枠を、Ling 3.0 Tiny が引き継ぎます。ANT Group（アリババ系）が公開したMOE（Mixture of Experts）モデルで、無料期間は 8月14日午前8時（PT） までです。

まずスペックを整理します。

  • 総パラメータ7.9B / トークンあたり約1.3Bのみアクティブ — MOE構造のため実効的な計算量は軽量です
  • コンテキストウィンドウ256K、最大 出力32Kトークン
  • ネイティブ関数呼び出し + プロンプトキャッシュ に対応
  • 応答性の高いエージェント、指示追従、マルチターン対話に最適化

無料枠は静かに入れ替わり、すぐ消えます。検証するなら早めに動いたほうがよいです。根拠資料は Vercel公式チェンジログ で確認できます。

Developer comparing MOE model specs of Ling 3.0 Tiny on AI Gateway dashboard Programming Illustration

AI SDKからの呼び出し方

モデル名を差し替えるだけで使えます。無料期間中は inclusionai/ling-3.0-tiny-free を指定してください。

// Vercel AI SDKでLing 3.0 Tinyを呼び出す
import { streamText } from 'ai';

const result = streamText({
  // 無料期間中は -free サフィックス付きのモデル名を使用
  model: 'inclusionai/ling-3.0-tiny-free',
  prompt: 'このスレッドを要約し、返信の下書きを作成してください。',
});

8月14日以降はモデル名から -free が外れます。 inclusionai/ling-3.0-tiny に切り替えないと、本番環境で突然404が返ります。ここは注意が必要です。

コーディングエージェントへの組み込み

ターミナルで以下を実行するだけです。

# AI Gateway コーディングエージェントのセットアップ
vercel ai-gateway coding-agents setup

その後、エージェント一覧から inclusionai/ling-3.0-tiny-free を選択すれば完了です。SDKの追加インストールやAPIキー発行なしで使えるのがAI Gatewayの利点です。

Vercel AI Gateway unified API dashboard showing Ling 3.0 Tiny free tier and routing rules System Abstract Visual

AI Gatewayは単なるプロキシではありません

「モデルが1つ追加された」というニュースだけで見落としがちですが、AI Gateway自体がどのレイヤーなのかを押さえておく必要があります。

項目内容
統合API複数プロバイダを単一インターフェースで呼び出し
使用量・コスト追跡トークン単位でダッシュボードから確認
リトライ / フェイルオーバープロバイダ障害時の自動切り替え
ルーティングルール条件別のモデル振り分け
Zero Data Retentionデータ保持ポリシーに対応
予算管理APIキー単位で上限を設定
料金体系プロバイダ価格そのまま、プラットフォーム手数料なし

特に BYOK（Bring Your Own Key） リクエストにも推論手数料がかからない点は攻めた設計です。自前のキーを使いながら、ゲートウェイのルーティングやフェイルオーバーの恩恵だけを受ける構成が可能になります。

注意点

  • 無料枠はいつでも入れ替わります。 Ling 3.0 Flashがそうだったように、Tinyも8月14日以降は有料化、または別モデルに置き換わる可能性があります。本番依存は推奨しません。
  • MOEモデルはアクティブパラメータ（1.3B）だけで判断しないでください。 総パラメータ7.9Bという事実は、ルーティングのオーバーヘッドとメモリ要件がそれだけあることを意味します。ローカル実行を検討する場合はVRAM計算をやり直してください。
  • 出力32Kトークンは大きいですが、256Kコンテキストを埋めるとレイテンシが跳ね上がります。 実測なしで本番投入は避けてください。

複雑な外部APIを自然言語インターフェースでラップするアーキテクチャに関心があるなら、Spotify Ads API + Claude Code プラグインのアーキテクチャ解説 も参考になります。エージェントにどのモデルを載せるかという問題は、その上に乗せるインターフェース設計と密接に結びついています。

Developer running streamText code with Ling 3.0 Tiny inside a coding agent terminal Development Concept Image

まとめ

  • Ling 3.0 Tinyは MOEベースの軽量モデルで、エージェントやマルチターン対話に特化
  • 無料期間は 8月14日午前8時（PT） まで、モデル名は -free サフィックス付き
  • AI Gatewayは 手数料なしの統合レイヤーで、BYOKとの組み合わせも魅力的
  • ただし 無料枠依存は禁物、本番は有料化後のスペックを見て判断すること

次の学習ステップ

  1. AI SDKの streamText / generateText ドキュメントを読み、ストリーミング処理のパターンを習得する
  2. 関数呼び出しを組み合わせて、実際のツール呼び出しシナリオを作る
  3. プロンプトキャッシュが実際にどれだけコストを削減するか、ログで検証する

あわせて読みたい

日本国内でAI Gatewayを利用する場合は、リージョンのレイテンシとデータ保持ポリシーを先に確認してください。特に金融・公共系のプロジェクトではZero Data Retentionオプションが必須になります。

本コンテンツは、信頼性の高い情報源をもとにAIツールを活用して作成され、編集者によるレビューを経て公開されています。専門家によるアドバイスの代替となるものではありません。