Ling 3.0 Tiny, Vercel AI Gateway에 무료로 풀렸습니다 (8월 14일까지)

무료 슬롯에 새 모델이 들어왔어요

Vercel AI Gateway의 무료 모델 슬롯이 교체됐어요. 기존에 무료로 제공되던 Ling 3.0 Flash 자리를 Ling 3.0 Tiny가 이어받았습니다. ANT Group(알리바바 계열)이 공개한 MOE(Mixture of Experts) 모델이고, 무료 기간은 **8월 14일 오전 8시(PT)**까지입니다.

핵심만 먼저 짚어볼게요.

• 총 7.9B 파라미터 / 토큰당 약 1.3B 활성 — MOE 구조라 실제 연산량은 훨씬 가볍습니다
• 256K 컨텍스트 윈도우, 최대 32K 출력 토큰
• 네이티브 펑션 콜링 + 프롬프트 캐싱 지원
• 반응형 에이전트, 인스트럭션 팔로잉, 멀티턴 대화에 최적화

무료 슬롯은 늘 그렇듯 조용히 교체되고 금방 사라지니까, 실험해볼 생각이라면 지금이 타이밍이에요. 근거자료는 Vercel 공식 체인지로그에서 확인할 수 있어요.

AI SDK로 바로 호출하기

모델 이름만 바꿔주면 됩니다. 무료 기간 동안은 inclusionai/ling-3.0-tiny-free를 쓰면 돼요.

// Vercel AI SDK로 Ling 3.0 Tiny 호출하기
import { streamText } from 'ai';

const result = streamText({
  // 무료 기간 동안은 -free 접미사가 붙은 모델명을 사용
  model: 'inclusionai/ling-3.0-tiny-free',
  prompt: '이 스레드를 요약하고 답글 초안을 작성해줘.',
});

8월 14일 이후에는 모델 이름에서 -free가 빠집니다. 즉 inclusionai/ling-3.0-tiny로 바꿔야 해요. 이거 안 바꾸면 프로덕션에서 갑자기 404 맞습니다. 😅

코딩 에이전트에서 쓰는 법

터미널에서 아래 명령만 돌리면 됩니다.

# AI Gateway 코딩 에이전트 세팅
vercel ai-gateway coding-agents setup

이후 에이전트 목록에서 inclusionai/ling-3.0-tiny-free를 선택하면 끝이에요. 별도 SDK 설치나 키 발급 없이 바로 붙는 게 AI Gateway의 장점입니다.

AI Gateway, 그냥 프록시가 아닙니다

모델 하나 추가됐다는 소식만 보면 놓치는 게 있어요. AI Gateway 자체가 어떤 레이어인지 짚고 가야 실무 판단이 됩니다.

특히 BYOK(Bring Your Own Key) 요청에도 추론 수수료를 안 붙인다는 건 꽤 공격적인 정책이에요. 자체 키를 쓰면서 게이트웨이의 라우팅/페일오버 혜택만 챙기는 구성이 가능하다는 뜻이니까요.

주의할 점

• 무료 슬롯은 언제든 교체됩니다. Ling 3.0 Flash가 그랬듯, Tiny도 8월 14일 이후엔 유료로 전환되거나 다른 모델로 밀려날 수 있어요. 프로덕션 의존은 비추천입니다.
• MOE 모델의 특성상 활성 파라미터(1.3B)만 보면 안 됩니다. 총 파라미터가 7.9B라는 건 라우팅 오버헤드와 메모리 요구량이 그만큼 있다는 뜻이에요. 로컬 구동을 고민한다면 VRAM 계산을 다시 해보세요.
• 32K 출력 토큰은 크지만, 256K 컨텍스트 전체를 채워 넣는 순간 지연시간이 확 뜁니다. 실측 없이 프로덕션에 넣지 마세요.

복잡한 외부 API를 자연어 인터페이스로 감싸는 아키텍처에 관심 있다면, Spotify Ads API + Claude Code 플러그인 아키텍처 해부 글도 같이 보면 그림이 잡힐 거예요. 에이전트에 어떤 모델을 붙이느냐의 문제는 결국 그 위에 얹는 인터페이스 설계와 맞물려 있으니까요.

정리하면

• Ling 3.0 Tiny는 MOE 기반 경량 모델로, 에이전트/멀티턴 대화에 특화되어 있어요
• 무료 기간은 **8월 14일 오전 8시(PT)**까지, 모델명은 -free 접미사 포함
• AI Gateway는 수수료 없는 통합 레이어라 BYOK 조합도 매력적입니다
• 다만 무료 슬롯 의존은 금물, 프로덕션은 유료 전환 이후 스펙을 보고 결정하세요

다음 단계로 볼 것들

1. AI SDK의 streamText / generateText 문서를 훑어보고 스트리밍 처리 패턴 익히기
2. 펑션 콜링을 붙여서 실제 툴 호출 시나리오 만들어보기
3. 프롬프트 캐싱이 실제로 얼마나 비용을 줄여주는지 로그로 검증해보기

함께 보면 좋은 글

• Claude Managed Agents를 Cloudflare에 배포하는 완벽 가이드 — 에이전트를 실제 인프라에 올릴 때의 보안/확장성 이슈를 다룹니다.
• Spotify Ads API + Claude Code 플러그인 아키텍처 해부 — 자연어로 복잡한 API를 조종하는 실전 아키텍처.

국내 환경에서 AI Gateway를 쓸 때는 리전 지연시간과 데이터 보존 정책을 먼저 확인하세요. 특히 금융/공공 쪽 SI 프로젝트라면 Zero Data Retention 옵션이 필수입니다.