왜 지금 이 아키텍처를 봐야 할까?
ML 시스템을 운영하다 보면 반드시 부딪히는 딜레마가 있어요. "컴퓨팅 효율"과 "배포 속도"는 대개 트레이드오프 관계로 보입니다. 계산을 공유하려면 여러 피처를 하나로 묶어야 하고, 하나로 묶으면 하나의 실패가 전체 배포를 막아버리죠.
메타도 똑같은 벽에 부딪혔습니다. 광고 랭킹 모델은 요청 한 번에 2만 개가 넘는 피처를 필요로 하는데, 초기 F3는 모든 피처를 하나의 머지 그래프로 컴파일해서 배포했어요. 효율은 좋았지만, 피처 D에 오타 하나만 있어도 피처 A, B, C까지 전부 출시가 막히는 구조였습니다.
이 글은 메타가 이 문제를 어떻게 릴리즈 단위와 실행 단위를 분리하면서 해결했는지, 그 내부 최적화 4단계를 뜯어보는 인사이트 글입니다. 대규모 피처 스토어나 피처 서빙 레이어를 설계하는 분들에게 꽤 직접적인 참고가 될 거예요.

핵심 아이디어: "머지는 버리고, 공유는 되찾는다"
F3 Lightning의 목표는 명확합니다. 피처를 각자 독립적으로 배포하되, 실행 시점에는 기존 머지 그래프 수준의 효율을 유지한다. 이걸 위해 도입된 4단계 최적화를 코드 관점으로 풀어볼게요.
Step 1. 안정적인 식별자(Stable Identifier)
독립 컴파일된 피처들이 같은 연산을 공유하는지 알려면, 노드 번호가 아닌 "연산의 의미" 기반 식별자가 필요합니다. 메타는 (오퍼레이션, 파라미터, 입력 식별자들)을 해시해 식별자를 만들었어요. 입력 순서가 결과에 영향을 주지 않으면 정렬해서 해시합니다.
# 개념 예시: 내용 기반 식별자 생성
def compute_stable_id(op: str, params: dict, input_ids: list[str]) -> str:
# 입력 순서가 결과에 영향을 주지 않는 경우 정렬
normalized_inputs = sorted(input_ids)
payload = f"{op}|{sorted(params.items())}|{normalized_inputs}"
return hashlib.sha256(payload.encode()).hexdigest()
# 7일 클릭 카운트와 7일 노출 카운트가 같은 필터 노드를 공유하면
# 동일한 식별자가 생성되어 런타임에서 한 번만 실행됨
filter_id = compute_stable_id("time_window_filter", {"window": "7d"}, ["event_source_click"])
핵심은 몇 주 간격으로 컴파일된 피처라도 같은 연산이면 같은 ID를 받는다는 점이에요. 이게 이후 모든 공유 최적화의 전제가 됩니다.
Step 2. 단일 실행 계획(Execution Plan)
서비스 시작 시점에 모든 활성 피처를 모아 위상 정렬(topological sort) 후, 동일 식별자 노드는 하나만 남기고 모든 컨슈머를 그 노드에 연결합니다. 그래프를 매 요청마다 순회하지 않도록 평탄화된 리스트로 변환하는 것도 포인트예요.
# 개념 예시: 위상 정렬 + 중복 노드 제거
def build_execution_plan(features: list[FeatureGraph]) -> list[Node]:
merged: dict[str, Node] = {}
for fg in features:
for node in fg.nodes:
if node.id not in merged:
merged[node.id] = node
else:
# 동일 연산은 기존 노드로 컨슈머 리다이렉트
fg.redirect(node.id, merged[node.id].id)
# 위상 정렬 후 평탄화된 실행 순서 반환
return topological_sort(list(merged.values()))
여기서 주의할 점! 하나의 연산이 실패하면 다운스트림 노드만 not-ready로 마킹하고 나머지 독립 브랜치는 계속 실행되도록 해야 합니다. 이 격리가 없으면 공유가 곧 장애 전파가 돼버려요.
Step 3. 공유 메모리 버퍼
1, 2단계로 중복 연산은 사라졌는데도 CPU가 여전히 높았습니다. 원인은 메모리 레이아웃이었어요. 피처마다 자기 요청 컨테이너를 들고 있어서 중간 결과가 여기저기 흩어져 있었고, 실행 계획을 따라가다 보면 캐시 미스가 폭발했죠.
해결책은 요청당 하나의 버퍼입니다. 시작 시점에 모든 피처 참조를 이 버퍼의 슬롯으로 리바인딩해요. 덕분에 세 가지 이득이 생깁니다.
- 지역성(locality): 연속 실행 단계가 인접 메모리를 건드려 캐시 히트율 상승
- 단일 readiness 벡터: 값과 분리된 벡터로 "준비됨" 여부만 확인 (빈 리스트도 유효한 결과이므로 값 자체로 판단 불가)
- 중복 복사 제거: 리스트/맵은 참조만 공유, 스칼라는 복사 (포인터 추적보다 복사가 저렴)
# 개념 예시: 요청 단위 공유 버퍼
class RequestBuffer:
def __init__(self, plan: list[Node]):
self.slots = [None] * len(plan)
self.ready = [False] * len(plan) # 값과 분리된 readiness 벡터
def execute(self, plan: list[Node]) -> None:
for idx, node in enumerate(plan):
try:
self.slots[idx] = node.compute(self.slots)
self.ready[idx] = True
except Exception:
self.mark_downstream_not_ready(idx, plan)
Step 4. Dense Index Mapping
마지막 병목은 식별자 조회 비용이었습니다. 매 접근마다 해시 → 버킷 탐색 → 포인터 추적이 필요했죠. 메타는 시작 시점에 모든 식별자에 연속 정수 슬롯을 부여하고, 모든 참조를 그 슬롯으로 재작성했습니다. 결과적으로 요청 경로에서는 해시도, 룩업 테이블도 없이 배열 인덱스 한 번으로 값을 꺼냅니다.
이 4단계를 거친 결과, 비교 가능한 피처 기준 약 3.6배 빠른 프로덕션 반영과 인프라 컴퓨팅 비용 증가 없음을 동시에 달성했다고 합니다.

주의사항과 비판적 시각
이 아키텍처를 그대로 가져다 쓰기 전에 짚어야 할 부분이 있어요.
1. 시작 비용(Startup Cost)의 그림자
"변하지 않는 일은 시작 시점에"라는 원칙은 훌륭하지만, 서비스 시작 시간이 길어진다는 부작용이 있습니다. 피처가 2만 개 규모라면 위상 정렬과 식별자 재작성에 상당한 시간이 걸릴 수 있어요. 메타는 이걸 감수할 수 있는 규모였지만, 소규모 팀에서는 콜드 스타트 지연이 더 치명적일 수 있습니다.
2. 식별자 안정성에 대한 강한 의존
Step 1의 내용 기반 식별자는 **"같은 의미 = 같은 해시"**라는 가정에 전적으로 의존합니다. 만약 파라미터 정규화 로직에 버그가 있거나, 입력 순서가 실제로는 결과에 영향을 주는 케이스가 있다면 조용히 잘못된 공유가 발생할 수 있어요. 식별자 생성 로직은 별도의 강력한 테스트 대상이어야 합니다.
3. 단일 버퍼의 메모리 압박
요청당 하나의 버퍼는 지역성 측면에서 탁월하지만, 대형 리스트/맵 피처가 많은 모델에서는 요청당 메모리 사용량이 커집니다. 메타는 "각 버퍼가 한 요청 동안만 유지된다"는 전제로 안전성을 확보했지만, 이 전제가 깨지는 확장(예: 스트리밍 피처)에서는 재검토가 필요합니다.
4. "공유 실패 = 다운스트림만 격리"의 함정
공유 노드가 실패하면 다운스트림만 not-ready 처리한다고 했는데, 그 공유 노드에 의존하는 피처가 20개라면 20개 피처가 동시에 영향을 받습니다. 격리 수준은 "개별 피처"가 아니라 "의존 그래프 단위"라는 점을 명확히 인지해야 해요.

실무 적용을 위한 제언
F3 Lightning의 교훈은 대규모 시스템에만 국한되지 않습니다. 피처 스토어, 추천 시스템, 심지어 마이크로서비스 배포 파이프라인에도 그대로 적용 가능한 원칙이에요.
세 가지로 요약하면:
- 배포 경계와 실행 경계를 분리하라. 하나의 아티팩트가 "어떻게 실행되는지"와 "언제 배포되는지"를 동시에 결정하면, 그 아티팩트는 반드시 병목이 됩니다.
- 요청 간 변하지 않는 일은 시작 시점으로 옮겨라. 공유 작업 탐지, 실행 순서 결정, 결과 저장 위치 계산 — 이 세 가지는 요청마다 반복할 이유가 없습니다.
- 같은 연산을 같은 순서로 실행해도 CPU 비용은 달라진다. 결과가 어디에 저장되고 몇 개의 복사본이 존재하는지가 연산 횟수만큼 중요합니다. 이게 이 프로젝트에서 가장 일반화 가능한 통찰이에요.
국내 환경에서도 피처 서빙 레이어를 직접 운영하는 조직이라면, 특히 **"머지 그래프를 유지하면서 릴리즈만 분리"**하려는 유혹을 조심하세요. 메타도 처음엔 그 방향으로 여러 번 개선을 시도했지만, 피처가 늘어날수록 이득이 침식됐다고 합니다. 근본적인 해결은 실행 공유를 머지와 분리하는 것이었어요.
더 깊이 파고들고 싶다면, 터미널 기반 AI 코딩 도구의 최신 동향을 다룬 Gemini 3 Flash와 Gemini CLI 활용 가이드도 함께 보시면 좋습니다. 그리고 실시간 인터랙티브 AI 생성 모델의 아키텍처가 궁금하다면 Waypoint-1 실시간 비디오 생성 모델 분석을 추천해요.
근거자료: Meta Engineering - F3 Lightning: How Meta accelerates ads ML features to production