GeekNews중요도5/5
AI 스택의 가치 이동: 소프트웨어에서 반도체와 추론 플랫폼으로
한마디로
AI 시대에는 소프트웨어 앱이 아니라 칩·컴퓨팅·데이터 플랫폼이 돈을 버는 구조로 바뀌고 있어요
무슨 내용인가
과거 SaaS 시대에는 애플리케이션이 75–90% 마진을 가져갔지만, AI에서는 추론 비용이 매출의 23%를 차지하면서 애플리케이션 마진이 50–60%로 줄어들고 있어요. 대신 NVIDIA 같은 반도체 기업, 공개 모델을 효율적으로 실행하는 추론 플랫폼(Fireworks AI, Together AI), 독점 데이터 루프를 쌓은 플랫폼(Databricks, Palantir)이 가치를 독점하고 있어요. 4대 하이퍼스케일러가 2026년에 6,000억 달러 이상의 설비투자를 하면서 물리적 병목(칩 패키징, HBM 메모리, 전력)이 강력한 진입장벽이 되고 있습니다.
에디터 노트 · The Brief
지난 SaaS 문법대로 얇은 앱 레이어에 붙어서 마진을 기대하면 추론 비용이 매출의 20% 넘게 갉아먹는 순간 사업이 무너져요. 실무에서 챙길 건 하나예요. 남이 못 복제하는 데이터 루프나 워크플로 종속성 없이 GPT wrapper로 승부하면 모델값 내려가는 속도만큼 우리 마진도 같이 증발한다는 것. 반대로 고객 행동 데이터가 계속 쌓여 모델을 개선하는 구조를 쥐고 있으면 밑단 인프라 비용을 성과 기반 가격으로 전가할 협상력이 생겨요.
실무 시사점
마케팅·광고 기업이 AI를 도입할 때는 저렴한 공개 모델을 쓰되, 추론 비용을 마진으로 돌리려면 성과 기반 가격이나 독점 데이터 루프가 필수예요. 단순 래퍼 애플리케이션은 5–8배 낮은 가치평가를 받으므로, 고객 상호작용 데이터나 기록 시스템으로 차별화하지 못하면 수익성이 크게 떨어질 거예요
태그
용어 풀이
- AI 스택
- AI 비즈니스를 구성하는 반도체·모델·추론 플랫폼·데이터·애플리케이션 계층을 차례로 쌓은 구조
- 추론 비용
- 학습된 모델을 사용해 실제 예측을 만드는 데 드는 비용으로, AI 앱의 매출을 직접 잠식하는 변동비
- 데이터 플랫폼
- 기업의 데이터를 한곳에 모아 관리하고 AI 학습에 활용하도록 해주는 인프라로, 옮기기 어려워 높은 가치를 유지하는 계층
- 프리미엄 모델
- OpenAI의 GPT나 Anthropic의 Claude 같이 최고 성능을 제공하고 기업 고객을 직접 확보한 소수 모델
공유X
이 글이 도움이 됐다면
로그인 없이 누를 수 있어요 · 다시 누르면 취소