글로벌 AI 반도체 시장이 방대한 데이터 처리에 최적화된 ‘생성형’ 단계에서, 스스로 논리적 판단을 통해 결과를 도출하는 ‘추론형’ 단계로 빠르게 전환하고 있다.
가트너와 테크리퍼블릭에 따르면, 추론형 AI 반도체 시장 규모는 올해 680억 달러에서 내년 980억 달러로 44%가량 급증할 전망이다. 기존 생성형 칩이 대규모 학습과 고성능 연산 처리에 초점을 맞췄다면, 추론형 칩은 이미 학습된 모델을 기반으로 실시간 예측·분석을 수행할 때 요구되는 낮은 지연 시간과 높은 전력 효율을 우선한다.
추론형 AI의 빠른 발전 배경에는 스마트폰·PC를 넘어 가전·자동차·의료·금융·법률 등 다양한 산업 현장으로 AI 활용 영역이 확대된 점이 있다. 과거에는 텍스트나 이미지 같은 콘텐츠 생성에 집중했다면, 최근에는 복잡한 문제 해결과 의사 결정을 지원하는 역할이 더욱 중요해졌다.
주요 빅테크들은 추론형 모델 경쟁에 뛰어들고 있다. 메타는 ‘AI 초지능 연구소’를 출범해 복합 추론과 감성 이해 역량을 갖춘 차세대 모델 개발에 착수했다. 프랑스의 AI 기업 미스트랄은 유럽 최초의 추론 특화 모델 ‘마지스트랄’을 공개하며 시장 판도를 뒤흔들고 있다.
국내 기업들도 추론 고도화 언어 모델을 잇따라 선보였다. SK텔레콤과 크래프톤은 공동 개발한 추론 특화 모델 3종을 출시했고, 네이버는 추론 속도를 한 단계 끌어올린 ‘하이퍼클로바 X 씽크’를 공개했다. AI 서비스 경쟁력이 실시간 분석과 대응 속도에 달려 있는 만큼, 반도체 업계 전반의 기술·투자 경쟁은 더욱 치열해질 전망이다.
