SKT, AI 서비스에 국산 NPU 적용 테스트

리벨리온 '아톰 맥스'. SKT 제공

SK텔레콤은 '에이닷 전화 통화요약' 등 자사 AI 서비스에 AI 반도체 스타트업 리벨리온의 NPU(신경망처리장치)를 적용하기 위한 테스트를 진행 중이라고 25일 밝혔다.

SK텔레콤과 리벨리온은 데이터센터용 AI 반도체 '아톰'을 탑재한 서버를 에이닷 전화 통화요약, 본인인증 PASS 스팸 필터링, PASS 금융 비서, AI 기반 반려동물 진단 보조 솔루션 엑스칼리버 등에 테스트 중이다.

결과에 따라 '아톰'의 성능 강화판인 대규모 AI 추론용 AI 반도체 '아톰 맥스'를 해당 서비스에 연내 상용 적용하는 것을 목표로 하고 있다. 향후 리벨리온 NPU 서버 도입은 지속적으로 확장할 계획이다.

에이닷 전화 통화요약은 SK텔레콤의 LLM(대규모언어모델) '에이닷엑스'를 기반으로 한다. 리벨리온의 '아톰'으로 상용 서비스가 될 경우 국산 LLM과 국산 NPU가 결합한 소버린 AI(국가 주권형 AI)가 이뤄진다고 회사는 설명했다.

양사는 이번 테스트를 시작으로 협력 범위를 확대해 국내 AI 생태계의 자립성을 강화할 계획이다.

이상민 SK텔레콤 성장사업추진실장은 "국내 AI 생태계 자립성 강화는 개별 기업이 아닌 국가의 경쟁력을 좌우할 수 있는 중요한 요소"라며 "앞으로도 AI 데이터센터, LLM, AI 반도체 등을 포함한 국내 AI 생태계의 역량 강화를 위해 노력할 것"이라고 말했다.