KT, 태국에 LLM 플랫폼 수출

KT 직원들이 태국어 LLM 플랫폼 구축 프로젝트에서 개발한 LLM 운영 관리 환경 'LLM 옵스'를 테스트하고 있다. KT 제공

KT는 태국 자스민그룹의 IT 기업 자스민 테크놀로지 솔루션(이하 JTS)과 추진한 태국어 거대 언어 모델(LLM) 플랫폼 구축 프로젝트를 마무리했다고 15일 밝혔다.

KT는 지난해 3월 JTS와 태국어 LLM 플랫폼 개발을 위한 계약을 체결하고 1년 여간 프로젝트를 수행했다. LLM 운영 관리 환경 'LLM 옵스'와 AI 서비스 인프라 'GPU 팜'을 구축하고 태국어 전용 LLM 모델까지 개발하는 원스톱 프로젝트다.

LLM 옵스는 다양한 LLM 모델의 학습·배포·운영 전 과정을 관리할 수 있는 환경이다.

또 KT는 클라우드 자회사 KT 클라우드와 함께 GPU 자원 관리를 위한 GPU 팜도 태국 현지에 조성했다. JTS는 이를 기반으로 태국 기업과 기관에 GPU 구독 서비스(GPUaaS)를 공급할 방침이다.

이 외에도 KT는 국내 LLM 기업 업스테이지와 태국어 전용 LLM을 공동 개발했다. 이 모델은 태국어, 영어, 한국어 등을 지원한다. 태국의 방대한 고유 데이터를 학습해 태국 정치, 역사, 문화 관련 질문에 정확하게 응대한다.

이진형 KT 전략·사업컨설팅부문 AI사업전략담당은 "이번 프로젝트에서 얻은 경험과 노하우를 포함해 마이크로소프트, 팔란티어와의 전략적 제휴를 기반으로 AI, 클라우드의 서비스형 상품 라인업도 다각화해 나갈 계획"이라고 말했다.