thinkpool

[서울=뉴스핌] 아이뉴스24 = "다양한 텔코LLM을 만들고 이를 상황에 맞게 골라 쓸 수 있도록 하는 것이 SK(034730)텔레콤(017670)의 멀티LLM 전략입니다."

30일 오전 SKT타워 4층 수펙스홀에서 개최된 '텔코 LLM' 공개 간담회에서 에릭 데이비스 SK텔레콤 AI 기술 협력 담당은 이같이 밝혔다. 그는 "1개의 범용 LLM(거대언어모델)으로 통신사들이 하려는 다양한 서비스와 문제를 해결하는 것은 쉽지 않다"며 "텔코 LLM은 범용 LLM에 비해 전문성, 효율성, 개발 기간 단축 등에서 유리하다"고 설명했다.

[서울=뉴스핌] 아이뉴스24 = 에릭 데이비스 SK텔레콤 부사장 겸 AI 테크 콜라보레이션 담당이 30일 서울 을지로 T타워 수펙스홀에서 열린 '텔코LLM' 기자설명회에서 '텔코LLM'을 설명하고 있다. [사진=곽영래 기자] npinfo22@newspim.com

텔코LLM은 GPT와 같은 범용 LLM이 아니라 통신업에 특화된 LLM을 뜻한다. SK텔레콤의 멀티LLM 전략의 일환으로, 통신사들이 AI컨택센터(AICC), 유통망, 네트워크 운용, 사내 업무 등 활용처와 특정 업무마다 최적화된 LLM을 가져다 쓸 수 있게 하는 것이다. SK텔레콤은 텔코 LLM을 통해 통신에 특화된 AI 서비스를 제공할 수 있다고 강조했다.

예컨대 텔코 LLM 도입으로 3분30초(고객 상담 3분, 상담 후 업무 처리 30초) 이상 소요되는 현 고객센터 상담 대응 시간이 약 30초에서 1분30초로 줄어드는 것이다. 텔코 LLM이 5G 요금제와 T멤버십, 공시지원금 등 통신 전문 용어와 AI 윤리가치와 같은 통신사 내부 지침을 학습하고 해결책을 상담원에게 제공할 뿐만 아니라 상담 내용을 요약해 제공하기 때문이다.

[서울=뉴스핌] 아이뉴스24 = SK텔레콤은 30일 오전 서울 중구 SKT타워에서 텔코 LLM 구축 과정, 사용 예시 등을 소개했다. 사진은 에릭 데이비스 AI 테크 협력 담당(왼쪽)과 정민영 AI 플랫폼 담당이 기자 질의에 답하는 모습. [사진=SKT] npinfo22@newspim.com

SK텔레콤은 텔코LLM의 완성도에 자신감을 드러냈다. AI의 고질적인 문제인 환각(할루시네이션)에 대해 정민영 담당은 "환각률은 내부적으로 평가 기준이 있는데 몇몇 테스(095610)크는 기준이 넘었고 다른 테스크들도 기준 이상의 수치를 확보하려고 한다"며 "오는 6월 정도에는 꽤 넉넉히 달성할 수 있을 거라고 생각한다"고 말했다.

이날 회사는 통신사용 '인텔리전스 플랫폼'도 선보였다. 멀티 LLM부터 멀티모달, 오케스트레이션, 검색증강생성(RAG) 등까지 아우르는 '기업용 AI 개발·운용 패키지'다. 정민영 담당은 "통신사 업무는 공유하는 것이 많아서 쉽게 확산될 수 있을 것"이라며 "기술적으로나 비용 효율적으로도 확산이 용이하다. 글로벌 텔코 AI 얼라이언스(GTAA) 회원사들과도 어떻게 적용할 수 있을지 논의해볼 것"이라고 전했다.

또한 '글로벌 AI 컴퍼니' 비전에 맞게 글로벌향 텔코LLM을 내놓을 예정이라고 밝혔다. 데이비스 담당은 "글로벌 텔코 LLM 개발은 아직 세부사항을 논의 중으로 SK텔레콤 텔코 LLM을 마친 후 착수하게 될 것"이라며 "SK텔레콤 텔코 LLM은 한국어 기반이지만 통신업은 용어·표준·업무환경 등이 비슷하고 기반이 되는 범용 LLM의 다국어 지원 능력 등이 개선돼 GTAA와 별개로 이를 이용한 해외 진출도 할 것"이라고 설명했다.

이 기사는 아이뉴스24가 제공하는 기사입니다