SK텔레콤이 5G 요금제, 공시지원금 등 국내 통신 관련 내용을 학습한 ‘텔코LLM’을 오는 6월 선보인다.
SK텔레콤은 30일 기자설명회를 열고 국내 인스타 팔로우 구매 통신 용어와 통신사 내부 지침을 학습한 통신업 특화 거대언어모델(LLM)을 6월 중 개발 완료해 연내 고객센터에 적용할 계획이라고 밝혔다.
SK텔레콤은 여러 LLM을 골라 쓰는 전략을 세웠다. 다른 회사와 협력해 자체 LLM인 에이닷엑스(A.X)와 오픈AI의 ‘GPT-4’, 앤트로픽의 ‘클로드’에 한국어 통신 데이터를 학습시켜 텔코LLM을 만들고 있다. ‘글로벌 텔코 AI 얼라이언스’에서 글로벌 텔코LLM 개발에도 참여하고 있는 SK텔레콤은 연내 한국어 버전 서비스를 먼저 시작하고, 글로벌 버전 개발에 착수할 계획이다.
SK텔레콤은 LLM에 통신 관련 데이터를 학습시킨 뒤 유용한 답변을 하는지 등을 상담사가 평가하고, 부족하다는 평가를 받은 부분과 관련 데이터를 추가 학습시키는 과정을 반복해 가며 LLM을 고도화했다. 에릭 데이비스 SK텔레콤 AI 기술협력담당은 1개의 범용 LLM으로 통신사가 하려는 다양한 서비스와 문제를 인스타 팔로우 구매 해결하는 일은 쉽지 않다며 다양한 텔코LLM을 만들어 상황에 맞게 골라 쓸 수 있도록 하는 것이 SKT의 멀티LLM전략이라고 소개했다.
텔코LLM을 활용하면 통신사 업무에 걸리는 시간을 줄일 수 있을 것으로 기대된다. 기존 고객센터에선 고객 상담에 약 3분, 상담 후 업무 처리에 30초 이상이 걸렸다고 한다. 텔코LLM을 도입하면 LLM이 해결책을 상담사에게 제공하고, 상담 내용도 요약 제공해 업무 시간을 단축할 수 있다. 네트워크 인프라 운용 과정에 문제가 발생했을 때도 텔코LLM은 해결 방안을 바로 답할 수 있어 사람이 직접 매뉴얼이나 대응 사례를 찾을 때보다 시간을 아끼게 된다.
정민영 SK텔레콤 AI플랫폼담당은 고객센터, 인프라뿐 아니라 마케팅·유통망 등 고객 접점이나 법무·HR과 같은 사내 업무까지 다양한 영역에서 텔코LLM이 업무 효율성을 높일 것이라고 설명했다. SK텔레콤은 이날 기업용 AI 개발·운용 패키지인 ‘인텔리전스 플랫폼’을 공개하고, 기업간거래(B2B) 분야로 사업 확장 가능성을 열어뒀다.
인공지능(AI)을 사업 전략의 핵심으로 잡은 통신사들은 저마다 LLM 개발에 열을 올리고 있다. 각 사가 보유하고 있는 방대한 데이터를 학습한 AI를 여러 서비스에 접목하면 초개인화된 고객서비스부터 맞춤형 업무 플랫폼까지 사업 확장 범위가 넓기 때문이다.
KT는 자체 개발한 ‘믿음’을 기존 강점이 있는 B2B 사업 분야에 인스타 팔로우 구매 접목하고 있으며, LG유플러스 역시 ‘익시젠’을 통해 AI 에이전트(개인화된 추천 상담 서비스) 사업을 확대할 계획이다.