SK텔레콤이 고객센터 상담업무에 AI 기술을 활용한 ‘AI 고객센터’서비스를 선보인다. 그간 SK텔레콤은 통신사 특성과 관련 업무에 특화된 ‘텔코 AI’의 중요성을 강조하고 관련 연구·개발에 집중해온 바 있다. AI 고객센터는 통신사에 특화된 텔코 LLM과 LMM모델을 활용한다는 방침이다.

18일 SK텔레콤은 지난 10월부터 단계적으로 운영한 AI 고객센터의 한달여간의 베타 서비스가 끝났다고 밝혔다. 해당 AI 고개센터는 자체 개발한 텔코 LLM과 LMM(대형멀티모달모델)을 활용한 고객센터로, AI 상담 업무 지원 시스템을 선보인 것으 국내 메이저 고객센터 중 최초다.

SK텔레콤은 앤트로픽(Anthropic) 등 해외 주요 LLM 업체들과 협력을 바탕으로 다양한 통신 전문 지식을 학습한 Telco LLM을 개발해 왔다.

지난 1년여 간 지식정보시스템을 AI 활용에 최적의 구조로 개편하고 다양한 통신 관련 데이터를 활용한 모델 튜닝을 진행했다. 또 고객센터 상담 전문가 수십명이 참여해 Telco LLM 성능 향상을 위한 다양한 학습 데이터를 구축했으며, 연중 테스트와 피드백을 통한 강화 학습을 반복해 통신 서비스 전용 LLM, LMM 모델을 만들어 왔다.

이와 더불어 LLM이 질문에 가장 정확하고 구체적인 답을 생성할 수 있도록 답변 생성에 필요한 정확한 정보만을 검색, LLM에게 제공하고 답변 품질을 증강(augment)시키는 RAG(Retrieval Augmented Generation)도 개발·적용 함으로써 LLM의 답변 신뢰도를 대폭 개선했다.

아울러 텍스트를 넘어 다양한 이미지를 이해할 수 있는 LMM도 활용해 통신 관련 다양한 서류 등 이미지를 학습시켜 통신업에 특화된 전용 LMM을 개발했다.

그동안 SK텔레콤은 상담 대기 없이 콜봇을 통한 빠른 상담, 고객 목소리만으로 본인 여부를 확인하는 성문 인증 등 다양한 AI 기술을 활용해왔다.

이제는자체 개발한 Telco LLM/LMM을 실제 상담 업무에 활용할 수 있는 AI 상담 업무 지원 시스템을 구축한다는 계획이다.

먼저 Telco LLM 기반의 AI 지식 검색 도우미 서비스를 통해 상담사들이 필요한 정보를 빠르게 찾아 고객에게 안내할 수 있도록 지원한다.

이 서비스는 상담사들이 필요한 정보를 지식정보시스템에서 하나하나 찾을 필요 없이 ‘퍼플렉시티’나 ‘ChatGPT’처럼 상담사가 자연어로 질문을 입력하면 AI가 상담사 대신 정보를 검색해 정리해 준다.

해당 서비스는 지난 10월 21일부터 베타 서비스를 통해 실제 상담사들이 상담 현장에서 직접 사용해보며 안정화 중이며, 내년부터는 모든 고객 상담 업무에 전면 적용할 예정이다.

아울러 A.X LMM을 활용하여 AI 서류 자동 처리 시스템도 구축한다. 고객센터는 고객들이 문자, e-mail, Fax 등 다양한 채널로 송부한 사진, 스캔 문서 등 다양한 형태의 수십종의 구비 서류들을 처리하고 있다.

SK텔레콤은 해당 시스템을 통해 증빙서류 확인에 소요되는 시간을 크게 단축시킬 수 있을 것으로 기대하고 있다.

지난달 23일부터 서류를 자동으로 분류하는 시스템을 도입했고, 향후에는 서류 내용까지 자동판독 처리가 가능하게 한다는 계획이다.

12월에는 고객 상담 결과를 Telco LLM을 활용하여 자동으로 분류/요약 정리하는 상담 후속 업무 자동화 시스템도 오픈할 예정이다.

상담 후속 업무 자동화를 통해 평균 30초 정도 소요되는 상담 결과 정리 시간을 단축할 수 있다는 것이 SK텔레콤의 설명이다. 해당 시스템을 통해 상담 대기 시간을 줄일 수 있을 뿐만 아니라, 개개인 관련 정보와 이전 상담 내용을 정확하고 빠르게 파악해 맞춤형 상담도 가능하도록 한다는 계획이다.

SKT 홍승태 고객가치혁신 담당은 “SK텔레콤은 AI고객센터로 진화함에 있어 업무 효율화에만 치중하지 않고, 고객 개개인에 최적화된 상담을 제공하는 것을 목표로 하고 있다”며 “SKT는 Telco LLM 기반 상담 업무 지원 시스템을 발판으로, 앞으로도 다양한 AI 기술을 고객 상담 업무에 활용해 국내 최고 수준의 고객센터 상담 서비스를 한단계 더 도약시키겠다”고 밝혔다.

[녹색경제신문 = 조아라 기자]