[녹색경제신문=박한솔 기자] 통신사와 포털, 온라인동영상서비스(OTT)가 운영하는 인공지능(AI) 추천과 상담 결과에 대해 이용자가 “왜 이런 결과가 나왔나”를 물을 수 있는 길이 열릴 전망이다. 국회에 발의된 AI 기본법 개정안이 통과될 경우, 통신사와 플랫폼 기업의 알고리즘 운영 방식에도 변화가 불가피해질 것으로 보인다.

최민희 국회 과학기술정보방송통신위원회 위원장(더불어민주당·경기 남양주시갑)은 16일 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안」을 대표 발의했다. 해당 법안은 AI로 인해 권리나 의무에 중대한 영향을 받았다고 판단될 경우, 이용자가 그 결과에 대한 설명을 요구할 수 있도록 하는 내용을 골자로 한다.

AI는 이미 요금제 추천과 고객 상담, 검색 결과 정렬, 콘텐츠 추천 등 다양한 서비스 영역에서 활용되고 있다. 그러나 지금까지는 AI가 어떤 기준으로 특정 결과를 도출했는지 이용자가 확인할 수 있는 제도적 장치는 사실상 마련돼 있지 않았다.

설명요구권이 실제로 작동할 경우, SK텔레콤·KT·LG유플러스 등 통신사와 포털·OTT 사업자들은 AI 추천과 판단 과정에서 어느 범위까지 기준을 공개해야 할지를 놓고 판단을 요구받게 된다. 

통신 3사는 요금제 추천과 상담 자동화 등 핵심 서비스에 AI를 활용하고 있으며, 제도 도입 시 관련 설명 요구가 늘어날 가능성이 있다. 이에 대해 SK텔레콤은 요금제 추천과 상담 자동화는 이용자의 통화 패턴과 사용 데이터를 바탕으로 한 합리적 판단이라는 입장이다. 

SK텔레콤 관계자는 18일 〈녹색경제신문〉과 통화에서 “요금제 추천이나 상담 결과는 이용자 사용 데이터를 기반으로 최적의 선택지를 제시하는 것”이라며 “의료 등 고위험 영역과는 성격이 다르다”고 말했다. 그는 “현재까지 요금 추천이나 상담과 관련해 중대한 분쟁이나 문제 제기가 있었던 사례는 없다”고 덧붙였다. 

포털과 OTT 사업자 역시 검색 결과와 뉴스 노출, 콘텐츠 추천 등 서비스의 핵심 기능을 AI에 의존하고 있다. 설명요구권은 추천 결과에 대한 보다 구체적인 질문으로 이어질 수 있으며, 알고리즘 운영 전반에 대한 점검 필요성도 커질 수 있다.

AI 에이전틱 서비스 등을 확대하고 있는 네이버는 다른 길을 걷고 있다. 네이버 관계자는 18일 〈녹색경제신문〉과 통화에서 "뉴스 추천 알고리즘과 관련해 별도의 안내 페이지를 통해 추천 원리와 기준에 대한 기본적인 설명을 제공하고 있으며, AI 브리핑과 뉴스 추천 결과에 대해 이용자가 의견을 전달할 수 있는 피드백 창구도 마련돼 있다"고 밝혔다.

네이버 관계자는 “추천이나 AI 브리핑 결과에 대해 사용자가 의견을 개진할 수 있는 구조는 이미 갖춰져 있다”면서도, 이번 법안과 직접 연계된 구체적인 대응 방향에 대해서는 “현재로서는 입장을 밝히기 어렵다”고 말했다. 

콘텐츠를 제작하는 크리에이터는 제도의 실효성을 두고 다른 시각을 제시한다. 현재 영상 플랫폼이 AI 알고리즘 기반으로 추천되는 상황에 대해 소모적인 설명요구권이 발동될 수 있는 소지가 크다는 얘기다. 

구독자 약 3만5000명을 보유한 유튜버 ‘헬로우키(HELLO UKY)’는 18일 〈녹색경제신문〉에 “기존에 활동을 많이 해 구독자가 확보된 일부 크리에이터에게는 역설적으로 설명요구권이 단기적으로 도움이 될 수 있다”면서도 “다만 대부분의 크리에이터가 노출이 줄었다는 이유만으로 설명을 요구하는 상황이 반복될 가능성도 있다”고 말했다.

그는 알고리즘 추천을 콘텐츠의 ‘유통 주기’에 비유하며 “유통기한이 지난 콘텐츠를 두고 왜 노출이 안 되느냐고 따지는 상황이 벌어질 수 있다”고 설명했다. 이어 “콘텐츠 경쟁력을 돌아보기보다 알고리즘을 문제 삼는 흐름이 확산될 경우, 제도가 기대한 방향과는 다른 결과로 이어질 수 있다”고 덧붙였다.

개정안에는 AI 관련 분쟁이 발생할 경우 법원에 앞서 조정을 담당하는 ‘AI 분쟁조정위원회’를 신설하는 내용도 포함돼 있다. 소송 이전 단계에서 조정 절차를 거치도록 한 것으로, 이용자와 기업 간 분쟁 처리 방식에도 변화가 예상된다.

AI가 판단하는 영역이 확대되는 상황에서, 설명요구권이 이용자 보호 장치로 기능할지, 아니면 플랫폼과 콘텐츠 생태계에 새로운 부담으로 작용할지는 향후 제도 운용 과정에서 가려질 것으로 관측된다.