AI 클수록 좋은거 아니었어? LLM보다 가성비 좋은 SLM 주목받는 이유는
상태바
AI 클수록 좋은거 아니었어? LLM보다 가성비 좋은 SLM 주목받는 이유는
  • 조아라 기자
  • 승인 2024.05.28 13:48
  • 댓글 0
이 기사를 공유합니다

[녹색경제신문 = 조아라 기자]

[사진=istockphoto]
[사진=istockphoto]

업계의 생성형 AI(인공지능) 경쟁이 치열해지고 있는 가운데 최근 LLM(초거대언어모델) 대신 SLM(소형언어모델)에 주목하는 기업들이 늘고 있다. SLM의 최대 장점은 LLM 대비 더 적은 비용으로 운영이 가능하다는 점이다. 범용으로 쓰이기보다 특정 분야의 데이터를 학습해 특정 영역에 특화될 수 있다는 것 역시 장점이다.

LLM과 SLM 중 어떤 언어 모델을 선택할지는 조직의 특정 요구, 작업의 복잡성, 그리고 사용 가능한 리소스에 따라 달라진다. 소형 언어 모델은 일반 기기에서 클라우드가 아닌 현장에서 실행할 수 있으며, 광범위한 추론이 필요하지 않거나 신속한 반응이 요구되지 않는 애플리케이션 구축에 적합하다.

AI 크기가 커질수록 성능이 좋아지는 것은 맞다. 그러나 AI 규모가 커질수록 이에 비례해 늘어나는 비용도 증가하고 속도도 느려진다. 쉽게 말하면 모기를 잡을 때 에프킬라(SLM) 정도로 해결이 되는데 모두가 곰을 잡는 칼(LLM)을 꺼내드는 상황에 비유할 수 있다. 이같은 이유로 업계에서는 SLM에 주목하고 있다. 더욱이, 최근 소형 디바이스에 AI를 탑재하는 트렌드 역시도 SLM이 주목받는 이유다.

대표적으로 MS(마이크로소프트)는 지난달 SLM ‘파이-3 미니’(Phi-3 Mini)를 출시한 바 있다.

소날리 야다브(Sonali Yadav) 마이크로소프트의 생성형 AI 부문 수석 제품 매니저는 “앞으로 우리가 목격하게 될 것은 대형 모델에서 소형 모델로의 전환보다는 고객이 자신의 필요에 가장 적합한 모델을 선택할 수 있는 다양한 모델 포트폴리오로의 전환일 것”이라고 했다.

마이크로소프트사는 여러 모델의 적절한 조합으로 상황에 맞는 모델을 제시한다는 전략이다.

루이스 바르가스(Luis Vargas) 마이크로소프트의 AI 부문 부사장은 “일부 고객은 작은 모델만 필요로 할 수 있고, 다른 일부는 더 큰 모델이 필요할 수 있다”며 “많은 고객들은 이 두 가지 모델을 다양한 방식으로 결합해 사용하기를 원할 것”이라고 설명했다.

그러면서, “소형 모델 또는 대형 모델을 원하는 고객들은 일부인 반면, 대부분의 고객들은 두 개의 모델을 결합해 다양한 방법으로 사용하는 것을 희망하고 있다”라고 언급했다.

조아라 기자  lycaon@greened.kr

▶ 기사제보 : pol@greened.kr(기사화될 경우 소정의 원고료를 드립니다)
▶ 녹색경제신문 '홈페이지' / '페이스북 친구추가'

댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.