AWS의 베드록 쓰면?...챗GPT·앤트로픽·클로드 연동한 생성형 AI 만들 수 있어
상태바
AWS의 베드록 쓰면?...챗GPT·앤트로픽·클로드 연동한 생성형 AI 만들 수 있어
  • 우연주 기자
  • 승인 2024.08.13 16:59
  • 댓글 0
이 기사를 공유합니다

AI 관리 서비스인 베드록...여러 모델 연동 可
다양한 LLM 등장하면서 융합성 더욱 강점
대화형 UI로 개발자·비전문가의 앱 개발 도와
김선수 AWS코리아 AI/ML 사업개발 수석 스페셜리스트가 발표하고 있다. [사진=AWS]
김선수 AWS코리아 AI/ML 사업개발 수석 스페셜리스트가 발표하고 있다. [사진=AWS]

[녹색경제신문 = 우연주 기자] 아마존웹서비스(Amazon Web Services, 이하 AWS)가 13일 ‘AWS 2024 생성형 AI 미디어 브리핑’을 개최하고 AWS 생성형 AI 서비스의 신규 기능 및 국내 기업 활용 사례를 공유했다.

AWS의 AI 관리 서비스인 베드록(Bedrock)은 여러 파운데이션 모델을 연동해 AI 활용성을 강화한다. '가드레일'이라 불리는 컨텐츠 필터링 기능으로 생성형 AI의 최대 단점인 환각 현상도 보정한다. AWS 앱 스튜디오를 사용하면 코딩을 모르는 일반 사용자도 손쉽게 앱을 만들 수 있다.

 

■ 여러 파운데이션 모델 장점만 모은 생성형 AI 제작 가능해져

이날 행사에서 LG유플러스의 영업전산시스템 '유큐브' 개발을 담당하는 강병래 PM은 여러 예시 중 챗봇을 가리키며 "결과적으로는 하나의 챗봇 형태지만 이 안에는 각기 다른 LLM이 연동돼 있다"고 말했다.

그는 이어 "여러가지 모델이 각각의 기능과 장점이 다르더라. 만약 베드록을 쓰지 않았다면 여러 모델을 연동하는 작업을 개별적으로 했어야 했을 것이다. 베드록을 사용함으로써 여러 모델을 동시에 테스트할 수 있었고 이렇게 여러가지를 쓸 수 있는 것은 장점이다"고 말했다.

베드록의 외부 모델 연동 기능에 대한 기업들의 반응도 긍정적이다.

김선수 AWS코리아 AI/ML 사업개발 수석 스페셜리스트는 "사실 단일 API 형태로 여러 모델을 취합해서 쓸 수 있다라는 것, 그리고 최소화의 코드 변경만으로도 다양한 모델들을 융합할 수 있다는 것을 기업들이 굉장히 높게 평가를 하는 부분이 있는 것 같다. 실제로 다른 모델들을 쓰다가 베드록으로 바꾸는 사례들도 늘어나고 있다"고 말했다.

융합성이 강점이 된 배경에는 올해들어 다양한 LLM이 등장한 것도 있다.

김 스페셜리스트는 "작년에는 제한된 언어 모델들 위주로 경쟁을 했지만 올해는 새로운 강자들이 많이 떠오르고 있다. 오픈AI의 챗GPT, 아마존의 타이탄,  앤트로픽의 클로드 모델 등 여러 모델 중 선택하려는 경향세가 고객사들 사이에서 보인다"고 말했다.

생성형 AI의 발전만큼 AI 할루시네이션(환각)도 문제다. AWS는 이에 대한 대처로 '가드레일'의 기능을 더욱 강화했다.

김 스페셜리스트는 "가드레일은 환각을 탐지할 수 있다. 여기에 문맥 근거 체크(Context Grounding Checks) 기능이 추가됐다. AI가 내놓은 답변이 참조자료에 있는지, 질의와 관련 있는지를 확인하는 거다. 이 기능을 쓰면 75%까지 환각을 필터링할 수 있다"고 말했다.

가드레일도 여러 파운데이션 모델을 오가며 사용할 수 있다. 독립 API로 공개돼 기본 인프라에 상관없이 모든 생성형 AI 애플리케이션에 표준화되고 일관된 보호 조치를 적용할 수 있다는 것이 AWS의 설명이다.

아직 가드레일의 효용을 언어별로 분석한 자료가 없는 점에는 아쉬움이 남는다. 작년까지만 해도 다수 생성형 AI 모델이 상대적으로 한국어에 취약한 모습을 보였기 때문이다.

AI의 불완전성에 대한 질문에 강 PM은 빠른 발전속도를 주목해야 한다고 말했다.

그는 "얼마전까지만 해도 여러 생성형 AI가 한국어는 어색한 부분이 있었다. 하지만 한국어 실력도 자꾸 늘더라. 특히 가드레일을 쓰면 더욱 정확도가 올라 간다"고 말했다. 

 

■ 앱 만드는 AI, 전문가도 비전문가도 AWS로

개발자들은 입을 모아 생성형 AI가 작업 효율을 높였다고 말한다. 강 PM도 예외는 아니었다. 

아직 AI의 위력을 못 느끼겠다는 기자에게 그는 "생성형 AI가 등장한 이후 작업속도가 압도적으로 좋아졌다. AI가 디테일을 메꿔주기도 하고 틀도 짜준다"며 "기사 작성에도 AI를 활용할 수 있지 않겠나. AI에게 큰 틀을 만들어달라고 하고, 거기에 내용을 추가하는 방식도 가능할 것"이라며 아이디어를 냈다.

AWS는 오늘(13일) 행사에서 베드록의 연결성과 함께 '앱 개발'도 강조했다. 개발자를 위한 도구로는 '아마존 Q 디벨로퍼(이하 Q 디벨로퍼)'가, 비개발자를 위한 도구로는 'AWS 앱 스튜디오(이하 앱 스튜디오)'가 있다.

윤석찬 수석 테크에반젤리스트는 "보통 개발자 업무에서 새로운 것을 만드는 비중은 30%도 안 된다. 나머지 70%가 유지보수에 쓰인다"며 "생성형 AI가 이러한 유지보수에 쓰이는 시간을 줄여준다면, 업무 시간 중 70%를 아낄 수 있는 셈"이라고 말했다.

Q 디벨로퍼는 지난 17년간 수집된 데이터를 바탕으로 개발자의 질문에 답한다. 기획 단계에서 개발자가 "이 앱을 어떻게 만들까"라는 질문을 던지면 Q 디벨로퍼가 가이드라인을 짜 주는 식이다.

윤 테크에반젤리스트는 "영국의 통신사인 BT 그룹이 Q 디벨로퍼를 활용했더니 반복작업이 12% 줄었다"고 말했다. 국립호주은행도 생산성이 40% 높아졌다고 한다.

언어 버전 업그레이드에 맞춰 코드를 자동으로 변환해 주는 '코드 변환을 위한 아마존 Q 디벨로퍼'도 정식 출시됐다.

윤 테크에반젤리스트는 "우리나라는 보통 닷넷과 자바를 많이 쓰는데, 예를 들어 자바 버전이 업그레이드 되면 그에 맞춰 자바를 써 만든 프로그램의 코드도 바뀌어야 한다. 그때 이 자동변환기능을 쓰면 평균 10분만에 변환이 끝난다. 가장 오래 걸린 것도 한 시간 미만으로 완료됐다"고 말했다.

이를 시간과 금액으로 환산하면 각각 4500년과 2억 6000만 달러(한화 약 3500억원)이다.

비 전문가용인 앱 스튜디오도 있다. 

윤 테크에반젤리스트는 "개발자 리소스가 충분하지 않은 기업도 있다. 그런 경우에는 비전문가도 앱 스튜디오를 활용해 앱을 만들 수 있다"며 시연을 보였다.

그가 화면에 앱에 필요한 데이터와 요구사항 몇 가지를 입력하자 복잡한 코드가 아닌 사용자 친화적인 앱 다운 모습의 앱이 완성됐다.

이렇게 자연어를 토대로 엔터프라이즈급 애플리케이션 생성을 지원하는 앱 스튜디오는 현재 프리뷰 버전으로 출시됐다. 단 몇 분만에 애플리케이션이 생성되는 만큼, 다른 로우 코드 솔루션 대비 최대 80% 비용 절감이 가능하다.
 

우연주 기자  lycaon@greened.kr

▶ 기사제보 : pol@greened.kr(기사화될 경우 소정의 원고료를 드립니다)
▶ 녹색경제신문 '홈페이지' / '페이스북 친구추가'

댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.