https://www.aitimes.com/news/articleView.html?idxno=159075

AWS, 기업용 LLM 미세조정 기능 출시…베드록 업데이트

아마존웹서비스(AWS)가 생성 인공지능(AI) 애플리케이션 개발을 위한 새로운 기능을 탑재한 '아마존 베드록(Amazon Bedrock)' 업데이트를 발표했다. 특히 이번 업데이트에는 기업들이 자체 커스텀 모델을 아마존 베드록으로 손쉽게 이전하고 미세조정하여 필요한 애플리케이션을 신속하게 개발할 수 있도록 지원하는 '커스텀 모델 가져오기(Custom Model Import)' 기능이 포함됐다.테크크런치는 23일(현지시간) AWS가 베드록 업데이트를 통해 기업이 자체 생성 AI 모델을 베드록으로 가져와 애플리케이션에 맞게 미세조정하고

www.aitimes.com

아마존웹서비스(AWS)가 생성 인공지능(AI) 애플리케이션 개발을 위한 새로운 기능을 탑재한 '아마존 베드록(Amazon Bedrock)' 업데이트를 발표했다. 특히 이번 업데이트에는 기업들이 자체 커스텀 모델을 아마존 베드록으로 손쉽게 이전하고 미세조정하여 필요한 애플리케이션을 신속하게 개발할 수 있도록 지원하는 '커스텀 모델 가져오기(Custom Model Import)' 기능이 포함됐다.

테크크런치는 23일(현지시간) AWS가 베드록 업데이트를 통해 기업이 자체 생성 AI 모델을 베드록으로 가져와 애플리케이션에 맞게 미세조정하고 API를 통해 배포할 수 있는 ‘커스텀 모델 가져오기’ 기능을 프리뷰로 출시했다고 보도했다.

커스텀 모델 가져오기 기능을 사용하면 기업이 아마존 베드록에서 완전히 관리되는 API로 자체 커스텀 모델을 가져와 액세스할 수 있다. 고객은 클릭 몇번으로 아마존 세이지메이커나 다른 도구에서 커스터마이징한 모델을 손쉽게 아마존 베드록에 추가할 수 있다.

자동화된 검증 프로세스를 거치면 아마존 베드록의 다른 모델과 마찬가지로 커스텀 모델에 쉽게 액세스해 확장성과 애플리케이션 보호 기능, 책임 있는 AI 원칙 준수, 검색 증강 생성(RAG)을 통한 모델의 지식 확장, 다단계 작업을 완료할 수 있는 에이전트의 간편한 생성, 모델을 계속 학습하고 개선하기 위한 미세조정 수행 등 현재 제공되는 모든 이점을 기본 인프라 관리 없이도 누릴 수 있다.

이 새로운 기능은 기업이 동일한 API를 통해 아마존 베드록 모델과 자체 커스텀 모델의 조합을 쉽게 선택할 수 있도록 지원한다. 현재 프리뷰 버전으로 제공되는 아마존 베드록의 커스텀 모델 가져오기 기능은 '플란-T5' '라마' '미스트랄' 등 3종류를 지원하며, 향후 더 많은 아키텍처를 추가할 계획이다.

그동안 이런 기능은 구글의 버텍스 AI와 최근 출시한 데이터브릭스의 DBRX 플랫폼에서 제공됐다.

또 이번 업데이트에는 고객이 애플리케이션에 가장 적합한 모델을 평가, 비교하고 선택할 수 있도록 지원하는 '모델 평가' 기능이 포함됐다.

이 기능을 통해 기업은 아마존 베드록에서 모델을 분석하고 비교할 수 있으며, 모델 평가에 소요되는 시간을 몇주에서 몇시간으로 단축해 새로운 애플리케이션을 빠르게 시장에 출시할 수 있다. 정확성이나 견고성 등 사전 정의된 평가 기준을 선택하고 자체 데이터셋이나 프롬프트 라이브러리를 업로드하거나, 기본 제공되는 공개 리소스에서 선택해 빠르게 시작할 수 있다.

'가드레일 포 아마존 베드록(Guardrails for Amazon Bedrock)'을 사용하면 개인 및 민감한 정보, 욕설, 특정 단어를 제거하고 유해한 콘텐츠를 차단하는 안전장치를 쉽게 구현할 수 있다. 기반 모델의 기본 기능에 안전 보호 기능을 추가하여 고객이 유해 콘텐츠를 최대 85%까지 차단할 수 있도록 지원한다. 아마존 베드록의 모든 대형언어모델(LLM)은 물론 미세 조정된 모델에서도 작동한다.

이외에도 AWS는 베드록 라이브러리에 아마존 타이탄 텍스트 임베딩 V2(Amazon Titan Text Embeddings V2), 타이탄 이미지 제너레이터(Titan Image Generator), 코히어와 메타의 최신 기반 모델을 추가했다.

RAG 사용 사례 작업에 최적화된 아마존 타이탄 텍스트 임베딩 V2는 정보 검색, 질의응답 챗봇, 개인화된 추천과 같은 다양한 작업에 적합하다. 이 모델은 스토리지 및 컴퓨팅 비용을 절감하는 동시에 정확도를 높여준다. 고객에게 유연한 임베딩을 제공하여 전체 스토리지를 최대 4배까지 줄여 운영 비용을 크게 절감하고, RAG 사용 사례의 정확도를 97%로 유지한다.

현재 아마존 베드록에서는 메타 '라마 3'를 사용할 수 있으며, 코히어의 '커맨드 R'과 '커맨드 R+' 모델도 추가될 예정이다.

스와미 시바수브라마니안 AWS 부사장은 "아마존 베드록은 고객들이 실험에서 운영 환경으로 빠르게 전환할 수 있게 하며, 이는 그 어느 곳보다도 빠르고 쉬운 방법을 제공한다"라며 "이번 신규 기능은 고객이 자체 데이터를 활용하여 필요한 모델을 쉽게 구축하고, 운영 오버헤드를 줄이는 데 도움이 될 것"이라고 말했다.