https://www.aitimes.com/news/articleView.html?idxno=158810

코히어, 엔터프라이즈 검색용 LLM ‘리랭크 3’ 출시…”싸고 빠른 검색 결과 제공”

기업용 대형언어모델(LLM)로 유명한 캐나다 스타트업 코히어가 엔터프라이즈 검색용 모델 '리랭크 3(Rerank 3)'를 출시했다. 다른 회사의 주요 LLM에 비해 훨씬 저렴한 비용으로 더 정확한 검색 결과를 제공한다는 주장이다.벤처비트는 12일(현지시간) 코히어가 엔터프라이즈 검색용 LLM ‘리랭크 3’를 출시했다고 보도했다.이에 따르면 리랭크 3는 기업 전체에서 널리 사용되는 여러 언어에 걸쳐 JSON, 이메일, 테이블과 같은 형식의 복잡한 기업 데이터를 효과적으로 검색한다.리랭크 3의 주요 기능 중 하나는 최대 300단어까지만

www.aitimes.com

기업용 대형언어모델(LLM)로 유명한 캐나다 스타트업 코히어가 엔터프라이즈 검색용 모델 '리랭크 3(Rerank 3)'를 출시했다. 다른 회사의 주요 LLM에 비해 훨씬 저렴한 비용으로 더 정확한 검색 결과를 제공한다는 주장이다.

벤처비트는 12일(현지시간) 코히어가 엔터프라이즈 검색용 LLM ‘리랭크 3’를 출시했다고 보도했다.

이에 따르면 리랭크 3는 기업 전체에서 널리 사용되는 여러 언어에 걸쳐 JSON, 이메일, 테이블과 같은 형식의 복잡한 기업 데이터를 효과적으로 검색한다.

리랭크 3의 주요 기능 중 하나는 최대 300단어까지만 작동하는 이전의 검색 접근 방식보다 확장된 4000개 토큰으로 확장된 컨텍스트 길이를 지원하는 것이다. 긴 문서의 검색 품질을 획기적으로 향상시키고 데이터 분할 필요성을 줄일 수 있다. 코히어에 따르면 리랭크 3가 리랭크 2에 비해 긴 컨텍스트 검색 정확도를 5.9% 향상했다.

닐스 라이머스 코히어 머신러닝 이사는 "이전의 검색 접근 방식은 최대 300단어까지만 작동하는 경우가 많았기 때문에 텍스트에서 긴 관계를 찾아 정보를 연결하는 것이 어려웠다"라며 “리랭크 3은 최대 4000개 토큰까지 정보를 연결할 수 있도록 훈련되고 테스트, 특히 단일 단락에서 답변을 추론할 수 없는 복잡한 질문에 대해 상당한 개선을 제공한다"라고 설명했다.

코히어는 리랭크 3 모델이 TREC 2020 데이터셋에 대한 벤치마크에서 오픈AI의 'GPT-4 터보', 미스트랄의 '미스트랄-라지(Mistral-large)' 및 앤트로픽의 '클로드 3 소네트(Claude 3 Sonnet)'와 같은 주요 LLM에 비해 훨씬 저렴한 비용으로 더 정확한 검색 결과를 제공한다고 밝혔다.

또 리랭크 3는 검색 증강 생성(RAG) 시스템을 통합, 다양한 기업 사용 사례에 대한 응답 정확성과 비용 효율성을 향상했다. RAG는 기업 고객을 집중 공략하기 위해 코히어가 가장 주력하는 기술이다. 이는 모델의 정확성을 향상시키고 모델이 응답에 대한 인용을 제공해 오류를 최소화한다. 

이 외에도 코히어는 일레스틱(Elastic)과 제휴를 통해 기존 일레스틱 서치 인덱스에 저장된 데이터를 우선적으로 검색할 수 있게 했다.

라이머스 이사는 "우리는 반구조화된 표 형식 데이터에서의 검색 가능성에 대해 기대하고 있다”며 “리랭크 3의 이 새로운 기능은 기업에 엄청난 기회를 열어준다"고 말했다.