구글 딥마인드와 메타 출신 연구원들이 설립한 인공지능(AI) 스타트업 레카가 새로운 멀티모달언어모델(LMM)을 출시했다. 1년 미만의 짧은 기간의 훈련에도 불구하고, 오픈AI나 구글, 앤트로픽 등의 최고 LMM 성능을 능가한다는 주장이다.

벤처비트는 15일(현지시간) 레카가 이미지, 오디오, 비디오 등 다양한 양식을 이해할 수 있는 LMM ‘레카 코어(Reka Core)’를 출시했다고 보도했다. 

이에 따르면 레카 코어는 32개 언어를 지원하고 12만8000개 토큰의 컨텍스트 창을 제공한다. 매개변수의 규모는 공개하지 않았다.

수천개의 엔비디아 H100 GPU에서 공개적으로 사용 가능한 데이터, 라이선스 데이터 및 텍스트, 오디오, 비디오 및 이미지 파일에 걸친 합성 데이터로 훈련했다. 

특히 1년 미만의 훈련에도 불구, 오픈AI의 ‘GPT-4’, 구글의 ‘제미나이 울트라’, 앤트로픽의 ‘클로드 3 오퍼스’와 견줄만한 고성능 모델을 구축했다고 주장했다.

다니 요가타마 레카 CEO는 “"매우 짧은 기간에 모델을 고성능으로 끌어 올린 것이 우리의 강점"이라며 “이 모델은 여전히 발전 중이지만, 지금까지의 성과로도 충분히 강한 인상을 줄 것”이라고 말했다.

레카 코어는 비디오에 대한 인식 벤치마크에서 59.3점으로, 유일한 경쟁사인 구글의 제미나이 울트라의 54.3점을 상당한 차이로 능가했다.

이미지 작업에 대한 MMMU 벤치마크에서는 GPT-4(56.8점), 클로드 3 오퍼스(59.4점), 제미나이 울트라(59.4점), 제미나이 프로 1.5(58.5점)에 이어 56.3점을 기록했다. xAI의 ‘그록’은 ​​53.6점에 그쳤다.  

이 외에도 지식 작업에 대한 MMLU 테스트에서 GPT-4, 클로드 3 오퍼스 및 제미나이 울트라에 이어 83.2점을 얻었으며, 추론을 위한 GSM8K 벤치마크와 코딩을 위한 휴먼이밸 벤치마크에서는 각각 92.2점과 76.8점으로 GPT-4보다 앞섰다.

또 제3자가 실시한 인간 평가에서 레카 코어는 GPT-4에 이어 두번째로 높은 점수를 받았다고 밝혔다.

이 모델은 현재 API, 온프레미스 또는 온디바이스 배포 옵션으로 사용할 수 있다.