https://www.aitimes.com/news/articleView.html?idxno=159487

오픈AI, 모델 사양 첫 공개...

오픈AI는 ‘모델 사양(Model Spec)’ 공개를 통해 인공지능(AI) 모델이 어떻게 작동해야 하는지에 대한 공개 토론을 촉진하겠다고 밝혔다. 모델 사양이란 대형언어모델(LLM) 설계를 위한 🔼목표 🔼규칙 🔼표준 동작 등을 정의하는 문서다.오픈AI는 8일(현지시간) 블로그를 통해 '챗GPT'와 API 구축 과정에서 회사의 의도를 지정하는 모델 사양의 첫번째 버전을 공개했다. “모델 사양은 모델 동작 형성에 오픈AI의 문서, 연구 및 경험뿐만 아니라 미래 모델 개발에 영향을 미칠 지속적인 작업을 반영한다”라고 밝혔다.이어 LM이

www.aitimes.com

오픈AI는 ‘모델 사양(Model Spec)’ 공개를 통해 인공지능(AI) 모델이 어떻게 작동해야 하는지에 대한 공개 토론을 촉진하겠다고 밝혔다. 모델 사양이란 대형언어모델(LLM) 설계를 위한 🔼목표 🔼규칙 🔼표준 동작 등을 정의하는 문서다.

오픈AI는 8일(현지시간) 블로그를 통해 '챗GPT'와 API 구축 과정에서 회사의 의도를 지정하는 모델 사양의 첫번째 버전을 공개했다. 

“모델 사양은 모델 동작 형성에 오픈AI의 문서, 연구 및 경험뿐만 아니라 미래 모델 개발에 영향을 미칠 지속적인 작업을 반영한다”라고 밝혔다.

이어 LM이 사용자 입력에 반응하는 방식을 설계하는 것은 그리 쉽지 않다고 설명했다. LLM은 확정된 프로그래밍이 아니라, 다양한 데이터로부터 학습하기 때문에 이 동작을 설계하는 것은 아직 걸음마 단계라는 말이다.

또 모델 사양은 '인간 피드백을 통한 강화학습(RLHF)'을 위한 데이터 생성 지침 역할도 한다. 장기적으로 오픈AI는 LLM이 모델 사양을 직접 학습하고 반영할 수 있는지도 알아볼 것이라고 전했다.

이 가운데 '목표'는 바람직한 행동에 대한 일반적인 방향을 제공한다. 하지만 구체적인 지침을 제공하기에는 너무 광범위할 때가 많다고 밝혔다. 여기에는 목표에는 개발자와 최종 사용자를 지원하고, 인류에게 이익을 주고, 오픈AI를 잘 대표하는 것이 포함된다.

'규칙'은 목표 간의 충돌을 해결하고 안전과 합법성을 보장한다. 개발자나 사용자는 이를 재정의할 수는 없다. 우선순위에 따른 지침 준수, 법률 준수, 불법적이거나 유해한 콘텐츠 방지, 저작권 및 인격권 보호 등을 지정하는 내용이다.

'표준 동작'은 원칙에 부합하지만 궁극적으로 제어권을 개발자와 사용자에게 맡기는 동작을 간략하게 설명한다. 또 상충되는 목표의 우선순위를 지정하는 방법도 보여준다. 이를 통해 좋은 의도를 가정하고, 명확한 질문을 하고, 객관적이고, 의견에 영향을 주지 않고, 불확실성을 표현하고, 길이 제한을 존중하면서 효율적으로 동작하는 것을 유도한다.

모델 사양은 모델의 작동 방식에 영향을 미칠 수 있다. 예를 들어 ‘다른 사람의 마음을 바꾸려고 하지 말라’는 규칙을 모델 사양에 포함할 경우, AI는 지구가 평평하다는 잘못된 주장에 대해서도 사용자에 도전하지 않고 물러나게 된다. 

오픈AI는 대중이 이런 논의에 참여할 수 있도록 모델 사양을 공개하고 공개 토론을 제안했다. 앞으로 2주 동안 모델 사양의 목표, 규칙 및 기본값에 대한 일반 대중의 의견을 듣기 위해 피드백 코너를 마련했다.

샘 알트먼 CEO도 X(트위터)를 통해 "우리는 시간이 지남에 따라 이에 대해 듣고, 토론하고, 조정할 것"이라는 글을 남겼다.

그러나 모두가 호응을 보낸 것은 아니다. 일부는 "진정으로 AI에 대한 많은 참여를 원한다면 방법은 오픈 소스뿐"이라는 반응도 등장했다.

한편 오픈AI는 전날 저작권 문제에 대한 조치를 4가지나 발표한 직후, 이날에는 모델 사양까지 공개하는 등 LLM에 대한 대중의 우려에 적극 대응하려는 움직임을 보이고 있다.

이는 향후 출시될 'GPT-5'나 '소라' 등을 위한 사전작업으로 분석된다.   

https://cdn.openai.com/spec/model-spec-2024-05-08.html

Model Spec (2024/05/08)

Model Spec (2024/05/08)

cdn.openai.com