우리는 OpenAI를 위해 해온 모든 일에 대해 Jan에게 정말 감사하며, 그가 외부에서도 임무에 계속 기여할 것임을 알고 있습니다. 그의 퇴임으로 인해 제기된 질문에 비추어 우리는 전반적인 전략에 대해 우리가 어떻게 생각하는지 조금 설명하고 싶었습니다.

첫째, 우리는 세계가 AGI에 더 잘 대비할 수 있도록 AGI의 위험과 기회에 대한 인식을 높였습니다. 우리는 딥 러닝 확장의 놀라운 가능성을 반복적으로 입증하고 그 의미를 분석했습니다. 그러한 요구가 대중화되기 전에 AGI의 국제적 거버넌스를 요구했습니다. AI 시스템의 치명적인 위험을 평가하는 과학을 개척하는 데 도움을 주었습니다.

둘째, 우리는 점점 더 성능이 향상되는 시스템을 안전하게 배포하는 데 필요한 기반을 마련해 왔습니다. 새로운 기술을 처음으로 안전하게 만드는 방법을 알아내는 것은 쉽지 않습니다. 예를 들어, 우리 팀은 GPT-4를 안전한 방식으로 세상에 출시하기 위해 많은 작업을 수행했으며 그 이후로 배포에서 얻은 교훈에 대응하여 모델 동작 및 남용 모니터링을 지속적으로 개선해 왔습니다.

셋째, 미래는 과거보다 더 어려울 것이다. 우리는 각 새 모델의 위험에 맞게 안전 작업을 계속 강화해야 합니다. 우리는 이를 수행하는 방법을 체계화하기 위해 작년에 대비 프레임워크를 채택했습니다.

지금은 우리가 미래를 어떻게 보는지에 대해 이야기하기에 가장 좋은 시기인 것 같습니다.

모델의 능력이 계속해서 향상됨에 따라 모델이 세상과 더욱 깊이 통합되기 시작할 것으로 예상됩니다. 사용자는 텍스트 입력 및 출력만으로 단일 모델과 대화하는 대신 사용자를 대신하여 조치를 취할 수 있는 다양한 다중 모드 모델과 도구로 구성된 시스템과 점점 더 상호 작용할 것입니다.

우리는 그러한 시스템이 사람들에게 엄청나게 유익하고 도움이 될 것이라고 생각하며 이를 안전하게 제공하는 것도 가능하지만 엄청난 양의 기초 작업이 필요할 것입니다. 여기에는 훈련할 때 연결되는 대상에 대한 사려깊음, 확장 가능한 감독과 같은 어려운 문제에 대한 솔루션, 기타 새로운 종류의 안전 작업이 포함됩니다. 이 방향으로 구축하면서 릴리스의 안전 기준에 언제 도달할지 아직 확신할 수 없으며 릴리스 일정이 늦어져도 괜찮습니다.

우리는 가능한 모든 미래 시나리오를 상상할 수 없다는 것을 알고 있습니다. 따라서 우리는 매우 긴밀한 피드백 루프, 엄격한 테스트, 모든 단계에서의 신중한 고려, 세계적 수준의 보안, 안전과 기능의 조화가 필요합니다. 우리는 다양한 기간을 목표로 안전 연구를 계속할 것입니다. 우리는 또한 안전에 관해 정부 및 많은 이해관계자들과 지속적으로 협력하고 있습니다.

AGI로 가는 길을 탐색하는 방법에 대한 입증된 플레이북은 없습니다. 우리는 경험적 이해가 앞으로 나아갈 길을 알려주는 데 도움이 될 수 있다고 생각합니다. 우리는 엄청난 상승 효과를 제공하고 심각한 위험을 완화하기 위해 노력하는 것을 믿습니다. 우리는 여기서 우리의 역할을 매우 진지하게 받아들이고 우리의 행동에 대한 피드백을 신중하게 평가합니다.

— 샘과 그렉

https://x.com/gdb/status/1791869138132218351

X (formerly Twitter)

X (formerly Twitter)

x.com