발표자 개인 정보들은 가림 (이름, 이메일 등)

이 글은 AI 기술 개발에 민주적 프로세스를 통합하는 데 중점을 둔 OpenAI의 집단 조정 이니셔티브에 관한 회의의 세부 사항을 소개합니다. 주요 내용은 다음과 같습니다:

1. **집단적 정렬 이니셔티브의 개요**:

- AI 보조금 프로그램에 대한 민주적 입력에서 시작되었습니다.

- AI 개발 프로세스에 광범위한 대중의 의견을 통합하는 것을 목표로 합니다.

2. **팀원의 역할**:

OpenAI의 휴먼 데이터 팀과 유명 조직에서의 경험을 바탕으로 집단적 의견을 AI 운영 프로세스에 통합하는 데 중점을 둡니다.

1,000명에 가까운 지원자 중 선발된 팀과 함께 민주적인 AI 규칙 설정을 위한 방법론을 만드는 데 참여한 박사 학위 취득자.

3. **하이라이트 프로젝트**:

- 판례법 방법론**: 판례 방법론을 사용하여 AI 행동을 안내하는 방법을 개발한 프로젝트.

- 민주적 정책 개발을 위한 집단 대화**: 이 프로젝트는 알고리즘을 사용하여 다양한 이슈에 대한 집단 선호도를 파악하여 정책 개발에 영향을 미치는 프로젝트입니다.

- 대규모 심의**: 대규모 심의 과정을 촉진하기 위해 AI 기반 플랫폼에 중점을 둡니다.

- 민주적 미세 조정 팀**: 더 나은 모델 조정을 위해 사람들의 가치관에 대한 '도덕적 그래프'를 매핑하는 방법을 개발했습니다.

4. **AI 민주화의 목표**:

- AI가 인간의 가치를 폭넓게 반영할 수 있도록 합니다.

- AI 거버넌스를 보다 포용적이고 공평하게 만들어 AI 사용, 개발 및 AI로 창출된 수익의 분배에 대한 결정에 영향을 미칩니다.

5. **도전과제와 해결책**:

- AI 정책 개발에 비기술적 이해관계자의 참여 유도.

- 포괄적이고 반복적인 정책 초안 작성을 용이하게 하는 PolicyPad와 같은 도구 개발.

6. **커뮤니티 및 전문가 참여**:

- 전문가와 일반 대중을 포함한 다양한 그룹의 의견을 활용하여 AI 개발을 구체화합니다.

- 프로세스를 투명하게 하고 다양한 관점을 고려하기 위한 지속적인 노력.

이 세션은 이러한 민주적 절차를 진행 중인 AI 개발에 통합하여 AI 기술이 공공의 가치와 윤리에 부합하도록 보장하는 최선의 방법에 대한 논의로 마무리되었습니다.