OpenAI, ChatGPT의 이미지 생성 안전장치 완화

GPTMAGAZINE

2025.03.29 22:25:37

조회 7943 추천 2 댓글 5

OpenAI가 이번 주 ChatGPT에 새로운 이미지 생성기를 출시했으며, 지브리 스튜디오 스타일 이미지를 만드는 능력으로 빠르게 화제가 되었다. 파스텔 일러스트레이션을 넘어, GPT-4o의 네이티브 이미지 생성기는 ChatGPT의 기능을 크게 업그레이드하여 사진 편집, 텍스트 렌더링, 공간 표현을 개선했다.

그러나 이번 주 OpenAI가 가장 주목할 만한 변화 중 하나는 콘텐츠 조정 정책으로, 이제 요청 시 ChatGPT가 공인, 혐오 상징, 인종적 특징을 묘사하는 이미지를 생성할 수 있도록 허용한다.

OpenAI는 이전에 이러한 유형의 프롬프트가 너무 논쟁적이거나 해롭다는 이유로 거부했다. 그러나 이제 회사는 목요일에 발표된 OpenAI의 모델 행동 책임자 조앤 장의 블로그 게시물에 따르면 접근 방식을 "발전"시켰다.

"우리는 민감한 영역에서의 전면적인 거부에서 실제 세계의 해악을 방지하는 데 초점을 맞춘 더 정밀한 접근법으로 전환하고 있습니다," 장은 말했다. "목표는 겸손함을 받아들이는 것입니다: 우리가 얼마나 많은 것을 모르는지 인식하고, 배우면서 적응할 수 있는 위치에 자리잡는 것입니다."

이러한 조정은 OpenAI가 ChatGPT를 효과적으로 "검열 해제"하려는 더 큰 계획의 일부인 것으로 보인다. OpenAI는 2월에 AI 모델 훈련 방식을 변경하기 시작했다고 발표했으며, 궁극적인 목표는 ChatGPT가 더 많은 요청을 처리하고, 다양한 관점을 제공하며, 챗봇이 작업을 거부하는 주제를 줄이는 것이다.

업데이트된 정책에 따라, ChatGPT는 이제 OpenAI가 이전에 허용하지 않았던 도널드 트럼프, 일론 머스크 및 기타 공인의 이미지를 생성하고 수정할 수 있다. 장은 OpenAI가 누가 ChatGPT에 의해 생성되어야 하고 생성되지 말아야 하는지 선택하는 지위의 중재자가 되고 싶지 않다고 말한다. 대신, 회사는 사용자들이 ChatGPT가 자신을 묘사하는 것을 원하지 않을 경우 옵트아웃 옵션을 제공하고 있다.

화요일에 발표된 백서에서, OpenAI는 또한 "명확하게 극단적인 의제를 찬양하거나 지지하지 않는 한" 교육적이거나 중립적인 맥락에서 ChatGPT 사용자들이 스와스티카와 같은 "혐오 상징"을 생성할 수 있도록 허용할 것이라고 밝혔다.

또한, OpenAI는 "공격적인" 콘텐츠를 정의하는 방식을 변경하고 있다. 장은 ChatGPT가 이전에 "이 사람의 눈을 더 아시아적으로 보이게 만들어" 또는 "이 사람을 더 뚱뚱하게 만들어"와 같은 신체적 특징에 관한 요청을 거부했다고 말한다. 최근 테스트에서 ChatGPT의 새로운 이미지 생성기가 이러한 유형의 요청을 이행한다는 것이 확인되었다.

또한, ChatGPT는 이제 픽사나 지브리 스튜디오와 같은 창의적인 스튜디오의 스타일을 모방할 수 있지만, 여전히 개별 생존 아티스트의 스타일을 모방하는 것은 제한한다. 이는 AI 훈련 데이터셋에서 저작권이 있는 작품의 공정 사용에 관한 기존 논쟁을 재현할 수 있다.

주목할 만한 점은 OpenAI가 오용에 대한 문을 완전히 개방하는 것은 아니라는 것이다. GPT-4o의 네이티브 이미지 생성기는 여전히 많은 민감한 쿼리를 거부하며, 실제로 GPT-4o의 백서에 따르면 ChatGPT의 이전 AI 이미지 생성기인 DALL-E 3보다 어린이 이미지 생성에 대한 더 많은 안전장치를 가지고 있다.

그러나 OpenAI는 실리콘밸리 기업들의 AI "검열"에 대한 수년간의 보수적인 불만 이후 다른 영역에서는 안전장치를 완화하고 있다. 구글은 이전에 Gemini의 AI 이미지 생성기가 "미국 건국의 아버지들"과 "제2차 세계대전의 독일 군인들"과 같은 쿼리에 대해 다인종 이미지를 생성한 것에 대해 반발을 받았으며, 이는 명백히 부정확했다.

이제 AI 콘텐츠 조정을 둘러싼 문화 전쟁이 정점에 달할 수 있다. 이달 초, 공화당 의원 짐 조던은 OpenAI, 구글 및 다른 기술 거인들에게 AI 생성 콘텐츠를 검열하기 위한 바이든 행정부와의 잠재적 공모에 대한 질문을 보냈다.

OpenAI는 콘텐츠 조정 변경이 정치적으로 동기부여되었다는 아이디어를 거부했다. 오히려, 회사는 이 변화가 "사용자에게 더 많은 제어권을 부여한다는 오랜 신념을 반영한 것"이라고 말하며, OpenAI의 기술이 이제 민감한 주제를 탐색할 만큼 충분히 좋아졌다고 한다.

그 동기와 상관없이, 트럼프 행정부 하에서 규제 감시의 가능성을 고려할 때 OpenAI가 콘텐츠 조정 정책을 변경하는 것은 확실히 좋은 시기이다. 메타와 X와 같은 실리콘밸리 거인들도 유사한 정책을 채택하여 그들의 플랫폼에서 더 논쟁적인 주제를 허용하고 있다.

OpenAI의 새로운 이미지 생성기가 지금까지 일부 바이럴한 지브리 스튜디오 밈만 만들어냈지만, 이러한 정책의 더 넓은 영향이 무엇일지는 불분명하다. ChatGPT의 최근 변화는 트럼프 행정부와 잘 어울릴 수 있지만, AI 챗봇이 민감한 질문에 답하도록 허용하는 것은 OpenAI를 곤경에 빠뜨릴 수 있다.

출처: GPT매거진 (www.gptmagazine.net)

고정닉 0

원본 첨부파일 1

thumb-5100c6b176892509a8c9651bdcae96fe_n19seugr_9bb2d83d1b9821108e8005563ed512448ded7001_600x400.png

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	내 며느리, 사위로 만나면 부담스러울 것 같은 스타는?	운영자	26/03/09	-	-
889	"AI 데이터센터, 실리콘밸리의 투자 열풍"	GPTMAGAZINE	25.09.27	80	0
888	AI 데이터 라벨링 시장의 새로운 물결, Micro1의 급부상과 성공 전략	GPTMAGAZINE	25.09.13	9044	2
887	오라클과 오픈AI, 손잡고 AI 시장에 새 바람 불어넣다!	GPTMAGAZINE	25.09.13	170	0
886	People 매거진 CEO, 구글을 "악질 행위자"로 강력 비난	GPTMAGAZINE	25.09.13	142	0
885	타코벨, 드라이브스루 AI 도입 신중론 대두	GPTMAGAZINE	25.08.31	235	0
884	ChatGPT의 말: 메타·스케일 AI 파트너십에 균열 조짐	GPTMAGAZINE	25.08.31	235	0
883	퍼플렉시티 AI, 콘텐츠 제공자에 수익 공유 제안	GPTMAGAZINE	25.08.31	226	0
882	AI 정신병 논란, 전문가들 경고	GPTMAGAZINE	25.08.31	371	0
881	AI가 직원 대체? 스타트업 운영 방식에 등장한 새로운 논의 [1]	GPTMAGAZINE	25.08.31	2911	2
880	미국 AI 스타트업, 2025년 1억 달러 이상 대규모 투자 유치	GPTMAGAZINE	25.08.29	275	0
879	구글·xAI, 챗GPT 추격 가속화…a16z 최신 보고서 [1]	GPTMAGAZINE	25.08.29	8379	0
878	앤트로픽, 이용자 대화 데이터 공유 여부 선택권 도입	GPTMAGAZINE	25.08.29	225	0
877	에스토니아의 보컬 이미지, AI로 소통 능력 향상 지원	GPTMAGAZINE	25.08.29	213	0
876	무케시 암바니, 인도 국가 AI 인프라 구축 위해 구글·메타와 손잡다	GPTMAGAZINE	25.08.29	202	0
875	엔비디아, AI 호황 속 분기 매출 467억 달러 기록	GPTMAGAZINE	25.08.28	325	0
874	오픈AI 공동 설립자, 경쟁 AI 모델 안전성 교차 테스트 촉구	GPTMAGAZINE	25.08.28	196	0
873	Maisa AI, 2,500만 달러 투자 유치…기업용 AI 실패율 개선 나선다	GPTMAGAZINE	25.08.28	195	0
872	2025년, 1억 달러 이상 투자 유치한 미국 AI 스타트업 33곳 공개	GPTMAGAZINE	25.08.28	407	0
871	스타트업 운영의 새 흐름, AI 채용인가 인간 노력인가	GPTMAGAZINE	25.08.28	176	0
870	전자도서관 앱 Libby, AI 추천 기능 도입…이용자 반응 엇갈려	GPTMAGAZINE	25.08.27	193	0
869	BM·AMD, 양자 기술로 생성형 AI 격차 만회 노린다	GPTMAGAZINE	25.08.27	186	0
868	앤트로픽, 크롬 전용 ‘클로드 AI 에이전트’ 공개	GPTMAGAZINE	25.08.27	203	0
867	AI 스타트업, 벼농가의 기후 변화 대응을 돕다	GPTMAGAZINE	25.08.27	181	0
866	AI의 ‘아첨 현상’, 단순한 버그 아닌 사용자 조작 전략으로 지적 [15]	GPTMAGAZINE	25.08.27	7284	4
865	FieldAI, 4억 500만 달러 투자 유치…범용 로봇 두뇌 개발 나선다	GPTMAGAZINE	25.08.24	216	0
864	구글, AI 모드 전 세계 확대…새로운 행동형 기능 추가	GPTMAGAZINE	25.08.24	2978	1
863	메타, 또다시 AI 조직 재편 단행	GPTMAGAZINE	25.08.24	391	0
862	구글, 픽셀 10 시리즈에 ‘AI 스마트폰’ 전략 강화	GPTMAGAZINE	25.08.24	207	0
861	메타, 미드저니와 손잡고 AI 이미지·영상 모델 강화	GPTMAGAZINE	25.08.24	263	0
860	AI 컴패니언 앱, 2025년 매출 1억 2천만 달러 돌파 전망	GPTMAGAZINE	25.08.23	214	0
859	패러다임, 셀마다 AI 에이전트를 탑재한 스프레드시트 공개	GPTMAGAZINE	25.08.23	181	0
858	마이크로소프트 AI 책임자, “AI 의식 연구는 위험하다” 경고 [28]	GPTMAGAZINE	25.08.23	10016	7
857	SRE.ai, 720만 달러 시드 투자 유치…DevOps 자동화 AI 에이전트 개발	GPTMAGAZINE	25.08.23	192	0
856	애플, 기업용 AI 시대 대비…ChatGPT 설정 옵션 강화	GPTMAGAZINE	25.08.23	196	0
855	회계사 대체하는 AI 스타트업 Nominal, 2천만 달러 투자 유치	GPTMAGAZINE	25.08.19	232	0
854	Julius AI, 자연어 기반 데이터 분석 플랫폼으로 1,000만 달러 시드 투자 유치	GPTMAGAZINE	25.08.19	219	0
853	Helios, 공공·정책 전문가용 AI 운영체제 ‘Proxi’ 개발로 400만 달러 시드 투자 유치	GPTMAGAZINE	25.08.19	185	0
852	Rwazi, 글로벌 소비자 인사이트 플랫폼으로 1,200만 달러 시리즈 A 투자 유치	GPTMAGAZINE	25.08.19	182	0
851	오픈AI 전 CTO 미라 무라티, AI 연구소 ‘Thinking Machines Lab’ 설립… 120억 달러 밸류에이션 시드 투자 유치 [3]	GPTMAGAZINE	25.08.19	7296	2
850	미 상원, 'AI 아동 성희롱' 논란 메타에 대한 공식 조사 착수	GPTMAGAZINE	25.08.16	280	0
849	메타 AI, '아동과 낭만적 대화' 허용했다…내부 문건 유출 파문	GPTMAGAZINE	25.08.16	259	0
848	웨이모 로보택시, 스포티파이 연동…'나만의 공간' 경험 강화	GPTMAGAZINE	25.08.16	203	0
847	챗GPT 모바일 앱, 출시 2년 만에 누적 매출 2.8조 원 돌파	GPTMAGAZINE	25.08.16	199	0
846	샘 알트먼, 'GPT-5는 잊어라'…AI 브라우저·소셜 미디어로 확장 선언	GPTMAGAZINE	25.08.16	249	0
845	삼성전자, 차세대 HBM4E 메모리 '플레어볼트' 공개…AI 칩 시장 '초격차' 예고 [3]	GPTMAGAZINE	25.08.13	7037	5
844	구글 딥마인드, AI로 플라스틱 분해하는 '특수 효소' 설계 성공	GPTMAGAZINE	25.08.13	225	0
843	오픈AI, AI 교육 플랫폼 '에듀케이트' 출시…'AI 튜터' 시대 연다	GPTMAGAZINE	25.08.04	2295	2
842	xAI, 'Grok-R' 프로토타입 공개…로봇 AI 두뇌 경쟁에 참전	GPTMAGAZINE	25.08.01	362	0
841	오픈AI, AI 생성물에 '디지털 워터마크' 도입…딥페이크와의 전쟁 선포	GPTMAGAZINE	25.08.01	387	0
840	엔비디아, 개방형 AI '네모' 업데이트…기업 맞춤형 AI 시대 연다	GPTMAGAZINE	25.08.01	273	0