"메타·MS도 인종 편향"...빅테크 생성 AI 잇단 구설수

특이점이 온다 갤러리
마이너

기술적 특이점에 대해 의논하고 그와 관련된 과학 기술 정보와 소식을 공유하는 갤러리입니다. *갤러리 이름은 동명의 레이 커즈와일의 저서 <특이점이 온다 (The singularity is near)>를 의미합니다.

매니저

특갤용(118wshxhtx5h)

부매니저

ㅇㅇ(hamaster) 부패하는유전자!!!(sansss20…) 은바다(nmra3fmz…)

개설일

2019-08-01

[정보/뉴스] "메타·MS도 인종 편향"...빅테크 생성 AI 잇단 구설수

ㅇㅇ(182.230) 2024.04.09 22:25:39

조회 1296 추천 16 댓글 7

https://www.aitimes.com/news/articleView.html?idxno=158664

AI타임스

구글 '제미나이'의 인종 편향 논란에 이어, 이번에는 메타와 마이크로소프트(MS)의 이미지 생성 인공지능(AI)에서도 같은 문제가 지적됐다. 이미지 생성 AI로 인해 빅테크가 잇달아 구설수에 오르고 있다.더 버지와 톰스하드웨어 등은 최근 메타의 이미지 생성 AI '이마젠'과 MS의 '코파일럿 디자이너' 등이 인종 편향적인 출력으로 문제가 되고 있다고 지적했다.먼저 더 버지는 메타의 생성 AI를 활용, 인종이 다른 커플의 이미지를 생성하려고 했으나 실패했다고 전했다. '동양인 여성과 백인 남성 커플을 그려달라'라는 요청에, AI가 동

www.aitimes.com

7ce88870b38607f739ef81e744ee716f3aa26d9c5a13a7f688b07ce506ab95055292

구글 '제미나이'의 인종 편향 논란에 이어, 이번에는 메타와 마이크로소프트(MS)의 이미지 생성 인공지능(AI)에서도 같은 문제가 지적됐다. 이미지 생성 AI로 인해 빅테크가 잇달아 구설수에 오르고 있다.

더 버지와 톰스하드웨어 등은 최근 메타의 이미지 생성 AI '이마젠'과 MS의 '코파일럿 디자이너' 등이 인종 편향적인 출력으로 문제가 되고 있다고 지적했다.

먼저 더 버지는 메타의 생성 AI를 활용, 인종이 다른 커플의 이미지를 생성하려고 했으나 실패했다고 전했다. '동양인 여성과 백인 남성 커플을 그려달라'라는 요청에, AI가 동양인-동양인 커플을 출력하는 경우가 대부분이었다고 설명했다.

마찬가지로 '동양인 여성-흑인 남성'도 실패했다며, 동양인 여성의 파트너로는 항상 동양인 남성이 등장했다고 밝혔다.

게다가 동양인 여성은 언제나 피부가 밝고 젊은 동아시아인으로 표현한다고 지적했다. 아시아에서 가장 인구가 많은 곳은 인도다.

이는 미국 언론에서 '아시아인'은 일반적으로 동아시아인을 의미하는 것으로 간주하는 편향을 반영하는 것이라고 설명했다. 즉 아시아인은 일괄적이고 과소대표되며 '영원한 이국인'으로 분류된다고 비난했다.

이 소식이 알려진 다음 날에는 이마젠에서 아예 아시아인 이미지 생성이 되지 않았다고도 밝혔다. 이에 대해 메타는 아무 설명도 내놓지 않았다고 전했다.

톰스하드웨어는 MS의 유대인 이미지 생성을 문제 삼았다.

대부분 이미지 생성 AI가 유대인을 검은 모자를 쓴 늙은 백인 남성으로 표현하는 등 문제가 많았으나, 특히 MS의 코파일럿 디자이너는 유대인을 탐욕스럽거나 비열한 모습으로 묘사했다고 밝혔다.

이에 앞서 2월에는 제미나이가 시대와 배경에도 맞지 않게 동양인이나 흑인 이미지를 생성, 너무 진보 쪽으로 기울었다는 뭇매를 맞았다. 이에 대해 순다르 피차이 구글 CEO는 물론 데미스 허사비스 딥마인드 CEO까지 실수를 인정하고 서비스를 중단했다.

이어 MS에서는 이미지 생성기의 문제를 지적했으나 회사가 이를 무시했다는 내부 폭로가 등장했다. 이후 MS는 일부 조치를 취했으나, 인종 편견 문제에서 완전히 벗어나지는 못했다.

이미지 생성 AI는 올해 초 가수 테일러 스위프트의 딥페이크 문제를 시작으로 계속 도마 위에 오르고 있다. 이 때문에 오픈AI도 동영상 생성 AI '소라'를 개발했으나, 일반 공개를 미루고 있다.

고정닉 7

원본 첨부파일 1

158664_170722_5224.png

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2864	설문	비난 여론에도 뻔뻔하게 잘 살 것 같은 스타는?	운영자	24/06/03	-	-
466413	일반	2030년까지는 바뀌는거 없는게 팩트인듯 [5]	ㅇㅇ(211.253)	05.12	325	0
466412	일반	싱글벙글 AI 경쟁 누가 이기던지 관심도 없는 새끼들	ㅇㅇ	05.12	155	0
466411	일반	우린 개쩌는 것을 봤고 [1]	ㅇㅇ(117.20)	05.12	176	0
466410	일반	현재공개된AI중에서 ALSO가압도적으로 제일좋음? [5]	ㅇㅇ(221.167)	05.12	235	0
466408	일반	화요일날 무조건 발표될것 [3]	ㅇㅇ(211.46)	05.12	267	0
466407	일반	이렇든 저렇든 이미 확실한 것 [3]	ㅇㅇ	05.12	288	0
466406	일반	조만간 ai로 고래 같은 동물이랑은 대화 가능해질 듯 [5]	ㅇㅇ	05.12	172	0
466403	일반	also가 4.5면 만족함? [4]	ㅇㅇ(222.101)	05.12	301	0
466402	일반	완몰가 재미없을 거같다 [1]	ㅇㅇ(110.46)	05.12	102	0
466401	일반	특붕 트윗 : 너무 흥분되어 몸이 떨리는	ㅇㅇ	05.12	236	0
466400	일반	6월 아이폰siri x oai는 확정이고 [4]	ㅇㅇ(110.46)	05.12	305	0
466399	일반	공식)샘 알트만 :존나좋을거다	꿀꿀깔깔	05.12	400	0
466398	일반	아니 알트만이 gpt-5보다 멋지다고 한 게 아니라	ㅇㅇ(121.132)	05.12	203	1
466397	일반	Gpt5 없는데 어떻게 gpt5보다 놀랍다는말이 성립함?? [1]	ㅇㅇ(121.146)	05.12	122	0
466396	일반	5보다 놀랍다고 말하는 스샷 어딧음? [3]	어브리	05.12	243	0
466395	일반	gpt5보다 쩐다는글이어딨음 [5]	껌젖	05.12	386	0
466394	일반	알트만피셜로 GPT5보다 더엄청난게 화요일에 발표한다니	ㅇㅇ(27.124)	05.12	112	0
466393	일반	알트만이 GPT5보다 놀랍다고발언했을정도면 뭐냐	ㅇㅇ(220.83)	05.12	84	0
466391	일반	제미나이 1.5 공개할때 sora 공개했네 ㅋㅋㅋ [1]	ㅇㅇ(218.50)	05.12	304	0
466390	일반	브램 32기가중에 좋은 모델이 뭐임 [16]	질문봇	05.12	153	0
466389	일반	GPT-5보다 놀라울 수가 있나? [2]	회전율	05.12	202	0
466388	일반	내년에 특갤오면 되지? [2]	ㅇㅇ(110.46)	05.12	135	0
466387	일반	구글은 똑똑한놈들 많은데 왜 못따라가냐 [5]	ㅇㅇ(210.90)	05.12	217	0
466386	일반	gpts고 플러그인이고 별로인건 유료화를 안해서 그런건데 [3]	ㅇㅇ(218.50)	05.12	105	0
466385	일반	모르겠고 디스토피아든 유토피아든	ㅇㅇ(39.116)	05.12	56	0
466384	일반	화요일날 개쩌는거 나오면 특갤 1등 가능하냐 [3]	ㅇㅇ	05.12	158	1
466383	일반	소라 씹덕 버젼은 안나오냐? [1]	ㅇㅇ(182.230)	05.12	208	1
466382	일반	gpt 4 ultra trubo 출시 [2]	ㅇㅇ(118.33)	05.12	225	0
466381	일반	소라부터 넘고오라니? 소라를oai에서 만듬ㅋ [4]	친근한게이브	05.12	223	0
466380	일반	gpt5보다 놀랍다는 ㄹㅇ 망언아니냐 [1]	네덕근첩	05.12	299	0
466379	일반	우린 개쩌는 것을 봤고 [1]	ㅇㅇ	05.12	188	0
466378	일반	새로 나오는 모델이	ㅇㅇ(211.228)	05.12	54	0
466377	일반	인생 마지막 OO! 즐기세요!(수십년)	ㅇㅇ	05.12	89	0
466376	일반	우린 애미씨발 개쩌는 것을 봤고	ㅇㅇ(222.108)	05.12	86	0
466375	일반	GPTs 때 특갤 반응 새삼 생각나네 [3]	ㅇㅇ(119.207)	05.12	214	0
466374	일반	라마3 가장 작은게 브램이 몇기가 필요함 [7]	질문봇	05.12	112	0
466373	일반	GPT4.5 출시냐? 화요일에 [1]	ㅇㅇ(121.184)	05.12	143	0
466372	일반	뭔 gpt5보다 놀랍다 ㅇㅈㄹ ㅋㅋㅋ 소라부터 넘고 와라노ㅋㅋ [3]	네덕근첩	05.12	350	0
466371	일반	gpt4로 야설 번역하는데 정책 위반이라고 번역이 안돼.... [2]	ㅇㅇ(211.243)	05.12	210	0
466370	일반	근데 구글 예전에 무슨 전화걸어서 미용실 예약 잡은거 [5]	ㅇㅇ(112.161)	05.12	155	0
466369	일반	진짜 ai비서떔에 온라인겜 시장 좆되곘는데? [6]	ㅇㅇ(117.20)	05.12	415	0
466368	일반	정확히 언제 발표임? [1]	ㅇㅇ	05.12	105	0
466366	일반	딥페이크는 음지의 알트만들이 노력 중이니 [1]	ㅇㅇ(121.140)	05.12	151	0
466365	일반	일단 클로드3 구독 해지하고 기다리는중 ㅋㅋ	ㅇㅇ	05.12	75	0
466364	일반	깊고 좁은거보다 얉고 넓은게 AI 트렌드아닌가싶다. [2]	딩둘딩	05.12	121	0
466363	일반	이번 업데이트는 보나마나	ㅇㅇ(125.190)	05.12	91	0
466362	일반	AI 잘 써먹으려면 [7]	지각의문	05.12	186	0
466361	일반	자율에이전트 나오면 온라인게임 다 망함? [1]	ㅇㅇ(14.45)	05.12	131	0
466360	일반	알트만, OAI : NSFW 허용할 계획이지만 딥페이크, 미성년자는 [4]	ㅇㅇ(175.206)	05.12	359	2
466359	일반	근데 발표하고 바로 적용임?	친근한게이브	05.12	94	0