"메타·MS도 인종 편향"...빅테크 생성 AI 잇단 구설수

특이점이 온다 갤러리
마이너

기술적 특이점에 대해 의논하고 그와 관련된 과학 기술 정보와 소식을 공유하는 갤러리입니다. *갤러리 이름은 동명의 레이 커즈와일의 저서 <특이점이 온다 (The singularity is near)>를 의미합니다.

매니저

특갤용(118wshxhtx5h)

부매니저

ㅇㅇ(hamaster) 부패하는유전자!!!(sansss20…) 은바다(nmra3fmz…)

개설일

2019-08-01

[정보/뉴스] "메타·MS도 인종 편향"...빅테크 생성 AI 잇단 구설수

ㅇㅇ(182.230) 2024.04.09 22:25:39

조회 1298 추천 16 댓글 7

https://www.aitimes.com/news/articleView.html?idxno=158664

AI타임스

구글 '제미나이'의 인종 편향 논란에 이어, 이번에는 메타와 마이크로소프트(MS)의 이미지 생성 인공지능(AI)에서도 같은 문제가 지적됐다. 이미지 생성 AI로 인해 빅테크가 잇달아 구설수에 오르고 있다.더 버지와 톰스하드웨어 등은 최근 메타의 이미지 생성 AI '이마젠'과 MS의 '코파일럿 디자이너' 등이 인종 편향적인 출력으로 문제가 되고 있다고 지적했다.먼저 더 버지는 메타의 생성 AI를 활용, 인종이 다른 커플의 이미지를 생성하려고 했으나 실패했다고 전했다. '동양인 여성과 백인 남성 커플을 그려달라'라는 요청에, AI가 동

www.aitimes.com

7ce88870b38607f739ef81e744ee716f3aa26d9c5a13a7f688b07ce506ab95055292

구글 '제미나이'의 인종 편향 논란에 이어, 이번에는 메타와 마이크로소프트(MS)의 이미지 생성 인공지능(AI)에서도 같은 문제가 지적됐다. 이미지 생성 AI로 인해 빅테크가 잇달아 구설수에 오르고 있다.

더 버지와 톰스하드웨어 등은 최근 메타의 이미지 생성 AI '이마젠'과 MS의 '코파일럿 디자이너' 등이 인종 편향적인 출력으로 문제가 되고 있다고 지적했다.

먼저 더 버지는 메타의 생성 AI를 활용, 인종이 다른 커플의 이미지를 생성하려고 했으나 실패했다고 전했다. '동양인 여성과 백인 남성 커플을 그려달라'라는 요청에, AI가 동양인-동양인 커플을 출력하는 경우가 대부분이었다고 설명했다.

마찬가지로 '동양인 여성-흑인 남성'도 실패했다며, 동양인 여성의 파트너로는 항상 동양인 남성이 등장했다고 밝혔다.

게다가 동양인 여성은 언제나 피부가 밝고 젊은 동아시아인으로 표현한다고 지적했다. 아시아에서 가장 인구가 많은 곳은 인도다.

이는 미국 언론에서 '아시아인'은 일반적으로 동아시아인을 의미하는 것으로 간주하는 편향을 반영하는 것이라고 설명했다. 즉 아시아인은 일괄적이고 과소대표되며 '영원한 이국인'으로 분류된다고 비난했다.

이 소식이 알려진 다음 날에는 이마젠에서 아예 아시아인 이미지 생성이 되지 않았다고도 밝혔다. 이에 대해 메타는 아무 설명도 내놓지 않았다고 전했다.

톰스하드웨어는 MS의 유대인 이미지 생성을 문제 삼았다.

대부분 이미지 생성 AI가 유대인을 검은 모자를 쓴 늙은 백인 남성으로 표현하는 등 문제가 많았으나, 특히 MS의 코파일럿 디자이너는 유대인을 탐욕스럽거나 비열한 모습으로 묘사했다고 밝혔다.

이에 앞서 2월에는 제미나이가 시대와 배경에도 맞지 않게 동양인이나 흑인 이미지를 생성, 너무 진보 쪽으로 기울었다는 뭇매를 맞았다. 이에 대해 순다르 피차이 구글 CEO는 물론 데미스 허사비스 딥마인드 CEO까지 실수를 인정하고 서비스를 중단했다.

이어 MS에서는 이미지 생성기의 문제를 지적했으나 회사가 이를 무시했다는 내부 폭로가 등장했다. 이후 MS는 일부 조치를 취했으나, 인종 편견 문제에서 완전히 벗어나지는 못했다.

이미지 생성 AI는 올해 초 가수 테일러 스위프트의 딥페이크 문제를 시작으로 계속 도마 위에 오르고 있다. 이 때문에 오픈AI도 동영상 생성 AI '소라'를 개발했으나, 일반 공개를 미루고 있다.

고정닉 7

원본 첨부파일 1

158664_170722_5224.png

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2864	설문	비난 여론에도 뻔뻔하게 잘 살 것 같은 스타는?	운영자	24/06/03	-	-
242613	공지	특갤 통합 공지 / 댓글 신고,문의 / 차단 해제 요청 [3145]	*특갤용*	23.08.06	40033	43
433260	공지	웬만하면 신문고에 문의 해주시면 차단 풀어드립니다 [2]	*부패하는유전자!!!*	24.03.06	2749	2
363220	공지	선형글 삭제 기준 [7]	*특갤용*	23.10.14	7472	24
375493	공지	필독) 유입 특붕이를 위한 AI 정보글 모음 (01/23) [40]	ㅇㅇ(182.230)	23.11.11	13664	122
373402	공지	직업 비하, 조롱 글 30일 차단됩니다. [51]	*특갤용*	23.11.07	9121	79
385147	공지	구글의 AGI 분류 체계 [17]	ㅇㅇ	23.11.22	8656	31
332612	공지	음모론 삭제 기준을 안내드립니다. [23]	*특갤용*	23.08.25	9355	30
412470	공지	레이 커즈와일 신간 6월 25일 발매 [29]	모브	24.01.24	8263	34
259237	공지	특갤 용어 모음집 [6]	*특갤용*	23.08.09	23036	33
488614	일반	'박사급 추론능력' 의 진실 [8]	ㅇㅇ(221.167)	18:51	64	0
488613	일반	직업 대체 되려면 추론도 중요하지만 환각을 잡아야할듯 [1]	ㅇㅇ	18:50	14	0
488612	일반	갤 럭 시 = 찐 따 폰 임 [2]	ㅇㅇ(61.253)	18:47	32	0
488611	일반	뤼튼이 해결해야할 문제	et	18:47	18	0
488610	일반	AGI의 정의의	ㅇㅇ(221.167)	18:43	22	0
488609	일반	특이점이 21세기의 새로운 종.교인듯 [1]	ㅇㅇ(211.241)	18:43	29	0
488608	일반	특이점 오면 이것도 다 가능한가요?? [4]	ㅇㅇ(211.36)	18:41	43	0
488607	일반	근데 GPT-5가 박사급 추론이면 [15]	ㅇㅇ(61.72)	18:30	198	0
488606	일반	gpt5 언제 나옴	ㅇㅇ(106.102)	18:26	33	0
488605	일반	'그 아이피' 새로운 정보 [5]	ㅇㅇ(221.167)	18:22	164	1
488604	일반	뤼튼 바이럴 존나심해졌네	솔.이☆	18:21	88	3
488603	일반	gpt4 나온지 이제 1년됐는데 근들갑은ㅋㅋㅋㅋ [3]	ㅇㅇ(223.62)	18:13	154	3
488602	일반	한가지 생각해봐야될게있음	ㅇㅇ(112.165)	18:11	47	0
488601	일반	ai 때문에 일자리를 잃는다고?	ㅇㅇ(211.36)	18:09	53	0
488600	일반	이새끼 하나면 니들이 빠는 초지능따위 싹 다 몰살가능함ㅋㅋㅋㅋ [7]	ㅇㅇ(211.36)	18:04	262	8
488599	일반	응특이점안와	ㅇㅇ(116.40)	18:03	68	2
488598	일반	gpt4o 왤캐 멍청해졌지...제한 걸린건가	놋갤만해요	18:03	41	0
488597	일반	이거 안되냐	응아잇어(116.36)	17:52	26	0
488596	일반	솔담비 특이점은 온다. [8]	ㅇㅇ	17:51	144	4
488595	일반	데이터를 단순 언어에만 국한하면야 별거 없겠지만 [6]	ㅇㅇ(211.55)	17:51	78	0
488594	역노화	역노화 [1]	ㅇㅇ(1.233)	17:42	105	0
488593	일반	확실한건 공부하기는 엄청 편해진듯 [15]	ㅇㅇ(220.85)	17:41	284	1
488592	일반	업스테이지는 파운데이션 모델 만든 게 아님? [2]	응아잇어(211.234)	17:40	51	0
488590	일반	gpt4o 검색해서 알려주는 건 환각없지? [2]	ㅇㅇ	17:29	110	0
488589	일반	nsfw 조금 풀린 것도 같노 [11]	Dall리신(121.157)	17:29	302	0
488588	일반	GPT 또 바보됐네	ㅇㅇ(119.207)	17:27	60	0
488587	일반	나 ㄹㅇ 무라티가 누군지 몰랐는데 밑의 궁시렁거림은 [1]	ㅇㅇ(121.186)	17:25	87	0
488586	일반	갤 성격과는 맞지않는 글이라 미안하지만 [56]	ㅇㅇ(112.165)	17:21	285	0
488585	일반	난 oai 무라티 같은 사람 보면 너무 화나던데... [16]	ㅇㅇ(203.234)	17:16	291	0
488584	일반	테크계 미녀 [8]	안녕(203.132)	17:13	309	1
488582	일반	여기 ㄹㅇ 인간 미만의 무언가인 새끼들 좀 있음 [5]	ㅇㅇ(125.134)	17:12	191	3
488578	일반	특슬람들 지들끼리 미국 증시 올리네 [2]	ㅇㅇ(118.235)	17:08	110	3
488577	일반	선형충들이 가난한 이유는 뭘까 [3]	ㅇㅇ	17:01	122	0
488576	일반	개발자는 코로나때 많이 뽑아서 지금 취업난 온거야 [3]	ㅇ ㅇ(115.20)	16:59	116	0
488575	일반	비관글 레퍼런스 가져옴 ㅋㅋ [8]	ㅇㅇ(39.123)	16:58	221	1
488574	일반	데이터 부을대로 다 붓고 나면 그 뒤는..? [42]	ㅇㅇ(221.167)	16:54	183	0
488573	일반	여기 애들은 직업에 열등감있음? [19]	ㅇㅇ(39.112)	16:52	282	0
488572	일반	특이점 오면 고추도 원하는거로 교체 ㄱㄴ함? [12]	ㅇㅇ	16:47	163	1
488571	일반	애초에 특붕이들 너무 귀가 얇음 [6]	Gggg	16:44	167	0
488570	일반	근데 기술 투자 너무 보수적인거같음 [4]	ㅇㅇ(106.101)	16:43	117	0
488569	일반	뤼튼 금지어 지정 건의 [8]	ㅇㅇ(106.101)	16:40	252	11