"메타·MS도 인종 편향"...빅테크 생성 AI 잇단 구설수

특이점이 온다 갤러리
마이너

기술적 특이점에 대해 의논하고 그와 관련된 과학 기술 정보와 소식을 공유하는 갤러리입니다. *갤러리 이름은 동명의 레이 커즈와일의 저서 <특이점이 온다 (The singularity is near)>를 의미합니다.

매니저

특갤용(118wshxhtx5h)

부매니저

ㅇㅇ(hamaster) 부패하는유전자!!!(sansss20…) 은바다(nmra3fmz…)

개설일

2019-08-01

[정보/뉴스] "메타·MS도 인종 편향"...빅테크 생성 AI 잇단 구설수

ㅇㅇ(182.230) 2024.04.09 22:25:39

조회 1297 추천 16 댓글 7

https://www.aitimes.com/news/articleView.html?idxno=158664

AI타임스

구글 '제미나이'의 인종 편향 논란에 이어, 이번에는 메타와 마이크로소프트(MS)의 이미지 생성 인공지능(AI)에서도 같은 문제가 지적됐다. 이미지 생성 AI로 인해 빅테크가 잇달아 구설수에 오르고 있다.더 버지와 톰스하드웨어 등은 최근 메타의 이미지 생성 AI '이마젠'과 MS의 '코파일럿 디자이너' 등이 인종 편향적인 출력으로 문제가 되고 있다고 지적했다.먼저 더 버지는 메타의 생성 AI를 활용, 인종이 다른 커플의 이미지를 생성하려고 했으나 실패했다고 전했다. '동양인 여성과 백인 남성 커플을 그려달라'라는 요청에, AI가 동

www.aitimes.com

7ce88870b38607f739ef81e744ee716f3aa26d9c5a13a7f688b07ce506ab95055292

구글 '제미나이'의 인종 편향 논란에 이어, 이번에는 메타와 마이크로소프트(MS)의 이미지 생성 인공지능(AI)에서도 같은 문제가 지적됐다. 이미지 생성 AI로 인해 빅테크가 잇달아 구설수에 오르고 있다.

더 버지와 톰스하드웨어 등은 최근 메타의 이미지 생성 AI '이마젠'과 MS의 '코파일럿 디자이너' 등이 인종 편향적인 출력으로 문제가 되고 있다고 지적했다.

먼저 더 버지는 메타의 생성 AI를 활용, 인종이 다른 커플의 이미지를 생성하려고 했으나 실패했다고 전했다. '동양인 여성과 백인 남성 커플을 그려달라'라는 요청에, AI가 동양인-동양인 커플을 출력하는 경우가 대부분이었다고 설명했다.

마찬가지로 '동양인 여성-흑인 남성'도 실패했다며, 동양인 여성의 파트너로는 항상 동양인 남성이 등장했다고 밝혔다.

게다가 동양인 여성은 언제나 피부가 밝고 젊은 동아시아인으로 표현한다고 지적했다. 아시아에서 가장 인구가 많은 곳은 인도다.

이는 미국 언론에서 '아시아인'은 일반적으로 동아시아인을 의미하는 것으로 간주하는 편향을 반영하는 것이라고 설명했다. 즉 아시아인은 일괄적이고 과소대표되며 '영원한 이국인'으로 분류된다고 비난했다.

이 소식이 알려진 다음 날에는 이마젠에서 아예 아시아인 이미지 생성이 되지 않았다고도 밝혔다. 이에 대해 메타는 아무 설명도 내놓지 않았다고 전했다.

톰스하드웨어는 MS의 유대인 이미지 생성을 문제 삼았다.

대부분 이미지 생성 AI가 유대인을 검은 모자를 쓴 늙은 백인 남성으로 표현하는 등 문제가 많았으나, 특히 MS의 코파일럿 디자이너는 유대인을 탐욕스럽거나 비열한 모습으로 묘사했다고 밝혔다.

이에 앞서 2월에는 제미나이가 시대와 배경에도 맞지 않게 동양인이나 흑인 이미지를 생성, 너무 진보 쪽으로 기울었다는 뭇매를 맞았다. 이에 대해 순다르 피차이 구글 CEO는 물론 데미스 허사비스 딥마인드 CEO까지 실수를 인정하고 서비스를 중단했다.

이어 MS에서는 이미지 생성기의 문제를 지적했으나 회사가 이를 무시했다는 내부 폭로가 등장했다. 이후 MS는 일부 조치를 취했으나, 인종 편견 문제에서 완전히 벗어나지는 못했다.

이미지 생성 AI는 올해 초 가수 테일러 스위프트의 딥페이크 문제를 시작으로 계속 도마 위에 오르고 있다. 이 때문에 오픈AI도 동영상 생성 AI '소라'를 개발했으나, 일반 공개를 미루고 있다.

고정닉 7

원본 첨부파일 1

158664_170722_5224.png

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2864	설문	비난 여론에도 뻔뻔하게 잘 살 것 같은 스타는?	운영자	24/06/03	-	-
462689	일반	“밥을 안 먹으면 배가 고플 것.” [10]	ㅇㅇ	05.04	3571	32
462560	정보/ 정보/뉴스	소소하게 화제 중인 '세계 복사' 프로젝트 [26]	sam_ultraman	05.03	4526	28
462539	정보/ 정보/뉴스	르쿤이햄 : "이제 텍스트 데이터 거의 한계에 도달함" [25]	ㅇㅇ(119.77)	05.03	4024	27
462486	정보/ 정보/뉴스	'소라'로 제작한 첫 공식 뮤비 공개..."뮤비는 만족할 수준" [30]	ㅇㅇ(182.230)	05.03	3224	27
462485	정보/ 정보/뉴스	알트먼 "AGI도 수준 차 존재할 것...'AI 킬러 앱'은 에이전트" [4]	ㅇㅇ(182.230)	05.03	1852	18
462483	정보/ 정보/뉴스	바이든, '챗GPT' 처음 써보고 "믿을 수 없어" 반응 [10]	ㅇㅇ(182.230)	05.03	629	12
462430	일반	ai노래 유튜브에서 컨텐츠로 자리잡았네 ㅋㅋㅋㅋㅋㅋㅋ [2]	로코무지카	05.03	2588	23
462389	일반	“일론은 Q*가 있다고 진심으로 믿고 움직이고 있다” [14]	ㅇㅇ(118.36)	05.03	3932	25
462232	정보/ 정보/뉴스	[Official] gpt2-chatbot은 GPT-4.5가 아닙니다. [27]	ㅇㅇ(119.77)	05.02	2725	18
462193	정보/ 정보/뉴스	공정한 MMLU 벤치마크 결과 [4]	ㅇㅇ(119.77)	05.02	636	13
462302	정보/ 정보/뉴스	르쿤이형, 누군가를 저격한듯한 발언 [30]	ㅇㅇ(119.77)	05.03	3203	30
462294	정보/ 정보/뉴스	일리야 수츠케버, 생존신고 [18]	ㅇㅇ(119.77)	05.03	2639	21
462270	정보/ 정보/뉴스	AI용어) Prompt vs Fine-tuning vs RAG [10]	ㅇㅇ(182.230)	05.03	1362	21
461992	정보/ 정보/뉴스	샘 알트만 : 2030년에도 삶은 크게 달라지지 않을 것 [68]	ㅇㅇ(119.77)	05.02	5943	38
461983	정보/ 정보/뉴스	지난주 스탠포드대학교 샘알트만 강연 비디오 [18]	ㅇㅇ(125.191)	05.02	2067	21
462055	일반	소신발언) 근데 그냥 gpt-5로 안내면 되는거 아님? [7]	ㅇㅇ(1.239)	05.02	2502	21
462054	정보/ 정보/뉴스	벤치마크딸 모델들의 민낯 공개 [21]	ㅇㅇ(119.77)	05.02	3154	28
461945	일반	스압)노동종말 이후에 찾아올것은 [10]	냉법비법화법	05.02	1735	27
461921	일반	KAN 간략한 정리글 [47]	ㅇㅇ(221.152)	05.02	4635	23
461900	일반	KAN이라는 엄청난 것이 떴나본데 [23]	ㅇㅇ(106.102)	05.02	3723	21
461743	일반	gpt2의 정체에 대한 추측 (진지글) [12]	ㅇㅇ(210.223)	05.01	2942	23
461605	일반	이름가지고 장난치는거 보니까 슬슬 끝물같으면 개추ㅋㅋㅋ [5]	ㅇㅇ(211.197)	05.01	4245	40
461548	일반	GPT2에 대한 가장 그럴듯한 설명 [34]	모브	04.30	3517	30
461546	일반	S 곡선 끄트머리 같으면 개추 [13]	ㅇㅇ(112.165)	04.30	3424	35
461511	정보/ 정보/뉴스	찍이점) 심장 미세환경까지 구현한 미니 장기 ‘오가노이드’ 나왔다 [5]	ㅇㅇ(182.230)	04.30	1814	24
461505	정보/ 정보/뉴스	영상의 디테일을 부활시키며 업스케일하는 AI ‘Video GigaGAN’ [20]	ㅇㅇ(182.230)	04.30	2828	23
461494	일반	gpt2 최신 갤떡밥 요약.jpg [11]	ㅇㅇ(218.155)	04.30	4838	32
461362	일반	GPT2 ㄹㅇ 퀀텀점프 아니냐 ㄷㄷㄷ [26]	ㅇㅇ	04.30	4791	41
363468	일반	고전) 특갤 문학 고전 명작 모음집 [20]	ㅇㅇ(61.84)	23.10.15	5364	72
461177	일반	gpt2-chatbot 써보는 방법 [8]	ㅇㅇㅇ(1.220)	04.30	4140	26
461021	일반	간단하지만 어려운 추론 문제로 LLM들의 성능을 알아보자 [24]	ㅇㅇ(106.102)	04.30	2655	20
461011	일반	애초에 '환각'이라는 표현부터가 이상함 [33]	ㅇㅇ(121.173)	04.30	3189	18
461007	일반	오늘자 오픈AI 트윗 말장난 [16]	모브	04.30	3372	26
460981	일반	OpenAI 개발자 플랫폼 새로운 기능 추가 [15]	ㅇㅇ(112.144)	04.30	3124	25
460951	일반	보스턴다이나믹스 신규영상 [19]	ㅇㅇ(125.183)	04.30	2985	23
460872	일반	근데 왜 미국애들은 새벽에 뭐 발표함?? [23]	lightvector	04.29	3195	31
460861	일반	속보) GPT 올해의 가장 큰 업데이트 발표 [13]	ㅇㅇ	04.29	4175	27
460815	일반	응 gpt5 나와 이 병신들아 [21]	ㅇㅇ	04.29	3120	33
460811	일반	오늘 그냥 잘꺼면 개추 ㅋㅋ [15]	ㅇㅇ(58.29)	04.29	1749	43
460748	일반	내일 무조건 GPT-5 나오는 이유 5가지.jpg [19]	ㅇㅇ(182.230)	04.29	3097	27
460726	정보/ 정보/뉴스	또 등장한 '소라'의 한계 지적..."영화 제작은 시기상조" [13]	ㅇㅇ(182.230)	04.29	537	14
460686	정보/ 정보/뉴스	깃허브 개발자 "내일 큰 거 온다" [20]	ㅇㅇ(125.191)	04.29	3239	26
460658	정보/ 정보/뉴스	제미니 울트라 1.5 [13]	ㅇㅇ(125.191)	04.29	953	16
460650	정보/ 정보/뉴스	국내 직장인 셋 중 하나 "생성형 AI 10년 안에 내 업무 대체할 것" [13]	ㅇㅇ(125.191)	04.29	2454	28
460611	정보/ 정보/뉴스	2024년 AI 스타트업을 위한 데이터 수집 전략 [3]	ㅇㅇ(182.230)	04.29	1616	21
460626	일반	자본주의는 망해야 함 [24]	ㅇㅇ(58.29)	04.29	1867	34
460621	일반	무어의 법칙 이번에는 진짜 끝났다!! 발전 좆됐다!!! [35]	lightvector	04.29	3067	35
460600	정보/ 정보/뉴스	Qwen1.5-110B : 알리바바의 오픈소스 LLM Qwen1.5 [4]	ㅇㅇ(182.230)	04.29	750	21
460599	정보/ 정보/뉴스	Meta Llama 3 발표후, 첫 일주일간 생긴 일 [2]	ㅇㅇ(182.230)	04.29	1442	26
460583	정보/ 정보/뉴스	Figure 60 Minutes 영상 [14]	ㅇㅇ(125.191)	04.29	1118	16