"메타·MS도 인종 편향"...빅테크 생성 AI 잇단 구설수

특이점이 온다 갤러리
마이너

기술적 특이점에 대해 의논하고 그와 관련된 과학 기술 정보와 소식을 공유하는 갤러리입니다. *갤러리 이름은 동명의 레이 커즈와일의 저서 <특이점이 온다 (The singularity is near)>를 의미합니다.

매니저

특갤용(118wshxhtx5h)

부매니저

ㅇㅇ(hamaster) 부패하는유전자!!!(sansss20…) 은바다(nmra3fmz…)

개설일

2019-08-01

[정보] "메타·MS도 인종 편향"...빅테크 생성 AI 잇단 구설수

ㅇㅇ(182.230) 2024.04.09 22:25:39

조회 1288 추천 16 댓글 7

https://www.aitimes.com/news/articleView.html?idxno=158664

AI타임스

구글 '제미나이'의 인종 편향 논란에 이어, 이번에는 메타와 마이크로소프트(MS)의 이미지 생성 인공지능(AI)에서도 같은 문제가 지적됐다. 이미지 생성 AI로 인해 빅테크가 잇달아 구설수에 오르고 있다.더 버지와 톰스하드웨어 등은 최근 메타의 이미지 생성 AI '이마젠'과 MS의 '코파일럿 디자이너' 등이 인종 편향적인 출력으로 문제가 되고 있다고 지적했다.먼저 더 버지는 메타의 생성 AI를 활용, 인종이 다른 커플의 이미지를 생성하려고 했으나 실패했다고 전했다. '동양인 여성과 백인 남성 커플을 그려달라'라는 요청에, AI가 동

www.aitimes.com

7ce88870b38607f739ef81e744ee716f3aa26d9c5a13a7f688b07ce506ab95055292

구글 '제미나이'의 인종 편향 논란에 이어, 이번에는 메타와 마이크로소프트(MS)의 이미지 생성 인공지능(AI)에서도 같은 문제가 지적됐다. 이미지 생성 AI로 인해 빅테크가 잇달아 구설수에 오르고 있다.

더 버지와 톰스하드웨어 등은 최근 메타의 이미지 생성 AI '이마젠'과 MS의 '코파일럿 디자이너' 등이 인종 편향적인 출력으로 문제가 되고 있다고 지적했다.

먼저 더 버지는 메타의 생성 AI를 활용, 인종이 다른 커플의 이미지를 생성하려고 했으나 실패했다고 전했다. '동양인 여성과 백인 남성 커플을 그려달라'라는 요청에, AI가 동양인-동양인 커플을 출력하는 경우가 대부분이었다고 설명했다.

마찬가지로 '동양인 여성-흑인 남성'도 실패했다며, 동양인 여성의 파트너로는 항상 동양인 남성이 등장했다고 밝혔다.

게다가 동양인 여성은 언제나 피부가 밝고 젊은 동아시아인으로 표현한다고 지적했다. 아시아에서 가장 인구가 많은 곳은 인도다.

이는 미국 언론에서 '아시아인'은 일반적으로 동아시아인을 의미하는 것으로 간주하는 편향을 반영하는 것이라고 설명했다. 즉 아시아인은 일괄적이고 과소대표되며 '영원한 이국인'으로 분류된다고 비난했다.

이 소식이 알려진 다음 날에는 이마젠에서 아예 아시아인 이미지 생성이 되지 않았다고도 밝혔다. 이에 대해 메타는 아무 설명도 내놓지 않았다고 전했다.

톰스하드웨어는 MS의 유대인 이미지 생성을 문제 삼았다.

대부분 이미지 생성 AI가 유대인을 검은 모자를 쓴 늙은 백인 남성으로 표현하는 등 문제가 많았으나, 특히 MS의 코파일럿 디자이너는 유대인을 탐욕스럽거나 비열한 모습으로 묘사했다고 밝혔다.

이에 앞서 2월에는 제미나이가 시대와 배경에도 맞지 않게 동양인이나 흑인 이미지를 생성, 너무 진보 쪽으로 기울었다는 뭇매를 맞았다. 이에 대해 순다르 피차이 구글 CEO는 물론 데미스 허사비스 딥마인드 CEO까지 실수를 인정하고 서비스를 중단했다.

이어 MS에서는 이미지 생성기의 문제를 지적했으나 회사가 이를 무시했다는 내부 폭로가 등장했다. 이후 MS는 일부 조치를 취했으나, 인종 편견 문제에서 완전히 벗어나지는 못했다.

이미지 생성 AI는 올해 초 가수 테일러 스위프트의 딥페이크 문제를 시작으로 계속 도마 위에 오르고 있다. 이 때문에 오픈AI도 동영상 생성 AI '소라'를 개발했으나, 일반 공개를 미루고 있다.

고정닉 7

원본 첨부파일 1

158664_170722_5224.png

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2861	설문	어떤 상황이 닥쳐도 지갑 절대 안 열 것 같은 스타는?	운영자	24/05/20	-	-
456828	일반	뉴아틀라스 떳다(링크) [43]	ㅇㅇ(121.168)	04.17	2684	30
456817	정보	Daniel Kokotajilo, OpenAI 퇴직 [6]	ㅇㅇ(125.191)	04.17	1149	20
456805	정보	생성AI가 잡아낸 진단기록 오류, 영상의학과 전문의 못지 않다 [3]	ㅇㅇ(182.230)	04.17	1198	22
456804	정보	"구글도 AI 슈퍼컴퓨터에 1000억달러 이상 투자할 것" [3]	ㅇㅇ(182.230)	04.17	1002	23
456803	정보	"AI 논문 표절 심각"…수백만명이 논문 작성에 생성 AI 활용 [5]	ㅇㅇ(182.230)	04.17	1740	16
456800	정보	MS, UAE G42에 2조 투자로 이사회 합류..."중국 완전 차단" [2]	ㅇㅇ(182.230)	04.17	955	16
456776	일반	한국은 알엔디를 너무 무작정 부풀렸음 [23]	ㅇㅇ(121.168)	04.17	1865	23
456768	정보	한국, AI 특허 수는 1위지만 작년 개발 모델 없고 인재 유출 [18]	니지카엘	04.17	1120	10
456763	정보	예쁜꼬마선충과 인간의 뇌 부피 간접 비교 [19]	ㅇㅇ(182.230)	04.17	1967	16
456734	정보	뇌에 '바코드' 새겨 일시 기억 저장한다 [14]	ㅇㅇ(182.230)	04.17	2588	20
456703	정보	TransformerFAM: 피드백 주의는 작업 메모리입니다. [12]	특술람	04.17	1017	14
456679	AI창 AI창작	AI야 케이크 위에 앉은 미소녀 그려줘 [17]	ㅇㅇ	04.17	1806	14
456642	일반	펌) 생식기 실험을 통한 AI 인지능력 테스트 [19]	agi2024	04.17	2903	27
456611	일반	개시발 근들갑 병신 원툴새기들 트위터 똥글은 그만퍼와라 [16]	ㅇㅇ(14.45)	04.17	1978	49
456604	일반	념글 레데리2 클리어 근들갑 같은데 [13]	ㅇㅇ(221.160)	04.16	2401	22
456599	정보	보스턴 다이내믹스 - 유압식 아틀라스와의 작별 [26]	SGG	04.16	2281	19
456584	정보	MetaAI 퇴사자, 새로운 회사 설립 [2]	ㅇㅇ(118.235)	04.16	1813	19
456567	일반	LLM 훈련비용 7년 새 20만배 이상 증가 [14]	ㅇㅇ(125.142)	04.16	1963	14
456565	정보	어도비, 동영상 편집기 '프리미어'에 '소라' 등 결합 예정 [17]	ㅇㅇ(182.230)	04.16	1723	23
456561	정보	레카, 새로운 LMM '코어' 출시..."일부 성능서 GPT-4 능가" [8]	ㅇㅇ(182.230)	04.16	1309	16
456559	정보	오픈AI, 1년 만에 직원수 2배 증가..."올말에는 1500명 넘을 것 [7]	ㅇㅇ(182.230)	04.16	1553	17
456558	정보	지난해 전 세계 파운데이션 모델 149개 출시 [7]	ㅇㅇ(182.230)	04.16	939	13
456557	일반	네옴시티 완전 망한거 알고있냐? [40]	빅모드	04.16	3238	31
456554	정보	"지금까지 리뷰한 최악의 제품"...Ai 핀 리뷰로 떠들썩 [10]	ㅇㅇ(182.230)	04.16	1730	11
456553	정보	"챗GPT로 게임 '레드 데드 리뎀션 2' 클리어 [14]	ㅇㅇ(182.230)	04.16	2332	15
456476	일반	할아버지가 특이점 와봤자 다른게 없다고한다. [21]	ㅇㅇ(218.233)	04.16	1107	20
456470	일반	"박사 과정에서 수십억 년이 걸렸을 일을 우리는 1년 만에 해냈습니다" [13]	ㅇㅇ(221.157)	04.16	1318	13
456463	정보	인터넷속도 176만배 빠르게 하는 기술 개발됨 [47]	ㅇㅇ(210.178)	04.16	2473	17
456461	일반	인디게임 개발자로써, GPT는 충분히 가치가 있다. [19]	ㅇㅇ(116.34)	04.16	2556	24
456443	일반	머스크 스페샬 [8]	ㅇㅇ(222.101)	04.16	632	11
456425	일반	3대 십새끼 어록 모음 [12/1]	ㅇㅇ	04.16	2304	34
456424	정보	압축은 지능을 선형적으로 나타냅니다. [4]	특술람	04.16	705	23
456421	일반	너넨 살아보니 노력 할만 하더냐? [24]	ㅇㅇ(59.9)	04.16	798	13
456412	일반	인류를 위해 안 까고있다 하면 돌천지랑 뭐가다르냐 [3]	ㅇㅇ(106.101)	04.16	365	10
456401	일반	아가리 털드만이 마케팅하러 다닌다 (X) [3]	ㅇㅇ	04.16	335	12
456394	정보	마이크로소프트 오픈소스 모델 Wizard LM2 공개 [10]	lightvector	04.16	1506	25
456384	정보	(오늘의 입털기)샘알트만- 당신들을 찍어누를 것 [31]	ㅇㅇ(118.235)	04.16	2532	24
456370	정보	일본에 자리 잡은 사카나 AI "기업 관심 집중...아직 경쟁자 없어" [2]	ㅇㅇ(182.230)	04.16	503	11
456363	일반	생각해보면 모든 행복의 근원은.. [6]	ㅇㅇ	04.16	1698	23
456347	역노화	내 몸에 새로운 간을 키운다...간이식 대체할 림프절 간세포 이식술 [25]	ㅇㅇ	04.16	1889	25
456321	일반	ㄹㅇ 나도 현.직자인데 [8]	ㅇㅇ	04.15	978	14
456319	일반	오늘자 얀르쿤 트윗: 25년도까지 AGI 불가능 [12]	ㅇㅇ(112.144)	04.15	881	11
456310	일반	산수문제 하나 풀고 가실게요 (gpt4 재평가) [9]	mahogany	04.15	2111	21
456297	일반	라마3 곧 발표예정이라함 [9]	ㅇㅇ(125.191)	04.15	2173	26
456204	정보	스테이블 디퓨전 만든 CEO 근황 [11]	ㅇㅇ(121.132)	04.15	3348	26
456178	정보	오픈AI, 아시아 최초 사무소인 OpenAI Japan 설립 [28]	월코존버	04.15	2398	22
455877	정보	엔트로픽 CEO, ASL-4는 2025~2028 사이에 일어날 수 있다 [14]	ㅇㅇ(218.52)	04.14	975	11
455701	정보	다트머스 연구진은 현대 AI와 치료 앱을 융합하려고 합니다. [12]	ㅇㅇ	04.14	1413	14
455985	정보	미스트랄 8x22b성능은 오픈소스중최고 mmlu 77.3 [11]	ㅇㅇ(149.88)	04.14	1489	15
456113	정보	2024년 가장 많이 사용되는 AI 플랫폼 20개는 [9]	ㅇㅇ(182.230)	04.15	2516	21