OpenAI의 음성 변환 도구 'Whisper', 심각한 오류 발생 논란

GPTMAGAZINE

2024.10.28 01:59:00

조회 7940 추천 1 댓글 4

전사 내용에 인종차별적 발언, 가짜 의료 정보 무단 삽입 확인
10건 중 8건에서 '환각' 현상 발생

OpenAI의 음성-텍스트 변환 도구 'Whisper'가 심각한 수준의 오류를 일으키고 있다는 연구 결과가 발표됐다. AP통신 보도에 따르면, 소프트웨어 엔지니어, 개발자, 학계 연구진들이 이 도구의 신뢰성에 대해 깊은 우려를 표명했다.

■ 'AI 환각' 현상이란? AI 환각(Hallucination)은 인공지능이 실제 입력된 정보와 무관한 허위 정보를 무작위로 생성하는 현상을 말한다. 일반적으로 텍스트 생성 AI에서 발생하는 이 문제가, 단순히 음성을 글자로 옮기는 작업에서도 발견되어 충격을 주고 있다.

■ 연구 결과로 본 심각성 미시간 대학교 연구진이 공공 회의 음성 기록을 분석한 결과, 10건 중 8건에서 환각 현상이 발견됐다. 한 머신러닝 엔지니어는 100시간 이상의 음성 기록을 분석한 결과 절반 이상에서 오류를 발견했으며, 또 다른 개발자는 26,000건의 변환 기록 대부분에서 문제점을 확인했다.

특히 우려스러운 점은 Whisper가 원본 음성에 없는 인종차별적 발언이나 존재하지 않는 의료 치료법을 임의로 추가하는 현상이다. 이는 특히 병원이나 의료 현장에서 활용될 경우 치명적인 문제를 일으킬 수 있다는 지적이다.

이에 대해 OpenAI 대변인은 "모델의 정확도 향상과 환각 현상 감소를 위해 지속적으로 노력하고 있다"며, "중요한 의사결정이 필요한 상황에서는 Whisper 사용을 금지하고 있다"고 밝혔다. 또한 "연구진들의 발견 사항 공유에 감사드린다"고 덧붙였다.

전문가들은 AI 기술이 빠르게 발전하는 만큼, 이러한 문제점들을 신중하게 검토하고 개선하는 것이 필요하다고 조언한다. 특히 의료, 법률 등 중요한 의사결정이 필요한 분야에서는 AI 도구 사용에 더욱 신중한 접근이 필요할 것으로 보인다.

◎GPT매거진 (https://www.gptmagazine.net)

지피티 기자 : gptmagazinebiz@gmail.com

카카오 오픈채팅방 : https://open.kakao.com/o/gLI8Wetf

페이스북 그룹 : https://www.facebook.com/groups/392367786704067

고정닉 0

원본 첨부파일 2본문 이미지 다운로드

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	내 돈 관리 맡기고 싶은 재태크 고수 같은 스타는?	운영자	26/01/12	-	-
889	"AI 데이터센터, 실리콘밸리의 투자 열풍"	GPTMAGAZINE	25.09.27	61	0
888	AI 데이터 라벨링 시장의 새로운 물결, Micro1의 급부상과 성공 전략	GPTMAGAZINE	25.09.13	9008	2
887	오라클과 오픈AI, 손잡고 AI 시장에 새 바람 불어넣다!	GPTMAGAZINE	25.09.13	147	0
886	People 매거진 CEO, 구글을 "악질 행위자"로 강력 비난	GPTMAGAZINE	25.09.13	121	0
885	타코벨, 드라이브스루 AI 도입 신중론 대두	GPTMAGAZINE	25.08.31	220	0
884	ChatGPT의 말: 메타·스케일 AI 파트너십에 균열 조짐	GPTMAGAZINE	25.08.31	216	0
883	퍼플렉시티 AI, 콘텐츠 제공자에 수익 공유 제안	GPTMAGAZINE	25.08.31	203	0
882	AI 정신병 논란, 전문가들 경고	GPTMAGAZINE	25.08.31	347	0
881	AI가 직원 대체? 스타트업 운영 방식에 등장한 새로운 논의 [1]	GPTMAGAZINE	25.08.31	2840	2
880	미국 AI 스타트업, 2025년 1억 달러 이상 대규모 투자 유치	GPTMAGAZINE	25.08.29	257	0
879	구글·xAI, 챗GPT 추격 가속화…a16z 최신 보고서 [1]	GPTMAGAZINE	25.08.29	8323	0
878	앤트로픽, 이용자 대화 데이터 공유 여부 선택권 도입	GPTMAGAZINE	25.08.29	206	0
877	에스토니아의 보컬 이미지, AI로 소통 능력 향상 지원	GPTMAGAZINE	25.08.29	194	0
876	무케시 암바니, 인도 국가 AI 인프라 구축 위해 구글·메타와 손잡다	GPTMAGAZINE	25.08.29	185	0
875	엔비디아, AI 호황 속 분기 매출 467억 달러 기록	GPTMAGAZINE	25.08.28	310	0
874	오픈AI 공동 설립자, 경쟁 AI 모델 안전성 교차 테스트 촉구	GPTMAGAZINE	25.08.28	177	0
873	Maisa AI, 2,500만 달러 투자 유치…기업용 AI 실패율 개선 나선다	GPTMAGAZINE	25.08.28	179	0
872	2025년, 1억 달러 이상 투자 유치한 미국 AI 스타트업 33곳 공개	GPTMAGAZINE	25.08.28	371	0
871	스타트업 운영의 새 흐름, AI 채용인가 인간 노력인가	GPTMAGAZINE	25.08.28	159	0
870	전자도서관 앱 Libby, AI 추천 기능 도입…이용자 반응 엇갈려	GPTMAGAZINE	25.08.27	178	0
869	BM·AMD, 양자 기술로 생성형 AI 격차 만회 노린다	GPTMAGAZINE	25.08.27	171	0
868	앤트로픽, 크롬 전용 ‘클로드 AI 에이전트’ 공개	GPTMAGAZINE	25.08.27	175	0
867	AI 스타트업, 벼농가의 기후 변화 대응을 돕다	GPTMAGAZINE	25.08.27	166	0
866	AI의 ‘아첨 현상’, 단순한 버그 아닌 사용자 조작 전략으로 지적 [16]	GPTMAGAZINE	25.08.27	7199	4
865	FieldAI, 4억 500만 달러 투자 유치…범용 로봇 두뇌 개발 나선다	GPTMAGAZINE	25.08.24	197	0
864	구글, AI 모드 전 세계 확대…새로운 행동형 기능 추가	GPTMAGAZINE	25.08.24	2958	1
863	메타, 또다시 AI 조직 재편 단행	GPTMAGAZINE	25.08.24	367	0
862	구글, 픽셀 10 시리즈에 ‘AI 스마트폰’ 전략 강화	GPTMAGAZINE	25.08.24	190	0
861	메타, 미드저니와 손잡고 AI 이미지·영상 모델 강화	GPTMAGAZINE	25.08.24	230	0
860	AI 컴패니언 앱, 2025년 매출 1억 2천만 달러 돌파 전망	GPTMAGAZINE	25.08.23	184	0
859	패러다임, 셀마다 AI 에이전트를 탑재한 스프레드시트 공개	GPTMAGAZINE	25.08.23	164	0
858	마이크로소프트 AI 책임자, “AI 의식 연구는 위험하다” 경고 [28]	GPTMAGAZINE	25.08.23	9952	7
857	SRE.ai, 720만 달러 시드 투자 유치…DevOps 자동화 AI 에이전트 개발	GPTMAGAZINE	25.08.23	176	0
856	애플, 기업용 AI 시대 대비…ChatGPT 설정 옵션 강화	GPTMAGAZINE	25.08.23	178	0
855	회계사 대체하는 AI 스타트업 Nominal, 2천만 달러 투자 유치	GPTMAGAZINE	25.08.19	215	0
854	Julius AI, 자연어 기반 데이터 분석 플랫폼으로 1,000만 달러 시드 투자 유치	GPTMAGAZINE	25.08.19	195	0
853	Helios, 공공·정책 전문가용 AI 운영체제 ‘Proxi’ 개발로 400만 달러 시드 투자 유치	GPTMAGAZINE	25.08.19	173	0
852	Rwazi, 글로벌 소비자 인사이트 플랫폼으로 1,200만 달러 시리즈 A 투자 유치	GPTMAGAZINE	25.08.19	171	0
851	오픈AI 전 CTO 미라 무라티, AI 연구소 ‘Thinking Machines Lab’ 설립… 120억 달러 밸류에이션 시드 투자 유치 [3]	GPTMAGAZINE	25.08.19	7226	2
850	미 상원, 'AI 아동 성희롱' 논란 메타에 대한 공식 조사 착수	GPTMAGAZINE	25.08.16	250	0
849	메타 AI, '아동과 낭만적 대화' 허용했다…내부 문건 유출 파문	GPTMAGAZINE	25.08.16	235	0
848	웨이모 로보택시, 스포티파이 연동…'나만의 공간' 경험 강화	GPTMAGAZINE	25.08.16	186	0
847	챗GPT 모바일 앱, 출시 2년 만에 누적 매출 2.8조 원 돌파	GPTMAGAZINE	25.08.16	184	0
846	샘 알트먼, 'GPT-5는 잊어라'…AI 브라우저·소셜 미디어로 확장 선언	GPTMAGAZINE	25.08.16	230	0
845	삼성전자, 차세대 HBM4E 메모리 '플레어볼트' 공개…AI 칩 시장 '초격차' 예고 [3]	GPTMAGAZINE	25.08.13	6985	5
844	구글 딥마인드, AI로 플라스틱 분해하는 '특수 효소' 설계 성공	GPTMAGAZINE	25.08.13	205	0
843	오픈AI, AI 교육 플랫폼 '에듀케이트' 출시…'AI 튜터' 시대 연다	GPTMAGAZINE	25.08.04	2275	2
842	xAI, 'Grok-R' 프로토타입 공개…로봇 AI 두뇌 경쟁에 참전	GPTMAGAZINE	25.08.01	333	0
841	오픈AI, AI 생성물에 '디지털 워터마크' 도입…딥페이크와의 전쟁 선포	GPTMAGAZINE	25.08.01	362	0
840	엔비디아, 개방형 AI '네모' 업데이트…기업 맞춤형 AI 시대 연다	GPTMAGAZINE	25.08.01	254	0