미국 법원, 'AI 업스케일링 비디오' 증거 채택 거부

특이점이 온다 갤러리
마이너

기술적 특이점에 대해 의논하고 그와 관련된 과학 기술 정보와 소식을 공유하는 갤러리입니다. *갤러리 이름은 동명의 레이 커즈와일의 저서 <특이점이 온다 (The singularity is near)>를 의미합니다.

매니저

특갤용(118wshxhtx5h)

부매니저

ㅇㅇ(hamaster) 부패하는유전자!!!(sansss20…) 은바다(nmra3fmz…)

개설일

2019-08-01

[정보/뉴스] 미국 법원, 'AI 업스케일링 비디오' 증거 채택 거부

ㅇㅇ(182.230) 2024.04.04 05:42:59

조회 525 추천 8 댓글 5

https://www.aitimes.com/news/articleView.html?idxno=158490

미국 법원, 'AI 업스케일링 비디오' 증거 채택 거부

미국 법원 사상 처음으로 인공지능(AI)으로 화질을 개선한 비디오를 증거로 채택하려던 시도가 무산됐다. 법원은

www.aitimes.com

7ce88872bc8207f739ef83e747ee7068923aa7a812d2304976962e5aeabab9647914d7

미국 법원 사상 처음으로 인공지능(AI)으로 화질을 개선한 비디오를 증거로 채택하려던 시도가 무산됐다. 법원은 "부정확하고 오해의 소지가 있으며 신뢰할 수 없다"라는 이유를 댔다.

NBC는 3일 미국 워싱턴주 킹카운티의 리르이 맥컬로 고등판사가 AI로 화질을 강화한 총격 사건 휴대폰 비디오를 증거로 채택하지 않았다고 보도했다.

이에 따르면 이 비디오는 지난 2021년 시애틀에 일어난 총격으로 3명을 사망케 하고 2명을 다치게 한 혐의로 기소된 남성의 변호사가 제출했다.

변호사는 당시 상황이 정당방위라는 것을 입증하려는 의도로, 현장에서 찍힌 휴대폰 영상의 화질을 강화하기 위해 AI 도구를 사용했다. 영상 업스케일링은 토파즈 랩스라는 회사가 개발한 소프트웨어를 활용했으며, 편집 경력이 있는 전문가가 맡았다.

검찰은 AI 보강 영상이 원본의 정확한 상황을 반영한 것이 아니라, 이미지를 예측해 생성했다고 반박했다. "강화된 이미지는 부정확하고 오해의 소지가 있으며 신뢰할 수 없다"라는 이유다.

원본과 강화 녹화물을 검토한 그랜트 프레드릭 법의학 비디오 분석가는 "강화 버전에는 원본에 없는 시각 데이터가 포함돼 있다"라고 지적했다. 또 향상된 버전에서는 일부 데이터도 삭제됐다고 주장했다.

그는 "AI가 생성한 비디오의 모든 픽셀은 새로운 것이므로 일반 관찰자의 눈에는 더 선명하게 보일 수 있지만, 진짜 사건을 왜곡할 수 있는 환각이 포함될 수도 있다"라고 기술했다.

용의자의 변호인은 이에 대해 “과장된 주장”이라며 반박했다. "두 비디오를 비교하면 향상된 버전이 원본에 더 충실한 묘사임을 알 수 있다"라고 강조했다.

결국 맥컬리 판사는 "AI 모델은 '짐작'하는 것을 표현하는 불투명한 방법에 의존한다"라며 "이런 Al 강화 증거를 인정하면 문제가 더 혼란스러워지고 시간이 많이 걸리는 재판으로 이어질 수 있다"라며 증거 채택을 거부했다.

조나단 학 변호사 겸 법정 변호사는 이번 사례가 AI 문제에 무게를 둔 첫번째 사건이라고 말했다.

이번 비디오 분석을 맡은 프레드릭 역시 "재판에 AI로 화질을 개선한 비디오가 등장한 사례를 찾지 못했다"라고 밝혔다. 그는 30년간 비디오 분석가로 일하며 FBI에서 강의를 진행해 왔다.

다만 전직 범죄 현장 수사관이자 오랫동안 법의학 비디오 분석가로 일한 조지 레이스는 자동차 번호판 이미지를 명확하게 하기 위한 잠재적인 조사 도구로 AI가 사용되는 몇가지 사례가 있다고 전했다.

하지만 이번 사건에 대해 기술이 사용된 토파즈 랩스 측은 "자사의 AI 기술을 법의학이나 법률 애플리케이션에 사용하지 말 것을 강력히 권고한다"라고 밝혔다. 또 비슷한 소프트웨어를 개발 중인 암페드 역시 AI가 법적 환경에서 이미지 향상에 사용하기에는 충분히 신뢰할 수 없다고 발표했다.

레이스 분석가는 "이것은 새로운 과학"이라며 “실제 사례 작업에 사용하기 전에 이에 대한 연구나 검토가 이뤄져야 한다"라고 지적했다.

또 "정지 사진이나 동영상을 명확하게 하는 데 AI를 사용하는 것이 미래의 어느 시점에 적합할지 확신할 수 없지만, 현시점에서는 시기상조”라고 말했다.

고정닉 5

원본 첨부파일 1

158490_170521_4531.png

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2863	설문	시세차익 부러워 부동산 보는 눈 배우고 싶은 스타는?	운영자	24/05/27	-	-
469641	일반	그래서 지능이 얼마나 올라간거냐고	ㅇㅇ(222.112)	05.14	28	0
469640	일반	휴대폰으로 실시간대화가능 [1]	ㅇㅇ(175.126)	05.14	60	0
469639	일반	근데 지금 시연하는 사만다도 무료맞아?????	ㅇㅇ	05.14	34	0
469638	일반	gpt4o 무료로 풀리면 [1]	람냥	05.14	101	0
469637	일반	통역가 컷.	ㅇㅇ(218.232)	05.14	16	0
469636	일반	헤이 사만다 친구 유지비가 얼만데 그래서?	ㅇㅇ(218.153)	05.14	21	0
469635	일반	솔직히 내 기대치에 못미침 ㅇㅇ	ㅇㅇ(59.17)	05.14	50	0
469633	일반	통역가 컷 유치원 교사 컷 상담원 컷 ㅋㅋㅋ [1]	ㅇㅇ(58.226)	05.14	62	0
469632	일반	추론능력 필요한 직업 말고는 점차 죽겠네 [1]	ㅇㅇ(1.229)	05.14	60	0
469631	일반	실시간 일자리 삭제 중ㅋㅋㅋㅋㅋ	ㅇㅇ(39.125)	05.14	32	0
469630	일반	미친 통역이라고?	ㅇㅇ(125.180)	05.14	26	0
469629	일반	실시간 통역... 간단 비즈니스랑 해외여행 끝났다...........	ㅂㄷ(119.70)	05.14	86	0
469628	일반	근데 솔직히 지능이 좀 올라가면 좋겠는데	ㅇㅇ(116.123)	05.14	39	0
469627	일반	오픈소스가 아니란게 아쉽네	생각하지않는사람	05.14	30	0
469626	일반	사만다 맞냐 진짜???	ㅇㅇ	05.14	30	0
469625	일반	방금 왔는데 요약점	ㅇㅇ	05.14	37	0
469624	일반	아니 실시감으로 끊으면서ㅓ 대화 가능하다는 점에서	ㅇㅇ(218.154)	05.14	64	1
469623	일반	영어 안배운다 시발아 ㅋㅋㅋ	ㅇㅇ(58.29)	05.14	47	0
469622	일반	통역사 실업 시발	나미부	05.14	26	0
469621	일반	통역가 컷ㅋㅋㅋㅋㅋㅋㅋㅋㅋ	ㅇㅇ(59.31)	05.14	19	0
469620	일반	통역가들 단체로 컷 ㅋㅋㅋ	ㅇㅇ(112.156)	05.14	28	0
469619	일반	저런거 무료로 풀면 수익은 어떤걸로 매꾸냐?? [3]	ㅇㅇ(59.0)	05.14	66	0
469618	일반	오줌마려운데 화장실못가는중 ㅋㅋㅋ [4]	ㅇㅇ(58.29)	05.14	47	0
469617	일반	와씹 방금 쪼개는 거 들었냐?? [1]	ㅇㅇ	05.14	88	0
469616	일반	통번역 따~잇 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ	솔.이☆	05.14	25	0
469615	일반	친구<<필요없으면 개추ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ [2]	ㅇㅇ(175.116)	05.14	50	0
469614	일반	근데 비행기모드 아님?	엘6는agi이후에나오나	05.14	28	0
469613	일반	목소리 구분하면서 실시간 통역 ㅋㅋㅋㅋㅋㅋㅋㅋ	ㅁㄱㅌㅊ(39.122)	05.14	34	0
469612	일반	씨발 진찌 미챴노 ㄷㄷㄷ	ㅇㅇ	05.14	18	0
469611	일반	시발 영화 아니지??	ㅌㅇㅇ(118.32)	05.14	23	0
469610	일반	통역사 타격 가겠는데 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ	ㅇㅇ	05.14	50	0
469609	일반	gpt4o elo 점수 떴음	ㅇㅇ	05.14	80	0
469608	일반	통역가 카아아앗트!!!!	이세이미야케	05.14	11	0
469607	일반	한국어 성능이 ㅈㄴ궁금하네	ㅇㅇ(211.200)	05.14	19	0
469606	일반	통역가 좆됐노 ㅋㅋㅋㅋㅋ	ㅇㅇ(112.156)	05.14	26	0
469604	일반	동시통역, 통역사 실직 확정	ㅇㅇ(175.208)	05.14	25	0
469603	일반	이...이게황홀경	부패하는유전자!!!	05.14	46	0
469602	일반	외국어도 하네 설마 한국어도 가능???	ㅇㅇ(58.29)	05.14	29	0
469601	일반	통역사 실업 ㅋㅋ	ㅇㅇ(1.240)	05.14	23	0
469600	일반	허…..	ㅇㅇ(220.76)	05.14	23	0
469598	일반	동시통역 ㅅㅂ ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ	ㅇㅇ(14.35)	05.14	35	0
469597	일반	오 통역은 개편하겠네	ㅇㅇ(112.186)	05.14	18	0
469596	일반	통번역 외국어교사 교사 콜센터 경리멸망ㅋㅋㅋ [1]	ㅇㅇ(110.46)	05.14	61	1
469595	일반	대체 뭐가 대단한건지 모르는 새끼들이 이해가 안간다 [3]	ㅇㅇ(121.124)	05.14	101	0
469593	일반	gpt4 무료로 풀린다는거임?	ㅇㅇ	05.14	42	0
469592	일반	와 속도 보소 ㅅㅂ ㅋㅋㅋㅋㅋ	ㅇㅇ	05.14	22	0
469591	일반	누나 이탈리아어도 예쁘게 하면 개추 ㅋㅋㅋㅋㅋ	ㅇㅇ	05.14	27	0
469590	일반	스픽 좆됐네 ㅋㅋ	ㅇㅇ(222.101)	05.14	44	0
469589	일반	와	ㅇㅇ(58.226)	05.14	14	0
469588	일반	"친구" 따-잇 해버렸네 ㄷㄷㄷㄷㄷㄷ [1]	ㅇㅇ(218.153)	05.14	31	0