디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

오픈AI, AI 생성 이미지 판별 기술 도입

GPTMAGAZINE갤로그로 이동합니다. 2024.05.09 11:14:03
조회 3270 추천 0 댓글 2



🔼 AI 이미지 판별 기능과 워터마크 방법 업그레이드

🔼 AI 음성과 이미지의 진본성을 보장

🔼 디지털 콘텐츠의 안전성 강화









오픈AI가 DALL-E AI 이미지 생성기로 만들어진 이미지를 감지할 수 있는 새로운 도구를 추가했다고 발표했다. 이와 함께 더 명확하게 콘텐츠를 표시하는 새로운 워터마킹 방법도 소개되었다.

최근 블로그 포스트를 통해 오픈AI는 AI가 생성한 콘텐츠의 출처를 추적하고 증명할 수 있는 새로운 기원 방법을 개발하기 시작했다고 밝혔다. 이러한 방법에는 사진이 AI에 의해 생성되었는지를 판단하는 AI 이미지 감지 분류기와 오디오와 같은 콘텐츠에 보이지 않는 신호를 태깅할 수 있는 변조 방지 워터마크가 포함된다.

이 분류기는 사진이 DALL-E 3에 의해 생성되었을 가능성을 예측한다. 오픈AI는 이미지가 자른 경우나 압축되거나 채도가 변경된 경우에도 분류기가 작동한다고 주장한다. 이 도구는 DALL-E 3으로 만들어진 이미지를 약 98%의 정확도로 감지할 수 있지만, 미드저니(Midjourney)와 같은 다른 AI 모델에서 생성된 콘텐츠를 감지하는 성능은 5%에서 10%에 불과하다.

오픈AI는 이전에 콘텐츠 증명 및 권한 연합(C2PA)의 이미지 메타데이터에 콘텐츠 자격 증명을 추가했다. 콘텐츠 자격 증명은 이미지의 소유자와 생성 방법에 대한 정보를 포함하는 워터마크이다. 오픈AI는 마이크로소프트, 어도비와 같은 회사들과 함께 C2PA의 멤버이다. 이번 달에 오픈AI는 C2PA의 운영위원회에도 합류했다.

이 회사는 현재 제한적으로 미리보기 중인 자사의 텍스트-음성 변환 플랫폼인 Voice Engine에서 클립에 워터마크를 추가하기 시작했다.

이미지 분류기와 오디오 워터마킹 신호는 아직 개선 중이다. 오픈AI는 이의 효과를 테스트하기 위해 사용자로부터 피드백을 받아야 한다고 말했다. 연구자들과 비영리 저널리즘 그룹은 오픈AI의 연구 접근 플랫폼을 통해 이미지 감지 분류기를 테스트할 수 있다.

오픈AI는 몇 년 동안 AI가 생성한 콘텐츠를 감지하는 작업을 해왔다. 그러나 2023년에는 AI 텍스트 분류기가 일관되게 낮은 정확도를 보여 프로그램을 종료할 수밖에 없었다.









◎GPT매거진 (https://www.gptmagazine.net)

지피티 기자 : gptmagazinebiz@gmail.com

카카오 오픈채팅방 : https://open.kakao.com/o/gLI8Wetf

페이스북 그룹 : https://www.facebook.com/groups/392367786704067

추천 비추천

0

고정닉 0

8

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 사이버 렉카로 가장 피해 입은 것 같은 스타는? 운영자 24/07/22 - -
351 Meta, 최신 AI 모델 'Rama 3.1' 출시 [8] GPTMAGAZINE갤로그로 이동합니다. 07.25 1195 1
350 애플, 2.5조 개 토큰으로 훈련된 7B 오픈소스 언어 모델 공개 GPTMAGAZINE갤로그로 이동합니다. 07.23 2357 2
349 네이버 거대AI 하이퍼클로바, 파라미터 숫자 공개 [10] GPTMAGAZINE갤로그로 이동합니다. 07.22 2348 1
348 오픈AI, 자사 최강 모델의 미니 버전 'GPT-4o mini' 출시 [13] GPTMAGAZINE갤로그로 이동합니다. 07.19 1404 1
347 엔비디아-미스트랄AI, 신규 AI 모델 '미스트랄 네모' 출시 GPTMAGAZINE갤로그로 이동합니다. 07.19 120 1
346 글로벌 건설 AI 시장, 2조원 돌파 [3] GPTMAGAZINE갤로그로 이동합니다. 07.18 1080 1
345 엔비디아와 메타 CEO, SIGGRAPH에서 AI와 그래픽스의 미래 논의 [1] GPTMAGAZINE갤로그로 이동합니다. 07.17 1005 1
344 AI, 알츠하이머 예측 정확도 78.5% 달성 [10] GPTMAGAZINE갤로그로 이동합니다. 07.16 2612 6
343 (주) 엑스알엑스, 마이크로소프트 런처 프로그램 선정 GPTMAGAZINE갤로그로 이동합니다. 07.15 287 0
342 오픈AI, AGI 5단계 중 2단계 발표 GPTMAGAZINE갤로그로 이동합니다. 07.15 402 0
341 오픈AI 서비스 중단! 중국 기업 '멘붕' [46] GPTMAGAZINE갤로그로 이동합니다. 07.10 7845 17
340 AI 기술, 군사 분야서 활약 중…보안 문제 해결 시급 [3] GPTMAGAZINE갤로그로 이동합니다. 07.08 2169 2
339 애플, 오픈AI 이사회 참관 "MS와 동등한 위치 확보" [5] GPTMAGAZINE갤로그로 이동합니다. 07.05 2354 0
338 (주)엑스알엑스, 2024년 인천공항 스타트업 육성사업 선정 GPTMAGAZINE갤로그로 이동합니다. 07.02 4964 0
337 챗GPT, 인간을 능가한 재무제표 분석 능력 [4] GPTMAGAZINE갤로그로 이동합니다. 07.01 6895 8
336 챗GPT-4, 실제 학생보다 높은 점수 받아 [34] GPTMAGAZINE갤로그로 이동합니다. 06.27 7452 13
335 오픈AI 창업자 일리야 수츠케버, 새로운 AI 스타트업 설립 [2] GPTMAGAZINE갤로그로 이동합니다. 06.24 3010 1
334 AI 미인대회, 1500명 참가 [32] GPTMAGAZINE갤로그로 이동합니다. 06.17 12598 22
333 애플 AI 리더, 삼성에 전격 이직! [21] GPTMAGAZINE갤로그로 이동합니다. 06.13 3517 5
331 스태빌리티 AI, 음악 창작의 혁명! [5] GPTMAGAZINE갤로그로 이동합니다. 06.10 6214 2
330 챗GPT 해킹 사건, 필로폰 제조법까지 노출 [7] GPTMAGAZINE갤로그로 이동합니다. 06.04 4303 3
329 애플, 오픈AI와 AI 탑재 계약 체결 [16] GPTMAGAZINE갤로그로 이동합니다. 06.03 7317 2
328 오픈AI, GPT-4o 무료 개방, 고급 AI 기능 체험 가능케 하다 [10] GPTMAGAZINE갤로그로 이동합니다. 05.31 8116 10
327 대학을 위한 맞춤형 AI, ChatGPT Edu 출범 GPTMAGAZINE갤로그로 이동합니다. 05.31 612 0
326 챗GPT, 관심 높지만 실제 이용자는 2%에 불과 [78] GPTMAGAZINE갤로그로 이동합니다. 05.30 8834 6
325 GPT-4, 기업 재무제표 분석에서 혁신적 변화를 일으키다 [13] GPTMAGAZINE갤로그로 이동합니다. 05.27 7491 6
324 오픈AI, 스칼렛 요한슨 유사 음성 ‘Sky’ 삭제 [20] GPTMAGAZINE갤로그로 이동합니다. 05.21 8856 2
323 MS, AI 하드웨어 탑재된 코파일럿 플러스 PC 발표 [1] GPTMAGAZINE갤로그로 이동합니다. 05.21 1134 1
322 영국 AI 연구소, AI '탈옥' 등으로 비윤리적 답변 도출 가능 [18] GPTMAGAZINE갤로그로 이동합니다. 05.20 7337 1
321 구글, AI 비서 ‘프로젝트 아스트라’ 공개 [4] GPTMAGAZINE갤로그로 이동합니다. 05.16 6639 2
320 애플과 오픈AI ChatGPT의 거래 [8] GPTMAGAZINE갤로그로 이동합니다. 05.14 7222 3
319 오픈AI, 더 빠르고 강력한 혁신적 신모델 GPT-4o 발표 [5] GPTMAGAZINE갤로그로 이동합니다. 05.14 3411 2
318 애플, M2 Ultra 서버로 AI 기능 강화 예정 [12] GPTMAGAZINE갤로그로 이동합니다. 05.13 6712 1
오픈AI, AI 생성 이미지 판별 기술 도입 [2] GPTMAGAZINE갤로그로 이동합니다. 05.09 3270 0
316 애플, M4 칩 기존 M2 대비 50% 성능 향상 [41] GPTMAGAZINE갤로그로 이동합니다. 05.08 7373 6
315 애플, 1100억 달러 규모 자사주 매입 결정.. AI 탑재 신제품 예고 [5] GPTMAGAZINE갤로그로 이동합니다. 05.03 6673 3
314 애플, AI 개발 위해 스위스에 비공개 연구소 구축 [4] GPTMAGAZINE갤로그로 이동합니다. 05.02 3062 3
313 SKT, 통신 분야 최적화된 'AI 멀티엔진' 개발 착수 [1] GPTMAGAZINE갤로그로 이동합니다. 05.02 1032 1
312 마이크로소프트, AI 전력 확보 위해 재생에너지에 14조 투자 [5] GPTMAGAZINE갤로그로 이동합니다. 05.02 6328 4
311 깃허브, 개발자의 코드 작성부터 테스트까지 지원하는 AI 발표 [3] GPTMAGAZINE갤로그로 이동합니다. 04.30 3651 3
310 인텔, 삼성, 네이버의 연합으로 새로운 AI 생태계의 출범 [36] GPTMAGAZINE갤로그로 이동합니다. 04.29 6698 19
309 메타, ‘라마 3’ 와 ‘메타 AI’ 오픈소스 공개 [6] GPTMAGAZINE갤로그로 이동합니다. 04.25 3622 1
308 어도비, 창의적 AI 모델인 'Firefly Image 3' 공개 [15] GPTMAGAZINE갤로그로 이동합니다. 04.24 6742 2
307 업스테이지, 1000억 원 투자 유치로 글로벌 AI 시장 진출 가속화 [3] GPTMAGAZINE갤로그로 이동합니다. 04.23 3111 1
306 일본 소프트뱅크, '챗GPT 잡기' 위한 통큰 투자 전략 공개 [13] GPTMAGAZINE갤로그로 이동합니다. 04.23 6507 7
305 중국 바이두, 챗GPT 넘어서기 위한 대규모 개발 도전 GPTMAGAZINE갤로그로 이동합니다. 04.23 727 0
304 영국 작가협회, 번역 AI로 인한 번역가 일자리 감소 및 소득 하락 [18] GPTMAGAZINE갤로그로 이동합니다. 04.23 3880 8
303 텐센트AI, 3조 토큰의 파워로 오픈AI 압도하나 [3] GPTMAGAZINE갤로그로 이동합니다. 04.22 3187 0
302 마이크로소프트, 사람 얼굴 이미지를 말하는 동영상으로 변환 [14] GPTMAGAZINE갤로그로 이동합니다. 04.22 7799 7
301 구글, 코카콜라와 로레알 AI광고 파트너십 체결 GPTMAGAZINE갤로그로 이동합니다. 04.15 2448 1
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2