디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

‘GPT 정보 유출’ 경고… 안전한 보안환경 필요해

IT동아갤로그로 이동합니다. 2023.05.09 17:33:39
조회 215 추천 0 댓글 0
[IT동아 정연호 기자] 오픈AI의 챗GPT(Generative Pre-trained Transfomer)를 쓸 때 프롬프트(명령어)에 중요한 정보를 입력하지 말라는 경고가 나온다. 오픈AI가 이용자 프롬프트를 저장하고, 이 데이터를 GPT 학습에 활용하고 있어서다. 정보 유출을 우려한 기업들은 직원들이 업무 중 챗GPT를 쓰지 못하도록 막고 있다. 이에 보안 업계는 “업무 생산성을 높이기 위해서, 기업들은 챗GPT 사용을 완전히 금지하는 대신 정보 유출을 막는 환경을 만드는 것에 집중해야 한다.”라고 말한다.


출처=오픈AI



GPT는 이용자의 프롬프트에 따라 문장을 작성하는 오픈AI의 인공지능(이하 AI) 대형언어모델이다. 인터넷에 공개된 언론사 기사, 블로그 포스트, 위키피디아 자료 등을 학습하고 그 결과로 문장을 작성한다. 이 과정에서 이용자의 프롬프트를 다시 활용하기도 한다. 오픈AI는 개인정보 보호정책에서 “우리는 필요에 따라 이용자 정보(프롬프트, 업로드 파일, 피드백)를 수집하며, GPT가 이를 학습하게 한다.”라고 안내한다.

이러한 오픈AI의 개인정보 보호정책에 대해 여러 비판이 나온다. 가장 큰 문제는 오픈AI가 이용자의 동의를 받지 않은 채 정보를 수집하고, 다른 기업에게 이러한 정보를 제공한다는 것이다. 게다가 이용자는 어떤 정보가 수집되고, 어떤 기업이 이 정보에 접근하는지도 알 수 없다.


GPT에게 개인정보를 어떻게 보관, 활용하는지 물어본 내용, 출처=IT동아



오픈AI는 이러한 지적에 대해 “우리는 유럽연합(EU)의 일반개인정보보호법(General Data Protection Regulation)이 적법하다고 규정한 방식으로만 이용자 정보를 수집, 사용한다.”라고 주장하고 있다.

오픈AI의 해명에도 불구하고 챗GPT를 통한 정보 유출에 대한 우려는 그대로다. 실제로 기밀 정보가 챗GPT를 통해 회사 밖으로 흘러 나간 사례가 있어서다.

지난 3월, 삼성전자 반도체 사업을 담당하는 디바이스 솔루션(DS)부문의 엔지니어가 챗GPT 프롬프트에 중요한 소스코드를 입력했는데, 이 소스코드는 외부에 유출된 것으로 알려졌다.

결국, 정보 유출 우려는 GPT에 대한 불신으로 이어졌다. 이에 정보 보안에 민감한 기업들은 직원들의 GPT 사용을 제한하기 시작했다. 아마존, JP모건 체이스, 뱅크오브아메리카 등의 미국 기업은 직원들이 업무 중 챗GPT를 사용하지 못하도록 막았다.

국내에서도 삼성전자와 SK하이닉스가 직원들의 챗GPT 사용을 제한한다. 삼성전자는 디바이스경험(DX) 부문의 직원들이 챗GPT를 사용하지 못하도록 했다. SK하이닉스도 챗GPT 사용을 금지했으나, 필요한 경우 내부 검토를 통해 허용한다.

그리고, 지난 3일에는 국가정보원이 각 정부 부처에 ‘챗GPT 등 언어모델 활용 시 보안 유의사항 안내’ 공문을 보내기도 했다. 민감 정보가 아닌 공개된 정보만을 GPT에 활용하라고 당부하기 위해서였다. 또한, 국가정보원은 “챗GPT나 GPT-4 응용프로그램 인터페이스(API)를 활용하려면 국정원의 사전 보안성 검토를 받아야 한다”고 했다.

정보 유출 우려를 해소하기 위해서 기업들은 다양한 대책을 내놓고 있다. 먼저, 오픈AI는 ‘챗GPT 비즈니스’ 구독 모델을 준비 중이다. 이 서비스에 가입한 기업의 데이터는 GPT가 학습하지 않는다.

주요 서비스에 GPT를 접목하고 있는 마이크로소프트(MS)도 곧 ‘프라이빗 챗 GPT’를 출시할 계획이다. GPT를 사용하는 기업들의 데이터를 분리해 따로 저장하는 방식이다. 이를 통해 정보 유출을 막을 수 있다는 것이다.

국내 보안 기업들도 GPT를 안전하게 쓸 환경을 구축하는 걸 돕는다. LG CNS는 MS와 협력해 고객들이 애저 오픈AI(오픈AI의 최신 AI 시스템을 제공하는 클라우드 서비스)를 쓸 수 있도록 맞춤형 보안 환경을 설계, 구축한다.

데이터보호 전문기업 지란지교 데이터는 챗GPT 프롬프트를 모니터링하는 보안 솔루션 ‘AI필터’를 공개했다. 이를 활용하면, 직원들이 입력하는 챗GPT 프롬프트를 모니터링해서, 사내 주요 정보가 유출되는 것을 차단할 수 있다.

지란지교 데이터 관계자는 “최근엔 기업들이 챗GPT 사용 가이드라인을 제작해 직원들에게 배포하기도 하지만, 이러한 가이드라인이 정보 유출을 완전히 막지는 못한다. 직원들이 실수로 기밀 정보를 챗GPT 프롬프트에 입력하는 경우도 있기 때문이다. 실수로 인한 정보 유출도 막으려면, AI 필터처럼 적절한 보안 환경을 구축해야 한다.”라고 전했다.

글 / IT동아 정연호 (hoho@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)



▶ '일을 위한 일'에 발목 잡힌 직장인들…"AI 우려보다 기대가 커"▶ 놀이에서 첨단기술 요람으로…게임 뒤에 숨은 ‘기술력’이 혁신 이끈다▶ '챗GPT 써볼까?'…무심코 검색했다 먹잇감 된다



추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 논란을 반복해서 진정성이 의심되는 스타는? 운영자 25/05/12 - -
5254 [투자를IT다] 2025년 5월 1주차 IT기업 주요 소식과 시장 전망 IT동아갤로그로 이동합니다. 05.09 118 0
5253 [생성AI길라잡이] AI 산업의 가이드라인? ‘AI기본법’ 이모저모 IT동아갤로그로 이동합니다. 05.09 118 0
5252 [농업이IT(잇)다] 온쿡컴퍼니 “송쭈집 주꾸미 브랜드로 K-푸드 르네상스 이루고 싶어” IT동아갤로그로 이동합니다. 05.09 123 0
5251 [리뷰] 게임∙창작 모두 손쉬운 만능 노트북, 에이수스 ROG 제피러스 G16(GU605CW) [10] IT동아갤로그로 이동합니다. 05.09 7446 0
5250 [리뷰] 최대 128GB 통합 메모리로 성능 상한 높인 '애플 맥 스튜디오' [7] IT동아갤로그로 이동합니다. 05.09 8102 7
5249 커피캡슐·폐의약품 수거…40년 만에 활용처 확대해 탈바꿈 ‘에코 우체통’ [12] IT동아갤로그로 이동합니다. 05.09 7580 4
5248 비영리법인·거래소, 가상자산 매도 시 주의할 점은? IT동아갤로그로 이동합니다. 05.09 89 0
5247 [생활 속 IT] 네이버 지도, 거리뷰 3D로 생생하게 길찾기 IT동아갤로그로 이동합니다. 05.09 773 0
5246 [시승기] 디자인 가다듬고 배터리 용량 확대해 돌아온 ‘제네시스 GV60 부분변경’ IT동아갤로그로 이동합니다. 05.08 152 0
5245 데이터 기반 투자 전략 수립 지원, 업비트 데이터랩·코인 분류 IT동아갤로그로 이동합니다. 05.08 108 0
5244 “투자자문 입회비 반환 드립니다” 솔깃한 전화ㆍ메시지 속지 마세요 IT동아갤로그로 이동합니다. 05.08 547 0
5243 [IT하는법] 안경 없어도 시야 확보하는 '접근성 돋보기' IT동아갤로그로 이동합니다. 05.08 150 0
5242 [주간스타트업동향] 로플랫, 2025 교차방문 트렌드 리포트 공개 外 IT동아갤로그로 이동합니다. 05.07 192 0
5241 가상자산 이용자 20%가 피해 경험 “이용자 보호 규제 강화 필요” [6] IT동아갤로그로 이동합니다. 05.07 6115 0
5240 인공지능 장비 시장, 반도체에 붙은 불 ‘저장장치’로 옮겨가나? [1] IT동아갤로그로 이동합니다. 05.06 257 0
5239 [신차공개] 2025년형 폴스타 2 출시·폭스바겐 ID.5 고객 인도 개시 [1] IT동아갤로그로 이동합니다. 05.06 1826 0
5238 [주간투자동향] 씨드앤, 65억 원 규모 시리즈A 투자 유치 外 IT동아갤로그로 이동합니다. 05.05 161 0
5237 해외 출국 전, SKT 유심 교체하려면 [3] IT동아갤로그로 이동합니다. 05.05 7707 0
5236 CD에 담긴 음악, 폰으로 들으려면 이렇게![이럴땐 이렇게!] IT동아갤로그로 이동합니다. 05.05 212 0
5235 [칼럼] 생성형 AI의 다음을 준비한다면, 지금 ‘양자 컴퓨팅’에 주목하라 IT동아갤로그로 이동합니다. 05.02 217 0
5234 [생성AI길라잡이] 생성AI 기반 의료기기 임상시험 첫 승인 IT동아갤로그로 이동합니다. 05.02 9387 1
5233 [농업이IT(잇)다] 블레스드프로젝트 “농업부산물 업사이클링 뷰티 제품으로 순환 가치 제안하는 기업될 것” IT동아갤로그로 이동합니다. 05.02 197 0
5232 SKT, “14일까지 유심 물량 부족 불가피”…유심보호서비스 자동가입 지원 IT동아갤로그로 이동합니다. 05.02 209 0
5231 [IT애정남] 단톡방 이름을 바꿨는데, 왜 나만 바뀌죠? IT동아갤로그로 이동합니다. 05.02 195 0
5230 [기고] AI와 미래 산업기술 - 2. AI 전문가, 미래를 디자인하라 IT동아갤로그로 이동합니다. 05.02 181 0
5229 조영태 서울대 인구정책연구센터장 “인구 데이터, 기업의 성패 좌우” IT동아갤로그로 이동합니다. 05.01 198 0
5228 이용관 블루포인트파트너스 대표 “인구테크, 사회를 더 나은 방향으로” IT동아갤로그로 이동합니다. 05.01 185 0
5227 청년창업 인프라의 ‘기준’을 만드는 강동구 청년해냄센터 IT동아갤로그로 이동합니다. 04.30 203 0
5226 SKT 해킹사고, 유심 교체 당장 어렵다면? [1] IT동아갤로그로 이동합니다. 04.30 487 0
5225 재규어랜드로버 “통합 플랫폼 운영 및 보증 기간 확대로 소비자 신뢰 회복할 것” [1] IT동아갤로그로 이동합니다. 04.30 346 0
5224 [주간스타트업동향] 코딧, '2025 대통령 선거 정책 모니터링 플랫폼' 출시 外 [1] IT동아갤로그로 이동합니다. 04.30 801 0
5223 [르포] 내 취향을 아는 AI 스토어 ‘나노’, 고객 맞춤 메뉴 제공한다 IT동아갤로그로 이동합니다. 04.30 257 0
5222 [ETF/퇴직연금 Q&A] 퇴직연금, 은행에서도 ETF에 투자할 수 있다 IT동아갤로그로 이동합니다. 04.30 175 0
5221 [퀀텀 스타트업] 1. 큐비트 나침반으로 양자 시대를 개척하라 IT동아갤로그로 이동합니다. 04.30 165 0
5220 SBA, 규제해소라운지 개소 ‘규제·애로 해소 위한 열린 소통 공간’ IT동아갤로그로 이동합니다. 04.30 172 0
5219 [시승기] 55인치 디스플레이 탑재 및 편의 개선으로 탈바꿈...‘더 뉴 에스컬레이드’ IT동아갤로그로 이동합니다. 04.29 194 0
5218 [리뷰] '헬스장 갈 시간 없다'는 핑계는 그만! 인공지능 홈트레이닝 설루션 '트랙미' IT동아갤로그로 이동합니다. 04.29 452 0
5217 서울과기대 메이커스페이스 센터, 연속성 있는 '제조 창업 지원' 나선다 IT동아갤로그로 이동합니다. 04.29 183 0
5216 온라인 플랫폼, AI로 서비스 혁신이 ‘대세’ IT동아갤로그로 이동합니다. 04.29 704 2
5215 가상자산 거래소, SKT 이용 고객에게 ‘계정 보안 강화’ 당부 IT동아갤로그로 이동합니다. 04.29 178 0
5214 [자동차와 法] 전기차 화재 줄일 기술 살펴보니 IT동아갤로그로 이동합니다. 04.29 158 0
5213 ‘인공지능 시대 변화상에 주목’ 마이크로소프트 2025 업무동향지표 발표 IT동아갤로그로 이동합니다. 04.28 186 0
5212 다이슨, 에어랩 코안다 2x 출시...“전작보다 2배 강한 모터…이제 스트레이트도 가능” IT동아갤로그로 이동합니다. 04.28 2468 1
5211 [뉴스줌인] ‘개살구’였던 HBM, ‘게임 체인저’ 되다 IT동아갤로그로 이동합니다. 04.28 254 0
5210 [KESIA 프리팁스] AI 항만 탄소 배출 모니터링·예측 플랫폼 개발 ‘데이터플레어’ IT동아갤로그로 이동합니다. 04.28 171 0
5209 [기술영업人] LLM 검증과 데이터 구축 분야로 떠오른 '셀렉트스타'의 도전법 IT동아갤로그로 이동합니다. 04.28 169 0
5208 ‘해킹사고’ SKT, 유심 무료 교체 결정…“이심으로 바꿔도 될까요?” [3] IT동아갤로그로 이동합니다. 04.28 1244 1
5207 스마트폰 배터리 수명 확인하려면 이렇게! [이럴땐 이렇게!] IT동아갤로그로 이동합니다. 04.28 225 0
5206 [스타트업-ing] 리뉴어블스 플러스 “산불로 탄 나무, 활용을 넘어 지역 상생까지 꿈꾼다” [1] IT동아갤로그로 이동합니다. 04.28 518 1
5205 [ICT이노베이션스퀘어확산사업] 그린트레이더 “오프라인 중심 조경수 시장의 디지털 전환 이끌 것” IT동아갤로그로 이동합니다. 04.25 248 0
뉴스 ‘전참시’ 윤은혜 “’커피프린스’ 공유와 대본에 없는데 뽀뽀” 디시트렌드 05.11
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2