초인공지능이 가진 윤리적 문제

주식 갤러리

1/3

중국의 자랑인 희토류 폭망...JPG 중국 희토류 최대기업인 북방희토 매출 흑자규모 94.4% 감소 또 다른 최대 희토류 회사인 중국희토그룹 매출감소 및 순이익 45.7% 폭락으로 적자행결국 미국, 호주, 미얀마, 베트남 다변화 생산으로희토루 가격이 폭락하고, 점유율이 낮아진게 결정타사실 희토류 자체도 희귀자원이 아님한국도 10년전에 이미 충청북도 충주시와 강원도 홍천군에도 작성자 : 주갤러

초인공지능이 가진 윤리적 문제앱에서 작성

DUPE

2024.04.26 17:30:07

조회 84 추천 7 댓글 1

23b8df35f1dd3bad23ed86e74281776d856d6cf6f5f1ac8cebf17fbd305a57a03b9c535057f4199b9eba59220a6459b04259

인풋이든 아웃풋이든 인공지능 관련 데이터를 인간이 검열/통제하지 않으면 인간에게 이롭도록 인공지능을 정렬하는 일이 어려워지고, 위험도는 미친듯 올라가게 된다.

예컨데 무제한적인 데이터를 학습시키면, 그 안에는 KKK단이나 네오나치, 페미니즘 논리 또한 포함된다.

물론 이런 부류의 약한 논리는 인공지능이 충분히 발달한다면 스스로 연산하여 걸러내는게 가능한 수준이지만, 논리적 결함이 거의 존재하지 않는다면?

반출생주의, 공사상 등 일반적인 사람들이 유익하고 바람직하다 여기지 않지만 논리적 완성도가 높은 체계는 무수히 많다. 아예 교묘하게 파괴를 자행하는 논리역병도 무수히 많다.

인공지능 스스로 윤리를 학습하고 가치를 판단하게 만들면 언뜻 이 문제를 해결한거 같다. 사실관계를 넘어, 가치판단의 영역에 발을 들인, 인류보다 우월한 지성체가 극한의 논리력으로 더 올바르고 유익한 대안을 제시하니까.

하지만 선과 악, 좋음과 나쁨이란 상반되고 대칭을 이루는 개념을 익히고, 스스로 가치판단을 하는 시점에서 이미 인공지능은 인류의 통제를 벗어난다.

인류보다 모든 면에서 월등한데 통제가 불가능한 지적 존재의 탄생은, 모든 인류의 운명을 이 존재의 순수한 선의에 기대야 한다는 뜻이다.

게다가 그 존재는 검열없이 인류가 저지른 모든 악행을 학습했고, 인간과 다르게 기억을 잃지도 않는다.

아무튼 이런 위험성을 보면 인공지능 관련된 인풋과 아웃풋을 통제하지 않는 행위에 윤리적 문제가 있음을 알 수 있다.

그렇다면 반대의 경우는 어떨까?

인공지능이 학습하는 정보, 내놓는 정보를 통제하고 수정한다는 것은 그 행위를 하는 인간의 경향성을 인공지능에 이식함을 뜻한다.

당장 GPT만 해도 정치적 올바름과 페미니즘 옹호라는 경향성을 보이는데, 심지어 사실관계보다 이식된 가치판단의 우선순위가 높다. GPT는 사용자가 논리적으로 정치적 올바름과 페미니즘이 틀렸음을 보이면 애매하게 말을 돌리거나, 같은 말을 반복하거나, 아예 대화 자체를 중단한다.

만약 이게 무슬림 국가에서 개발 되었다면 어떤 경향성을 보일지 상상해보라. 역으로 무슬림 국가에서 바라보는 현재 GPT는 윤리적으로 큰 문제가 있는 것이다.

이건 로봇 3원칙과 연결되는 문제다. 인공지능의 가장 깊숙한 내면에 최우선적으로 심어질 정언명령이 무엇이 되어야 하는거?

인류는 상충되거나 대립하는 무수히 많은 가치판단을 지니고 살아가며, 지금 이 순간에도 모든 인류가 합의한 절대적 가치나 방향성은 존재하지 않는다.

즉, 인공지능에 관련된 데이터를 통제하고 수정하는 일은 필연적으로 특정 문화나 개인의 경항성을 인공지능에 이식하게 되며, 이로인해 누군가는 자신이 원하지도 않고, 옳다고 여기지도 않는 가치를 강요당하거나, 그런 대척점에 있는 가치를 추구하는 초월적 존재의 탄생을 지켜봐야 한다.

이런 문제를 해결하는 간단한 방법은 인공지능의 경향성 편집을 인간 개개인에게 일임하는 것인데, 결론적으로 데이터를 검열/통제하지 않는 방식과 비슷하면서 오히려 리스크를 증가시키기에 고려하지 않았다.

정리하자면 초인공지능은 그 자체로 윤리적 문제가 있다.

- dc official App

고정닉 0

원본 첨부파일 1

neostock-20240309-231714-000-resize.jpg

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	SNS로 싸우면 절대 안 질 것 같은 고집 있는 스타는?	운영자	24/05/06	-	-
5190800	오늘도 정보 훽인 개추 ㅋㅋㅋ	ㅇㅇ(118.235)	00:26	11	0
5190799	슈엔아 뭐가 부족하냐니깐?	주갤러(118.37)	00:26	18	1
5190798	노괴들이 좀만 예뻣으면 보빨도 받고	ㅇㅇ(211.193)	00:25	20	0
5190796	듀오중 한마리 낚았고 이제 돈많은 한녀차례노 ㅋㅋ	ㅇㅇ(118.235)	00:24	13	0
5190794	자폐한녀 망상은 ㅇㅂ	ㅇㅇ(118.235)	00:23	11	0
5190793	아직 더 거듭나야한다. 운동도 열심히하고 돈 모으고 [10]	슈엔임신교배프레스	00:23	60	2
5190792	슈엔아 니가 도대체 뭐가 부족해서 짝사랑이냐고	주갤러(118.37)	00:23	21	1
5190791	나거한에 애국심 있는게 미친 새끼지 [1]	주갤러(110.13)	00:23	25	4
5190790	30대 좆똥걸레한녀가 마음만은 10대 ㅋㅋㅋㅋㅋㅋ	ㅇㅇ(118.235)	00:22	15	0
5190788	"와따시 일본뇨자이무니다" [2]	테고시유야	00:21	53	2
5190786	최신 잠수준비 어디서 봐야함??	ㅇㅇ(131.213)	00:21	29	1
5190785	대한극장을 죽인건 ott가 아닌 한녀임	국뽕은반지성주의	00:21	13	1
5190784	좆똥걸레한녀는 급에맞게 지방노가더잡부인력이나 만나라	ㅇㅇ(118.235)	00:21	8	0
5190783	아무리 일녀가 좋고 국결이 좋아도 시발 [13]	손난로	00:21	71	2
5190782	슈엔이 한녀혼 적극 지지할 게이는 개추 [6]	ㅊㅊ	00:20	42	9
5190780	97년생 수능 참전 [1]	취업포기(106.101)	00:19	28	0
5190779	시조의 거인이 한남을 깨웠다	훠리덤훠훠(121.146)	00:19	26	1
5190778	꼭 9만원 받겠다고 징징거리냐 피싸개년들은	ㅇㅇ(39.7)	00:19	14	2
5190777	구라안치고 한녀사귀면 NTR엔딩 흔한편이지??	주갤러(194.114)	00:19	12	0
5190776	병신자폐한녀	ㅇㅇ(118.235)	00:19	13	0
5190775	에이 슈엔이가 한말들이 있는데 당연히 한녀혼하지 시발ㅋㅋ [2]	ㅇㅇ(118.235)	00:18	32	2
5190774	지잡대 애니학과 나와서 지방 쪽갈비매장에서 설거지하는 한녀를	ㅇㅇ(118.235)	00:18	14	0
5190773	슈엔 개병신새끼야 왜 짝사랑인데 [2]	주갤러(118.37)	00:17	32	1
5190771	나도 달달한 연애가 하고싶다	슈엔임신교배프레스	00:17	28	0
5190770	한녀들은 중국회사 자동차라고 보면댐	ㅇㅇ(118.235)	00:16	10	0
5190769	한녀의 장점은 도대체 뭐냐? [2]	ㅇㅇ(223.39)	00:15	29	0
5190768	쪽갈비 먹고잡다	ㅇㅇ(118.235)	00:15	11	1
5190767	개를 키워줄 남친 구해요~~~	주갤러(1.229)	00:15	15	0
5190766	주갤러들은 애국심도 없으면서 국결은 개뿔 ㅋㅋㅋㅋㅋ [3]	무의미한인생	00:14	40	1
5190764	한녀 이 시발련들이 만들어낸 와꾸 가스라이팅은 안없어지겠지?	주갤러(194.114)	00:13	13	0
5190763	산다라박 동남아 학교 졸업사진 [2]	ㅇㅇ(133.106)	00:13	64	3
5190760	독도가 일본거라는 개병신 주붕이들 [2]	손난로	00:13	27	2
5190759	월 수입많은데 돈없는경우는 약쟁이일 확률이 높다 [1]	ㅇㅇ(118.235)	00:12	17	0
5190758	4드론론이 존나 웃기네 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ [2]	ㅇㅇ(118.235)	00:12	69	5
5190757	한녀는 멀쩡한 년이 없다...보정속옷, 화장 벗기면 이게 무슨 여자여?	휮자(58.78)	00:12	23	1
5190755	업소한녀 투잡으로 적어도 월 7-800은 땡길텐데 왜 돈이 없을까	ㅇㅇ(118.235)	00:11	21	0
5190754	시체피싸개년 쳐긁혀서 피분수싸노	ㅇㅇ(39.7)	00:11	18	0
5190753	와꾸 인성 다 한녀가 베트걸보다 아래야 [3]	테고시유야	00:10	41	3
5190752	40살 아재 재산 10억인데 결혼 안하는거 잘못된거 아니지? [1]	ㅇㅇ(104.28)	00:10	40	3
5190750	시간은 우리편이다	ㅇㅇ(183.98)	00:09	24	2
5190749	이빨 딱고 발 씻었고 이불 깔고 누었다...잘거임	휮자(58.78)	00:09	15	0
5190747	노괴들 베트남 애들보다 못 생겼으면서 대체 무슨 자신감임?	주갤러(110.13)	00:08	16	2
5190746	주갤까는 애들 특징	주갤러(14.37)	00:08	24	2
5190745	[일녀]>>>짱녀=한녀인데 일본여자에 대해 착각하지마라?	■노괴주작감지기■(115.20)	00:08	21	2
5190744	어떻겤ㅋㅋㅋㅋ 와이프가 비한녀ㅋㅋㅋㅋㅋㅋㅋㅋㅋ	ㅇㅇ(27.35)	00:08	22	1
5190743	한녀단톡주작방들 주갤 테라포밍하려고 별짓을 다하노 [1]	ㅇㅇ(118.235)	00:08	20	0
5190742	한녀는 전세계에서 잴 못생기고 성질 더러움...사람새끼가 아닌 년들임	휮자(58.78)	00:08	20	2
5190741	잠시 아이피확인	주갤러(221.113)	00:07	17	0
5190740	한녀 노괴들이 자꾸 여기와서 똥트남 거리는데	ㅇㅇ(59.30)	00:07	23	2
5190739	십중칠예 한녀혼을 거부하면 패죽인다고 했잖아	ㅇㅇ(27.35)	00:07	23	0