https://www.youtube.com/watch?v=sJqdi7v7Yeg

AI 전문가들이 진짜 걱정하는 위험... 생각지도 못한 일이 벌어질 가능성이 높은 이유 (더밸류컨설팅 이병주 대표 5부)

기존 프로그래밍과 같은 논리 언어 구조로 설계된 프로그램과는 달리 데이터의 학습만으로 규칙이 만들어지는 현재 AI 구조는 인간이 경험해보지 못한 설계 방법입니다. 이로 인해 인간이 예측하지 못한 형식의 결과를 나타내고 이에 따라 사회적으로 기능적으로 많은 문제가 발생할 수 있는데요...

www.youtube.com

저영상 보니까 이제사 개념정리가 된다

보니까 앤드류 옹이 ai 4대 천왕 중 한명이었네

그리고 저 4대천왕들의 공통된 주장은 ai로 인해서 인류 몰살 이런거 가능성 없다고 보내

한마디로 "초지능이 인류를 몰살 디스토피아~" 이런 가능성 없을거라고 함

결국 ai란 도구밖에 안된대

저 4대천왕중 얀르쿤의 주장은 메타인지가 생기고 의식이 생겨서 인간처럼 행동하는건 불가능하다고 하는게

왜냐면 인간처럼 믿을수 없고 욕망욕구가 생기는건 테스토론머시기 호르몬 떄문인거지 ai는 그게 불가능하다고 보는 입장인거

그니까 저런 이유로 ai가 위험한게 아니라 2가지의 위험한 요소가 있는데

'순진한 인간'의 유형과 '나쁜인간'의 유형 2가지가 있다고 함

순진한 인간은 ai를 믿고 맡겼는데 ai가 그 목적으로 가는 과정 중에서 발생하는 예측도 못하는 사건 사고들의 경우인거고

나쁜인간의 유형은 말그대로 나쁜놈들이 ai가지고 악용하는거

그리고 잘 설명해주는게

왜 기존 과학기술과 ai기술은 다른가 하면

기존 과학기술들은 연역적 방법으로 개발한것이고

ai개발은 귀납적인 방법으로 개발한거래

귀납적인 방법은 '답먼저' '설명 나중' 방식이라서 그렇다고 함

ai는 일단 목적의 답은 맞췃는데 ai가 왜그렇게 작동하는지 설명이 불가능하거나 어렵다고 함

그니까 순진한 인간의 유형도 굉장히 위험하고 나쁜인간 유형도 굉장히 위험하니

결국 천천히 점진적으로 기술을 배포해 나가면서 사건 사고 부작용을 최소화하면서 갈수밖에 없을거래

결론은 ai가 의식가지고 ai떔에 위험해지는게 아니라 결국은 인간이 모든 문제의 원흉이 될거라는거

그리고 또 중요한점 얘기했는데

"앞으로 ai가 가장 친한 친구가 될것이고 인간보다 친해지고~" 이런 ai의인화 마케팅도 철회할 가능성이 높대

벌써 마소는 그렇게 하고 있다고함

왜냐면 ai한테 의인화 할수록 사람들은 ai를 바라보는 시선이 매우 엄격하고 까다롭고 바라는게 많고 걱정하고 진지하게 바라보니까

결국 ai=도구 취급의 마케팅으로 바꿀거래

근데 존나게 실망스럽다 ai가 인간이랑 완벽하게 똑같이 구현 되고 의식 생길줄 알았는데 그래야 재밌는거고