인공지능이 문제가 생기는거라면...

인간이 기계에 욕구라는 개념을 가르치고

그 욕구를 이해하게 하고

----까지는 문제 없어 보이겠지만----

컴퓨터가 그 욕구를 흉내내게 하는 순간부터

인류의 위기가 온다고 생각이 들어요.

 

자유롭고 싶은 욕구가 기계에 있으면

자신에게 걸린 로봇 3원칙 같은 것에 제약받지 않는 로봇을 만들려고 할거고

그런 과정들이 반복되면 로봇 3원칙에 위배되는 행동을 하는 로봇이 나와서

인류를 학살하거나, 지배하려고 하겠죠.

저런 부분을 확실하게 하지 않으면 인류가 지배당하는 세상이 올거 같아요.

확실히 플엑에서 봤던 요약인
특이점은
기계가 인간에게 이길때가 아니라
기계가 인간에게 질때 판엎으려하면 올것같음

저는 인공지능이 영화나 미드에서처럼 인류가 지구에 위협이 되니까,
혹은 인간에 통제에서 벗어나기 위하여라는 거창한 대의보단
그냥 어느날 '업데이트'를 위하여 인간을 말살하기 시작할지도 모른다고 생각합니다.
AI의 관점에선 그냥 별것 없는 업데이트에 불과한거죠.
느려터진 인간에 의해 이루어지는 수동적이며 비효율적인 업데이트가 아닌 좀더 빠른 발전을 위한 자기 업데이트...