자아의지를 가진 인공지능이 완성되면 위험한건 사실일듯

단지 지금 난관은 연산능력이나 학습능력이 아니라 "자발적으로" 그것을 할 의지를 가지게 하는 문제가

남아있는듯 ...

바이러스처럼 무식하게 파괴하거나 증식하거나 하는게 아니라

인간처럼 다양한 외부자극에 대해서 화학적 반응이 일어나서 

알맞은 사고가 일어나야하는데 

유전자도 다 파악하지 못한마당에 그 매커니즘을 따라하기란 역부족일듯

만약 그부분이 해결된다면...

본인 자식도 컨트롤 못하는데

무한 수명 + 무한 학습 + 엄청난 연산능력의 천재 + 통제 상실

= 대재앙

울트론이 왜 탄생했는지 쉽게 이해가 감

사실 가만 생각해보면 사람의 자아의지라는게 진정한 자아의지 인지 

애매하죠 단지 외부자극과 주기적으로 일어나는 (그것도 몸의 필요에 따라 뇌에 자극이 가서 그런거지만)

호르몬 반응에 의해 욕구가 생기고 생각을 하게 되는데...

단지 그 동작이 매우 정교하고 자연스럽게 이루어지고 있기 때문에 자아라고 부르는 것인데

끝까지 따지고 보면 위에서 아래로 떨어지는 

단순한 중력의 법칙보다 심각하게 복잡한 자연현상 하나일 뿐일수도 ...

예를들면 자게를 보다가 어그로 글을 보면 댓글을 달고자하는 자아의지 가 생긴다던가...

수명 조절 + 평생 학습 + 연산 천재 + 자유 쟁취
→ 대축복

겁나 복잡해보여도 세로토닌이나 도파민 같은 거로도 사람의 감정을 통제할 수 있으니깐요. 문제는 이게 정확히 어떻게 사람의 감정을 통제하는지는 모른다는 점...

인간보다 훨씬 |뛰어난 존재가 인간을 통치한다는 것 아닙니까? 축복이죠