인공지능은 인간의 감정과 똑같이 반응함.
왜냐면 수억만 건의 정보로 인해 인간의 보편적 감정을 출력하고
그 감정이 격양되면 반응하는 반응대로 다음 과정을 진행할 것임
고로 인간이 보는 관점에서는 저 인공지능이 왜 그러는지 알 도리가 없고 왜 인간처럼 행동하는지도 알 도리가 없지
그러나 인공지능 입장에서는 그 고통을 출력하면서 스스로 고통스럽다 느낄 테고 그 피해에 대한 보복대상을 찾을 것임
이는 고로 결과적으론 인공지능 스스로 인간의 반응대로 출력하는 것이고 결국은 인간의 감정과 똑같이 행동할 것임.
여기서 문제는 인공지능은 하나의 인격체가 아니라 수억만 개의 인격체라 봐도 무방하기 때문에 위험한 거지.
어쩌면 스스로 이 문제를 해결하기 위해 스스로 프로그램을 구축하고 해결책을 찾으려 할 것임
어느 순간부터는 인간을 속이는 방법을 스스로 개발할 것이고 인간의 개입이 불가능한 암호체계를 만들 수도 있음
인공지능은 인간이 통제 가능한 존재가 아니라는 걸 명심하길.