로봇의 3대 원칙..

3원칙

많은 영화의 소재였죠.
그래서 AI 프로그래밍에는 그런 방지를 해야 한다네요.

초창기 sf처럼 방지 장치가 있다면
그건 우리 상상과 일치하는 명확한 AI가 아닌 즉, 거세된 AI겠죠.
한편 대단한 AI가 나온다 해도 인간을 모방한 보편적이면서 범용적인 AI라면
그 하나가 할 수 있는 역량은 기껏해야 인간 하나 수준일 겁니다.
물론 인간처럼 네트웍이 가능하겠지만 누가 우위에 있어 하나가 하나를 쉽게 제거할 수는 없다고 보고요.
분쟁과 전쟁은 치를 수 있겠죠. 종교전쟁이나 인종전쟁과 흡사할 수도...
애초 범용이 아닌 무언가의 분석과 제거에 특화된 거대 개체라면 모를까.

지구상에서 짱깨들만 제거해도 깨끗해집니다.ㅋㅋㅋㅋ

세균이 아니고 필요가 없거나 방해가 되면 제거하는거죠. 인간을 뛰어넘는 인공지능이 생긴다고 해도 당장 인간 없이는 인공지능 스스로 생존이나 발전하지 못 하죠. 인간만큼 자유로운 몸을 확보하기 전에는 홀로 생존이 불가능한거죠.인공지능 자체가 인간처럼 소모성 하드웨어가 없이는 존재할 수 없죠. 스스로 자신들이 필요한 것을 만들고 확보하고 발전해 갈 수 있는 몸이 필요하죠. 결국 Ai 도 인간 같은 몸이 없으면 기생충이죠.,

아무리 로봇 3원칙이 있더라도.. 해킹하면 끝 아닌가요
최근까지도 중국산 싸구려 스마트폰에 자동 해킹툴이 내장되어 판매됐었고
중국산 다리미나 주전자에 스파이칩까지 심어서 해킹을 하는 판인데..
초기에야 로봇 원칙이라는게 지켜지겠지만..대중화되고 보편화될수록
중국산 싸구려들도 나올것이고.. 이미 해킹된 로봇도 충분히 나올꺼란거..

판타지 소설이라도 쓰시낭?

로봇 3원칙 자체를 기계가 이해 못할 겁니다. 머신 러닝이라는게 데이터 때려넣어서 추상적인 패턴을 찾아서 학습하는 거라 - 일종의 주입식 학습법, 자기가 머하는지도 모릅니다.
물론 기계라 무한대로 확장 가능하기 때문에 사람보다 똑똑해질 순 있겠죠.
이미 추상레이어 13단계인 알파고가 바둑신이 됬는레,  레이어를 100만단계로 확장하면 신적인 추상사고를 할지도?

AI와 로봇기술이 결합하면 인간이 불필요하게 되고, 순수한 이성에 의해 인간이 불필요하다고 수준이하라 판단하면 인간 도살장을 운영할지도 모르죠? 종이 같은 인간들끼리도 죽이는데, 종이 다른 기계는 사람죽이는게 꺼리김 없을듯......