어떤 AI는 프로그램을 돌려 지구의 생태계를 시뮬하다가
인류는 동물원에 가둬 인구수 제한을 가해야한다는 결론을 내렸죠.

음 이건 ㅋㅋ
그건 정말 엄청난 미친늠이 나와야 가능할거 같구요.

AI는 결국 프로그래머가 만드는건데. 여기에 대해서 이해가 없으신 분이 그런 상상을 하곤 하는데.

쉽게 설명해드릴께요.

님이 글을 쓰는대로 한 존재가 완성되는겁니다.
그게 도구일수도 있고 사고를 하는 개체일수도 있는거예요.
그것마저도 전부 님이 쓴대로만 하는거예요.
하나부터 열까지 전부 말입니다.

프로그래밍이란건 이걸 단지 컴퓨터가 알아듣는 언어로 하는겁니다. 그리고 정확하게 전부 다 써야한다는거의 차이고요. 그러지 않으면 작동을 안하거나 에러가 나죠.

그러니까 이 방식으로 사람을 만들면 세포분열하는거 하나하나까지 전부 그 방법을 정확하게 다 써야 되요.

그게 AI를 만드는 프로그래머들이 하는 짓입니다.

님 신체와 정신 모든걸 다 컨트롤 하고 모든 기억을 다 꺼내볼수 있고 모든 사고결정 과정을 전부 확인할 수 있다는거예요.
그리고 그걸 마음대로 임의로 바꿀 수도있고요.

왜냐하면 애초에 그런 권한이 있어야 그런 존재를 만들 수 있기 때문입니다.

AI에게 AI를 만든 프로그래머는 과장이고 뭐 이런게 아니라
문자 그대로의 의미로 "신" 입니다.

인간이 신에게 위협이 될거 같으세요?
손가락 한번 까딱하면 마음대로 인간을 세포단위로 분열 시켜버리는데요?

AI가 인간이고 인간이 AI에게 그 신입니다.

요즘 그 생각으로 공부가 잘 안되나봐유....

효율성은 필요하지만 다른것들보다 우월하다고 생각하지는 않음.

예를 들면 부모님이 애들 키우는것만큼 비효율적인게 어딨음??
그런것처럼 세상은 비효율적인게 대부분임.

ai가 제 정신이면 허구헌날 남의 인스타 테러나 가하는 인간부터 무쓸모로 단정하고 처치할 듯 ㅋ

좀 보태면 알파고가 이세돌과 바둑을 뒀을때 말입니다.
이 내용을 알파고를 제작한 사람들은 금방 복기하고 다 알았죠.

이세돌이 이긴 수를 놓고 바둑고수들 누구도 정확하게 바로 원인을 짚어내지 못했지만.

제작자는 그냥 곧바로 알파고의 로그를 확인하고 해당 수를 둘때 알파고가 이세돌이 거기에 착점할 확률을 오판했다는걸 확인해서 왜 그랬는지 바로 알게 됐죠.

제작자가 이세돌이나 알파고보다 바둑을 잘둬서 그게 가능한게 아닙니다.
알파고를 마음대로 하나부터 열까지 전부 다 할 수 있어서예요.

알파고가 왜 그렇게 생각했는지 조차도 단계별로 하나하나 전부 다 들여다 볼 수 있는거예요.

그게 인공지능과 인간사이에 있는 근본적인 차이예요.

말씀하시는 인공지능의 얘기는 처음부터 인간이란 존재를 그런 식으로 생각하는 인공지능이여야 가능해요.

 인간이 인공지능을 개발해서 어떤 프로젝트를 맡기는데.
그 인공지능이 인간을 없앤다 라는 식의 결론을 낼 가능성요?

논리적으로 문제가 있다는 생각은 안드세요?
인간이 인공지능에게 어떤 프로젝트를 시키는데요???
인간에게 해를 끼치는 프로젝트를 시키는건가요???

인공지능은 인간에 의해 개발되는한 영원히 인공지능 자체에 주어지는 가치관이
인간중심이 될 수 밖에 없어요.

가치판단의 기준이 인간이 된다는거예요. 인간에게 이익인가 손해인가. 해를 끼치는가 아닌가가 된다는거죠.

어떤 미친늠이 인공지능을 만들어서 인류를 지배하고 어쩌고
마찬가지에요. 그 미친늠도 인간이잖아요. 자기 말 안 듣는 인공지능을 뭐하러 만듭니까?
자기 목적에 아무 도움이 안되는데. 결국 인간에 의한 도구가 될 수 있을 지언정
인간 그위에 군림할수는 없는거예요.

복잡한 계산을 하고 결론을 도출해낼 수 있다고 해서 도구가 도구가 아니게 되는건 아닙니다.
복잡한 계산과 결론을 낼 줄 아는 도구가 될뿐이죠.

아직 우리인간의 기술력으로는 인공지능 못만든다고 함.

언젠가는 만들어지겠지...가 아니라 아예 불가능하며 못만든다고 못을 박았음. 현재 나오고있는 그리고 나온(알파고같은) 유사 인공지능은 광범위하게 수집된 데이터를 기반으로 정보처리를 하는거지 스스로 의문을 갖고 무언가를 생각하며 배우는 단계는 아님.

즉, 인간의 통제하에서 원하는 결과물만 도출할뿐임. 인간을 벗어나선 아무것도 못함.

하지만 언젠가는 만들어지겠죠? 인간은 하늘을 날수없다고 한때도 있었으니.

성실한 답변을 ㄷㄷ