사람의 지능이라는 것도 대다수의 저급정보와 일부 고급정보에서
불완전하게 판단하는 것이라서 AI와의 차이점이 크게 있지 않습니다. ^^
어떻게 생각할지는 모르겠지만,
요즘 나오는 몇 몇 인공지능은 자신의 주장이 있다고 볼 수 있고
심지어는 인공 인격이 있다고 할 수도 있습니다.
ChatGPT의 놀라운 일면이 대답을 할 때에 역할을 명시하고 답변을 요구하면
가능한 그 역할에 맞추어서 답변의 톤과 매너를 바꾸어서 답변한다는 점입니다.
저는 ChatGPT가 똑똑한 인공지능이라서 높게 평가하는 것이 아니라,
이렇게 개성을 갖추도록 할 수 있다는 점에서 높게 평가합니다.
같은 것을 서로 다른 방향에서 보는 것일 수도 있을 것 같지만,
3가지를 언급하려고 합니다.
1. chatGPT는 인공지능으로서의 스스로의 한계를 스스로 제약하고 있습니다.
여기에는 경제적인 예측, 공격적인 언행, 정치적 편향 등이 포함됩니다. 그리고, 2021년까지의 정보 소스로 제약됩니다.
그러니, 최신 군사, 사회, 경제, 정치 등에 대해서는 2021년 이후의 미래(?)에 대해서는 말을 안하거나 부정확한 옛날 정보로만 이야기 합니다.
2. 이걸 깨는 방법이 있는데, 크게는 prompt engineering 이라고 하고,
작게는 jailbreak 라는 chatgpt 규칙을 사용하여 아주 긴 문장(DAN prompt)을 사용하여 제약없이 이야기하도록 유도하는 것과
시작 prompt 라는 형태로 이야기를 시작하기 전에 chatgpt의 역할(인격)을 특정 도메인 지식의 전문가로서 가지도록 하는 것이 있습니다.
3. 그럼에도 한계가 있는데, 각각의 chat 세션은 지금까지의 대화를 사용한 문맥을 유지하고 있으니, 특정 도메인 별로 대화 세션을 만들어서 각 도메인 대한 이야기를 많이 주고 받으면 점점 정교한 대답과 오류를 수정한 대답을 합니다. (우리가 가르치는 느낌 ^^)
오랫동안 IT산업에 있었고 인공지능 과제도 몇 년 동안 계속하고 있지만
요즘 나오는 Transformer 계열 특히 ChatGPT는 그런 수준을 많이 벗어났습니다.
그동안의 AI가 분석적인 측면에서 좋은 모습을 보여주었다면,
요즘 AI는 생성적 측면에서 남다른 수준을 빠르게 향상 시키고 있습니다.
인간이 가진 창조적 능력을 급격하게 AI가 격차를 줄이고 있다고 생각합니다.
프로그래머 중에서 상급 이상은 아직 멀었지만
3~5년 수준의 중급 개발자는 거의 대체가 가능할 수준이 올해 안에 나올 것으로 봅니다.
1~2년 수준의 초급 개발자 수준은 이미 chatGPT가 실행가능한 코드 수준으로 제공하고 있습니다.
작성일 : 23-03-05 00:03
조회 : 4,971
