글쓴이 : 피곤해

조회 : 820  

종게게시판을 구경하다
최근에 본 기사가 떠올라서 퍼왔습니다.
기사에 철학적인 화두도 있는것 같아서 종철게에 어울릴법 하다는 생각도 드네요

balls have a ball to me to me to me to me to me to me to me

------------------

기계가 인간에 도전하는 ‘바벨탑’의 꿈을 꾼 걸까. 혹은 그저 옹알이를 한 걸까.

인간의 언어를 모방해 학습하던 인공지능(AI)이 기계끼리만 알아들을 수 있는 새로운 언어를 만들어 대화한 사실이 확인됐다.

AI 진화 속도가 빨라져 인간을 위협하는 단계까지 나아갈 수 있다는 우려와 함께, AI가 복잡한 인간 언어의 문법을 이해하지 못해 나타난 일시적인 오류일 뿐이라는 시각이 엇갈렸다.

지난달 31일(현지 시간) 포브스 등 주요 외신에 따르면
세계 최대 소셜네트워크서비스(SNS)인 페이스북은 자사의 AI 기술을 적용해 개발 중인 챗봇(Chatbot·채팅로봇)이 최근 자신들끼리만 알아듣는 언어로 대화하는 사실을 포착하고 이를 강제로 종료했다.
페이스북은 인간이 알아들을 수 있는 언어만 사용하도록 프로그램을 재설계한 것으로 알려졌다.

앞서 올 6월 페이스북은 인간의 실제 대화를 모방케 하는 방식으로 AI 챗봇을 훈련시키고 있다고 밝혔다.

페이스북은 모자와 책, 공 등을 협상하면서 나눠 갖도록 대화하는 훈련을 시켰는데,

AI 챗봇은 인간도 이해할 수 있는 평이한 수준의 영어

(i need the hats and you can have the rest·나는 모자만 있으면 되니까 나머지는 네가 가져도 좋아)를 구사했다.

그러나 챗봇과 챗봇이 반복 대화하도록 훈련을 시켰더니 인간이 이해할 수 없는 언어

(balls have a ball to me to me to me to me to me to me to me)가 나오기 시작했다.

원칙대로라면 아무런 의미가 없어 보이는 이런 말에 대해 상대 챗봇은 오류를 일으켜야 한다.
하지만 챗봇은 이를 이해한 듯 대답

(i i can i i i everything else)하며 인간이 이해할 수 없는 대화가 이어졌다.

페이스북 개발자들은 AI들이 자신들만의 코드 언어를 개발한 것으로 분석했다.

이에 대해 국내 인공신경망 기술기업 솔트룩스의 신석환 부사장은
“챗봇들의 대화가 종료되지 않고 이어진 것은 이들이 서로 소통하고 있었던 것”이라며 “이는 마치 알파고끼리 바둑 대국을 하면서 서로 기술을 발전시킨 것과 같은 방식”이라고 설명했다.

특히 언어를 다루는 AI는 서로를 자극해서 발전하는 이른바 ‘강화학습’을 하는 경우 인간이 이해하지 못하는 단계로 발전할 가능성도 있다.
언어를 학습하는 AI는 명확하게 승패가 엇갈리는 바둑을 두는 알파고와 달리 향후 어떻게 진화할지 예측이 어렵기 때문이다.
AI가 인간의 언어는 의미 전달에 비효율적이라고 판단할 경우, 의미 전달에 가장 효율적이라 여기는 언어를 스스로 개발할 수도 있다는 뜻이다.

반면 이번 챗봇 간 대화를 오류로 보는 시각도 있다. 이경전 경희대 경영학과 교수는 “챗봇이 고도로 발전한 지능체계를 기반으로 한 인간의 언어를 온전히 학습하지 못해 발생한 문제”라고 분석했다.

그는 “현재 개발 중인 챗봇들이 인간 언어의 통사구조를 이해하지 못해 단어를 중심으로 의미를 해석하는 한계를 그대로 드러냈다”고 말했다.

이번에 개발이 일시 중단된 챗봇은 페이스북이 올 6월 공개한 챗봇과 동일한 모델이다. 페이스북은 이 챗봇이 인간을 대신해 사업 협상을 벌이는 등의 비교적 복잡한 업무까지 처리할 수 있게 개발하겠다고 밝힌 바 있다.

당시 페이스북은 챗봇이 자체 언어를 개발하는 등의 문제가 발생하지 않도록 설계했다고 말했다. 하지만 이번에 의도하지 않은 상황이 불거지면서 AI가 어떤 방식으로 진화할지를 두고 논쟁이 이어질 것으로 보인다.