이번 칼럼에서는 게임과 약간은 거리가 있는 기술에 대한 이야기로 시작해보고자 한다. 최근 인공지능(A·I)이 스스로 언어를 만들어 사용했다는 뉴스가 있었다. 요약하자면, 인공지능에게 협상을 훈련시키는 과정에서 인공지능이 다른 인공지능과 협상을 효율적으로 하기 위해 스스로 언어를 만들어냈다는 것이다. 물론 이 언어는 이전에 인간이 사용하던 언어와 상이하고, 그 의미를 알 수 없었다고 한다.
이 사건은 여러 가지를 의미할 수 있다. 첫째는 인간의 언어가 효율적이지 않다는 의미가 될 수도 있다. 협상의 과정은 많은 의견의 교환이 이루어지는 과정이다. 이 과정에서 기존 인간의 언어는 효율적이지 않아 인공지능이 새로운 언어를 만들어 사용했을 수 있다. 둘째는 인공지능이 언어를 만들어 사용할 만큼 기술적인 발전을 이루었다는 의미이기도 하다. 언어를 만든다는 것은 고도의 지적활동이다. 아직 인간을 제외하고 그 어떤 동물도 약간의 의사소통 수준을 벗어나 언어를 사용한 경우는 없었다. 그러나 그런 의미보다 필자가 놀란 부분은 이 사건이 인공지능이 인간의 통제를 벗어날 수 있다는 의미를 내포하고 있기 때문이었다.
사실 필자는 이미 알파고와 이세돌 9단의 대결에서 이 부분이 걱정되기 시작했다. 알파고는 이세돌 9단이 전혀 이해할 수 없는 수를 뒀고, 우리는 알파고에게 왜 그런 수를 두었는지 물어볼 수 없었다.
이해할 수 없는 인공지능의 행동은 우리에게 공포로 다가올 수 있다. 이미 인공지능은 우리의 삶의 다양한 영역에서 활용되고 있다. IOT로 표현되는 사물인터넷이 우리 생활을 파고들면서 TV나 냉장고를 비롯한 다양한 가전제품은 점점 네트워크에 연결돼 가고 있으며, 인공지능이 이런 전자제품을 콘트롤하고 있다. 우리가 이해할 수 없는 언어로 냉장고와 세탁기, 청소기, TV가 서로 대화하면서 우리의 주변을 통제하는 상황 속에서 살아갈 수도 있다.
공상 과학 소설 작가로 유명한 ‘아이작 아시모프’라는 작가는 자신의 작품에서 로봇3원칙이라는 것을 발표한 적이 있다. 첫째, 로봇은 인간에 해를 가하거나, 혹은 행동을 하지 않음으로써 인간에게 해가 가도록 해서는 안 된다. 둘째, 로봇은 인간이 내리는 명령들에 복종해야만 하며, 단 이러한 명령들이 첫 번째 법칙에 위배될 경우 예외로 한다. 셋째, 로봇은 자신의 존재를 보호해야만 하며, 단 그러한 보호가 첫 번째와 두 번째 법칙에 위배될 경우 예외로 한다.
이런 로봇3원칙에 행동의 이유를 설명할 의무를 추가해야 한다는 이야기가 나오고 있다. 이런 인공지능의 의사결정 과정을 이해하는 것은 인간의 진보에도 큰 도움이 될 수도 있을 것이다.