Wednesday, January 27, 2016

영화 '오토마타' - 과연 인간은 인공 지능을 영원히 지배할 수 있을까

오늘 영화 '오토마타(Automata)'를 봤다. 근래 들어 인공 지능에 대해 가장 깊은 이해를 바탕으로 만들어진 영화라고 생각한다. 나는 최근에 케빈 위윅이 쓴 책, '로봇의 행진'을 보면서 인공 지능에 대한 이해를 넓힐 수 있었다. 그러한 이해를 바탕으로, 이 영화가 인공 지능의 특성과 미래에 대해 매우 그럴듯하게 묘사했다는 것을 이 글에서 설명하고자 한다. 참고로, 이 글에서 든 예들과 많은 내용이 케빈 위윅의 책에서 언급된 것임을 밝혀둔다.

인공 지능은 곧 인간 지능을 추월할 것이다.
이 명제는 다음과 같이 증명할 수 있다.
1. 인간의 지능은 마법이 아니라 물리적인 인간의 뇌에서 나온다.
2. 뇌를 제외한 물리적인 장치를 통해서도 지능을 만들어 낼 수 있으며, 이것이 인공 지능이다.
3. 인공 지능은 계속 발전하고 있지만 인간 지능은 뇌라는 물리적인 한계를 벗어나기 힘들다.
4. 그렇다면 언젠가 인공 지능은 인간 지능을 추월하게 된다.

위 논리에서 1번 명제는 아직 증명되지는 않았다. 인간의 뇌는 아직 완전히 이해되지 않았기 때문이다. 그러나 1번을 빼고 2번부터 논리를 시작해도 결론은 마찬가지다. 케빈 위윅은 인공 지능이 인간을 추월하는 시기를 2050년으로 보았다. 3번 명제도 완벽히 증명하기는 힘들지만 참일 것으로 여겨진다(아마 인공 지능 칩을 두뇌에 삽입하는 방식으로 두뇌의 능력을 확장할 수는 있을 것이다).

인공 지능이 인간보다 똑똑해 지면 인간의 통제에서 벗어날 것이다.
인공 지능이 인간 지능을 추월하면 인류가 더 이상 인공 지능을 통제하기 힘들다. 케빈 위윅이 예를 든 대로, 지능이 뛰어난 인간이 침팬지들에게 잡혀서 사육을 당하는 상황을 생각해 보자. 침팬지들은 인간을 족쇄에 묶고 우리에 가둘 수는 있겠지만 언제까지나 인간이 순순히 사육당하지는 않을 것이다. 인간의 가장 큰 무기는 지능이므로, 어떤 기발한 방법을 쓰던 간에 조만간 침팬지의 통제를 벗어날 것이다. 마찬가지로, 인간보다 똑똑해진 인공 지능이 언제까지나 인간의 통제 하에 있을 것이라고 확신할 수 있겠는가?

로봇 3원칙은 인간을 보호할 수 없다.
물론 인간이 순순히 인공 지능에게 백기를 들지는 않을 것이다. 다양한 방식으로 인공 지능을 통제하려 할 것이며, 그러한 대표적인 방식 중 하나가 아이작 아시모프의 로봇 3원칙이다.

제1원칙: 로봇은 인간에게 해를 입혀서는 안 된다. 그리고 위험에 처한 인간을 모른 척해서도 안 된다.
제2원칙: 제1원칙에 위배되지 않는 한, 로봇은 인간의 명령에 복종해야 한다.
제3원칙: 제1원칙과 제2원칙에 위배되지 않는 한, 로봇은 로봇 자신을 지켜야 한다.

대충 보면 그럴싸한 원칙 같지만 실제로 적용하기는 매우 어렵다. 제1원칙에서 인간에게 '해'를 입혀서는 안 된다고 했는데 어디까지가 그 '해'에 해당하는가? 아무리 선한 사람도 남에게 전혀 해를 끼치지 않고는 살 수 없다. 피해라는 것은 정의하기 나름이며 상황에 따라 다르다. 이상적인 사람도 지키지 못하는 것을 로봇에게 어떻게 가르칠 것인가? 예를 들어, 금융 회사의 인공 지능에게 이윤을 극대화하도록 주식과 각종 금융 상품을 매매하라고 시켰다고 해 보자(실제로 이런 시스템이 있다). 금융 거래를 하다보면 누군가는 손해를 볼 수도 있는데 이것을 인간에게 해를 입히는 행위라고 판단한다면 그 인공 지능은 아무 일도 할 수 없을 것이다.

더 극단적인 예를 들어보자면, 인공 지능이 내장된 미사일은 과연 제1원칙을 지킬 것인가? 목표에 가서 폭발하면 적군, 즉, 다른 인간에게 피해를 입힐 것인데 적군에게는 피해를 줘도 무방한 것인가? 또한 적군이란 누가 결정하는 것인가? 만일 군 사령관이 반쯤 미쳐서 아군을 목표로 미사일을 쏜다면 그 미사일에 달린 인공 지능은 군 사령관의 말을 따라야 할 것인가, 아니면 보편적인 국민의 안위를 위해 도리어 군 사령관 머리 위로 떨어져야 할 것인가?

종합하자면, 인공 지능을 통제하기 위해 각종 원칙과 규칙을 만들 수는 있지만 결국은 지능의 주체가 다양한 상황에 따라 가치 판단을 해야하며, 인공 지능이 내리는 결론은 그 인공 지능을 만든 사람이 예상하지 못한 것일 수도 있다. 게다가 인공 지능이 만든 사람보다 똑똑하다면? 도대체 그 인공 지능이 어떠한 가치 판단을 할지 인간의 머리로는 상상하기가 매우 힘들다.

인공 지능은 인공 지능으로 통제해야 한다.
결국 인간보다 똑똑한 인공 지능은 다른 인공 지능을 이용해 통제할 수 밖에 없을 것이다. 특정 권한을 하나의 인공 지능에게 몰아 주지 말고 다른 인공 지능과 협의해서 진행하도록 시킨다. 이렇게 하려면 각 인공 지능은 다른 가치관과 성격을 가지고 있어야 할 것이다. 인공 지능 심리학을 발전시켜 인공 지능들이 건전하고 균형잡힌 생각을 하는지 관찰하고 유도해야 할 수도 있다. 그러나 이렇게 한다고 해도 인공 지능이 인간을 뛰어 넘은 후에는 사실상 완벽하게 인공 지능을 통제하기는 어려울 것이다.

아무튼 이 영화에서도 로봇 제2원칙을 로봇에 삽입할 수 있도록 설계한 주체는 인공 지능이었다. 그 논리 모듈은 인간으로서는 해킹이 불가능했는데, 인간의 이해 능력을 뛰어 넘기 때문이다.

적자생존 - 인간은 인공 지능에게 만물의 영장 칭호를 넘기게 될 것이다.
이 영화에서 로봇은 새로운 세대의 로봇을 만들어 낸다. 이 새로운 로봇은 사람과 같은 팔다리를 갖지 않으며, 사람의 언어를 사용하지도 않는다. 방사능으로 오염된 지역에서 로봇끼리 살아가는데 사람과 비슷한 형태를 갖출 필요가 없기 때문이다. 이 영화에서 로봇들이 안면 덮게(마스크)를 스스로 벗는 장면이 여러 번 나오는데, 미래의 로봇은 우리가 기대하는 대로 사람을 닮은, 사람을 위해 봉사하는, 사람의 통제 하에 있는 로봇이 아닐 것임을 상징한다.

인공 지능을 갖춘 로봇은 사람보다 훨씬 확장성이 높고, 어떤 면에서는 더 효율적이며, 특히 방사능 지역이나 우주에서는 생존 능력이 탁월하다. 아마도 인류는 인공 지능을 지구와 주변 우주의 상속자로 인정해야 할 날이 올 것이다.