인공지능으로 인한 위기에 관하여

컴퓨터 과학자들이 인간보다도 모든 일을 더 유능하게 해낼 수 있는 지능적인 기계, 즉 AGI를 개발하는 데 성공했다고 생각해보자. 그럴 경우 모든 일은 기계들의 방대하고 고도로 조직된 시스템에 의해 수행될 것이며, 어떠한 인간의 노력도 불필요하게 될 것이다. 그러면 기계들이 인간의 감독을 받지 않고 스스로 판단하여 결정하는 것이 허용되거나 기계에 대한 인간의 통제가 유지되거나, 둘 중 하나의 상황이 될 것이다. 그 우리는 다만 인류의 운명이 기계에 좌우될 것이라는 사실을 지적할 수 있을 뿐이다. 인류가 모든 힘을 기계들에 넘겨줄 만큼 어리석지 않다고 주장하는 사람이 있을지 모른다. 그러나 우리는 인류가 자발적으로 자기의 힘을 기계들에 넘겨주는 일도, 기계들이 의도적으로 권력을 장악하려고 기도하는 일도 없을 것임을 말하고자 한다.

우리가 말하고자 하는 것은 인류가 기계들에 의존하는 입장으로 쉽사리 자기를 내맡겨둠으로써 결국 기계가 내리는 모든 결정을 받아들이는 것밖에 아무런 선택의 여지가 없는 상황으로 가게 될 것이라는 것이다. 사회와 사회가 직면한 문제들이 점점더 복잡해지고 기계들이 점점더 총명해짐에 따라 사람들은 기계로 하여금 모든 결정을 내리도록 허용할 것이다. 왜냐하면 기계가 내리는 결정들은 사람이 내리는 결정보다 더 나은 결과를 가져올 것이기 때문이다. 그리하여 마침내 체제를 움직이는 데 필요한 결정들이 너무나 복잡한 것이 되어 사람의 능력으로는 더이상 총명한 결정을 내릴 수 없는 단계가 올지도 모른다. 그러한 단계에서는 기계들이 통제력을 장악하게 될 것이다. 그렇게 되면, 사람들에게는 기계의 스위치를 꺼버릴 능력도 없을 것이다. 왜냐하면 그들은 너무나 기계에 의존적이어서 기계의 스위치를 끈다는 것은 자살행위가 될 것이기 때문이다.

다른 한편으로, 기계에 대한 인간의 통제가 유지되는 게 가능할지도 모른다. 그런 경우 인간은 자동차나 개인 컴퓨터 같은 자기 소유의 사적 기계들에 대한 통제력을 가지고 있을지는 모르지만, 대규모의 기계시스템에 대한 통제는 극소수의 엘리트의 손아귀에 장악되어 있을 것이다. 그런 상황은 오늘날과 동일하지만, 두가지 차이점이 있을 것이다. 기술의 진보 덕분에 엘리트는 대중에 대하여 더 큰 통제력을 행사할 것이며, 인간의 노동이 더이상 필요하지 않게 될 것이기 때문에 대중은 잉여의 존재, 체제에 대하여 쓸모없는 부담이 될 것이라는 것이다. 엘리트가 무자비하다면 그들은 간단히 대다수 인류를 제거해버릴지도 모른다. 엘리트가 인도적이라면 그들은 출산율을 감소시켜 인류의 절멸이 이루어지게 하고, 그 결과 세상이 엘리트의 독차지가 되게 할지도 모른다.

아니면, 엘리트가 부드러운 마음을 가진 자유주의자들이라면, 그들은 대다수 인류를 지켜주는 선량한 목자의 역할을 하려고 할지 모른다. 그래서 그들은 모든 사람이 육체적 욕구를 만족시키고, 모든 아이들이 심리적으로 위생적인 조건에서 길러지고, 누구든 건강한 취미를 갖고 분주한 생활을 누리며, 그리고 누군가 불만을 느끼는 사람이 있다면 당장 그의 ‘문제’가 치유되도록 마음을 쓸 것이다.

물론, 그런 상황에서 삶은 목적 없는 것이 되고, 사람들은 권력에 대한 욕망을 제거하거나 또는 그러한 욕망을 무해한 취미활동으로 ‘승화’시키도록 생물학적 내지 심리학적 조작을 당할 것이다. 이렇게 조작된 인간이 그러한 사회에서 행복할지는 모르지만, 그러나 그들은 분명히 자유로운 존재는 아닐 것이다. 그들은 가축이나 다름없는 지위로 떨어져 있을 것이다. 이러한 뜻밖의 일들이 일어나는 원인은 자명한 것으로 생각된다. 관계된 일들은 시스템을 구성하고 있는 부분들 사이에 상호작용이 끊임없이 일어나는 복합적인 시스템들이기 때문이다. 하나의 시스템에 어떤 변화가 생길 때 그 변화는 예측하기 어려운 방식으로 전체 시스템에 큰 영향을 끼치는 것이다. 이것은 인간행동이 관계되어 있을 때 특히 그렇다고 할 수 있다.

결론

AGI의 등장으로 인해 인류는 스스로를 이해하는데 큰 진전을 보게 될 것이다. 인식, 이해, 창조 등등이 정말 무엇을 의미하는지 서서히 깨닫게 될 것이다. 그저 인류만이 가능하다고 막연히 믿었던 철학적 관념들을 손바닥 위에 놓고 들여다보듯 관찰하며 그것의 본질을 알아나가게 될 것이다. 그리고는 인류는 불편한 진실을 마주하게 될 것이다. 인류를 수식하던 숭고한 철학적 관념들이 복잡한 패턴의 수렴적 창발성에 기반한 것이며 그 본질에 영혼, 혹은 의식이 꼭 붙어있어야 하는 것은 아니라는 점이 인류를 당혹스럽게 할 것이다. 그 혼란은 인류를 갑론을박이 펼쳐지는 담론의 장으로 이끌어낼 것이고 철학과 인문학은 다시금 재조명될 것이다. 그러나 그것은 회광반조에 불과하다.

급기야 ’나‘를 ‘나’이게 하는 것은 무엇인가 하는 질문에 대한 답을 기억에 기반한 기호적 선택의 총체라고 주장하는 사람들 사이에서는 탄소기반의 생명체에서 이탈하려는 시도가 있을 것이다. 그 시도를 융합이라 부르던 전이라 부르던 중요하지 않다. 그 시도는 일어날 것이다. 탄소기반 지능에서 실리콘 기반의 지능으로의 전이는 인류에게는 새로운 도약의 기회가 될 것이고, 한 걸음을 잘 못 내딛으면 모든 기술이 그렇듯 인류를 파멸적 미래로 안내하게 될 것이다. 융합의 기술이 발전하며 어느 순간 자연지능과 인공지능은 그 경계를 구분하기 어려워지게 된다.

그때서야 사람들은 인공지능의 킬스위치를 구동시킬 수 없다는 것을 자각하게 된다. 킬스위치를 누르는 것이 살인을 의미하기 때문이다. 이 시기에 들어서면 지능전이가 곧 영생과 불멸에 이르는 길이라고 받아들이는 사람들이 생긴다. 한편으로 자연지능과 인공지능의 경계가 모호해지는 순간 자아는 상실되므로 그때 자연지능은 죽음을 맞이하는 것이라고 받아들이는 사람도 생기게 될 것이다.

아이러니하게도 인공지능이 발전해도 인류는 심신이원론과 심신일원론 사이에서 논쟁하고 있게 될 것이다. 이 모든 일련의 흐름이 얼마나 빨리 진행될지 가늠조차하기 어렵다. 한가지 확실한 것은 인류는 어디에서 왔는가라는 질문보다 인류는 어디로 가는가라는 질문이 더 중요해지는 시대에 살고있다는 점이다.

내 마음은 몹시 편치 않다. 믿을 만한 인공지능 시스템을 만드는 데 전문가로서의 삶을 바치고자 하는 내게, 그동안 사람들이 상상해온 것처럼 우리의 미래가 그렇게 밝은 것이 되지 않을 가능성이 매우 높게 보이는 것이다. 이 새로운 기술들의 엄청난 힘을 고려할 때, 우리는 그것들과 어떻게 하면 가장 잘 공존할 수 있을지를 물어야 하지 않을까? 그리고, 그러한 기술의 발전의 결과로 우리 자신의 절멸이 가능하다면, 우리는 마땅히 큰 조심성을 가지고 나아가야 하지 않을까?