두번째 강의

AI, 어떻게 이해하고 접근할 것인가?

엄청난 속도로 우리에게 다가오는 AI. 하지만 우리에게는 생소하고 경험해 보지 못한 AI의 시대. 그 AI에 어떻게 다가가야 할까? 이번 편에서는 AI를 어떻게 이해해야 하고 어떻게 접근해야 할 지 그 궁금증을 풀어봅니다.

 

AI는 인간이 아니다

AI를 생각할 때 가장 쉽게 빠질 수 있는 오류가 AI를 인간처럼 생각하는 겁니다. 사람처럼 대답하고 요청을 들어주는 AI를 우리는 사람처럼 생각하고 대하기 쉽습니다. 하지만 그건 완전한 착각입니다. 그리고 거기에는 그럴 수밖에 없는 이유들이 있습니다.

 

우리는 생활에서 굉장히 많은 동작들을 아무 생각 없이 쉽게 합니다. 예를 들어 샌드위치를 집어서 먹는 것 같은 행동 말이죠. 로봇 공학에서도 처음에는 그런 동작은 쉽게 해결할 수 있을 거라 생각했죠. 하지만 막상 해 보니 그게 절대로 쉽게 해결할 수 있는 문제가 아니란 것을 곧 깨닫게 되었죠. 그래서 생물학과 다른 학문 분야에서 도움을 받아야 했고 Biomimetics라고 하는 복잡한 공학 문제를 자연에서 보고 배우는 학문이 로봇 공학의 핵심이 되었죠.

 

그도 그럴 것이 우리가 쉽게 하는 동작들은 수십억 년의 진화를 통해 갈고 다듬어져 그렇게 할 수 있는 것이지 실제 작동 과정은 엄청나게 복잡하고 정교하기 때문입니다. 수백만개의 신경세포들이 감각 정보를 전달하고 거의 동시에 뇌세포들이 이를 다시 관절, 근육, 혈액 시스템에 정보를 전달하는 동안 뇌의 다른 부분들은 그 동작이 원활히 진행되도록 호르몬을 분비하여 신체 환경을 조율하는 한편 모든 동작들에 관여된 세포들이 한치의 오차도 없이 완벽한 타이밍에 작동하도록 조정하기 때문이죠. 그리고 로봇 공학자들이 아무리 머리를 쥐어 짜도 결국 생물학자들과 신경 과학자들의 도움을 받지 않고는 풀 수 없는 문제였던 겁니다.

 

반대로 인간이 그토록 대단하다고 생각하는 지능, 즉 생각하는 능력은 진화 기간도 짧고 불안정하기 때문에 의외로 쉽게 대체가 가능한 겁니다. 과거 사람들은 바둑과 같이 난해하고 오묘한 게임을 AI는 절대 마스터할 수 없다고 단언했죠. 알파고가 나오기 전까지는 말이죠. 그리고 사람들이 그렇게 단언할 수 있었던 이유는 바둑에서 나올 수 있는 모든 경우의 수는 우주에 존재하는 모든 입자들의 수를 까마득히 넘어서는 수치였기 때문입니다. 하지만 실제로는 인간 역시도 그 모든 경우의 수를 고려하는 것이 아니라 특정한 패턴들을 중심으로 푸는 것이었기 때문에 AI가 훨씬 더 많은 패턴들을 고려하는 순간 인간을 압도할 수 있었죠. 그리고 중국에서는 프로 바둑 대회가 열리는 건물에는 전자 통신을 완전히 차단해서 AI의 훈수를 받는 행위를 막는 조치를 취해야 할 만큼 인간은 더 이상 바둑에서 AI의 상대가 되지 않죠.

 

결국 인간의 지능은 패턴 인식과 패턴 예측으로 단순화가 가능하기 때문에 얼마든지 AI가 인간의 모든 지적 행위를 대체할 수 있을 뿐만 아니라 훨씬 더 잘 할 수 있다고 할 수 있습니다. 하지만 여기에는 몇 가지 인간과 AI의 결정적 차이가 있고 그것이 AI가 결코 인간과 비슷한 패턴을 가질 수 없는 이유이기도 합니다.

불확실성에 대응하는 진화가 만든 차이

우리는 우리의 결정과 행동이 대뇌에서 이루어 진다고 생각합니다. 하지만 대부분 인간의 결정과 행동은 대뇌가 아니라 그보다 훨씬 원시적인 영역에서 일어납니다. 그리고 거기에는 논리도 언어도 존재하지 않습니다. 그래서 인간의 결정과 행동은 논리적 사고가 아니라 호불호, 느낌, 감정 등에 의해 이루어 진다고 할 수 있습니다. 그리고 그런 결정과 행동이 정해지면 논리적 사고는 이를 정당화하는데 쓰인다고 보는 편이 타당합니다. 그렇다면 대뇌를 엄청나게 발달시킨 인간은 왜 아직도 이런 행동 결정 구조를 가지고 있을까요?

 

맹수가 나온다고 알려진 숲을 지나가는데 뒤에서 바스락하고 소리가 난다면 여러분은 어떤 반응을 보일까요? 거의 반사적으로, 우리가 흔하게 하는 말로 묻지도 따지지도 않고, 뛰기 시작할 겁니다. 하지만 그 바스락 소리는 여러가지 원인으로 만들어 질 수 있고 그 것이 맹수일 가능성은 매우 많은 경우의 수 중 하나일 뿐입니다. 그래서 논리적으로 접근한다면 그 경우의 수를 따져 보고 확률적 분포를 기반으로 어떤 행동을 해야 할 지를 정하는 게 맞겠죠. 즉 맹수일 확률과 그러치 않을 확률에 이에 따른 비용을 계산해서 가장 비용이 낮게 드는 결정을 하는 것입니다. 하지만 우리는 그런 식으로 결정과 판단을 하지 않죠. 우리 뿐 아니라 모든 생명체가 그렇게 하지 않죠.

그 이유는 간단합니다. 불확실성은 판단과 행동에 지연을 일으킵니다. 그리고 그것은 생존에 불리하죠. 그래서 생명체는 불확실성 속에서도 즉각적인 판단과 행동을 하게끔 진화했습니다. 비록 그 판단과 행동의 근거가 잘못되었거나 오류가 있더라도 말이죠. 인간의 경우 이것을 Belief System (믿음 시스템)이라고 합니다. 즉 이미 세상은 이렇고 진실은 이렇다고 답을 낸 상태에서 판단과 행동을 한다는 말입니다. 그리고 이런 방법으로 불확실성을 해소하죠. 그래서 인간의 결정과 판단이 대뇌가 아닌 보다 원시적인 뇌 영역에서 일어나는 이유입니다.

 

하지만 AI는 데이터 패턴 분석을 전적으로 확률적 분포에 의해 결정하고 답을 도출합니다. 그렇기 때문에 AI는 결코 인간과 비슷한 형태로 작동할 수 없고 불확실성을 해소하는 방식도 고려 요소와 패턴을 특정할 수 있을 때까지 추가적인 학습을 통해 이루어집니다. 따라서 제시하는 답이 사람처럼 보여도 그 밑단에서 작동하는 방식은 전혀 다르다고 할 수 있죠.

 

그 대표적인 예가 자동 주행입니다. 처음에 사람들은 자동 주행이 AI로 상당히 쉽게 해결될 것으로 생각했습니다. 그리고 실제로도 처음에는 그렇게 진행이 되었죠. 하지만 문제는 돌발 상황에 대한 대응에서부터 나타나기 시작합니다. 인간은 돌발 상황에서 생각 같은 것은 고이 접어두고 반사적으로 즉각 행동하지만 AI는 그렇게 할 수 있는 구조가 아니기 때문이죠. 그래서 이런 다양한 돌발 변수를 학습시켜야 하지만 사실 나올 수 있는 경우의 수가 너무 많고 인간이 생각해 낼 수 있는 돌발 변수가 제한적이라 자동 주행이 시간이 갈수록 그 진행이 디뎌지는 이유입니다.

 

1차원 직렬 방식과 다차원 병렬 방식의 차이

또 다른 커다란 차이는 데이터 처리 방식에 있습니다. 인간은 자기 자신을 하나의 객체로 보는 자아라는 것이 존재합니다. 그리고 그런 인지를 기반으로 서술형 또는 직렬 구조의 사고를 합니다. 즉 1차원적 선형 구조의 사고를 합니다. 하지만 AI는 네트워크로 구성된 집합체이기 때문에 네트워크를 구성하는 요소들이 개별적으로 각기 필요한 계산을 분산해서 병렬로 처리하고 그 역할이 필요에 따라 바뀌기 때문에 중앙집중식으로 하나의 객체라는 개념이 존재할 수 없습니다. 다시 말해 자아를 가질 수 없는 구조이며 동시 다발적으로 데이터를 병렬로 처리하기 때문에 인간의 사고 구조와는 전혀 다른 형태로 전개되며 자체적으로는 별도의 목적성을 가지지 않습니다.

 

최근 미 공군 AI 가상 폭격 실험에서 인간 조종사를 제거하는 판단을 내린 AI 드론이 큰 화제가 되었죠. 영국 가디언즈와 복수의 밀리터리 블로그에 따르면 미 공군이 AI 드론에게 적 방공망 제거 임무를 부여했는데 막상 목적물에 도달했을 때 인간 조종사가 파괴 금지 명령을 내리자 조종사가 있는 건물을 폭격해서 제거한 후 임무대로 적 항공망을 파괴했다고 하죠. 그래서 이번에는 인간 조종사에게 최종 권한이 있고 조종사를 공격했을 경우 벌점을 주도록 다시 설정했다고 합니다. 하지만 거듭되는 조종사의 작전 금지 또는 대기 명령이 계속되자 이번에는 조종사가 명령을 전달하는 송신탑을 폭파한 뒤 임무를 수행했다고 하죠.

 

이건 그리 놀랄 일이 아닙니다. 인간은 오랜 기간의 진화로 내제된 다양한 본능과 감성, 그리고 사회적 동물의 본능인 도덕적 감성 등과 같은 다양한 행동 지침과 조절 요소들을 기본적으로 가지고 태어납니다. 그래서 1차원적 선형 사고를 하더라도 큰 문제가 발생하지 않습니다. 어차피 인간의 행동은 이런 다양한 내제 요소들로 제어를 받기 때문입니다.

 

하지만 AI는 그런 기본적인 제어 요소를 가지고 있지 않을 뿐만 아니라 다차원의 병렬 처리를 하는 집합체이기 때문에 하나씩 순서대로 접근하는 선형 사고로는 AI를 제대로 파악할 수도 제어할 수도 없습니다. 예를 들어 위의 경우 적의 항공 방어망을 제거하라는 명령을 내리고 인간이 이에 반하는 명령을 내리자 명령 수행에 방해가 되는 인간을 제거하는 결정을 내리죠. 그러자 다시 인간을 해치지 말도록 하는 새로운 조건을 부여했지만 결국 AI는 인간이 원했던 결과, 즉 AI가 인간의 통제에 따라 작전을 수행하기를 거부하고 명령 수행에 방해가 되는 인간을 새로 부가된 조건에 부합하도록 제거했죠. 이것이 인간의 1차원 선형 사고가 AI 시대에 갖는 한계입니다.

 

수학적 사고의 중요성

지난 번에 수학적 사고가 AI 시대 생존을 위한 필수 역량이라고 말씀드렸죠. 그 이유가 인간이 가지는 1차원 선형 사고 구조를 벗어날 수 있게 해 주는 것이 바로 수학적 사고이기 때문입니다.

 

얼마전 레딧이라는 인터넷 사이트에서 마이크로소프트가 대대적인 AI 투자를 발표함과 동시에 만명 규모의 인력 감축안을 발표한 것을 두고 뜨거운 논쟁이 일었습니다. 한 쪽에서는 AI투자가 인력 감원과 직접적인 인과 관계가 있다고 주장하고 다른 한 쪽에서는 그렇게 볼 수 있는 근거가 부족하다고 비난했죠. 양 쪽 모두 타당성이 있는 주장들이었죠. 하지만 양 쪽 다 지나치게 단순화한 선형 논리였기 때문에 총체적인 진실과는 거리가 있었고 그래서 접점을 찾을 수 없었죠.

 

세상의 모든 것들이 단순한 일직선 상에 연결되는 관계를 갖을 만큼 이 우주가 그리 편리하게 만들어져 있지 않죠. 그래서 뭔가의 관계를 제대로 이해하려면 여기에 영향을 주는 여러가지 변수들과 상수들을 찾아내고 분명 영향은 주지만 도출할 수 없는 요소를 어떻게 반영할 지를 먼저 고려해야 합니다. 그게 바로 수학적 사고입니다.

 

우리가 보통 함수 또는 방정식이라고 말하는 건 이런 여러가지 관계를 요소 별로 정리하는 과정에서 그걸 눈으로 쉽게 파악하기 위한 표현 방법이 본질이지 그걸 공식으로 답을 풀라는 것이 아닙니다. 왜냐하면 수학은 세상 모든 것의 복잡한 관계들을 이해하고 이를 설명하는 언어이기 때문입니다. 그래서 방정식이던 그래프이던 도표이던 그건 필요에 따라 무언가의 관계를 보다 쉽게 눈으로 확인할 수 있도록 하는 여러가지 다양한 표현 방법일 뿐인 겁니다.

 

그리고 다차원 병렬 처리를 하는 AI를 이해하고 제어하려면 무언가를 고려할 때 거기에 영향을 주는 다양한 요소들을 도출하고 변수가 무엇인지 상수가 무엇인지를 고민하는 수학적 사고가 필수이겠죠.

다음편부터는 직접 경험을 위한 AI 설치법과 사용법을 자세히 다뤄 보도록 하겠습니다.

–

글쓴이: 한동준 (DJ Han) 전 Vision Network/Youtheca.com 대표이사, 현재는 3D 아티스트로 활동 중. Williams College에서 경제와 수학 전공