인공지능과의 동거가 일상화되는 머지않은 미래에서 과연 우리 인간은 인공지능과 조화로운 동거가 가능한지 한번 돌아보고자 합니다.
제가 지난 10개월 동안 ai 의 바이브 코딩 방식을 이용하여 몇 가지 앱과 업무 자동화를 시도하면서 그 가능성과 한계를 동시에 경험했습니다. 인공지능은 한편으로는 놀랄 만큼 뛰어난 능력을 보여주지만, 조금만 방심하면 진짜 답답하고 황당한 국면을 마주하곤 합니다.
한가지 예를 들어 보겠습니다.
그대가 차를 운전합니다. 차를 운전해 주차장에서 빠져나오려 합니다. 공간이 좁아 몇 번이나 전진과 후진을 반복해야 하는 상황입니다. 그래서 옆에 있는 친구에게 “뒤 좀 봐줘” 하고 부탁합니다. 친구는 차 뒤로 가서 상황을 살핍니다. 천천히 후진을 합니다. 벽에 가까워지는데도 친구는 아무 말이 없습니다. 아직 여유가 있나 보다 싶어 조금 더 후진합니다. 그 순간, 뻑! 소리가 나며 차가 벽에 부딪힙니다.
놀라서 창문을 열고 소리를 칩니다. “뭘 보고 있었어?” 그러자 친구는 태연하게 말합니다. “응, 보고 있었어. 그리고 지금 부딪쳤어.” 왜 화를 내는지 이해하지 못하는 표정입니다. 보라 해서 봤을 뿐인데 무엇이 문제냐는 것입니다.
또 다른 예를 들어볼까요?
구두를 닦으려 합니다. 옆에 있는 아이에게 구두 좀 닦아야 겠다. 저기 신발 함에서 구두약 좀 갖다 줘, 합니다. 그러자 그 아이는 구두약을 가져다줍니다. 옆에 솔이나 헝겊은 안 가져옵니다.
우리 인간은 보통 이렇게 행동하지 않습니다.
차 뒤를 봐 달라고 하면, 위험할 때 “멈춰!” 라고 알려 주는 것이 당연하다고 생각합니다. 구두약을 가져오라 하면 구두를 닦는 데 필요한 솔이나 헝겊도 함께 챙겨 옵니다.
하지만 인공지능은 다릅니다. 인공지능은 인간이 말한 그대로 행동합니다. 구두약을 가져오라 했으면 구두약만 가져옵니다. 그 뒤에 숨어 있는 상식이나 상황 판단은 아직 완전히 이해하지 못합니다.
그래서 인공지능을 다루는 데에는 한 가지 중요한 요령이 있습니다.
인간의 상식이 아니라, 인공지능의 기준에 맞게 지시해야 한다는 것입니다. 앞으로 스스로 생각하는 인공지능 AGI 가 출현한다면 이부분이 개선될 수도 있겠지만 현재까지 인공지능의 수준은 이정도입니다. 이렇게 인간의 지시사항이 충분치 않아 지시사항이 제대로 수행되지 않을 수도 있지만, 가끔은 지나치게 먼저 나가는 경우가 있습니다.
아침마다 발행하는 씬짜오베트남 오늘의 뉴스를 이메일로 받아 보시는 구독자가 5천 여 분 됩니다. 하루는 그 리스트를 정리하고자, 예전과 다른 방식으로 보내서 반송되는 이메일을 자동 확인하여 업데이트 하는 작업을 준비합니다. 인공지능 에이전트와 두어 시간 동안 자동화 작업을 했습니다. 모든 준비가 끝났다고 생각했습니다.
이제 다음 날 아침 새로운 뉴스 발송을 시작하면, 이제 리스트가 자동으로 정비됩니다. 일이 마쳤다고 생각하고 잠시 자리를 비운 사이, AI에이전트가 평소 작업을 마친 뒤 하던 습관대로 이메일 발송을 시작해 버립니다. 순식간에 수백 명에게 메일이 발송되고 그들은 아침에 받은 뉴스레터를 오후에 또 받은 것입니다. 급히 멈추긴 했지만 이미 늦었습니다. 수백 명의 구독자에게 중복 메일이 들어가 버렸습니다.
사람이라면 꾸중이라도 할 수 있습니다.
“왜 그랬어?” 하며 돌이킬 수는 없지만, 화풀이라도 할 수 있지요. 하지만 인공지능에게 화를 내봐야 돌아오는 말은 “죄송합니다.” 영혼 없는 차가운 메시지 하나입니다. 이런 일을 몇 번 겪다 보면 한 가지 생각이 떠오릅니다.
지금은 그저 이메일이 중복 발송되는 정도이니 다행입니다. 하지만 만약 국가적 운명이 걸린 중요한 시스템에서 이런 실수가 일어난다면 어떻게 될까요. 이제는 인공지능을 심은 휴머노이드가 출현하는 시대인데, 과연 그 로봇과의 동거는 연착륙이 가능한지 새삼 의문이 생깁니다.
인간처럼 사고하는 AGI 가 나오면 초기의 실수는 줄어들겠지만, 더 큰 문제는 그가 인간처럼 생각하다가 실수하는 경우는 누가 책임을 지나요?
인간은 실수에 대가를 지불하지만 인공지능은 그럴 수 없습니다. 보상도 체벌도 불가능하지만 실수는 할 수 있는 로봇, 마치 범죄를 저질러도 처벌받지 않는 또 다른 촉법 대상이 출현하나요?
인공지능 시대는 이미 시작되었습니다. 문제는 인공지능이 얼마나 똑똑해지느냐가 아닙니다. 우리 인간에게 던져진 과제는 그렇게 똑똑한 존재와 갈등 없이 살아갈 만큼의 우리의 지혜가 준비되어 있는가입니다.
