생성형 인공지능(GPT4) 기반의 대화형 AI인 마이크로 소프트사의 코파일럿(copilot)에게 "AI에 의한 프로토피아를 상상해 그려줘" 했더니 내놓은 그림 1. 그림 수준이 조악하다.
실제로 대부분의 AI 과학자는 유토피아론자도, 디스토피아론자도 아니다. 대신 그들은 기계를 점차 더 똑똑하게 개선해, 어떻게 하면 우리 삶을 더 좋게 만들까, 고민하며 시간 대부분을 보낸다.
기술역사가이자 미래학자인 케빈 켈리는 이를 ‘프로토피아(protopia)’라고 부르며 이렇게 말한다. “나는 매년 그리 크지 않고 전년도보다 아주 조금씩 나아지는 점진적인 진보를 믿는다.”
프로토피아에 대해선 약간의 부가 설명이 필요하다. protopia는 progress의 ‘pro’와 utopia의 topia를 결합한 조어이다. 곧, protopia=pro(gress)+(u)topia.
과학 기술 발전에 관한 프로토피아적 사고(思考)는 케일럼 체이스의 『경제의 특이점이 온다』(비즈페이퍼/2017)에서 적확히 볼 수 있다.
“나는 유토피아를 꿈꾸기보다는 프로토피아를 꿈꾼다. 나는 매년 그 전년보다는 조금 나아지지만, 그 차이가 아주 급격하지 않은 점전적인 발전이 가능하다고 믿는다. 기술 덕분에 아무런 문제도 발생하지 않은 유토피아가 존재하리라고는 믿지 않는다. 모든 신기술은 그 기술이 해결해내는 것 못지않게 많은 문제를 만들어낸다. 그러나 신기술은 결정적으로, 전에 없는 선택지를 제공하고, 좋고 유용한 것들의 종합을 서서히 아주 조금씩 채워 나간다.”
앞에 나온 케빈 켈리의 말은 영문을 그대로 제시하면 다음과 같다. 유토피아와 디스토피아란 비현실적이고 극단적인 용어만 횡행하는 세태에 지극히 현실적이고 바람직한 조어를 만든 켈리의 통찰력을 기리며, 원문을 새기는 일도 의미 있을 성 싶다. 한시를 한문으로 음미할 때처럼, 더 감칠맛이 난다.
“I believe in progress in an incremental way where every year it's better than the year before but not very much - just a micro amount."
천국과 지옥, 우리의 삶은 천국도 지옥도 아니다. 행복은 외부조건이 필요조건이라면, ‘마음의 상태’는 충분조건이다. 하여 기술이, AGI가 세상을, 삶터를 천국화했더라도 인류의 행복을 보장할 수는 없다. 왜냐하면 ‘마음의 상태’란 무한 확장이 가능하기 때문이다. 하여 행복이란 점진적으로 나아져 가는 과정일지언정 궁극에 도달한 상태는 아닐 것이다.
각설하고, 모든 사람이 영원히 완벽한 조화를 이루며 살 수 있다는 그 도달할 수 없는 곳(‘유토피아’라는 문자 그대로의 의미)을 목표로 하는 대신, 우리는 자동차의 역사에서 볼 수 있는, 점진적이고 단계적인 발전을 지향해야 할 것이다.
생성형 인공지능(GPT4) 기반의 대화형 AI인 마이크로 소프트사의 코파일럿(copilot)에게 "AI에 의한 프로토피아를 상상해 그려줘" 했더니 내놓은 그림 2. 이 역시 조악한 수준이다.
날아다니는 자동차가 왜 없는지 한탄하기 전에 1950년대 이후로 잠김 방지 브레이크, 범퍼와 머리 받침대, 에어컨, 안전벨트, 에어백 … 열쇠 없는 시동 시스템, GPS 내비게이션 … 핸드폰과의 블루투스 연결, 셀프 주자 및 주행 보조, 보행자 감지, 적응형 전조등 그리고 최종적으로 완전 자율 주행 기술이 추가되었는데, 어떻게 자동차가 점진적으로 개선됐는지를 생각해 보자. 이런 유형의 기술적 향상이 어떻게 진보로 이어졌을까?
이 문제를 생각하는 한 가지 방법은 최초로 만들어진 도구, 예컨대 돌망치를 상상해 보는 것이다. 돌망치는 누군가를 죽이는 데 사용될 수도 있고, 구조물을 만드는 데 사용될 수도 있다. 그렇지만 돌망치가 등장하기 전에는 그런 선택지가 존재하지 않았다.
기술은 계속해서 좋음과 해악을 행할 수 있는 방법을 제공한다. 기술은 둘 모두를 증폭시킨다. … 그러나 우리에게 각 단계마다 새로운 선택의 기회가 있다는 사실은 종국에 선을 향한 방향으로 균형의 추를 기울인다. 따라서 악을 행할 수 있는 힘이 확장되는 동시에 선을 행할 수 있는 힘 역시 확장된다.
누군가는 이를 평행선이라고 생각할지 모른다. 하지만 실제 우리에게 이전에는 하지 못했던 선택지가 있다는 사실은 선의 총합의 범주 쪽으로 선택을 아주 아주 조금씩 기울인다.
그러므로 AI, AGI의 발전은 큰 도약(유토피아)이나 대재앙(디스토피아) 대신에 위로 향하는 작은 발걸음(프로토피아)으로 생각해야 할 것이다.
유토피아, 디스토피아 그리고 프로토피아에 대한 논의를 진행했다. 그렇지만 다수에게 큰 해악을 끼칠 가능성이 있을 땐, 증거가 없더라도 잠재적 위협이 해롭지 않다는 것을 입증할 책임이 회의론자(비판적 사고를 하는 사람)에게 있으며, 후회보다는 안전이 낫다는 사전예방원칙이 언급되는 게 보통이다.
그러나 사전예방원칙은 세 가지 이유에서 기반이 약하다. ⑴부정 혹은 존재하지 않음을 입증하기, 즉 미래에 해가 되지 않는다는 것을 입증하기는 어렵다. ⑵불필요한 경각심과 개인의 불안을 불러일으킨다. ⑶지금 이 단계에서 AI 연구를 중단하는 데도 불이익이 있다. 특히 생명을 살리는 약물이나 의료적 치료 같은 생명과 관련된 과학과 기술이 여기에 포함된다.
이들은 AI로부터 측정할 수 없을 정도로 많은 혜택을 얻는다. 물리학자 데이비드 도이치가 설득력 있게 주장했듯, 많은 근거가 이제야 우리가 무한의 시작점에 있다고, 그리고 “올바른 지식이 주어진다면 자연법칙이 금지하지 않는 모든 것은 성취될 수 있다”라고 말한다.
“점화를 기다리는 폭약과 같이, 상상할 수 없을 만큼 수많은 우주의 환경이 영겁의 세월 동안 아무것도 하지 않거나 맹목적으로 증거를 생성해 저장하고 또 우주로 쏟아내면서 기다리고 있다. 올바른 지식이 기어코 그들에게 닿게 된다면, 그중 대부분이 즉각적이고 돌이킬 수 없게 근본적으로 다른 유형의 물리적 활동으로 타오를 것이다.
격렬한 지식의 창조, 즉 자연법칙에 내재된 모든 종류의 복잡성, 보편성, 가능성을 드러내고 환경을 오늘날의 전형에서 미래의 전형으로 전환하게 될 것이다. 원한다면 우리가 그 불꽃이 될 수 있다.”
AI는 이미 ‘호랑이 등에 올라탄’ 형국이다. 질주하고 있다. 그 다다를 곳은 어디일까? 유토피아, 디스토피아 혹은 프로토피아? 인류와 기술의 진화 역사를 반추해 볼 때, 유토피아나 디스토피아는 분명 아니다. 프로토피아일 개연성이 짙다.
하지만 AI는 인류 역사상 가장 파괴적인 힘을 가졌다. 그리고 그 발전 속도는 지금까지 본 어떤 기술보다 훨씬 더 빠르다. 매년 최소 5배, 많게는 10배까지 그 역량이 성장하고 있다.
이 AI란 파괴적인 힘이 인류의 ‘공동선’에 기여하도록 하기 위해서는, 필자는 인간과 우리 사회 현실에 대한 ‘잔인한 사실’(brute fact)을 얼마만큼 직시할 수 있느냐,에 달렸다고 생각한다. <계속>
**이 글은 『Korea SKEPTIC』(Vol.38/2024년6월) Cover Story, 「인공일반지능AGI, 유토피아 혹은 디스토피아?」에 크게 힘입었음을 밝힙니다.
조송원 작가
<작가/본지 편집위원>
저작권자 ⓒ 인저리타임, 무단 전재 및 재배포 금지