Q1. 저번시간에는 매거진 <스켑틱 코리아> 6월호의 커버스토리 ‘AGI 혁명 - 유토피아 혹은 디스토피아?’의 핵심 내용을 소개해주셨습니다. 인간이 AI 디스토피아를 자초할 만한 위험 4가지와 AI디스토피아론자의 논리에 대한 과학적 반박 7가지를 소개해주셨어요. 오늘은 그 후속편인데 어떤 내용인가요7?
--> 오늘은 미래학자 뤼디 판벨콤의 커버스토리 글 ‘AI가 왜 인간을 닮아야 하는가’의 핵심 내용과 이번 커버스토리가 던진 화두에 대한 나름의 답으로 ‘유토피아도 디스토피아도 아닌, 프로토피아’를 소개하겠습니다.
Q2. ‘유토피아도 디스토피아도 아닌 프로트피아’라, 어떤 내용일지 기대가 됩니다. 먼저 ‘AI가 왜 인간을 닮아야 하는가’를 소개해주시죠. 닮아야 한다는 게 아니라 굳이 닮을 필요가 있느냐 하는 뜻이겠죠?
--> 그렇습니다. 미래학자 판벨콤은 이렇게 말합니다. AI는 ‘인류의 거울’이라고 할 수 있다. 그들은 우리 자신에 대해 많은 것을 말해주며, 인간이라는 것이 과연 무엇인지, 근본 질문을 던진다.
하지만 우리가 여기에서 던져야 할 핵심 질문은 다음과 같다. AI를 설계할 때 인간 지능을 목표로 해야 하는가? 잠수함은 물고기처럼 헤엄치지 않고, 비행기는 새처럼 날지 않는데, 왜 컴퓨터는 인간처럼 생각해야 하는 걸까? 만약 거미에게 인간 수준의 지능을 부여한다면, 거미는 인간처럼 행동하는 것이 아니라, 거미줄을 더 잘 짜고 더 많은 먹이를 잡을 수 있는 ‘슈퍼 거미’처럼 행동하게 될 것이다.
Q3. 그러고 보니 ‘인공 지능’말 자체도 기계에게 인간의 지능을 갖게 한다는 말이네요. 왜 인간이 기계를 만들면서 인간을 닮게 하려고 하는가, 생각해 보니 심오한 질문이네요. 왜죠?
--> 은연중에 인간은 이 세상에서 가장 우월한 존재라는 생각 때문이라는 게 판벨콤의 판단이고요, 이 생각을 버려야 AI 분야에서 진정한 진전을 이룰 수 있다고 합니다. 인간은 곤충보다 우월한 존재가 아니라, 각자의 환경에 맞게 진화한 존재이다. 인간이 더 뛰어난 인지적 기술을 가지고 있을지 모르지만, 곤충은 핵 재앙에서도 살아남을 가능성이 높다.
Q4. AI 연구가 지능을 목표로 하지 않는다면 어떤 걸 추구해야 한다고 판벨콤은 주장하나요?
--> 지능 그 자체를 목적으로 여기기보다, 어떤 목적으로 지능형 기계를 사용할 것인지,에 대해 우리 스스로 물어야 한다는 거죠. ‘더 나은 세상’을 만들기 위해 지능형 기계를 어떻게 사용할 수 있을까? 하고 말입니다.
Q5. 여기서 ‘더 나은 세상’이란 정확히 무엇을 말하는가요?
--> 판벨콤은 “인간과 기계가 각자의 전문성에 따라 과제를 배분하고 함께 일하는 것이 ‘더 나은 세상’으로 가는 길”이라고 했습니다. 이를테면,
복잡한 통계는 컴퓨터에게 맡기고, 사회적으로 민감한 사안은 인간의 의사결정에 맡기자. 철도의 손상 가능성을 진단하는 일은 기계에게 맡기고, 철도 신입 사원의 선발은 사람이 직접 감독하자. CT를 이용한 암 진단은 기계에게 맡기고, 치료과정은 의사와 환자가 논의하자. 대체 왜 기계에 인간과 같은 감정을 구현해야 하는가? 오히려 컴퓨터가 최대한 객관적으로 작동할 수 있도록 만들어야 한다. 결국 진화적으로 프로그래밍된 편향과 감정을 가진 우리 인간은 그런 일에 능숙하지 않다는 것이 증명되지 않았던가.
판벨콤은 “IBM의 딥 블루에게 패한 세계 체스 챔피언 가리 카스파로프(Garry Kasparov)의 조언을 떠올릴 때”라며 그의 말을 소개합니다.
기계는 계산 능력이 있습니다.
우리는 이해력이 있습니다.
기계는 지시를 받습니다.
우리는 목적이 있습니다.
오직 인간만이 할 수 있는 게 있습니다.
그건 바로 꿈입니다. 그러니 더 큰 꿈을 꿉시다.
Q6. 기계가 잘 하는 건 기계에게 맡기고 인간은 인간만이 할 수 있는 꿈을 꾸자, 멋진 말이네요. 자, 이제 결론에 들어갈 차례인데요, ‘초인공지능 AGI 혁명이 유토피아도 디스토피아도 아닌 프로토피아’라는 주제로 들어갈 보죠. 먼저 프로토피아라는 용어가 무슨 뜻인지부터 알아볼까요?
--> 용어 설명에 앞서 지금 소개드릴 내용은 인저리타임의 칼럼니스트 조송원 작가의 칼럼에서 가져온 것임을 밝힙니다.
프로토피아protopia는 progress의 ‘pro’와 utopia의 topia를 결합한 조어로 protopia=pro(gress)+(u)topia. 점진적인 발전하는 세상이라는 뜻이죠. 사실 대부분의 AI 과학자는 유토피아론자도, 디스토피아론자도 아닙니다. 대신 그들은 기계를 점차 더 똑똑하게 개선해, 어떻게 하면 우리 삶을 더 좋게 만들까, 고민하며 시간 대부분을 보내죠. 기술역사가이자 미래학자인 케빈 켈리는 이를 ‘프로토피아(protopia)’라고 부르며 이렇게 말했습니다. “나는 매년 그리 크지 않고 전년도보다 아주 조금씩 나아지는 점진적인 진보를 믿는다.”
과학 기술 발전에 관한 프로토피아적 사고(思考)는 영국의 작가이자 컨설턴트인 케일럼 체이스의 『경제의 특이점이 온다』(비즈페이퍼/2017)에서도 잘 나타납니다.
“나는 유토피아를 꿈꾸기보다는 프로토피아를 꿈꾼다. 나는 매년 그 전년보다는 조금 나아지지만, 그 차이가 아주 급격하지 않은 점전적인 발전이 가능하다고 믿는다. 기술 덕분에 아무런 문제도 발생하지 않은 유토피아가 존재하리라고는 믿지 않는다. 모든 신기술은 그 기술이 해결해내는 것 못지않게 많은 문제를 만들어낸다. 그러나 신기술은 결정적으로, 전에 없는 선택지를 제공하고, 좋고 유용한 것들의 종합을 서서히 아주 조금씩 채워 나간다.”
Q7. 유토피아냐 디스토피아냐의 양 극단에 비해 프로토피아는 매우 유용한 개념 같은데, AGI가 프로토피아를 가져올 수 있을까요?
--> 어려운 질문이네요. 근데 돌도끼가 처음 발명되었을 때를 생각해볼까요? 엄청 유용한 혁신적인 발명품이었지만 누군가를 죽이는 데 사용될 수도 있는 매우 위험한 발명품이기도 했겠죠. 돌도끼 발명 이후 인류는 이로 인한 유용함을 더 누렸을까요, 아니면 위험을 더 체험했을까요? 그 발명 이전에는 선택지가 없었지만 그 이후에는 선택지가 생겼죠. 역사에서는 그 발명이 인류에게 유용함을 더 제공했다고 평가할 겁니다.
기술은 계속해서 좋음과 해악을 행할 수 있는 방법을 제공하죠. 기술은 둘 모두를 증폭시키는 경향이 있죠. 그러나 우리 인류는 각 단계마다 새로운 선택의 기회가 있다는 사실은 종국에 선을 향한 방향으로 균형의 추를 기울여왔습니다. 따라서 악을 행할 수 있는 힘이 확장되는 동시에 선을 행할 수 있는 힘 역시 확장됩니다.
Q8. AI는 돌도끼에 비해 훨씬 더 영향력이 크겠지만, 선한 목적과 악한 목적의 사용이라는 갈림길에서 어느 쪽을 선택할지는 결국 인간의 몫이다, 는 말이군요.
--> AI는 이미 ‘호랑이 등에 올라탄’ 형국이죠. 질주하고 있습니다. 그 다다를 곳은 어디일까? 유토피아, 디스토피아 혹은 프로토피아? 인류와 기술의 진화 역사를 반추해 볼 때, 유토피아나 디스토피아는 분명 아니고, 인류문명이 기술발전의 역사 위에 건설되었다는 사실을 볼 때 프로토피아일 개연성이 짙습니다.
다만, AI는 인류 역사상 가장 파괴적인 힘을 가졌습니다. 그리고 그 발전 속도는 지금까지 본 어떤 기술보다 훨씬 더 빠르죠. 이 AI란 파괴적인 힘이 인류의 ‘공동선’에 기여하도록 하기 위해서는 인간과 우리 사회 현실에 대한 ‘사회적 불평등’ 같은 ‘잔인한 사실’(brute fact)을 얼마만큼 직시하고 이를 해결할 의지와 노력을 기울이느냐에 달렸다고 생각합니다.
<우주관 오디세이 저자 / 본지 편집장>
저작권자 ⓒ 인저리타임, 무단 전재 및 재배포 금지