지난해 사상 처음으로 'AI 안전에 관한 정상회담'을 개최한 리시 수택 영국 총리(왼쪽)가 일론 머스크 스페이스X 회장과 대담하고 있다.
AI 개발에 대한 우려가 커지면서 2023년 11월 1~2일, 영국 정부는 28개국 대표와 AI 비즈니스 리더들이 참석한 가운데 사상 처음으로 AI 안전에 관한 정상회담을 개최했다. 이 회의는 앨런 튜링이 독일의 에니그마를 해독했던 블레츨리 공원에서 열렸다.
그 결과, 공동의 노력을 통해 AI의 잠재적 위험을 이해하고, 이를 함께 관리하면서 세계 공동체의 이익을 위해 안전하고 책임감 있는 방식으로 AI를 개발해야 한다는 인식을 공유한 블레츨리 선언이 선포되었다.
블레츨리 선언 직후 당시 영국 총리 리시 수낵과의 대담에서 일론 머스크는 전반적으로 AI가 긍정적인 영향을 미칠 것으로 전망했다. 개인적인 만족을 위해서 직업을 가질 수는 있겠지만, AI가 모든 것을 해주어 언젠가 일이 필요 없을 때가 올 것이라고 예측했다. 보편적 기본소득보다는 ‘보편적 고소득’을 얻게 될 것이며, 상품과 서비스가 부족하지 않는 풍요의 시대가 올 것이라 주장했다. 물론 머스크가 그런 사회가 좋은 점도, 나쁜 점도 있을 것이라는 신중함을 놓치지는 않았다.
“AI가 내 직업에 어떤 의미를 가질까? 내가 일자리를 잃게 되거나, 내 아이들이 일자리를 잃게 되는 건 아닐까?” 가장 구체적이고 실존적인 의문이다.
긍정적인 방향으로 생각하면, AI는 이미 일자리를 창출하고 있고 새로운 기업을 만들어내고 있다. AI가 사람을 대체하기보다는 인간의 보조자로서 활용될 것이라는 징후도 있다. AI는 사람이 일을 더 잘하도록 도움을 줄 것이고, 여전히 사람이 해야 할 일이 있을 것이다.
과학 기술 혁명과 같이, 노동 시장에도 분명 변화가 일어나고 있다. 현재 직업의 60% 정도는 40년 전에는 존재하지 않았던 직업이다. 그래서 일자리의 미래를 예측한다는 것은 참으로 어려운 일이다.
기계는 오래전에 육체적 노동력에서, 최근에는 계산 능력에서 인간을 능가했다. 그리고 이제 우리의 지적 능력이 위태로워졌다. 지금껏 이 능력은 우리를 지구상의 다른 생물과 다른 존재로 만들었고, 우리의 미래를 (적어도 본능적으로) 통제할 수 있게 해줬다.
그렇기에 몇몇 사람들이 AI의 발전에 분노하는 건 놀라운 일이 아니다. 하지만 AI는 ‘인류의 거울’이라고 할 수 있다. 그들은 우리 자신에 대해 많은 것을 말해주며, 인간이라는 것이 과연 무엇인지, 근본 질문을 던진다.
하지만 우리가 여기에서 던져야 할 핵심 질문은 다음가 같다. AI를 설계할 때 인간 지능을 목표로 해야 하는가? 잠수함은 물고기처럼 헤엄치지 않고, 비행기는 새처럼 날지 않는데, 왜 컴퓨터는 인간처럼 생각해야 하는 걸까?
만약 거미에게 인간 수준의 지능을 부여한다면, 거미는 인간처럼 행동하는 것이 아니라, 거미줄을 더 잘 짜고 더 많은 먹이를 잡을 수 있는 ‘슈퍼 거미’처럼 행동하게 될 것이다.
인간이 우월한 존재라는 생각을 버려야만 AI 분야에서 진정한 진전을 이룰 수 있다. 인간은 곤충보다 우월한 존재가 아니라, 각자의 환경에 맞게 진화한 존재이다. 인간이 더 뛰어난 인지적 기술을 가지고 있을지 모르지만, 곤충은 핵 재앙에서도 살아남을 가능성이 높다. 이렇듯 성공은 맥락 의존적이고 상대적이다.
우리는 지능 그 자체를 목적으로 여기기보다, 어떤 목적으로 지능형 기계를 사용할 것인지,에 대해 스스로 물어야 한다. 더 나은 세상을 만들기 위해 지능형 기계를 어떻게 사용할 수 있을까?
그런데 여기서 ‘더 나은 세상’이란 정확히 무엇일까? 이런 근본적인 질문이 필요한 시점이다. 인간과 기계가 각자의 전문성에 따라 과제를 배분하고 함께 일하는 것이 ‘더 나은 세상’으로 가는 길이다.
복잡한 통계는 컴퓨터에게 맡기고, 사회적으로 민감한 사안은 인간의 의사결정에 맡기자. 철도의 손상 가능성을 진단하는 일은 기계에게 맡기고, 철도 신입 사원의 선발은 사람이 직접 감독하자. CT를 이용한 암 진단은 기계에게 맡기고, 치료과정은 의사와 환자가 논의하자. 대체 왜 기계에 인간과 같은 감정을 구현해야 하는가?
오히려 컴퓨터가 최대한 객관적으로 작동할 수 있도록 만들어야 한다. 결국 진화적으로 프로그래밍된 편향과 감정을 가진 우리 인간은 그런 일에 능숙하지 않다는 것이 증명되지 않았던가.
IBM의 딥 블루에게 패한 세계 체스 챔피언 가리 카스파로프(Garry Kasparov)의 조언을 떠올릴 때다.
기계는 계산 능력이 있습니다.
우리는 이해력이 있습니다.
기계는 지시를 받습니다.
우리는 목적이 있습니다.
오직 인간만이 할 수 있는 게 있습니다.
그건 바로 꿈입니다. 그러니 더 큰 꿈을 꿉시다. <계속>
***이 글은 『Korea SKEPTIC』(Vol.38/2024년6월) Cover Story, 「인공일반지능AGI, 유토피아 혹은 디스토피아?」에 전적으로 의존하였음을 밝힙니다.
조송원 작가
<작가/본지 편집위원>
저작권자 ⓒ 인저리타임, 무단 전재 및 재배포 금지