(사)인본사회연구소 등이 주최한 'AI의 기술과 미래사회 진단' 포럼에서 남송우 인본사회연구소 이사장이 인삿말을 하고 있다. [사진 = 손태민]

(사)인본사회연구소 등이 주최한 'AI의 기술과 미래사회 진단' 포럼이 지난 21일 부산 부산진구 서면 인본사회연구소 회의실에서 성황리에 열렸다.

행사장은 AI와 미래사회에 대한 뜨거운 관심을 반영하듯, 각계 전문과와 시민이 참여해 인공지능 발전의 사회적 영향과 인간의 미래, 그리고 AI 기반 안전·방송 혁신 방안을 놓고 열띤 토론과 논의가 이어져 뜨거운 열기와 공론장을 연출했다.

이번 포럼은 생성형 AI 발전이 인간의 미래와 사회 전반에 미치는 영향을 고찰하고, AI 위협 사회에 대한 대응 전략 및 재난·재해와 같은 위기 상황에서의 AI 기반 안전 방안을 집중적으로 논의하는 자리였다. (사)인본사회연구소, 2025인권문화제, 민주부산시민연대포럼이 주최하고, 세계환경사회거버넌스학회, AI휴먼연구원이 공동 주관했다.

포럼은 김해창 인본사회연구소 소장의 사회로 진행됐다. 남송우 인본사회연구소 이사장이 환영사를 전했고, 기조발제는 김석환 전 한국인터넷진흥원장이 '생성형 AI 이후 인간의 미래, 부산의 내일'을 주제로 맡았다. 뒤이어 김윤희 동의대 AI융합학과 교수가 'AI 기술과 위험사회: 초지능 및 특이점 문제 등 예상되는 위협과 대응'을, 안병천 관악공동체라디오 대표가 'AI와 안전, 그리고 재난 방송 혁신 방안'을 각각 주제발표를 했다.

토론에서는 조송현 인저리타임 대표와 황태욱 동국대 외래교수 등 전문가들이 패널로 참여해 'AI 기술로 진단되는 미래사회의 삶과 인간의 길'이라는 주제로 열띤 토론을 벌였다. 참석자들은 급변하는 AI 시대의 기회와 위험, 그리고 인간성 회복의 가치 등에 대해 다양한 의견과 질문을 나누며 행사장을 뜨겁게 달궜다.

이날 포럼은 부산 지역에서 AI와 사회 이슈를 종합적으로 짚어본 의미 깊은 자리였으며, 현장의 열기와 질문이 ‘AI 담론’ 형성의 가능성을 보여줬다.

다음은 기조발제와 주제발표 핵심 내용이다.

◆ 기조발제 : 생성형 AI 이후 인간의 미래, 부산의 내일 (김석환 전 한국인터넷진흥원장)

이 기조발제는 “인간의 미래, 부산의 내일”이라는 제목으로, 생성형 AI 이후 가속되는 인공지능 사회 전환을 진단하고, 부산과 부울경이 어떤 방향의 ‘인간 중심 AI 거버넌스’를 갖추어야 하는지 질문을 던지는 내용이다.​

1. 어떤 AI를 이야기하는가

발제자는 알파고–알파고 제로, 2022년 챗GPT 등장, 허사비스의 단백질 구조 예측과 약물 개발 혁신 등 사례를 통해 지금 논의하는 AI가 단순 자동화가 아니라 딥러닝·생성형·에이전틱·피지컬 AI까지 포괄하는 전면적 기술 변화임을 짚는다. 인식형 AI(음성·추천·의료 영상), 생성형 AI(텍스트·이미지·영상·음악 생성), 에이전틱 AI(스스로 목표·계획·실행하는 에이전트), 피지컬 AI(자율주행차·범용 로봇)가 하나의 연속선 위에 있으며, 이 네 층위가 중첩되면서 인간 일상과 산업 전반을 바꾸고 있다는 점을 강조한다.​

2. 왜 지금 이렇게 ‘hot’ 한가

이어 발제는 인공지능 사회로의 전환을 농경→산업→정보사회에 이은 새로운 문명 전환으로 규정한다. 산업화 시대에는 하루 늦으면 한 달, 정보화 시대에는 하루 늦으면 1년이 뒤처지지만, 인공지능 시대에는 “하루가 늦으면 한 세대가 뒤처진다”는 경고를 인용한다.​

국제적으로는 엔비디아 GPU를 둘러싼 ‘AI 패권 경쟁’을 통해, GPU 보유량이 국가·기업 AI 경쟁력의 핵심 지표가 되고 있음을 설명한다. 세계 시가총액 상위 20대 기업 대부분이 엔비디아, 애플, 마이크로소프트, 알파벳(구글), 아마존 등 AI·데이터 중심 빅테크가 차지하고 있으며, 한국은 GPU 수량·AI 인프라에서 미국·중국에 크게 뒤진 ‘다음 그룹’에 머물러 있다는 점도 함께 제시한다. 이러한 상황에서 부산·부울경이 단순 소비자가 아니라 AI 인프라·인재·산업 전략을 갖추지 않으면, 또 한 번 주변부로 밀릴 수 있다는 문제의식을 드러낸다.​

3. 유토피아인가, 디스토피아인가

발제의 중심부는 AI가 여는 미래를 유토피아와 디스토피아의 양면으로 살피는 부분이다.

한편에서는 허사비스가 5~10년 내 인간 수준의 AGI 도래를 예측하고, 일론 머스크가 옵티머스 로봇을 통해 ‘빈곤 해소’를, 샘 올트먼 등이 AI 기반 초고성장을 전망하는 등 장밋빛 미래론이 제시된다. 반면, 서울대 연구에서 제시된 ‘2090년 계급 구조’ 시나리오처럼, 극소수 플랫폼·AI 소유 계급과 프레카리아트(불안정 노동계급)로 양극화된 사회, 중국식 디지털 감시국가, 대량의 일자리 대체와 불안정 고용 확대 전망도 함께 소개된다.​

또한 트랜스휴먼·사이보그·포스트휴먼, 디지털 업로딩, 뇌-컴퓨터 인터페이스 등 인간과 AI의 융합 시나리오, 커즈와일의 2045년 특이점 예측, AI 파라미터·데이터 규모 확대에 따른 ‘스케일링 법칙’과 창발 현상 논쟁, 제프리 힌턴이 100조 파라미터 모델의 위험성을 언급한 대목 등을 인용하며, “능력을 넘어 의식·감정·자아까지 AI가 가질 수 있는가?”라는 철학적 질문도 던진다. 동시에 블랙박스 AI의 책임·편향·설명가능성 문제, XAI 요구, 자율주행·의료·사법 등 고위험 분야에서의 신뢰·규제 이슈도 정리한다.​

4. 인간 중심의 민주적 거버넌스와 부산

발제의 후반부는 ‘인간 중심의 민주적 거버넌스’를 화두로 삼아, 제도와 도시의 방향을 논한다. 대런 애쓰모글루의 ‘제도가 경제를 결정한다’는 관점을 예로 들며, 부산이 과거 성장억제·관리도시 정책으로 산업 기반을 잃었던 경험을 상기시키고, 디지털·AI 시대에 다시 비슷한 실책을 반복하지 말아야 한다고 강조한다.​

부산시는 제6차 정보화 기본계획(2026~2030)을 수립하며 디지털 전환·AI 혁신도시를 표방하고 있지만, 아직 디지털 전환도 충분히 이루지 못한 상태에서 AX(AI 전환)와 초거대 AI 인프라 논의만 앞서는 것이 아니냐는 문제 제기도 담고 있다. 전남 해남 솔라시티 AI 컴퓨팅 센터, 울산 초대형 데이터센터 유치 등 타 지역의 움직임과 비교하면서, 부울경이 전력·요금·재생에너지·인력·재원·거버넌스 측면에서 어떤 전략을 가지고 있는지 묻는다.​

발제자는 ‘AI 거버넌스’를 국제적으로 통용되는 개념(안전·윤리·책임 있는 AI 개발·운용·감독 체계)과 연결해 설명하면서, 부산·부울경 차원에서도 중앙정부 의존형이 아닌 지역 주도형 AI 거버넌스를 구축해야 한다고 주장한다. 이는 단지 기술·인프라 계획이 아니라,​ 인간 존엄·인권·노동·환경·민주주의 원칙을 분명히 하고 부울경 메가시티의 유통(부산·가덕신공항·북극항로), 제조(경남), 조선·자동차·정유(울산)를 AI와 결합하는 산업 전략, 디지털 전환과 제조 데이터화를 위한 펀드 조성, 과기부·산자부·중기청·지자체로 분산된 정책을 아우르는 지역 거버넌스, 청년을 ‘수출’하지 않고 지역에 정착시키는 인재 전략까지를 포괄하는 문제라고 본다.​

5. 결론: ‘인본(人本) AI 담론’의 출발점으로서 부산

마지막으로 발제자는, 급격한 변화가 산업혁명 이후 늘 일상이었듯, AI 전환도 피할 수 없는 흐름이지만, 그 방향은 인간을 중심에 두는가, 아니면 기술과 자본을 중심에 두는가에 따라 전혀 다른 미래가 열린다고 강조한다. 인본사회연구소의 7행시를 인용하며, “한 사람의 목소리, 사소한 눈물, 회한으로 남은 상처, 연대의 손길” 같은 구체적 인간 경험을 잊지 않는 AI 담론과 정책 설계가 필요하다고 호소한다.​

▶토론 : 토론자로 나선 조송현 인저리타임 대표는 “‘AI시대 인간의 미래’를 전망하는 논의는 많지만 이를 ‘부산의 내일’과 연결하는 논의는 이번이 처음이 아닌가 생각한다”며 의미를 부여했다. 조 대표는 부산의 AI 관련 산업 발전을 촉진하는 동시에 AI 시스템의 윤리적이고 인간의 존엄성을 해치지 않은 운영·규제하는 협치기구인 ‘부산AI거버넌스’ 설립을 제안했다.

이어 조송현 대표는 레이 커즈와일의 신작 『인류가 AI와 결합하는 순간 마침내 특이점이 시작된다』(Singularity is nearer : When we merge with AI)를 인용했다. 그는 “커즈와일에 따르면 2029년 인간과 기계를 구별할 수 없는 인공일반지능(AGI)이 출현하고, 2045년이면 인간과 AI기계의 완전한 융합으로 비생물학적 지능의 총합이 인간의 생물학적 지능을 초월하는 ‘특이점’에 도달한다고 주장했다. 그의 예측이 맞다면, 그때의 인간, 아니 인간과 기계가 융합한 ‘새로운 인간’을 무엇이라고 불러야 할까”라며 “‘우리는 앞으로 무엇을 인간이라고 정의할 것인가?’라는 새로운 인문학적 화두를 안게 되었다”고 말했다. 이어 조 대표는 “이번 포럼을 계기로 미래사회 예측과 인간 존재 논의를 중심으로 한 ‘AI 미래 담론’을 본격화해나가자”고 제안했다.

◆ 주제발표1(AI 기술과 위험사회 – 초지능 및 특이점 문제 등 예상되는 위험과 대응(김호림 동양대 AI빅데이터융합학과 교수)

이 발표는 “AI 기술과 위험 사회: 초지능 및 특이점 문제 등 예상되는 위험과 대응(해양도시 부산의 경우)”를 주제로, 생성형 AI 이후 도래할 초지능·특이점 시대의 위험을 ‘위험 사회’ 관점에서 진단하고, 이를 관리하기 위한 글로벌·지역·다학제 거버넌스 전략을 제시하는 내용이다.​

1. 문제 제기: AI와 ‘위험 사회’, 그리고 부산

김 교수는 먼저 포럼의 대주제 “AI 기술과 미래사회 진단”의 하위주제로서 “생성형 AI 이후 인간의 미래, 부산의 내일”을 소개한다. 핵심 기술로 생성형 AI를 들며, 텍스트·이미지·코드 등을 자율 생성하는 GPT 등 모델이 “창의성의 민주화”를 가져오는 동시에 윤리·사회적 딜레마를 심화시킨다고 짚는다.​

이때 분석의 기본 틀로 독일 사회학자 울리히 벡의 ‘위험 사회’ 개념을 채택한다. 산업화 이후 위험은 점점 내부에서 생성되고, 전 지구적으로 확산되며, 예측하기 어려운 양상을 띠게 되었고, AI는 그 위험을 증폭시키는 핵심 동인이라는 것이다. 특히 해양도시 부산의 경우, 항만·해양 산업에 스마트 포트, 자율 선박 등 AI 시스템이 도입될수록 사이버 공격, 시스템 오류가 곧바로 글로벌 공급망과 해양 생태계, 안보 위협으로 이어질 수 있다고 경고한다.​

2. AI 발전, 초지능·특이점, 부산의 스마트 해양도시

이어서 AI 기술 발전 상황과 초지능·특이점 논의를 정리한다. 생성형 AI·딥러닝의 발전과 함께 민간 투자액이 급증하고, 콘텐츠 생성·코딩·데이터 분석에서 실질적 경제 가치가 창출되며, 의료·교통·금융 등 전 분야 혁신을 이끄는 현실을 짚는다. 부산에서는 에코델타 스마트시티, 해상 안전용 AI 블랙박스, 자율 선박·스마트 포트(WAVE 프로젝트), Sea AI Forum 등 다양한 AI-해양 융합 사업이 빠르게 전개되고 있음을 사례로 든다.​

동시에, 닉 보스트롬이 말한 초지능(인간 지능을 전면적으로 초월한 AI)과 레이 커즈와일 등이 예측한 기술적 특이점(스스로 개선하는 AI가 지능 폭발을 일으키는 지점)을 소개한다. 커즈와일의 2045년 예측, 다른 기업·연구자들의 앞당겨진 특이점 전망 등을 언급하면서, 초지능과 특이점 논쟁이 단순 공상과학이 아니라 현 경제적 성과와 투자 흐름 속에서 현실적인 시나리오로 논의되고 있음을 강조한다. 이러한 상황에서 부산과 같은 해양 스마트시티는 특이점의 효과와 위험이 더 빠르게 표면화될 수 있는 ‘전위 공간’이 될 수 있다고 본다.​

3. 네 갈래 위험: 존재·불평등·윤리·환경

발표자는 초지능·특이점이 가져올 위험을 네 갈래로 나누어 진단한다.​

존재적 위험

초지능 AI가 인간 가치와 불일치할 경우, 자원 최적화 등의 명목으로 인간을 배제하는 결정을 내리거나, 인간 생존 자체를 위협하는 시나리오가 가능하다는 논의를 소개한다. 일부 연구·싱크탱크는 AI 재앙 확률을 0~10% 범위로 보며, 무시할 수 없는 수준의 ‘인류 멸종급’ 리스크라고 경고한다. 부산에는 자율 선박·항만 통제를 초지능이 장악했을 때, 시스템 실패가 글로벌 해운망과 지역 경제를 동시에 붕괴시키는 ‘존재적 위협’으로 이어질 수 있다는 식으로 적용한다.​

사회·경제적 불평등

AI 기술의 이익이 소수 빅테크·선진국에 집중되면서 국가 간·계층 간 불평등이 심화될 수 있고, 자동화로 인한 일자리 상실, 중산층의 축소, 디지털 격차 확대가 ‘경제적 특이점’으로 이어질 수 있다고 지적한다. 부산에서는 해운·항만 자동화와 자율 선박 도입이 어민·항만 노동자에게 구조적 실업과 소득 격차를 야기할 수 있다는 점을 우려한다.​

윤리적·안보적 위험

생성형 AI의 편향, 프라이버시 침해, 감시 강화, 딥페이크를 통한 여론 조작, 자율무기시스템(LAWS)의 윤리 문제, 특이점 이후 AI의 자율적 해킹·사이버 공격 가능성 등 윤리·안보 리스크를 폭넓게 검토한다. 부산 항만·선박 시스템은 GPS 스푸핑, 랜섬웨어, AI 강화 공격에 취약할 수 있으며, 이는 해양 안보와 국가 안보를 동시에 흔드는 요소가 될 수 있다고 분석한다.​

환경적 위험

초거대 모델 학습·추론에 필요한 막대한 전력 소비와 데이터센터 운영으로 인한 탄소 배출, 전자 폐기물 증가, 물 소비 문제를 지적한다. AI 성장으로 2030년까지 연간 수천만 톤의 CO₂가 추가 배출될 수 있다는 연구와, AI가 오히려 수억 톤의 배출 감축을 도울 수 있다는 상반된 전망을 함께 소개하며 양면성을 강조한다. 부산에서는 재생에너지 없이 AI 데이터센터를 운영할 경우 해양 산성화·생태계 파괴에 기여할 수 있고, 해양사고 예측 AI의 오류는 유류 유출 등 해양오염을 키우는 방향으로 작용할 수 있다고 경고한다.​

4. 대응 전략: ESG·글로벌 규범·부산형 해양 AI 거버넌스

이러한 위험 진단을 바탕으로, 발표자는 ESG(환경·사회·거버넌스) 관점에서 지속 가능한 AI 사회를 구축해야 한다고 제안한다.​

글로벌 거버넌스 강화

EU AI Act, UN·UNESCO·OECD의 AI 원칙 등 국제적 규제·윤리 프레임워크를 사례로 들며, 국가 간 공통 규범과 상호운용 가능한 표준이 필요하다고 본다. 초지능 개발에는 ‘세이프티 밸브’ 같은 안전장치를 의무화하고, 자율 선박·스마트 포트 등 해양 분야에서도 사이버보안·안전 표준을 국제적으로 정렬해야 한다고 주장한다.​

지역적 적응: 부산의 내일

글로벌 원칙을 부산의 해양·도시 맥락에 맞게 적용하는 ‘부산형 해양 AI 허브 전략’을 제안한다.​

여기에는 ▲부산 AI 마스터 플랜, 에코델타 스마트시티, WAVE 프로젝트, AI 기반 블랙박스 등 기존 사업에 인간 중심 설계와 위험평가 체계를 내장할 것 ▲해양 노동자 재교육·전환 지원으로 자동화로 인한 일자리 충격을 완화할 것 ▲데이터센터 재생에너지 사용 등으로 환경 리스크를 줄일 것 등이 포함된다.​

연구·교육 확대

K-12 AI·컴퓨터교육의 확산, AI 교육 시장 성장, NSF 등 해외 동향을 언급하며, 위험 관리와 윤리를 포함한 AI 리터러시 교육과 다학제 연구를 강화해야 한다고 강조한다. 부산에서는 자율 선박 시뮬레이션, 해양 AI 전문 교육 프로그램 등을 통해 지역 특화 인재를 양성할 필요가 있다고 제안한다.​

다학제·다중 이해관계자 접근

환경·사회·법·철학·기술이 결합된 다학제 프레임워크를 도입하고, 정부·기업·시민·연구기관이 함께 참여하는 다중 이해관계자 거버넌스 구조를 만들어야 한다고 주장한다. 블록체인 기반 투명한 AI 감사, 기업 거버넌스 개편, 프라이버시·보안·규제 준수의 교차적 대응 등을 구체 방안으로 제시하며, 부산에서는 해양과학·환경학·AI를 융합한 해양사고 예측 모델 개발을 사례로 든다.​

5. 결론: 양면적 미래, 선택의 문제

마지막으로 김 교수는, AI가 초인간적 생산성과 유토피아적 가능성을 여는 동시에, 존재적 위협과 불평등·환경·안보 리스크를 동반하는 양면성을 가진다는 점을 재확인한다. 샘 알트만의 ‘온화한 특이점’ 전망, AGI의 근시일 내 도래 예측, 윤리적 관리에 따른 유토피아 가능성 등 낙관적 시나리오와 함께, 브루킹스·RAND 등 기관이 강조하는 ‘즉각적 해악과 장기적 존재적 위험에 대한 동시 대응’ 필요성을 제시한다.​

김 교수는 부산에 대해서는, 자율 선박·스마트 포트를 통한 해양 경제 혁신 가능성과, 그에 수반되는 사이버·환경 위험을 함께 관리해야 한다는 점을 강조하며, “생성형 AI 이후 인간의 미래와 부산의 내일은 우리의 선택에 달려 있다”는 메시지로 발표를 맺는다.

◆ 주제발표2 : 기후위기 시대 재난재해와 AI가능성, 그리고 문제점과 제언 – 탈탄소 / 로컬 / 분산형 / 디지털 블랙아웃(안병천 (사)관악공동체라디오 대표)

이 발표는 “기후위기 시대 재난·재해와 AI의 가능성, 그리고 문제점과 제언 – 탈탄소 / 로컬 / 분산형 / 디지털 블랙아웃”을 주제로, 대형 산불 등 현실 재난 사례를 통해 디지털·AI 중심 재난대응 체계의 한계를 드러내고, 분산형·로컬 기반·저탄소형 AI 재난 시스템으로의 전환을 제안하는 내용이다.​

1. 출발점: 2025년 3월 경북 북부 대형 산불이 보여준 것

안병천 대표는 먼저 2025년 3월 경북 안동·청송·영덕 일대에서 발생한 대형 산불을 되짚는다. 초속 27m 강풍 속에 불길이 12시간 만에 50km 이상 이동하며 피해가 급속히 확산됐고, 이 과정에서 물·전기·통신이 동시에 끊기고 이동통신 3사 기지국 2,800여 개소가 먹통이 되는 초유의 사태가 벌어졌다.​

국가가 자랑하던 ‘재난로밍’도 소용없었고, 재난문자가 5시간 넘게 발송되지 않거나, 뒤늦게 발송된 문자마저 내용이 수차례 정정되는 혼선이 발생했다. 특히 고령층은 스마트폰을 사용할 줄 몰라 수십 건의 재난문자를 확인하지 못하거나, 아예 3G폰이라 문자를 수신조차 못하는 사례가 속출했다. 발표자는 이 사건이 “전기·통신이 끊기면 디지털은 아무 역할도 못 한다”는 사실과, 초연결·중앙집중형 재난안전망의 구조적 한계를 적나라하게 드러냈다고 지적한다.​

2. 기후위기 이후 재난의 양상: 복합재난과 초연결 체계의 취약성

이어 발표는 전 세계 재난 발생이 지난 20년간 1.7배 증가하고, 국내에서도 산불·화재·해양사고 피해 규모가 수배 이상 늘어난 통계를 제시한다. 이는 기후위기 속에서 재난이 더 자주, 더 크게, 더 예측하기 어렵게 발생하고 있음을 보여준다.​

이러한 재난은 단일 사건이 아니라, 하나의 재난이 다른 재난을 촉발하는 ‘복합재난’ 양상을 띤다. 예컨대 의성에서 시작된 산불이 강풍 속에 영덕까지 번져 1조 원이 넘는 피해를 낳았고, 도심에서는 폭우가 침수·정전·통신마비·교통마비로 연쇄 확산된다.​

이때 기존의 디지털 재난대응 시스템은 CCTV·드론·기상 데이터·인파 밀집도 등을 실시간으로 분석해 위험을 예측·경보할 수 있지만, 정작 전기와 통신이 끊기는 순간 시스템 전체가 마비되는 구조임이 확인됐다. 발표자는 “스마트폰이 끊길 수 있다가 아니라, 이미 끊긴다로 인식을 바꿔야 한다”며, ‘디지털 블랙아웃’ 상황을 전제로 한 재난 시스템 설계가 필요하다고 강조한다.​

3. 재난 대응에서 AI의 가능성과 세계 동향

이후 발표는 AI가 재난·재해 대응에서 보여주고 있는 긍정적 가능성을 다양한 국내외 사례로 소개한다.

국내 사례

* 대구시 ‘파이어워쳐(Firewatcher)’: AI 기반 열화상 CCTV·위성 정보로 연기와 불꽃을 조기 감지해 산불 감시 시간을 6~7분 단축, 인명 피해 없이 신속 진화에 기여.​

* 환경부·과기정통부 ‘AI 홍수안전망’: 하천 수위를 예측해 홍수 특보 발령 시간을 30분→10분으로 앞당기고, 내비게이션과 연동해 운전자에게 침수 위험을 경고.​

* 서울시 지능형 CCTV: 인파 밀집도를 자동 분석해 군중사고 위험을 단계별로 경고하고, 자치구·소방·경찰에 즉시 전파.​

* 세종시 AI 영상분석: CCTV에서 이상행동·싸움·실신 등 긴급 상황을 자동 감지해 골든타임 내 대응을 가능하게 함.​

해외 사례

* 미국 WIFIRE ‘FireMap’: 위성·기상·지형 데이터를 AI로 분석해 산불 확산 궤적을 실시간 예측, 소방 인력 배치와 진압 전략을 지원.​

* NOAA Big Data Project: 기상·해양 데이터를 AI로 분석해 허리케인·폭풍 예측 정확도를 높이고, 국가 차원의 재난 대응력을 강화.​

* 일본의 지진·쓰나미 조기경보 시스템, 중국의 국가자연재해 통합관리시스템(NNDIMS) 등도 AI를 재난 관리의 핵심 인프라로 활용하고 있다.​

또한 ‘디지털 트윈’ 기술을 통해 도시·하천·댐을 가상공간에 복제하고, 실시간 데이터를 연동해 침수·방류 시나리오를 사전에 모의하는 사례(부산 도시침수 통합관리, 댐 디지털 트윈 등)를 제시하며, AI가 예측을 넘어 위험 제어·사회 관리의 지능형 파트너로 진화하고 있다고 설명한다.​

4. AI 재난 시스템의 과제: 데이터·인프라·신뢰·법제

그러나 발표자는 AI 재난관리 시스템이 가진 잠재력을 온전히 실현하기 위해서는 네 가지 핵심 과제를 해결해야 한다고 지적한다.​

데이터 품질·연계성

부처별·기관별 데이터 포맷·주기가 제각각이고, 수도권 외 산간·농어촌은 실시간 데이터가 부족해 통합 분석과 초단기 예측이 어렵다. 고품질 재난 데이터 확보, 표준화, 국가 주도의 학습용 데이터셋 구축이 필요하다.​

인프라 격차

센서망·네트워크·서버 등 기본 인프라가 수도권과 비수도권·도시와 농어촌 간에 크게 차이 나, AI 시스템 운영의 지역 간 불균형이 발생한다.​

AI 모델의 신뢰성·윤리

블랙박스 특성 때문에 의사결정 근거가 불투명하고, 오작동 시 책임 소재가 모호하다. 새로운 유형의 재난에는 예측 정확도가 떨어질 수 있어, 전적으로 의존하기 어렵다.​

법·제도적 제약

개인정보 보호법으로 위치·영상 등 민감정보 활용에 제약이 있고, AI 분석 결과를 행정 조치의 근거로 인정할 법적 기반이 부족하다. 단기 실증 사업 위주라 안정적 운영 재원·제도가 뒷받침되지 않는 것도 문제로 지적된다.​

이에 대한 전략으로 발표자는 데이터 거버넌스 강화, 민관·국제 협력 확대, AI 윤리·사회적 신뢰 구축, 법·제도 정비라는 네 방향을 제시하며, 국제 표준(ITU, WMO 등)에 적극 참여하고, 인파사고 등 신규 재난 유형을 법령에 포함해 사전 예방을 의무화해야 한다고 강조한다.​

5. 남는 질문: 전기·통신이 끊기면 AI는 무엇을 할 수 있는가?

발표의 후반부에서 가장 중요한 전환점은, “전기와 통신이 끊겼을 때의 AI는?”이라는 질문이다. 안 대표는 다음과 같은 의문을 던진다.​

- 범용 AI가 모든 지역 맥락을 충분히 알고 있는가?

- 주요 통신사조차 해킹·장애에 취약한 상황에서 보안은 어떻게 할 것인가?

- 기후위기로 발생한 재난을 막기 위해, 다시 대규모 탄소를 배출하는 초거대 데이터센터·AI 인프라에 의존하는 것이 과연 타당한가?

-AI의 잘못된 판단은 누가, 어떻게 책임질 것인가?

이 질문들에 답하기 위해, 안 대표는 “초거대·중앙집중형 AI 의존에서 벗어나, 분산형·로컬·저탄소형 AI 인프라로 전환”할 것을 제안한다.​

6. 제언: 탈탄소·로컬·분산형·하이브리드 재난 대응 체계

안 대표는 균형 잡힌, 기후위기에 대응하는 AI 환경 조성을 위해 다음과 같은 방향을 제시한다.​

분산형 AI 인프라와 국산 NPU(On-device AI)

- 초거대 데이터센터 위주 정책에서 벗어나, 로컬 설치형 소규모 언어모델(SLM), 온디바이스 AI, 국산 NPU에 투자해 에지 단에서 작동하는 저전력·저탄소 AI를 확충할 것.​

- 재난 현장 가까이 있는 에지 서버(Local GPU/Edge Server)가 현장 데이터를 모아 경량 언어모델로 대피 방송 대본·구조 우선순위를 판단하도록 하는 구조를 제안한다.

전기·통신 독립성 확보

- ESS(에너지저장장치), 비상 발전기 등을 통해 전기가 끊겨도 일정 시간 작동 가능한 AI 시스템 구축.

- 로컬 5G, 와이파이 기반 폐쇄형 인트라넷 등으로 외부망이 끊겨도 최소한의 지역 내 통신이 유지되는 구조 설계.​

AI+RPA 하이브리드 구조와 인간 최종 판단

완전 자율형 AI가 아니라, 룰 기반 RPA와 결합한 하이브리드 구조로 신뢰성을 높이고, 최종 판단은 지역 전문가·공무원·공동체가 내리는 원칙을 유지해야 한다고 본다.​

이를 위해 지역 재난·재해 AI 전문가를 양성하고, 디지털 트윈을 통해 로컬 데이터를 꾸준히 생산·학습시키는 것이 중요하다.

AI와 아날로그(공동체 라디오 등)의 결합

통신망이 두절될 때를 대비해 공동체 라디오, 재해용 라디오 등 아날로그 음성 기반 안전망을 재구축할 것을 제안한다.

일본의 재해용 라디오 보급 사례, 관악구의회 재해라디오 연구회, 지역 공동체 라디오 등은 “AI가 예측·분석한 정보를, 전기·통신이 끊겨도 전달할 수 있는 마지막 보루”로 기능할 수 있다.​

지역 라디오는 해당 지역을 가장 잘 아는 사람들이 모여 있는 공간이자, 로컬 AI를 학습시킬 소스 데이터를 제공하는 협력 주체로도 중요하다고 강조한다.​

안 대표는, 중앙집중형·초거대 AI만을 ‘해결책’으로 보는 시각을 넘어서, 로컬 역량·분산·아날로그와의 결합을 중시하는 AI 재난 대응 패러다임이 마련될 때, 비로소 기후위기 시대에 걸맞은 지속가능한 안전망이 구축될 수 있다고 결론짓는다.

<대표기자>