AI를 '어떻게 다스릴지' 지구 전체가 처음으로 한 테이블에 앉았어

7월 6일과 7일, 스위스 제네바에서 좀 특별한 회의가 열렸어. 이름은 'UN 첫 AI 거버넌스 글로벌 대화(Global Dialogue on AI Governance)'. 이름만 보면 흔한 국제회의 같은데, 사실 이게 처음이라는 게 핵심이야. 인류가 AI라는 기술을 놓고 "이거 누가, 어떻게 규칙을 만들 거냐"를 놓고 UN이라는 무대에서 전 세계를 다 불러 모아 이야기한 건 이번이 최초거든. 169개국 대표단이 왔고(UN 쪽 집계로는 170개국 넘게 참여했다고도 해), 과학자·창업가·시민사회·기술 커뮤니티까지 뒤섞였어.

분위기를 딱 보여주는 한 마디가 있어. 안토니우 구테흐스 UN 사무총장이 개막 연설에서 이렇게 말했거든. "민간용으로 설계된 점점 강력해지는 AI 칩이 전장으로 옮겨가고 있고, 거기선 이미 '킬러로봇'이 표준이 되고 있다." 그러니까 우리가 챗봇 돌리라고 만든 그 칩들이, 사람 죽이는 무기로 전용되고 있다는 경고야. 그는 "기계가 스스로 표적을 고르고 사람 목숨을 빼앗는 것 — 인간의 통제와 판단 없이 — 그건 도덕적으로 역겹다"고까지 했어.

이게 왜 지금이냐고? 타이밍이 딱 맞물렸어. 이번 대화는 세계 최대 AI 국제행사인 'AI for Good 서밋'과 같은 주에 제네바에서 나란히 열렸어. 그리고 이 '글로벌 대화'라는 기구 자체가 2024년 UN이 채택한 '글로벌 디지털 콤팩트(Global Digital Compact)'에서 태어난 두 개의 새 장치 중 하나야. 나머지 하나가 바로 이번에 예비 보고서를 들고 나온 '독립 국제 AI 과학패널(Independent International Scientific Panel on AI)'이고. 말하자면 이번 회의는 UN이 몇 년간 준비한 'AI 거버넌스 엔진'을 처음으로 실제로 켜본 순간이었던 거야.

무대에 오른 사람들 — 사무총장, 노벨급 과학자, 그리고 169개국

먼저 주인공 구테흐스. 그는 이번에 그냥 걱정만 늘어놓은 게 아니라 구체적인 요구를 던졌어. 핵심은 '킬러로봇 금지'야. 정식 용어로는 '치명적 자율무기(lethal autonomous weapons)' — 인간의 통제 없이 스스로 표적을 선택하고 공격하는 무기. 구테흐스는 이걸 "국제법으로 금지해야 한다"고 했고, "어떤 결정은 영원히 인간의 몫으로 남아야 한다. 그중에서도 사람 목숨을 빼앗는 결정보다 더한 건 없다"고 못 박았어. 사실 그가 킬러로봇 금지를 외친 게 이번이 처음은 아니야. 근데 이번엔 그 요구를 'AI 전체를 어떻게 다스릴 것인가'라는 훨씬 큰 그림 안에 박아 넣었다는 게 달라.

두 번째 인물은 요슈아 벤지오(Yoshua Bengio). 딥러닝을 만든 세 명의 '대부' 중 한 명으로 튜링상을 받은 그 사람이야. 이번엔 UN 독립 국제 AI 과학패널의 공동의장 자격으로 나왔어. 그가 이끄는 패널이 내놓은 예비 보고서의 메시지는 서늘해. "AI는 단독으로도, 혹은 악의적 사용자의 손을 거쳐서도 치명적 피해를 초래할 수 있다"는 거야. 벤지오는 "이 기술이 지구의 힘의 균형 자체를 바꿔놓을 수 있다"고 했어. 그리고 이 패널이 강조한 가장 뼈아픈 지점 — 기술이 과학적 이해와 정부의 대응 능력을 이미 앞질러 달리고 있다는 거야.

세 번째는 안나레나 베어보크(Annalena Baerbock), UN 총회 의장이야. 독일 외교장관 출신인 그가 던진 숫자가 회의장을 얼어붙게 했어. 지금 떠도는 딥페이크의 99%가 성적인 내용이고, 그중 96%가 여성과 여자아이를 표적으로 한다는 거야. 그러면서 "어떤 아이도 규제 없는 AI의 실험용 기니피그가 되어선 안 된다"고 했지. 추상적인 'AI 위험론'이 아니라, 지금 당장 벌어지고 있는 구체적 피해를 들이민 거야.

그리고 무대 뒤에서 이 모든 판을 짠 사람이 아만딥 싱 길(Amandeep Singh Gill), UN 디지털·신흥기술 특사야. 그가 "170개국 넘는 대표단과 과학자, 기업가, 시민사회가 한자리에 모였다"고 회의의 규모를 정리했어. 여기에 169개국의 정부 대표들 — 미국·중국·EU 같은 AI 강국부터 데이터센터 하나 없는 개발도상국까지 — 이 같은 방에 앉았다는 게 이번 그림의 무게야.

실제로 뭘 논의했나 — 네 가지 축과 킬러로봇

말만 무성했던 건 아니야. 이번 대화에서 대략 네 가지 우선순위로 공감대가 모였어. 공통 안전 기준, 인권에 기반한 명확한 '레드라인', 개발도상국을 위한 역량 강화, 그리고 AI의 환경 발자국에 대한 투명성. 여기에 구테흐스가 구체적인 이니셔티브 묶음을 얹었어.

가장 눈에 띈 건 'AI 아동 안전 서약(Child Safety Pledge)'이야. 규칙이 세 개인데 되게 단순하고 강해. ① 안전을 증명하라 — 어떤 기업도 아동이 접근할 수 있는 AI를 아동 특화 안전 테스트 없이 배포해선 안 된다. ② 성적 학대에 무관용 — 어떤 기업도 자사 AI가 아동 성착취물을 생성하도록 놔둬선 안 된다. ③ 위기의 아이를 절대 혼자 두지 마라 — 아이가 고통의 신호를 보이면 시스템은 멈추고 진짜 사람에게 연결해야 한다.

두 번째는 개발도상국 역량 강화야. 구테흐스가 든 대비가 날카로워. 민간의 AI 인프라 투자가 5000억 달러(약 반 조 달러)에 육박하는데, 개발도상국을 향한 공공 투자는 사실상 무시할 수준이라는 거야. 그래서 'AI 역량 강화를 위한 글로벌 네트워크'와 '글로벌 펀드'를 제안했어. 20개국 넘는 나라가 여기에 힘을 보태기로 했고.

세 번째는 환경 투명성. 'AI 환경 투명성 이니셔티브'는 AI의 탄소·물·토지 발자국을 공개하게 하자는 거야. 구테흐스가 든 숫자가 충격적이야. 2030년이면 데이터센터가 소비하는 전력이 전 세계 대부분 국가의 전력 소비를 넘어설 수 있고, 연간 물 사용량은 사하라 이남 아프리카 13억 명이 1년간 쓸 물에 맞먹을 수 있대.

그리고 이 모든 걸 관통하는 배경음이 '속도'야. 구테흐스는 "인터넷은 10억 명에게 닿는 데 15년이 걸렸는데, AI는 2년 만에 도달했다"고 했어. 또 "기계가 만든 거짓말이 이제 진실만큼이나 설득력 있게 사람을 홀릴 수 있고, 진짜 증거는 가짜라고 치부될 수 있다"고도 했지. 규칙 만드는 속도가 기술을 못 따라간다는 위기감이 회의 전체를 지배했어.

항목 내용
회의 이름 UN 첫 AI 거버넌스 글로벌 대화
일시·장소 2026년 7월 6~7일, 제네바
참여 규모 169개국(UN 집계 170개국+) 대표단
핵심 인물 구테흐스(사무총장), 벤지오(과학패널 공동의장), 베어보크(총회 의장), 길(디지털 특사)
최대 이슈 킬러로봇(치명적 자율무기) 국제법 금지
4대 우선순위 공통 안전기준·인권 레드라인·개도국 역량강화·환경 투명성
새 이니셔티브 아동 안전 서약, 글로벌 역량 네트워크·펀드, 환경 투명성 이니셔티브
뿌리 2024 글로벌 디지털 콤팩트(과학패널 + 글로벌 대화)
다음 회의 2027년 5월, 뉴욕

각자 뭘 얻어가나

UN 입장에선 이번 회의 자체가 성과야. 지난 몇 년간 기후처럼 AI에도 'IPCC 같은 과학 자문 기구'와 '정기적인 정부 간 대화 테이블'이 필요하다는 주장이 계속 나왔거든. 이번에 과학패널이 예비 보고서를 들고 나오고, 글로벌 대화가 실제로 169개국을 앉혔다는 건 그 청사진이 종이에서 현실로 넘어왔다는 뜻이야. UN은 'AI 시대에도 다자주의가 작동한다'는 걸 보여주고 싶었고, 최소한 판은 깔았어.

구테흐스 개인에겐 '킬러로봇 금지'를 다시 세계 무대 중앙으로 끌어올린 게 소득이야. 이 이슈는 오래된 재래식무기금지협약(CCW) 틀 안에서 몇 년째 제자리걸음이었는데, AI 거버넌스라는 더 큰 물결에 태워서 다시 추진력을 얻으려는 거지. "사람 목숨을 빼앗는 결정은 영원히 인간의 몫"이라는 문장은 앞으로 두고두고 인용될 거야.

개발도상국들에겐 실질적인 당근이 걸렸어. 역량 강화 네트워크와 글로벌 펀드는 'AI 격차'를 좁혀줄 수 있는 카드거든. 지금 AI의 연산력·데이터·인재가 소수 기업과 소수 국가에 몰려 있는데, 이 나라들은 그 판에서 완전히 소외돼 있어. UN 테이블에 앉는 것만으로도 목소리를 낼 창구가 생기는 거야.

반대로 AI 빅테크들에겐 압박이 얹혔어. 아동 안전 서약, 환경 발자국 공개 같은 요구는 결국 규제와 비용으로 돌아오니까. 다만 이게 '법'이 아니라 '서약'과 '대화'라는 점에서, 당장 발등에 불이 떨어졌다고 보긴 어려워. 그래서 이번 회의를 두고 '선언은 거창했지만 강제력은 약하다'는 냉정한 평가도 함께 나왔어.

과거 유사 사례 — 성공과 실패

이런 '국제 공동 거버넌스' 시도가 처음은 아니야. 성공 사례로 자주 꼽히는 게 기후 분야의 IPCC(기후변화 정부간협의체)야. 과학자들이 중립적으로 데이터를 정리해 각국 정부에 넘기면, 정부들이 그걸 근거로 협상하는 구조. 이번 UN 과학패널이 대놓고 벤치마킹한 모델이 바로 이거야. IPCC는 파리협정 같은 실제 합의를 끌어내는 데 결정적 역할을 했지. 과학과 정치를 분리해서, 사실은 사실대로 쌓아두게 한 게 힘이었어.

반대로 뼈아픈 실패 사례도 있어. 앞서 말한 CCW 안에서의 자율살상무기 금지 논의야. 10년 넘게 회의를 거듭했지만, 강대국들이 군사적 우위를 포기하기 싫어하면서 구속력 있는 조약은 끝내 못 만들었어. 만장일치 방식이라 한 나라만 반대해도 멈추거든. 구테흐스가 이번에 굳이 킬러로봇 이슈를 UN 총회 차원으로 끌어올리려는 것도, 그 벽을 우회해보려는 시도로 읽혀.

또 하나 참고할 건 데이터·개인정보 분야야. EU의 GDPR은 한 지역의 규제가 사실상 전 세계 표준이 되는 '브뤼셀 효과'를 만들어냈지. 반면 UN 차원의 글로벌 프라이버시 조약은 끝내 나오지 못했어. 여기서 얻을 교훈은 명확해 — 진짜 강제력은 UN의 선언보다, 큰 시장을 쥔 규제 당국의 법에서 나온다는 거야. 이번 대화가 '대화'에 그치느냐, 실제 각국 입법으로 번지느냐가 성패를 가를 거야.

경쟁자 카운터 플레이

UN이 판을 깔았지만, AI 규칙을 만들려는 플레이어는 UN만이 아니야. 가장 앞서 있는 건 EU야. 이미 'AI법(AI Act)'을 발효시켜서 위험 등급별로 AI를 규제하는 세계 최초의 포괄 법제를 굴리고 있어. EU는 "우리는 이미 법이 있다"는 자신감으로, UN 테이블에선 자기 모델을 글로벌 표준으로 밀 가능성이 커.

미국은 결이 달라. 규제보다 혁신과 산업 주도권을 우선하는 기조라, 강한 국제 구속력에는 대체로 신중해. 자국 빅테크의 손발을 묶는 조약엔 소극적일 수밖에 없어. 특히 킬러로봇 같은 군사 이슈는 안보 이해와 직결돼서, 미국·러시아·중국 같은 군사 강국들이 UN의 전면 금지 요구에 순순히 응할지는 회의적이야. 이게 이번 논의의 가장 큰 현실적 벽이야.

중국은 또 자기만의 셈법이 있어. 국내에선 강한 AI 규제를 이미 시행하면서, 국제 무대에선 '개발도상국의 대변자' 포지션을 취해 미국·EU와 다른 축을 만들려 해. 이번 회의의 '개도국 역량 강화' 어젠다는 중국이 파고들기 좋은 틈이기도 하지.

그리고 잊으면 안 될 플레이어가 AI 기업들 자신이야. 오픈AI·구글·앤트로픽 같은 곳들은 '자율 규제'와 '자발적 안전 서약'을 앞세워 왔어. 정부의 강한 규제가 오기 전에 스스로 기준을 세워 주도권을 쥐려는 전략이지. 이번 아동 안전 서약도 결국 기업들이 얼마나 진지하게 이행하느냐에 달렸는데, 과거 자발적 서약들이 흐지부지된 전례가 많아서 회의적인 시선도 만만찮아.

그래서 뭐가 달라지는데

일반 사용자 입장에선 당장 체감되는 변화는 거의 없어. 오늘 쓰던 챗봇이 내일 갑자기 달라지진 않으니까. 다만 방향은 분명해. 아동 안전, 딥페이크, AI가 만든 가짜 정보 같은 문제들이 '국제적으로 규제해야 할 대상'으로 공식 지정됐다는 거야. 몇 년 뒤엔 AI 서비스에 '아동 안전 인증'이나 '환경 발자국 표시' 같은 게 붙는 걸 볼 수도 있어.

AI 업계 종사자나 스타트업이라면 흐름을 읽어둬야 해. 안전 테스트, 콘텐츠 필터링, 환경 데이터 공개 같은 요구가 지금은 '서약' 수준이지만, EU AI법처럼 결국 법제화될 신호탄일 수 있거든. 미리 준비한 곳과 아닌 곳의 격차는 나중에 규제가 실제로 떨어질 때 확 벌어질 거야.

정책·외교 쪽에 관심 있는 사람에겐 이번이 중요한 이정표야. AI가 이제 기후·핵무기처럼 'UN이 다루는 글로벌 의제'의 반열에 올랐다는 신호거든. 2027년 5월 뉴욕에서 열릴 다음 세션이 진짜 시험대야. 이번 제네바가 '문제 제기'였다면, 뉴욕은 '구속력 있는 뭔가를 만들어낼 수 있느냐'를 보여줘야 하니까.

개발도상국의 개발자나 창업가에겐 오히려 기회일 수 있어. 역량 강화 네트워크와 글로벌 펀드가 실제로 돌아가기 시작하면, 인프라와 교육 자원이 흘러들 통로가 열리는 거니까. 물론 '실제로 돈이 흐르느냐'가 관건이지만.

🥄 남은 궁금증 세 가지

— 그래서 나랑 무슨 상관이야? 직접적인 영향은 거의 없어. 다만 네가 쓰는 AI 서비스의 아동 보호, 딥페이크 대응, 환경 공개 같은 게 앞으로 강화되는 방향으로 갈 가능성이 커. 특히 아이를 키우거나 딥페이크 피해가 걱정된다면 반가운 신호야.

— 이게 진짜 킬러로봇을 금지시킬 수 있어? 단정하긴 일러. 구테흐스가 강하게 밀고는 있지만, 미국·러시아·중국 같은 군사 강국이 자국 무기 개발을 포기할지가 관건이야. 과거 CCW에서 10년 넘게 막혔던 이슈라, 이번 UN 테이블로 옮긴다고 바로 뚫린다는 보장은 없어.

— 이번 회의가 EU AI법보다 앞선 거야? 성격이 달라. EU AI법은 실제 강제력 있는 '법'이고, 이번 UN 대화는 아직 '선언과 합의의 장'이야. 강제력만 보면 EU가 앞서 있지만, 169개국을 한 테이블에 앉힌 '범위'로는 UN이 유일해. 둘은 경쟁이라기보다 층위가 다른 셈이야.

참고 자료

수치는 발표 시점 기준이라 바뀔 수 있어.