AI를 '무기·안보' 관점에서 다루는 UN 회의가 제네바에서 열렸어 — 그리고 새 연구센터가 출범했어

AI를 '제품'이 아니라 '안보 변수'로 다루는 자리

우리가 평소 보는 AI 뉴스는 대부분 제품 이야기야. 새 모델, 더 빠른 속도, 더 싼 가격. 그런데 6월 18일부터 19일까지 제네바 팔레 데 나시옹에서 열린 **UNIDIR(UN군축연구소)의 '글로벌 AI 안보·윤리 컨퍼런스 2026'**은 결이 완전히 달라. 여기선 AI를 '편리한 도구'가 아니라 **'국제 평화와 안보를 흔들 수 있는 변수'**로 놓고 봐.

의제만 봐도 무게가 느껴져. 자율무기 시스템(autonomous weapons), AI 기반 감시(surveillance), AI가 만드는 허위정보(disinformation), 그리고 이걸 어떻게 규율할지(거버넌스 프레임워크). 참가자도 일반 개발자 콘퍼런스와 달라. 외교관, 정책 입안자, 군 관계자, 연구자, 시민사회 단체, 국제기구가 한자리에 모였어. 행사는 현장과 온라인을 병행했고, 마이크로소프트가 공동 후원했어.

그리고 이번 회의에서 상징적인 일이 하나 있었어. UNIDIR이 'AI·평화·안보 연구센터(Centre of Excellence on AI, Peace and Security)'를 새로 출범시킨 거야. 단발성 회의로 끝내지 않고, AI 안보 문제를 지속적으로 연구할 상설 기구를 만들었다는 뜻이지.

등장인물 — UNIDIR, 각국 정부, 그리고 마이크로소프트

먼저 UNIDIR. UN 산하 군축연구소로, 원래 핵무기·재래식 무기 같은 전통 안보 의제를 다뤄온 기관이야. 그런 곳이 AI를 핵심 의제로 끌어올렸다는 것 자체가, AI가 이제 '군축·안보의 영역'으로 들어왔다는 신호야. 무기 통제를 고민하던 기관이 알고리즘을 고민하기 시작한 거지.

다음은 각국 정부와 군 관계자. 이게 이 회의의 독특한 점이야. 보통 AI 거버넌스 논의는 기술자와 윤리학자 중심인데, 여기엔 실제로 무기와 안보를 다루는 사람들이 들어와. 자율무기를 어디까지 허용할지, AI 감시를 어떻게 통제할지 같은 문제는 결국 국가 간 합의가 필요하거든. 외교관이 같은 테이블에 앉아야 하는 이유야.

세 번째는 마이크로소프트. 민간 빅테크가 UN 안보 회의를 공동 후원한다는 건 미묘한 의미를 가져. AI를 만드는 회사들이 그 기술의 안보적 함의에 대한 논의에 직접 참여한다는 거니까. 기술을 만드는 쪽과 규율하는 쪽이 분리돼 있지 않고, 같은 방에서 이야기를 나눈다는 그림이야. 이건 협력일 수도, 견제일 수도 있어.

핵심 내용 — 무엇을 논의했나

의제	내용
자율무기	인간 통제 없이 작동하는 무기 시스템의 허용 범위
AI 감시	국가의 AI 기반 감시와 인권의 충돌
허위정보	AI가 생성하는 가짜 정보의 안보 위협
거버넌스	군사 영역 AI에 대한 규범·규제·국제 협력
신설 기구	AI·평화·안보 연구센터(Centre of Excellence) 출범

표를 보면 회의의 무게가 보여. 우선 자율무기가 핵심 의제야. "인간이 최종 결정을 내리지 않는 무기를 어디까지 허용할 것인가"는 지금 국제 안보에서 가장 첨예한 질문 중 하나거든. AI가 발사 결정을 내리는 시스템이 현실화되면, 전쟁의 양상 자체가 바뀌어. 이걸 사전에 규율하지 않으면 나중엔 통제가 불가능해질 수 있어.

두 번째, **두 갈래 트랙(기술과 거버넌스)**으로 회의가 구성됐다는 점. 기술자가 "이게 기술적으로 가능하다/불가능하다"를 말하고, 정책 담당자가 "그럼 이걸 어떻게 규율할까"를 논의하는 구조야. 이 둘이 분리되면 규제가 현실을 못 따라가거나, 기술이 규제 없이 폭주하거든. 두 트랙을 한 회의에 붙인 건 그 간극을 좁히려는 설계야.

세 번째, 상설 연구센터의 출범. 회의는 이틀이면 끝나지만, AI 안보 문제는 계속 진화해. 그래서 UNIDIR은 일회성 토론을 넘어 지속적으로 연구하고 권고를 내놓을 상설 기구를 만든 거야. 이건 "AI 안보를 일시적 화두가 아니라 장기 의제로 다루겠다"는 의지의 표현이야.

각자의 이득 — 왜 이런 회의가 필요한가

국제 사회의 이득은 '파국적 사고를 미리 막는 것'이야. 핵무기 역사가 가르쳐준 게 있다면, 위험한 기술은 통제 규범이 늦으면 돌이키기 어렵다는 거였어. AI 무기도 마찬가지야. 자율무기가 광범위하게 배치된 뒤에 "이건 위험하다"고 깨달으면 이미 늦어. 이런 회의는 그 '늦기 전'에 합의의 토대를 닦는 자리야.

각국 정부에겐 '규칙을 함께 정하는 것' 자체가 이득이야. AI 무기 경쟁이 무규칙 상태로 가면 모두가 더 위험해지거든. 차라리 공통의 선을 합의해두면 예측 가능성이 생기고, 군비 경쟁의 불안정성을 줄일 수 있어. 핵무기 시대의 군축 조약들이 했던 역할을 AI 시대에도 시도하는 거지.

시민사회와 인권 단체에겐 AI 감시 문제를 국제 무대에 올릴 통로야. 국가가 AI로 시민을 감시하는 문제는 한 나라 안에서만 해결하기 어렵거든. 국제 규범이 생기면 그게 각국의 과도한 감시를 견제하는 근거가 될 수 있어.

과거 유사 사례 — 군축 외교의 역사에서 배우기

AI 안보 거버넌스는 새로운 영역 같지만, 사실 인류는 비슷한 도전을 겪어봤어. 냉전 시기의 핵 군축 협상이 대표적이야. 처음엔 "통제 불가능한 기술"처럼 보였던 핵무기도, 수십 년에 걸친 외교와 조약으로 일정한 규범 안에 들어왔어. 완벽하진 않았지만, 최악의 시나리오를 막는 데는 기여했지. UNIDIR이 자율무기를 다루는 방식도 이 군축 외교의 전통 위에 서 있어.

성공 사례의 교훈은 '늦기 전에, 그리고 함께'였어. 강대국 일부만 합의하고 나머지가 빠지면 규범이 힘을 잃어. 그래서 이런 회의가 외교관·군·시민사회를 다 끌어들이는 거야. 반대로 실패 사례는, 기술 발전 속도를 외교가 못 따라가 규범이 사후약방문이 된 경우야. AI는 핵보다 훨씬 빨리 변하니, 이 함정에 빠질 위험이 더 커.

다만 한계도 분명해. 이런 국제 회의의 권고는 강제력이 약한 경우가 많아. '합의했다'와 '실제로 지킨다' 사이엔 늘 간극이 있고, AI 무기처럼 군사적 우위와 직결된 영역에선 각국이 규범보다 자국 이익을 앞세우기 쉬워. 그래서 상설 연구센터 같은 지속 장치가 중요한 거야 — 한 번의 선언이 아니라 끈질긴 추적이 필요하거든.

경쟁자 카운터 플레이 — 거버넌스의 주도권

AI 거버넌스 영역에서도 사실상의 '주도권 경쟁'이 벌어지고 있어. EU는 AI Act 같은 규제로 앞서가고, 미국·중국은 각자의 셈법으로 움직이고, UN 기구들은 국제 규범의 틀을 짜려 해. UNIDIR이 안보·군축 관점에서 AI를 다루는 건, 이 거버넌스 지형에서 'AI의 군사적 차원'이라는 특정 영역을 선점하는 의미가 있어.

빅테크 입장에선 이런 논의에 참여하는 게 양면적이야. 한편으론 규제가 자기 사업을 제약할 수 있으니 경계 대상이지만, 다른 한편으론 논의에 일찍 참여해 규범의 방향에 영향을 주는 게 유리하거든. 마이크로소프트의 공동 후원은 이 '참여를 통한 영향력' 전략으로 읽을 수 있어.

그래서 뭐가 달라지는데

AI 정책·거버넌스에 관심 있는 사람이라면, 이번 회의는 AI 논의가 '제품·윤리'를 넘어 '안보·군축'으로 확장됐다는 분명한 이정표야. 앞으로 AI 규제 논의에서 군사적 차원이 점점 더 중요한 축이 될 거야.

일반 사용자에게 당장의 직접적 영향은 적어. 다만 자율무기·AI 감시 같은 의제가 국제 규범으로 정리되는지는, 장기적으로 우리가 사는 세계의 안전과 직결돼. 먼 이야기 같아도 결국 모두의 문제거든.

AI 업계 종사자라면, 기술의 안보적 함의가 점점 더 무겁게 다뤄진다는 걸 염두에 둘 만해. 군사·감시 영역에 닿는 기술일수록 규범과 규제의 시선이 빨리 따라붙을 거야.

한 걸음 더 — 왜 '자율무기'가 가장 뜨거운 의제인가

이번 회의의 여러 의제 중에서도 자율무기(LAWS, Lethal Autonomous Weapons Systems)가 유독 첨예한 데는 이유가 있어. 핵심은 '인간 통제(human control)'의 경계가 어디냐는 거야. 무기에 AI가 들어가는 건 이미 광범위하게 진행 중이지만, 문제는 '발사·살상 결정을 인간이 내리느냐, 알고리즘이 내리느냐'야. 표적 식별까지는 AI가 돕더라도 방아쇠는 사람이 당기는 시스템과, 식별부터 타격까지 AI가 자율적으로 완결하는 시스템 사이엔 윤리적·법적으로 엄청난 간극이 있어. 이 경계선을 국제적으로 어디에 그을 것인가가 회의의 핵심 쟁점이야.

여기서 'AI 감시'와 '허위정보' 의제가 자율무기와 연결돼. 세 의제는 따로 노는 게 아니라 '국가가 AI로 행사하는 강제력'이라는 공통 줄기를 갖거든. 자율무기는 물리적 강제력, AI 감시는 통제·억압의 도구, AI 허위정보는 여론과 인식을 조작하는 비물리적 무기야. 이 셋이 결합되면 한 국가가 '판단-감시-여론'의 전 영역을 알고리즘으로 장악할 수 있다는 디스토피아적 시나리오가 그려져. UNIDIR이 이 세 의제를 한 회의에 묶은 건, 그것들이 결국 하나의 문제 — AI 시대 국가 권력의 견제 — 라는 인식 때문이야.

그렇다면 이런 회의의 현실적 한계는 뭘까. 가장 큰 건 '강대국의 비대칭적 이해관계'야. AI 군사 기술에서 앞선 나라들은 규범으로 자신의 우위를 묶이는 걸 꺼리고, 뒤처진 나라들은 강한 규범을 원해. 핵 군축 협상에서도 똑같은 긴장이 있었지. 그래서 이런 회의의 성과는 '완벽한 금지 조약'보다는 '최소한의 공통 규범과 투명성 메커니즘'을 만드는 데서 시작되는 경우가 많아. 작아 보여도, 아무것도 없는 것보다는 훨씬 나은 출발점이야.

상설 연구센터(Centre of Excellence)의 출범이 의미 있는 것도 그래서야. 한 번의 선언으로 끝나는 회의는 강대국들이 적당히 립서비스만 하고 흘려보내기 쉽거든. 하지만 상설 기구가 지속적으로 데이터를 모으고, 사례를 추적하고, 권고를 갱신하면, 규범 논의가 '이벤트'가 아니라 '과정'이 돼. 핵 군축이 수십 년의 끈질긴 외교로 조금씩 전진했듯, AI 안보 규범도 단번에 완성되는 게 아니라 이런 상설 장치를 통해 천천히 쌓여갈 거야. 이번 회의의 가장 큰 성과는 어쩌면 의제 자체보다, 그 의제를 계속 다룰 '제도'를 만들었다는 점일지도 몰라.

그리고 이 모든 논의가 우리가 매일 보는 'AI 제품 뉴스'와 무관해 보여도, 실은 같은 기술의 양면이라는 걸 기억할 필요가 있어. 자율무기에 들어가는 표적 인식, AI 감시에 쓰이는 영상 분석, 허위정보를 만드는 생성 모델은 모두 우리가 일상에서 쓰는 챗봇·이미지 생성·음성 인식과 같은 뿌리에서 나온 기술이거든. 즉 '편리한 AI'와 '위험한 AI'는 다른 기술이 아니라 같은 기술의 다른 쓰임이야. 그래서 AI 안보·윤리 논의는 군사 전문가만의 영역이 아니라, AI를 만들고 쓰는 모든 사람이 결국 마주하게 될 질문이야. UNIDIR 같은 기구가 이 논의를 국제 무대로 끌어올리는 건, 기술의 발전 속도가 규범의 형성 속도를 압도하지 않도록 '브레이크'를 만드는 일이야. 그 브레이크가 충분히 강할지, 강대국의 이해관계 앞에서 얼마나 작동할지는 미지수지만, 적어도 '논의의 장 자체가 없는 것'보다는 분명히 나은 출발이야. AI가 인류에게 도구로 남을지 통제 불능의 변수가 될지는, 결국 이런 자리에서 쌓이는 합의의 두께에 달려 있을지도 몰라.

흥미로운 대비를 하나 두고 글을 마무리하자. 같은 주, 같은 'AI'를 두고 서울에선 넥스트라이즈가 '기회와 성장'을 이야기했고, 제네바에선 UNIDIR이 '위험과 통제'를 이야기했어. 한쪽은 AI를 산업 도약의 엔진으로, 다른 쪽은 안보를 흔들 변수로 본 거지. 그런데 이 둘은 모순이 아니라 동전의 양면이야. 강력한 기술일수록 거대한 기회와 거대한 위험을 동시에 품거든. 핵에너지가 발전소와 폭탄을 동시에 낳았듯이 말이야. 성숙한 사회라면 한쪽만 보지 않아. 기회는 키우되 위험은 규범으로 다스리는 균형을 찾는 거지. UNIDIR의 회의가 던지는 메시지는 결국 그거야 — AI의 미래를 시장의 속도에만 맡기지 말고, 그 옆에 규범과 합의라는 또 다른 속도를 나란히 키워야 한다는 것. 그 두 속도의 균형을 어떻게 잡느냐가 앞으로 우리 모두가 함께 풀어야 할 숙제로 남아.

🥄 남은 궁금증 세 가지

— 그래서 나랑 무슨 상관이야? 당장 직접적인 영향은 거의 없어. 다만 자율무기·AI 감시 같은 게 국제 규범 안에 들어오는지는 장기적으로 우리가 사는 세계의 안전과 연결돼. 먼 이야기처럼 보여도 결국 모두의 문제야.

— 이런 회의가 실제로 효과가 있어? 단정하긴 일러. 국제 회의 권고는 강제력이 약한 경우가 많거든. 다만 핵 군축 역사가 보여주듯, '늦기 전에 함께 규범을 만드는' 시도 자체가 최악을 막는 데는 의미가 있어. 상설 센터를 만든 것도 그래서야.

— 마이크로소프트가 후원하는 게 괜찮은 거야? 양면적이야. 기술을 만드는 회사가 안보 논의에 참여하는 건 협력일 수도, 영향력 행사일 수도 있어. 규범의 방향에 일찍 개입하려는 의도가 섞여 있다고 보는 게 현실적이고, 그게 꼭 나쁜 것만은 아니야.

참고 자료

• Global Conference on AI, Security and Ethics 2026 — UNIDIR
• UNIDIR's Global Conference on AI, Security and Ethics — UNIDIR
• Global Conference on AI, Security and Ethics 2026 (18-19 June 2026) — Indico.UN
• UNIDIR conference to spotlight how AI is reshaping global security — UNIDIR

수치는 발표 시점 기준이라 바뀔 수 있어.