가명 처리로는 안 되는 학습이 있다는 전제에서 출발해

개인정보보호법 개정안이 국회 정무위원회를 통과했어. 핵심은 AI 학습용 개인정보 활용 특례야.

지금까지 한국에서 개인정보를 AI 학습에 쓰려면 원칙적으로 두 가지 길밖에 없었어. 정보 주체에게 별도로 동의를 받거나, 가명·익명 처리를 해서 개인을 식별할 수 없게 만들거나. 개정안은 세 번째 길을 만들어. 일정 조건을 갖추면 동의 없이 원본 개인정보를 학습에 쓸 수 있게 하는 것이야.

조건은 세 가지고, 하나라도 미달하면 안 돼.

  1. 익명·가명 처리만으로는 AI 개발이 곤란할 것
  2. 안전한 처리를 위한 조치와 보호조치를 마련했을 것
  3. 공익 목적이고, 권리 침해 우려가 현저히 낮을 것

그리고 여기에 절차 요건이 붙어. 개인정보보호위원회의 사전 심의·의결이 필수야. 기업이 자체 판단으로 진행할 수 없고, 규제 당국이 먼저 들여다봐. 대상도 이미 적법하게 수집된 정보로 제한돼. 새로 긁어모으는 걸 허용하는 게 아니야.

이 구조를 한 줄로 줄이면 이래. 동의를 면제하는 대신 사전 심의를 붙인 것이야. 개인에게 물어보는 절차를 규제 당국이 대신 심사하는 절차로 바꾼 거지. 동의를 받는 게 현실적으로 불가능한 규모의 데이터를 다루는 상황에서 나온 설계인데, 개인이 자기 정보의 사용처를 직접 통제하는 권리는 그만큼 약해져.

여기서 하나 짚어 둘 게 있어. 이 글에서 정리한 조건과 절차는 정무위를 통과한 개정안 기준이고, 본회의 통과와 시행령 제정 과정에서 문구가 바뀔 수 있어. 특히 심의 절차의 구체적인 요건과 정보 주체 권리 조항은 시행령에서 정해질 가능성이 커서, 지금 확정된 것으로 읽으면 안 돼.

왜 이런 법이 나왔는지

기술적인 배경부터 짚자. 가명 처리는 이름을 지우고 주민등록번호를 난수로 바꾸는 식의 작업이야. 통계 분석에는 별 문제가 없어. 그런데 AI 학습에서는 이게 성능을 크게 떨어뜨리는 경우가 있어.

의료 AI가 대표적이야. 진단 모델을 학습시키려면 환자의 나이, 성별, 병력, 검사 수치가 서로 연결된 채로 있어야 해. 이걸 각각 가명 처리하고 구간화하면 변수 간 관계가 흐려져. 희귀 질환처럼 데이터가 적은 영역에서는 가명 처리 자체가 학습 가능한 신호를 지워 버리기도 해.

음성 인식이나 얼굴 인식도 마찬가지야. 목소리와 얼굴은 그 자체가 개인 식별 정보인데, 가명 처리한 목소리라는 건 성립하지 않아. 개인 식별성을 제거하면 학습할 대상이 사라져.

정부는 올해 7월 3일 개인정보 보호 체계를 전면 개편하겠다고 발표했고, 이번 개정안은 그 흐름의 입법 결과물이야. 개인정보보호위원회는 그 전에도 생성형 AI 개발·활용을 위한 개인정보 처리 안내서와 공개된 개인정보 처리 안내서를 내면서 실무 기준을 정리해 왔어. 다만 안내서는 법적 구속력이 약해서, 기업들이 "이대로 하면 정말 괜찮은 거냐"고 계속 물어 왔지. 법에 특례 조항을 박는 건 그 불확실성을 없애는 방향이야.

제도적인 배경도 있어. 한국은 'AI 기본법' 체계 아래에서 산업 진흥과 신뢰 기반 조성의 균형을 표방해 왔어. 그런데 실제 입법으로 내려오면 두 축이 항상 같은 속도로 움직이지는 않아. 이번 개정안이 산업 진흥 쪽에 무게가 실렸다는 지적이 나오는 것도 그래서야. 개인정보보호위원회는 별도로 제3차 개인정보 보호 기본계획(2027~2029년 적용)을 발표하며 중장기 방향을 잡아 두긴 했어.

비판이 어디를 향하는지

법안에 대한 비판은 "AI 학습을 허용한다"는 사실 자체보다 보호 장치의 구체성을 향해.

첫째, 세 조건이 전부 판단의 여지가 큰 표현이야. "익명·가명 처리만으로는 곤란"하다는 걸 누가 어떻게 판정하는지, "권리 침해 우려가 현저히 낮다"의 기준선이 뭔지가 법문에 숫자로 박혀 있지 않아. 결국 개인정보보호위원회의 심의 실무가 기준을 만들게 되는데, 초기에는 예측 가능성이 낮을 수밖에 없어.

둘째, 정보 주체의 사후 권리가 어떻게 작동하는지가 불분명해. 내 정보가 어떤 모델 학습에 들어갔는지 알 수 있는지, 알았다면 빼 달라고 요구할 수 있는지가 핵심이야. 그런데 학습이 끝난 모델에서 특정 데이터의 영향을 지우는 건 기술적으로 매우 어려워. 모델 언러닝 연구가 진행 중이지만 아직 실용 단계라고 보기 어렵고, 현실적인 대안은 재학습인데 비용이 커.

셋째, 공익 목적의 범위야. 의료나 재난 대응처럼 명확한 영역이 있는가 하면, "산업 경쟁력 강화"처럼 넓게 해석될 수 있는 영역도 있어. 이 범위가 넓어지면 특례가 예외가 아니라 기본값이 돼.

넷째, 심의 이후의 감독이야. 사전 심의를 통과했다고 해서 이후 처리가 계획대로 이뤄진다는 보장은 없어. 학습 데이터가 다른 목적으로 재사용되거나, 외부에 위탁되거나, 국외로 이전되는 경우를 어떻게 확인할 것인지가 남아. 사전 승인 중심 제도의 공통된 약점이고, 감독 인력과 사후 점검 체계가 뒷받침되지 않으면 심의가 통과 의례가 될 수 있어.

다른 나라는 어떻게 하고 있나

국가·지역 접근 방식 특징
한국 (개정안) 조건부 특례 + 사전 심의 규제 당국이 개별 승인
일본 투명성 규칙 준비 학습 데이터·처리 방식 공개 요구
EU GDPR + AI Act 법적 근거 요구, 고위험 시스템 별도 규제
미국 주 단위 개별 입법 연방 차원 통일 규범 부재

일본이 준비 중인 방향은 한국과 대조적이야. 활용 자체를 넓게 열되, AI 개발자에게 학습 데이터와 처리 방식을 공개하도록 요구하는 투명성 중심 접근이야. 사전 승인 대신 사후 검증에 무게를 두는 셈이지.

두 방식은 각각 장단점이 있어. 사전 심의는 문제를 미리 걸러 낼 수 있지만 처리 속도가 병목이 돼. 신청이 몰리면 심의가 밀리고, 그러면 결국 "허용됐지만 못 쓰는" 상황이 생겨. 투명성 접근은 속도는 빠른데, 공개된 정보를 검증할 주체와 역량이 없으면 형식적인 서류 제출로 끝나.

EU는 GDPR이라는 강한 기본법 위에 AI Act를 얹었어. 개인정보를 AI 학습에 쓰려면 GDPR상의 법적 근거가 필요하고, 정당한 이익(legitimate interest)을 근거로 삼는 해석이 논쟁 중이야. 규범은 촘촘한데 집행 부담이 크고, 유럽 AI 기업들이 규제 부담을 계속 호소하는 배경이기도 해.

미국은 연방 차원의 통일 규범이 없어. 캘리포니아, 콜로라도 같은 주가 각자 입법하고 있고, 그래서 여러 주에 걸쳐 서비스하는 기업은 가장 엄격한 주 기준에 맞추는 방식으로 대응해. 규제 예측 가능성이 낮은 대신, 새 서비스를 먼저 내놓고 나중에 조정하는 전략이 가능한 환경이기도 해.

각자가 챙기는 것

국내 AI 기업이 챙기는 건 법적 확실성이야. 지금까지는 안내서를 참고해 자체 판단으로 진행하고, 나중에 문제가 되면 감수하는 구조였어. 심의를 거치면 그 판단이 사전에 확정돼. 특히 규제 리스크 때문에 투자 유치나 대기업 협업이 막히던 스타트업에는 실질적인 차이가 있어.

의료·바이오 분야가 챙기는 건 데이터 접근이야. 국내 의료 데이터는 세계적으로 품질이 높은 편인데 활용 문턱이 높아서 사장돼 왔다는 지적이 오래 있었어. 이번 특례가 가장 뚜렷하게 작동할 영역이야.

개인정보보호위원회가 챙기는 건 권한과 부담이야. 심의권을 갖는다는 건 영향력이 커진다는 뜻이지만, 동시에 심사 역량과 인력이 따라가야 해. AI 모델의 학습 방식과 위험을 평가하려면 법률 전문성만으로는 부족하고 기술 인력이 필요해.

클라우드·인프라 사업자가 챙기는 건 부수 효과야. 심의를 통과한 학습 프로젝트는 대체로 접근 통제와 감사 로그가 요구되는데, 이런 요건을 만족하는 환경을 제공하는 쪽에 수요가 몰려. 국내에 데이터를 두고 처리해야 하는 조건이 붙으면 국내 리전을 가진 사업자가 유리해져.

정보 주체, 즉 개인이 챙기는 건 명확하지 않아. 이게 비판의 핵심이야. 활용을 넓히는 조항은 구체적인데, 정보 주체가 무엇을 알 수 있고 무엇을 요구할 수 있는지는 상대적으로 덜 구체적이야. 사후 통지 의무, 학습 데이터 목록 공개, 이의제기 절차 같은 항목이 어느 수준으로 시행령에 담기느냐가 실제 보호 수준을 결정해.

해외 기업들에게는 진입 조건이야. 한국 사용자 데이터를 학습에 쓰려는 글로벌 기업도 같은 절차를 밟아야 해. 국내 기업과 동일한 조건이 적용되는지, 역외 적용이 실효성 있게 집행되는지가 형평성 쟁점이 될 수 있어.

앞선 데이터 규제 완화 사례들

2020년 데이터 3법 개정이 가장 가까운 선례야. 가명정보 개념을 도입하고 통계·연구·공익 목적의 활용을 열었어. 당시에도 산업계는 환영하고 시민사회는 우려했지. 결과를 보면 양쪽 예측이 다 절반씩 맞았어. 가명정보 활용은 기대만큼 폭발적으로 늘지 않았고, 동시에 우려했던 대규모 유출 사고도 이 조항 때문에 발생하지는 않았어. 제도가 열려도 기업이 안 쓰는 경우가 많다는 게 실제 교훈이었어. 절차가 복잡하고 책임이 불분명하면 담당자는 안 하는 쪽을 택하거든.

의료 마이데이터도 비슷한 경로를 밟았어. 제도는 만들어졌는데 병원과 기업이 실제로 데이터를 주고받는 데까지 시간이 오래 걸렸어. 표준화, 보안 인증, 책임 소재 같은 실무 문제가 남아 있었기 때문이야.

EU의 GDPR 시행 초기는 반대 방향의 교훈이야. 강한 규제가 도입되자 기업들이 과잉 대응해서 데이터 활용 자체를 회피하는 현상이 나타났어. 규제가 명확하지 않으면 기업은 가장 보수적으로 움직인다는 걸 보여준 사례야. 한국의 이번 특례도 심의 기준이 불명확하면 같은 결과가 날 수 있어.

클라우드 보안 인증(CSAP) 사례도 참고할 만해. 공공 부문의 클라우드 도입을 위해 만든 제도인데, 초기에는 인증 요건이 까다로워 외국 기업의 진입이 사실상 막혔다는 논란이 있었어. 절차 요건이 실질적인 진입 장벽으로 작동한 경우야. AI 학습 특례의 심의 절차도 어떻게 설계되느냐에 따라 비슷한 효과를 낼 수 있어.

네 사례를 관통하는 패턴이 하나 있어. 데이터 규제는 열든 조이든 실무 지침의 구체성에서 성패가 갈렸어. 데이터 3법은 열었지만 지침이 모호해서 안 쓰였고, GDPR은 조였지만 초기 지침이 모호해서 과잉 회피가 나왔어. 이번 특례도 법 조문보다 시행령과 심의 기준이 실제 결과를 결정할 가능성이 높아. 법이 통과됐다는 소식보다 그 다음에 나올 문서를 봐야 한다는 뜻이야.

그래서 뭐가 달라지는데

AI 서비스를 만드는 기업이라면 지금 당장은 달라지는 게 없어. 특례를 쓰려면 개인정보보호위원회 심의를 거쳐야 하고, 심의 기준과 절차는 시행령과 실무 지침으로 구체화될 거야. 지금 할 일은 자사 학습 데이터의 수집 경위를 정리해 두는 것이야. "적법하게 수집된 정보"라는 요건을 증명하려면 수집 시점의 동의 범위와 근거를 기록으로 갖고 있어야 해.

의료·금융처럼 민감정보를 다루는 조직이라면 세 번째 조건인 "권리 침해 우려가 현저히 낮을 것"을 어떻게 소명할지가 관건이야. 재식별 위험 평가, 접근 통제, 학습 후 데이터 폐기 절차 같은 항목이 심의에서 실질적인 판단 근거가 될 가능성이 커.

교육 서비스나 커뮤니티를 운영한다면 이용약관의 데이터 활용 조항을 다시 볼 시점이야. "적법하게 수집된 정보"의 범위는 수집 당시 고지한 목적에 좌우되는데, 오래된 약관은 AI 학습을 상정하지 않고 쓰인 경우가 대부분이야. 특례를 쓰려 할 때 이 부분이 첫 관문이 될 가능성이 커.

개인이라면 당장 할 수 있는 일은 많지 않아. 다만 시행령 입법예고 기간에 의견을 낼 수 있고, 정보 주체 권리 조항이 어떻게 구체화되는지 지켜볼 만해. 특히 사후 통지 의무가 들어가는지가 중요해.

정책·법무 담당자라면 일본의 투명성 규칙과 비교해 두는 게 유용해. 한국 기업이 양국에서 서비스한다면 두 체계를 동시에 만족시켜야 하는데, 사전 심의와 사후 공개는 요구하는 문서가 다르거든.

연구자라면 이 특례가 학술 연구에 어떻게 적용되는지 확인해 봐. 기존에도 연구 목적 가명정보 활용 조항이 있었는데, 새 특례와의 관계가 정리돼야 실무에서 혼선이 없어.

스타트업이라면 심의 절차 자체가 비용이라는 점을 계산에 넣어야 해. 신청 서류 준비, 재식별 위험 평가, 보호조치 설계에는 법무와 보안 인력이 필요해. 대기업이 감당하기 쉬운 비용이 작은 팀에는 진입 장벽이 될 수 있어. 업계 공용 템플릿이나 표준 심사 항목이 나오는지 지켜볼 만해.

🥄 남은 궁금증 세 가지

— 내 정보가 이미 AI 학습에 쓰이고 있는 건 아니야? 이번 개정안은 앞으로의 활용에 대한 규정이야. 다만 대상이 "이미 적법하게 수집된 정보"라서, 과거에 서비스 이용 과정에서 수집된 데이터가 심의를 거쳐 학습에 쓰일 가능성은 있어. 어떤 데이터가 어떤 목적으로 심의를 통과했는지 공개되는지가 관건인데, 그 부분은 아직 확정되지 않았어.

— 나중에 빼 달라고 할 수 있어? 기술적으로 어려워. 학습이 끝난 모델에서 특정 데이터의 영향만 제거하는 건 아직 실용화된 방법이 없고, 확실한 방법은 그 데이터를 빼고 다시 학습시키는 거야. 비용이 크지. 그래서 삭제권보다는 애초에 무엇이 들어가는지를 통제하는 사전 심의 쪽에 무게가 실린 구조로 보여.

— 이 법이 있어야 한국 AI가 경쟁할 수 있는 거야? 그렇게 단순하진 않아. 데이터 접근이 병목인 영역, 특히 의료 쪽에서는 실질적인 차이가 있을 거야. 반면 범용 대화 모델처럼 웹 데이터가 주된 학습원인 영역에서는 이 특례가 크게 작용하지 않아. 분야에 따라 효과 차이가 클 거라고 보는 게 맞아.

참고 자료

수치와 기준은 발표 시점 기준이라 바뀔 수 있어.