상반기 끝자락,
AI의 판이 한꺼번에 바뀌고 있습니다

6월 말, AI(Artificial Intelligence, 인공지능)를 둘러싼 변화가 한꺼번에 드러났습니다. 한국은 반도체·피지컬 AI·AI 데이터센터를 국가 대도약의 청사진으로 제시했고, 개인정보를 AI 학습에 활용하는 법안은 시민사회 반대 청원으로 다시 쟁점화되었습니다. 동시에 소비자 신뢰를 다루는 협력적 포럼이 출범했고, EU는 AI 법의 이행 방식을 조정했으며, 글로벌 기업 현장에서는 AI 학습데이터와 노동 감시 문제가 터져 나왔습니다. 이번 호는 이 다섯 장면을 통해 묻습니다. AI 강국의 속도만큼 시민의 권리 기준도 함께 커지고 있는가?

이번 호의 핵심 변화 3가지

정부는 6월 29일 청와대 영빈관에서 「대한민국 대도약 3대 메가프로젝트 국민보고회」를 열고 반도체, 피지컬 AI(Physical AI, 물리적 환경에서 작동하는 인공지능), AI 데이터센터를 핵심 축으로 한 대규모 투자계획과 전력·입지 등 인프라 확충 방안을 논의했습니다. 산업통상부 참고자료는 서남권 800조 원 투자로 K-반도체 강국을 실현하고, 550조 원 투자를 기반으로 AI 데이터센터 솔루션 산업을 수출 동력화하며, 안정적 전력·용수 공급과 전기국가 전환을 함께 추진하겠다고 설명했습니다.

이 계획은 단순한 산업 뉴스가 아닙니다. 한국 경제의 미래 경쟁력, 지역 산업, 일자리, 공급망 안보와 연결된 국가 청사진입니다. 그러나 AI 데이터센터와 반도체 산업은 막대한 전력과 물, 토지와 냉각 인프라를 필요로 합니다. 지역 균형발전을 말하면서도 전력망, 용수, 환경 부담, 주민 설명, 노동 조건을 함께 설계하지 않으면 지역은 다시 국가 산업전략의 비용을 떠안는 공간이 될 수 있습니다.

YWCA AI 시민 Lab은 AI 산업 발전 자체를 부정하지 않습니다. 국가 차원의 기술 역량과 공공 인프라는 필요합니다. 다만 대규모 투자에는 시민사회의 질문이 따라야 합니다. 어디에 세우는가, 누가 결정하는가, 전기와 물은 어디서 오는가, 지역 주민에게 어떤 설명과 참여 절차가 있는가, 새로 생기는 일자리는 안전하고 좋은 일자리인가, 기후위기 대응과 충돌하지 않는가를 함께 물어야 합니다.

AI 강국이 된다는 것은 더 많은 데이터센터를 짓는다는 뜻만은 아닙니다. AI 인프라가 지역의 삶, 기후, 노동, 민주주의와 충돌하지 않도록 어떤 공공 기준을 세워야 할까요?

AI 학습자료 활용과 관련한 개인정보보호법 개정안이 6월 말 다시 중요한 쟁점으로 떠올랐습니다. 이 개정안은 2026년 5월 14일 국회 정무위원회를 통과했지만, 아직 최종 확정된 법률은 아닙니다. 이후 법제사법위원회 심사와 본회의 절차가 남아 있으며, 시민사회는 이 남은 입법 과정에서 법안 처리를 막거나 수정하기 위해 국민동의청원과 반대 캠페인을 진행하고 있습니다.

쟁점은 AI 기술 개발과 성능 개선을 위해 필요한 경우, 개인정보보호위원회 심의·의결을 거쳐 기존에 적법하게 수집한 개인정보를 당초 수집 목적 외로 활용할 수 있도록 하는 특례입니다. 법률 해설자료는 이 특례가 익명 또는 가명 처리로 AI 개발이 어려운 경우, 안전장치 마련 등 일정 요건을 전제로 설계되었다고 설명합니다. 반면 시민사회는 이 조항이 정보주체의 동의권과 개인정보 자기결정권을 약화시키고, “AI 개발”이라는 이름으로 원본 개인정보 활용의 예외를 넓힐 수 있다고 우려합니다.

AI 개발에는 데이터가 필요합니다. 그러나 기존에 다른 목적으로 수집된 개인정보가 학습자료로 넘어갈 때, 시민이 그 사실을 알 수 없거나 거부할 수 없다면 개인정보 보호의 기본 원칙이 흔들릴 수 있습니다. 특히 얼굴, 음성, 위치, 건강, 소비, 상담, 돌봄, 교육 이력처럼 삶의 맥락이 담긴 정보가 AI 학습에 쓰일 경우, 문제는 단순한 기술 활용이 아니라 시민의 권리와 민주적 통제의 문제가 됩니다.

이 이슈는 산업 발전 대 개인정보 보호라는 단순한 대립이 아닙니다. 핵심은 AI 개발을 위한 데이터 활용에 어떤 민주적 통제와 권리 절차를 둘 것인가입니다. 여성, 청소년, 고령자, 장애인, 돌봄 이용자, 플랫폼 이용자처럼 일상에서 많은 데이터 흔적을 남기는 시민은 자신도 모르게 학습자료의 원천이 될 수 있습니다. AI 시대의 개인정보 보호는 ‘유출 방지’만이 아니라, 수집 목적 변경, 학습 사용, 삭제와 거부권, 설명받을 권리를 포함해야 합니다.

AI 학습데이터가 미래 산업의 자원이라면, 그 자원은 누구의 삶에서 나오는 것일까요? 시민은 자신의 데이터가 어디에 쓰이는지 알고 거부할 수 있어야 하지 않을까요?

6월 22일 한국프레스센터에서 「소비자 신뢰와 AI 혁신 포럼」 출범식 및 제1차 라운드테이블이 열렸습니다. 한국YWCA연합회는 소비자시민의모임 외 5개 소비자단체, 한국소비자법학회, 한국소비자원과 함께 공동주최로 참여했습니다. 첫 회의에서는 AI 소비자 5대 기본원칙, 즉 안전성·신뢰성, 투명성·설명가능성, 공정성·비차별, 자기결정권·인간 개입권, 책임성·피해구제 가능성이 제안되었습니다.

AI 논의는 그동안 국가전략, 산업경쟁력, 규제완화, 기술안전의 언어로 많이 진행되어 왔습니다. 그러나 시민은 AI를 산업정책 문서가 아니라 상담 챗봇, 추천 알고리즘, 자동화 심사, 금융·의료·교육 서비스, 플랫폼 피해구제의 현장에서 만납니다. 소비자 신뢰는 기업 홍보 문구가 아니라, 시민이 설명을 듣고 선택하고 거부하고 이의를 제기하고 피해를 회복할 수 있는 조건입니다.

이번 포럼의 의미는 정부·기업·학계·소비자단체가 한 자리에 앉았다는 데 있습니다. 중요한 것은 선언적 원칙을 만드는 데서 멈추지 않는 것입니다. 다음 단계에서는 AI 상담, 추천, 자동화 결정, 생성형 AI 표시, 개인정보와 학습데이터, 청소년 보호, 고령자·장애인 접근성, 피해구제 절차처럼 쟁점별로 실제 문장과 기준을 만들어야 합니다. YWCA는 지역 기반 여성·시민운동 조직으로서 소비자 권리와 돌봄, 청소년 안전, 지역사회 관점을 이 논의에 연결할 수 있습니다.

AI 혁신을 소비자가 신뢰하려면 무엇이 필요할까요? 좋은 기술이라는 설명보다, 잘못되었을 때 책임지는 절차가 먼저 보여야 하지 않을까요?

EU 이사회는 6월 29일 AI 법 일부 규칙을 단순화하고 정비하는 새 규정에 최종 승인했습니다. 이 조정은 Omnibus VII(옴니버스 7, 여러 법률 조정을 묶은 간소화 패키지)의 일부로, 고위험 AI 관련 의무의 적용 시점을 조정하고, 제품 안전 법제와 AI 법의 중복을 줄이려는 목적을 갖고 있습니다. 동시에 비동의 성적 이미지 생성, 이른바 ‘누디파이’ 앱과 같은 명백한 위해는 금지 대상으로 강화되었습니다.

이번 조정은 “규제가 후퇴했다” 또는 “기업 부담을 줄였다”는 한 문장으로 끝낼 수 없습니다. 실제로는 두 가지가 동시에 일어났습니다. 기업과 공공기관에는 표준과 지침을 준비할 시간이 더 주어졌지만, 시민에게는 그만큼 보호 공백이 길어질 수 있습니다. 특히 채용, 교육, 복지, 의료, 금융, 치안처럼 삶의 기회와 권리에 영향을 주는 AI는 이행 일정이 늦어질수록 피해를 겪는 사람이 먼저 비용을 떠안을 수 있습니다.

한국도 AI 기본법 시행 이후 하위 기준을 구체화하는 단계에 들어섰습니다. EU 사례에서 배울 것은 “규제를 만들었다”가 끝이 아니라는 점입니다. 고위험 AI의 범위, 시민이 설명을 요구할 수 있는 절차, 피해구제 창구, 성적 이미지 조작과 같은 젠더폭력 대응, 공공기관 도입 기준이 실제 현장에서 작동하도록 계속 점검해야 합니다.

AI 법이 있다고 해서 시민이 곧바로 보호받는 것은 아닙니다. 우리에게 필요한 것은 법의 이름인가, 아니면 현장에서 작동하는 설명·감사·구제 절차인가요?

메타(Meta)는 직원의 마우스 움직임과 디지털 활동을 추적해 AI 훈련에 활용하려던 내부 프로그램을 일시 중단했습니다. The Guardian(가디언)은 직원 1,600명 이상이 서명한 청원과 직장 프라이버시 우려가 배경이 되었다고 보도했습니다. WIRED(와이어드)와 Business Insider(비즈니스 인사이더)는 이 프로그램으로 수집된 민감한 직원 데이터가 내부에서 부적절하게 접근 가능했던 문제를 전하며, 메타가 조사 기간 중 프로그램을 중단했다고 설명했습니다.

AI 개발은 더 많은 데이터를 필요로 합니다. 그러나 데이터가 필요하다는 이유만으로 노동자의 키보드 입력, 화면 내용, 업무 흐름, 내부 대화까지 수집할 수 있다면 직장은 연구실이 아니라 감시 공간이 될 수 있습니다. 노동자가 만든 업무 과정은 회사의 자산이기도 하지만, 동시에 노동자의 판단, 관계, 실수, 건강, 감정이 들어 있는 민감한 생활 기록이기도 합니다.

AI와 노동의 문제는 일자리 대체만이 아닙니다. 더 조용한 변화는 일하는 과정이 데이터로 수집되고, 평가되고, 자동화되는 데 있습니다. 한국의 공공기관, 복지관, 상담센터, 돌봄기관도 AI 기록·상담·업무 자동화 도구를 도입할 수 있습니다. 이때 노동자와 이용자의 동의, 수집 범위, 보관 기간, 학습 사용 여부, 관리자 접근권한, 이의제기 절차를 먼저 정해야 합니다.

업무 효율을 위한 AI 도입이 노동자의 사적 판단과 일하는 과정을 어디까지 데이터화해도 된다는 허가가 될 수 있을까요?

이번 호의 키워드

활동가 질문

• AI 산업정책이 발표될 때 우리는 투자 규모만 볼 것인가, 전력·용수·지역·노동·기후 기준까지 함께 볼 것인가?
• AI 학습데이터 활용을 위해 개인정보 이용 예외를 넓힐 때, 시민은 알고 거부하고 설명받을 권리를 갖고 있는가?
• AI 서비스에서 소비자가 설명을 듣고, 거부하고, 이의를 제기하고, 피해를 회복할 절차는 어디에 있는가?
• 공공기관과 복지·돌봄 현장에서 AI를 도입할 때 노동자와 이용자의 데이터 권리는 어떻게 보장되는가?
• 소비자 신뢰와 AI 혁신 포럼의 논의를 지역 YWCA 교육, 소비자 상담, 청소년 활동과 어떻게 연결할 수 있을까?

AI 리터러시 체크리스트

• AI 관련 국가 투자계획을 볼 때, 산업 규모뿐 아니라 전력·용수·지역 영향까지 함께 확인했다.
• AI 서비스가 고위험 영역에서 사용되는지, 설명·이의제기·피해구제 절차가 있는지 확인했다.
• AI 학습데이터 활용 논의에서 정보주체의 동의권, 거부권, 삭제권, 피해구제 절차를 함께 점검했다.
• AI가 만든 결과를 소비자에게 제공할 때 출처, 검토자, 책임 주체를 내부적으로 기록했다.
• AI 도구가 노동자의 업무 과정을 수집하거나 평가에 연결하지 않는지 점검했다.
• 청소년, 고령자, 장애인, 이주민 등 취약한 이용자가 AI 서비스를 이해하고 거부할 수 있는 대안 경로를 확인했다.
• AI 상담·추천·자동화 결정이 잘못되었을 때 사람 담당자에게 연결되는 절차가 있는지 확인했다.
• AI 이슈를 지역 교육이나 회의에서 다룰 때, 기술 설명보다 시민의 권리와 질문을 중심에 두었다.

지역·현장에 연결해 보기

• 지역사회 | 데이터센터·반도체 클러스터 유치가 논의될 때 전력, 물, 열, 교통, 일자리, 주민 설명 절차를 함께 점검합니다.
• 소비자 교육 | AI 서비스 이용 전 확인해야 할 권리, 설명받을 권리, 피해구제 절차를 쉬운 체크리스트로 만듭니다.
• 돌봄·상담 현장 | AI 기록 도구를 도입할 때 이용자와 노동자 모두에게 수집·보관·학습 사용 여부를 설명합니다.
• 청소년 활동 | AI가 만든 정보, 이미지, 영상의 신뢰성을 함께 검토하고, 소비자이자 시민으로서 질문하는 연습을 합니다.

YWCA AI 시민 Lab과 함께 읽고 질문하기

AI 이슈 클리핑은 기술을 빠르게 따라가기보다, 기술이 바꾸는 권리·관계·책임의 구조를 함께 읽기 위한 시민교육 자료입니다.