AI가 국경을 넘을 때,
시민의 권리는 어디에 놓일까

이번 호는 AI(Artificial Intelligence, 인공지능)가 사이버보안, 개인정보, 콘텐츠 진위, 청소년 안전의 문제로 빠르게 확장되는 흐름을 읽습니다. 핵심 질문은 기술의 속도가 아니라 누가 통제하고, 누가 설명받고, 누가 보호받는가입니다.

이번 호의 핵심 변화 3가지

미국 정부는 앤트로픽(Anthropic)의 고성능 AI 모델 Fable 5(페이블 5)와 Mythos 5(미토스 5)에 대해 외국 국적자의 접근을 중단하라는 수출통제 지시를 내렸습니다. 앤트로픽은 이에 따라 두 모델을 전 세계 고객에게서 일시적으로 비활성화했다고 밝혔습니다. 정부가 우려한 것은 일부 안전장치를 우회하는 탈옥(jailbreak, AI의 제한을 우회하는 행위) 가능성과 사이버 취약점 탐색 능력입니다.

미토스의 특이성은 단순히 답을 잘하는 데 있지 않습니다. 취약점을 찾고, 공격 가능성을 검토하고, 방어자에게는 빠른 보안 점검 도구가 될 수 있지만 공격자에게는 자동화된 침투 도구가 될 수 있습니다. 즉 이 모델은 방어와 공격에 모두 쓰이는 이중용도 AI(Dual-use AI, 유익한 목적과 해로운 목적에 모두 쓰일 수 있는 인공지능)의 대표 사례입니다.

안전을 이유로 접근을 제한하는 조치는 필요할 수 있습니다. 그러나 “미국인이 아닌 사람은 쓰지 못한다”는 방식으로 기술 접근이 갈라지면, AI 안전은 민주적 기준이 아니라 강대국의 통제 질서가 될 수 있습니다. 시민사회는 기술주권, 국제협력, 공익적 보안 연구, 투명한 통제 기준을 함께 물어야 합니다.

AI가 위험하다는 이유로 접근을 막을 때, 누가 그 위험을 판단하고 누가 이의를 제기할 수 있을까요? 한국 시민과 기관은 특정 국가와 기업의 AI 인프라에 얼마나 의존하고 있을까요?

개인정보보호위원회는 6월 9일 「개인정보 전주기 보호·활용 기술 R&D(Research and Development, 연구개발) 및 표준화 로드맵(2026~2030)」을 공개했습니다. 로드맵은 개인정보 주권 보장, 유·노출 위험 경감, 신뢰기반 안전활용, AI 대응 기술개발 등 4대 분야와 11대 핵심기술을 제시했습니다.

AI 시대 개인정보는 사용자가 입력한 이름과 연락처만이 아닙니다. 얼굴, 목소리, 위치, 상담 기록, 행동 패턴, 학습데이터, 추론 결과까지 모두 개인정보 위험이 될 수 있습니다. 특히 에이전틱 AI(Agentic Artificial Intelligence, 여러 단계를 스스로 수행하는 인공지능)와 피지컬 AI(Physical Artificial Intelligence, 로봇·기기처럼 물리적 환경과 연결되는 인공지능)가 확산되면 개인정보는 수집 순간부터 학습·추론·공유·삭제까지 전주기 관리가 필요합니다.

기술 로드맵은 중요하지만, 시민의 권리와 피해구제 절차가 함께 설계되어야 합니다. 지역 YWCA가 AI 서비스를 도입하거나 교육·상담·돌봄 현장에서 AI 도구를 사용할 때, “개인정보가 어디에 저장되고, 학습에 쓰이는지, 언제 삭제되는지, 오류가 나면 누가 책임지는지”를 확인해야 합니다.

우리 현장의 AI 사용은 개인정보의 생애주기를 보고 있을까요, 아니면 처음 동의서만 받고 끝내고 있을까요?

EU(European Union, 유럽연합) 집행위원회는 6월 10일 AI 생성 콘텐츠 표시·라벨링 실천강령 최종본을 발표했습니다. 이 강령은 AI Act(Artificial Intelligence Act, 인공지능법) 제50조의 투명성 의무를 이행하기 위한 실무 기준입니다. 2026년 8월 2일부터 딥페이크(Deepfake, AI로 얼굴·목소리 등을 합성한 조작물), 공익 사안에 관한 AI 생성·조작 텍스트, 챗봇과 같은 대화형 AI 시스템에 대해서는 이용자가 AI 생성·변형 또는 AI와의 상호작용 사실을 알 수 있도록 해야 합니다. 한국에서도 인공지능기본법 시행과 함께 고영향 AI(High-risk AI, 권리와 안전에 중대한 영향을 줄 수 있는 인공지능)·생성형 AI를 활용한 제품·서비스 제공 시 이용자에게 AI 활용 사실을 사전에 고지하고, 생성형 AI 결과물과 사회적 부작용이 우려되는 딥페이크 결과물에 대해 명확히 인식할 수 있는 방식의 표시가 요구되고 있습니다.

표시 제도는 “AI를 조금이라도 사용하면 모두 공개하라”는 단순한 원칙이 아니라, 이용자가 오해하거나 피해를 입을 수 있는 경우에 필요한 정보를 제공하자는 취지로 이해해야 합니다. 특히 상업적 광고·홍보, 공공기관 안내, 선거·재난·정책 정보, 교육자료, 실제 인물·사건처럼 보이는 이미지·영상·음성, 젠더폭력과 소비자 사기 위험이 있는 콘텐츠는 표시 필요성이 큽니다. 동시에 보조적 문장 다듬기, 내부 초안 작성, 단순 편집처럼 표시 범위가 애매한 경우도 있으므로, 현장 혼란을 줄이기 위한 세부 기준이 필요합니다.

YWCA의 홍보물, 교육자료, 카드뉴스, 영상에도 AI가 보조적으로 사용될 수 있습니다. 따라서 “알릴 필요가 없다”가 아니라 “무엇을, 언제, 어떤 방식으로 알릴 것인가”를 정하는 기준이 필요합니다. 예를 들어 외부 공개 자료, 상업적·모금 홍보, 공적 주장이나 통계가 포함된 자료, 실제 인물·장소·사건처럼 보이는 이미지와 영상에는 AI 활용 여부, 출처, 사람의 검토 여부를 더 적극적으로 표시할 수 있습니다. 반면 내부 초안 작성이나 문장 정리처럼 공개 콘텐츠의 의미를 바꾸지 않는 보조적 사용은 내부 기록과 검토 절차로 관리할 수 있습니다.

우리 조직은 AI를 활용한 이미지·문장·영상에 대해 어떤 경우 외부 표시가 필요하고, 어떤 경우 내부 검토 기록으로 충분한지 구분하는 기준을 가지고 있을까요?

캐나다는 6월 초 국가 AI 전략 AI for All(AI for All, 모두를 위한 인공지능)을 발표하며 AI 역량, 주권형 컴퓨팅, 산업 성장, 신뢰와 안전을 강조했습니다. 이어 6월 10일에는 Bill C-34(법안 C-34), Safe Social Media Act(안전한 소셜미디어법안)를 발의해 소셜미디어와 일부 AI 챗봇 서비스가 아동·청소년에게 안전한 설계를 갖추도록 요구했습니다. 6월 15일에는 Bill C-36(법안 C-36), PPCDA(Protecting Privacy and Consumer Data Act, 개인정보·소비자 데이터 보호법안)도 발의되어 아동 개인정보와 민간 부문 개인정보 보호 강화가 논의되고 있습니다.

“모두를 위한 AI”는 구호만으로 완성되지 않습니다. 아동·청소년, 돌봄을 받는 사람, 디지털 취약계층에게 실제 보호 장치가 있어야 합니다. 특히 AI 챗봇은 지속적으로 대화하고 정서적 의존을 만들 수 있어, 유해한 조언·자해 유도·성적 접근·개인정보 수집 같은 위험을 사전에 줄이는 설계가 필요합니다.

청소년 안전은 보호주의와 감시만으로 해결되지 않습니다. 안전한 설계, 연령에 맞는 설명, 개인정보 최소수집, 사람 상담자 연결, 피해 신고·지원 경로가 함께 있어야 합니다. 지역 YWCA의 청소년 활동에서도 AI 챗봇과 플랫폼 사용 기준을 점검할 필요가 있습니다.

청소년이 AI 챗봇과 대화할 때, 그 서비스는 아이를 고객으로 보는가, 보호받아야 할 권리 주체로 보는가?

이번 호의 키워드

활동가 질문

• 우리 조직이 사용하는 AI 서비스는 어느 국가와 기업의 인프라에 의존하고 있나요?
• 외부 공개 자료와 홍보물에서 AI 활용 여부, 출처, 사람 검토 여부를 언제 표시할지 기준을 가지고 있나요?
• 청소년 활동, 상담, 돌봄 현장에서 얼굴·목소리·상담기록 같은 민감한 정보가 AI 서비스에 입력되고 있지는 않나요?
• AI 안전을 이유로 한 통제와 차단이 시민의 권리를 줄이는 방식으로 작동하지 않도록 어떤 공적 기준이 필요할까요?

AI 리터러시 체크리스트

• 내가 보는 이미지·뉴스·영상이 AI 생성 또는 AI 수정 콘텐츠인지 확인했다.
• AI 서비스에 이름, 얼굴, 음성, 연락처, 상담기록, 건강정보 등 민감정보를 입력하지 않았다.
• 외부 공개 자료, 공적 주장, 홍보물, 실제 인물·사건처럼 보이는 이미지·영상에는 AI 활용 여부와 사람 검토 여부를 표시할지 검토했다.
• 청소년 대상 AI 챗봇이나 플랫폼을 사용할 때 연령 적합성, 위기 대응, 사람 상담자 연결 경로를 확인했다.
• 조직의 AI 도입 과정에서 개인정보 수집·보관·학습·삭제 기준을 확인했다.
• 해외 AI 서비스가 갑자기 제한되거나 중단될 경우를 대비한 대안을 생각해보았다.
• AI 추천이나 답변을 그대로 믿지 않고 원문 출처와 다른 관점을 함께 확인했다.
• 문제가 생겼을 때 삭제 요청, 정정, 이의제기, 피해구제 경로가 있는지 확인했다.

지역·현장에 연결해 보기

• 청소년 활동 | AI 챗봇 사용 기준, SNS 사진 게시 기준, 얼굴·음성 정보 보호 기준을 함께 점검합니다.
• 소비자 교육 | AI 콘텐츠 표시, 딥페이크 구별, 개인정보 입력 전 확인해야 할 사항을 쉬운 교육 자료로 만듭니다.
• 돌봄 현장 | AI 보조기술이 돌봄노동자의 부담을 줄이는지, 이용자 정보를 더 많이 수집하고 감시하는지 확인합니다.
• 조직 운영 | AI 도입 전 “무엇을 입력할 수 없는가, 누가 검토하는가, 오류가 나면 누가 책임지는가”를 문서화합니다.

지난 호 후속 · AI기본법 시행령에 YWCA 의견서를 제출했습니다

지난 3호에서 함께 살펴본 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 시행령 일부개정령안」에 대해 한국YWCA연합회가 의견서를 제출했습니다. 이번 의견서는 인공지능 정책이 산업 육성과 이용 확대에만 머물지 않고, 시민의 권리·참여·안전·차별 방지·피해구제 기준을 함께 보장해야 한다는 관점에서 작성되었습니다.

AI 정책은 기술 발전의 속도만이 아니라 시민의 권리, 안전, 민주주의를 함께 보장하는 방향으로 설계되어야 합니다.

YWCA AI 시민 Lab과 함께 읽고 질문하기

AI 이슈 클리핑은 기술을 빠르게 따라가기보다, 기술이 바꾸는 권리·관계·책임의 구조를 함께 읽기 위한 시민교육 자료입니다.