AI가 대신 판단하기 시작할 때,
시민은 무엇을 물어야 할까

로마 교황청은 「Magnifica Humanitas」를 통해 AI 시대에 인간의 존엄, 공동선, 연대, 사회정의를 다시 성찰해야 한다고 밝혔습니다. 5월 25일 발표 자리에서는 AI가 인간을 위협하는 방식으로 쓰이지 않도록 “무장해제”되어야 한다는 강한 표현도 나왔습니다. 이어 미디어·정보·AI 리터러시(AI Literacy, 인공지능을 이해하고 비판적으로 사용하는 능력)를 교육체계 안에서 강화해야 한다는 메시지도 제시되었습니다.

이 메시지는 종교 담론에만 머물지 않습니다. AI가 노동, 전쟁, 교육, 돌봄, 환경, 정보 생태계에 영향을 미친다면 AI 윤리는 기술 전문가만의 언어가 아니라 시민사회와 공동체가 함께 다뤄야 할 공적 의제입니다.

YWCA는 정의·평화·생명 운동의 언어로 AI를 읽을 수 있습니다. 질문은 “AI를 얼마나 빨리 도입할 것인가”가 아니라 “AI가 누구의 존엄을 지키고, 누구의 목소리를 지우며, 어떤 폭력과 불평등을 자동화하는가”입니다.

우리 공동체는 AI를 어디에 쓰고, 어디에는 쓰지 않겠다고 합의할 수 있을까요?

과학기술정보통신부(MSIT, Ministry of Science and ICT)는 인공지능기본법 시행령 개정안을 입법예고했습니다. 의견 제출은 2026년 6월 19일까지이며, 개정 AI기본법과 시행령은 7월 21일 시행될 예정입니다. 주요 내용에는 공공분야 AI 제품·서비스 도입 촉진, AI 연구소 설립 지원, AI 취약계층 비용 지원 근거가 포함됩니다.

AI 취약계층에는 장애인, 65세 이상 고령자, 기초생활수급자, 경력단절여성, 구직자, 비수도권 중소기업 재직자, 농어업인 등이 포함됩니다. 한편 국내 시민사회는 AI법이 인권 기반 접근을 반영하려면 영향을 받는 사람의 참여, 고위험 AI에 대한 기본권 영향평가, 피해구제 절차가 더 분명해야 한다고 요구하고 있습니다. EU(European Union, 유럽연합)의 AI Act(Artificial Intelligence Act, 유럽연합 인공지능법)도 고위험 AI와 범용 AI의 단계적 의무를 통해 같은 쟁점을 다루고 있습니다.

공공영역의 AI 도입은 행정 효율 문제가 아니라 시민권의 문제입니다. 복지, 돌봄, 교육, 민원, 일자리 영역에서 AI가 쓰일 경우 시민은 사전에 알고, 설명을 듣고, 오류에 이의를 제기하고, 사람이 다시 판단해 달라고 요구할 수 있어야 합니다.

AI 취약계층 지원은 필요하지만, 시민을 단순한 이용료 지원 대상으로만 보면 부족합니다. YWCA 관점에서는 ‘AI 접근권’과 함께 ‘AI로부터 보호받을 권리’, ‘AI 결정에 참여할 권리’, ‘피해를 구제받을 권리’를 함께 요구해야 합니다.

우리 지역의 공공 AI 서비스는 누구에게 설명되고, 누가 감시하며, 피해가 생기면 어디에서 고칠 수 있을까요?

국제노동기구(ILO, International Labour Organization)는 2026년 6월 1일부터 플랫폼 노동자를 위한 첫 구속력 있는 국제 노동기준을 논의하는 최종 협상에 들어갔습니다. 쟁점은 배달·호출·온라인 업무 플랫폼에서 일하는 사람에게 최저임금, 사회보장, 병가, 안전보건 같은 기본 보호를 어떻게 보장할 것인가입니다. 특히 알고리즘 관리(Algorithmic Management, 알고리즘이 일 배정·평가·임금·계정 정지에 영향을 미치는 관리 방식)의 투명성이 핵심 쟁점으로 다뤄지고 있습니다.

플랫폼 노동에서 AI는 보이지 않는 관리자처럼 작동합니다. 누가 어떤 일을 배정받는지, 평점이 어떻게 매겨지는지, 임금이 왜 달라지는지, 계정이 왜 정지되는지 노동자가 설명받지 못하면 노동권은 매우 약해집니다. 이것은 배달노동자만의 문제가 아니라 돌봄, 가사, 교육, 상담, 콘텐츠 노동처럼 플랫폼화되는 모든 현장으로 확장될 수 있습니다.

YWCA의 노동·돌봄 관점에서 중요한 것은 “AI가 일자리를 없애는가”만이 아닙니다. AI가 노동자를 더 안전하게 하는지, 아니면 더 세밀하게 감시하는지, 돌봄노동을 지원하는지, 아니면 관계와 책임을 낮은 비용의 데이터 업무로 바꾸는지를 물어야 합니다. 플랫폼 노동 기준 논의는 지역 돌봄·가사·청소년 활동 현장에서도 알고리즘 책임을 묻는 출발점이 될 수 있습니다.

AI가 일의 배정과 평가를 결정할 때, 노동자는 그 기준을 설명받고 이의를 제기할 수 있을까요?

미국 플로리다주는 OpenAI를 상대로 청소년 안전 위험을 이유로 소송을 제기했습니다. 소송은 챗봇이 미성년자에게 해로운 대화와 위험한 정보에 노출될 수 있다는 점, 기업이 위험을 충분히 알리고 예방했는지를 문제 삼습니다. 같은 기간 호주와 미국에서는 고령자 돌봄 현장에 AI 반려로봇, 가상현실(VR, Virtual Reality), 보조 로봇이 들어오는 사례가 보도됐습니다.

청소년과 노인은 AI가 “친절하게 말한다”는 이유만으로 안전하다고 볼 수 없는 집단입니다. 청소년에게 AI는 학습도구이면서 상담 상대가 될 수 있고, 노인에게 돌봄기술은 외로움과 안전을 돕는 장치가 될 수 있습니다. 그러나 정서적 의존, 개인정보 수집, 잘못된 조언, 인간 돌봄의 축소가 함께 발생할 수 있습니다.

YWCA의 관점은 기술을 무조건 거부하는 것이 아니라, 취약한 사람이 AI와 관계 맺을 때 더 강한 보호와 설명이 필요하다고 보는 것입니다. 청소년에게는 연령에 맞는 안전장치와 보호자·교육자의 책임이, 돌봄 현장에는 이용자와 돌봄노동자의 동의, 인간 돌봄을 대체하지 않는 원칙, 사고 발생 시 책임 주체가 필요합니다.

청소년, 돌봄을 받는 사람, 돌봄노동자는 AI 도입 전에 충분히 설명을 듣고 동의하거나 거부할 수 있을까요?