AI 법안과 현실의 간극, 일반 시민이 체감하는 법적 허점들

AI 기술은 이미 우리의 일상을 바꾸고 있다. 챗봇이 고객 응대를 대신하고, 이미지 생성 AI가 콘텐츠를 만들며, 금융·의료·교육 등 거의 모든 영역에 인공지능이 침투하고 있다. 하지만 기술의 발전이 곧 사회의 진보를 의미하지는 않는다. 법과 제도가 그 속도를 따라가지 못하고 있기 때문이다. 특히 일반 시민이 직접적으로 겪는 문제는 법적 보호의 사각지대에서 발생하고 있다. 목소리 복제 기술을 악용한 보이스피싱, AI 채용 시스템으로 인한 차별, 생성형 AI로 무단 도용된 작품 등 구체적인 사례들이 현실에서 늘고 있지만, 이를 해결할 법적 장치는 명확하지 않다. 본 글에서는 현재 시행 중인 AI 관련 법안들의 한계를 짚고, 일반 시민이 일상에서 체감하는 법적 허점들을 구체적인 사례를 통해 살펴보고자 한다.

 AI 법안의 존재만으로는 시민의 권리를 보호할 수 없다

세계 최초로 2023년에 유럽연합이 제정한 ‘AI 법안(AI Act)’은 AI를 고위험, 중위험, 저위험으로 분류하고 그에 따라 규제 강도를 차별화하는 체계를 마련했다. 하지만 이러한 법안은 아직 시행 초기 단계이며, 실제 사례에 어떻게 적용될 수 있을지는 불투명하다. 한국은 2024년 기준 ‘AI 기본법’ 초안을 발표한 상태이지만, 시행령이나 집행기관은 미비한 상황이다. 일반 시민의 관점에서 보면 ‘법이 있는 것’과 ‘법이 작동하는 것’은 완전히 다른 문제다. 특히 AI가 잘못된 판단을 내렸을 경우, 그 책임을 누구에게 물을 수 있는지에 대한 법적 기준이 명확하지 않다. 예를 들어, 병원이 AI를 활용한 영상 판독 시스템을 도입했을 때 오진이 발생했을 경우, 그 책임이 의료진에게 있는지, 시스템 개발자에게 있는지, 아니면 병원 경영진에게 있는지에 대한 명확한 기준이 없다. 이러한 불명확성은 피해자에게 실질적인 법적 보호를 제공하지 못하는 구조로 이어진다.

일반 시민이 체감하는 AI 관련 법적 허점: 현실 속의 구체적인 사례들

AI 기술이 현실에 적용되면서 일반 시민은 다양한 법적 허점을 직접 경험하고 있다. 아래 사례들을 통해 그 문제점을 구체적으로 살펴보자.

① 채용 차별 사례
취업준비생 B씨는 국내 대기업의 인턴 채용에 지원했지만 서류전형에서 탈락했다. 해당 기업은 AI 기반 채용 시스템을 도입해 이력서를 자동 분석하는 구조였다. 이후 우연히 공개된 기업 내부 보고서에서 해당 AI가 특정 학교 출신이거나 나이가 많은 지원자를 자동으로 낮은 점수를 부여하는 알고리즘을 사용하고 있었음이 드러났다. B씨는 이 결정이 불공정하다고 생각했지만, 해당 AI의 알고리즘은 '영업 비밀'이라는 이유로 공개되지 않았다. 개인정보 보호법이나 차별금지법도 AI 판단에는 적용이 불분명했고, 이에 따라 법적 구제는 사실상 불가능했다.

② 저작권 침해 사례
디지털 아티스트 K씨는 자신이 그린 캐릭터 스타일이 AI 이미지 생성 플랫폼에서 모방한 것을 발견했다. 해당 AI는 수십만 개의 온라인 이미지를 학습한 뒤 유사한 스타일로 이미지를 자동 생성하는 기능을 갖고 있었다. K씨는 자기 작품이 학습 데이터로 사용되었는지를 확인하려 했지만, 데이터 출처는 비공개였다. 현행 저작권법은 AI의 학습 데이터를 저작권 침해 대상으로 명확히 인정하지 않고 있으며, AI가 만든 결과물이 '2차 저작물'에 해당하는지도 불확실하다. 결국 K씨는 자신의 저작권을 주장할 수 있는 법적 수단이 전혀 없었다.

③ 보이스피싱 사례
60대 여성 M씨는 아들의 목소리로 전화를 받았다. 아들이 다급하게 "사고를 당했다"며 돈을 요청했지만, 이는 AI로 복제된 목소리를 이용한 보이스피싱이었다. 문제는 AI로 생성된 음성 데이터의 출처나 생성자를 추적할 수 없다는 점이다. 피해자 입장에서 목소리를 위조한 사람을 특정하거나 입증하기가 매우 어렵고, 사이버범죄로서 고소조차 쉽지 않다. 음성 AI 생성 기술에 대한 규제나 생성자 인증 시스템이 없기 때문에, 현실적으로 피해자 보호는 거의 불가능한 상태다.

이러한 사례는 AI가 일으키는 문제가 단순한 기술적 오류가 아닌, 실질적인 법적 공백으로 인한 시민의 피해라는 점을 분명하게 보여준다.

법적 공백이 신뢰를 무너뜨리고 기술 수용을 저해한다

시민은 법을 통해 자신을 보호받는다고 믿는다. 하지만 위에서 살펴본 사례처럼, 법이 현실에서 작동하지 않을 때 시민은 기술만 아니라 제도 자체에 대한 불신을 갖게 된다. 이는 기술 수용성과 사회적 신뢰도를 모두 낮춘다. 특히 AI의 판단이 불투명할 경우, 시민은 그 결과를 받아들이지 않거나 오히려 반발하게 된다. 예를 들어, AI로 점수를 매기는 공공기관의 지원사업 심사에서 탈락한 신청자는 AI 판단이 공정했는지 확인할 수 없기 때문에 불만을 갖게 되고, 이에 따라 행정 신뢰도도 하락한다. 법적 허점은 단지 법의 문제가 아니라, 사회 전반의 신뢰 구조를 무너뜨리는 요인이 되는 것이다. 따라서 법은 기술보다 늦을 수 있지만, 기본적인 기준과 책임 구조는 반드시 마련되어야 한다.

해결을 위한 제도적 대응과 시민 중심의 입법 참여 필요성

AI 관련 문제를 해결하기 위해서는 단순한 규제가 아닌, 현실에 기반한 제도 설계가 필요하다. 특히 다음과 같은 조치들이 시급하다:

• AI 알고리즘의 투명성 확보: AI가 채용, 심사 등 의사결정에 관여하는 경우 알고리즘의 기준과 데이터 출처를 최소한으로라도 공개하는 제도가 필요하다.
• AI 생성 콘텐츠의 식별 및 표시 의무화: AI가 생성한 이미지, 음성, 글 등에 대해서는 ‘AI 생성’이라는 명시적 표기를 법적으로 의무화하여 일반 사용자와 구분할 수 있어야 한다.
• 저작권 보호 확대: AI 학습 데이터에 포함되는 창작물에 대해 원작자의 동의를 얻는 시스템을 도입하거나, 사용 거부권(opt-out)을 법적으로 보장해야 한다.
• AI 기술 피해자 구제 시스템 마련: AI로 인한 사기, 명예훼손, 개인정보 침해에 대해 신속하게 대응할 수 있는 사이버민원센터나 특별법 제정이 필요하다.

무엇보다 시민이 입법과정에 직접 참여할 수 있는 장치가 중요하다. 기술 개발자와 기업의 이해만 반영된 법은 현실과 계속해서 괴리를 만들 수밖에 없다. 시민의 목소리가 법에 담겨야만, 법이 진정으로 사람을 위한 도구가 될 수 있다.

기술, 법, 그리고 사람의 조화를 위한 방향 설정

AI는 분명 우리의 삶을 편리하게 만들 수 있는 기술이다. 하지만 법이 그 기술을 적절히 제어하지 못한다면, 편리함은 곧 위협이 되고 만다. 지금 이 순간에도 수많은 시민들이 법의 사각지대에서 피해를 보고 있고, 그들은 자신을 보호할 방법조차 찾지 못하고 있다. 인공지능 시대의 법은 단순한 기술 규제가 아니라, 시민을 위한 안전망이 되어야 한다. 그 안전망을 만들기 위해서는 기술의 속도를 법이 따라가는 것이 아니라, 시민의 권리를 기준 삼아 기술을 사회 안으로 통합하는 방식으로 접근해야 한다. 지금 필요한 것은 더 빠른 기술이 아니라, 더 정교한 법과 더 강한 시민의 목소리다. 법이 기술보다 느릴 수는 있어도, 사람을 지키는 법은 절대로 멈춰서는 안 된다.