EU AI법, 무엇이 바뀌나
EU 집행위원회의 AI 사무국과 회원국 당국은 8월 2일부터 AI법을 본격적으로 집행한다. 이번 조치에서 가장 주목받는 것은 새로운 투명성 규정이다.
새 규정에 따르면 다음과 같은 의무가 부여된다:
- 챗봇 및 대화형 AI: 사용자가 AI와 대화하고 있다는 사실을 반드시 알려야 한다. 인간인 척하는 AI 시스템은 금지된다.
- 딥페이크 표시 의무: AI로 생성되거나 수정된 이미지, 영상, 음성 콘텐츠에는 명확한 라벨이 표시되어야 한다.
- 기계 판독 마크: AI가 생성하거나 변경한 콘텐츠는 감지를 용이하게 하기 위해 기계가 읽을 수 있는 마크를 포함해야 한다.
180개 이상 기업, 준수 코드 서명
EU 집행위원회는 180개 이상의 기관이 AI 생성 콘텐트 투명성에 관한 실천 강령(Code of Practice)에 서명했다고 발표했다. 이 강령은 투명성 규정을 구체적으로 어떻게 이행할 것인지에 대한 실질적 가이드를 제공한다.
서명 기관에는 주요 IT 기업, 미디어사, AI 개발사가 포함된 것으로 알려졌다. 이들은 규정 준수를 위한 자발적 약속과 함께, 위반 시 과태료 대상이 된다.
글로벌 AI 규제의 물결
EU의 AI법 시행은 전 세계 AI 규제의 물결을 본격화하는 신호탄이다. 미국, 영국, 일본 등 주요국도 자체적인 AI 규제 프레임워크 마련에 나서고 있는 상황에서, EU의 선도적 조치는 사실상 글로벌 표준으로 작용할 전망이다.
특히 한국 기업들에도 영향이 크다. EU 시장에 서비스를 제공하거나 진출하려는 한국 AI 기업은 투명성 의무를 포함한 AI법 규정을 준수해야 한다. 위반 시 최대 매출의 7%에 해당하는 과태료가 부과될 수 있다.
AI 산업에 미치는 영향
AI 콘텐츠 투명성 의무는 다음과 같은 파급 효과가 예상된다:
- 딥페이크 산업 타격: 악성 딥페이크 생성이 기술적으로 차단되는 것은 아니지만, 적발 시 제재가 명확해진다.
- 합성 미디어 시장 재편: 합성 미디어를 활용하는 크리에이터와 기업은 표시 의무를 위한 도구와 워크플로우를 구축해야 한다.
- 소비자 신뢰 강화: AI 생성 콘텐츠에 대한 소비자 인지도가 높아지며, 신뢰할 수 있는 콘텐츠와 그렇지 않은 콘텐츠의 구분이 명확해진다.
- 한국 기업 대응 시급: EU 진출 한국 기업은 즉각적인 컴플라이언스 검토가 필요하다.
전망: 규제와 혁신의 균형
EU의 AI법은 규제를 통해 AI 기술에 대한 대중의 신뢰를 구축하려는 의도다. 그러나 일부에서는 규제 부담이 AI 혁신을 저해할 수 있다는 우려도 나온다. 특히 스타트업과 중소기업에게 컴플라이언스 비용이 진입 장벽으로 작용할 수 있다는 지적이다.
EU 집행위원회는 이러한 우려를 의식해 실천 강령을 통해 기업에 구체적인 준수 가이드를 제공하고, 단계적 집행을 통해 업계 적응 시간을 주겠다는 방침이다. 또한 AI법 불만 접수 도구와 내부 고발자 도구도 운영하여 시민 참여를 보장한다.
자주 묻는 질문 (FAQ)
Q. EU AI법의 투명성 규정은 한국에도 영향이 있나요?
네. EU 시장에서 서비스를 제공하는 모든 기업에 적용되므로, EU 진출 한국 기업도 준수해야 합니다. 위반 시 최대 매출의 7% 과태료가 부과될 수 있습니다.
Q. 딥페이크 표시는 어떻게 해야 하나요?
AI로 생성되거나 수정된 이미지, 영상, 음성에 명확한 라벨과 기계 판독 가능한 마크를 포함해야 합니다. EU가 제공한 실천 강령에 구체적 방법이 제시됩니다.
Q. 챗봇도 사용자에게 AI라고 밝혀야 하나요?
네. 대화형 AI 시스템은 사용자가 AI와 상호작용하고 있음을 반드시 공개해야 합니다. 인간인 척하는 행위는 금지됩니다.
Q. 180개 기업이 서명한 실천 강령이란 무엇인가요?
AI 생성 콘텐츠 투명성에 관한 자발적 준수 약속으로, 구체적인 이행 방법을 담고 있습니다. 주요 IT 기업과 미디어사 등이 참여했습니다.
Q. AI법 위반 시 어떤 제재를 받나요?
규정 위반 시 최대 글로벌 매출의 7%에 해당하는 과태료가 부과될 수 있으며, 서비스 중단 등의 조치도 가능합니다.