유럽연합(EU)이 8월 2일부터 세계에서 가장 엄격한 인공지능 규제법인 ‘AI법(AI Act)’의 핵심 조항을 본격적으로 시행한다고 밝혔다. 이로 인해 EU 내에서 서비스하는 모든 AI 시스템이 새로운 투명성 기준을 준수해야 한다.
챗봇, “나는 AI입니다” 알려야
새로운 규정에 따라 챗봇을 포함한 대화형 AI 시스템은 사용자가 AI와 상호작용하고 있다는 사실을 명시적으로 알려야 한다. AI가 인간처럼 행동하는 것이 금지되며, 필요한 경우 주기적으로 자신이 AI임을 다시 알려야 한다.
또한 딥페이크를 포함해 AI로 생성되거나 수정된 이미지, 영상, 음성 콘텐츠는 명확하게 표시되어야 한다. AI 생성 콘텐츠는 더 쉽게 탐지할 수 있도록 기계 판독 가능한 마크도 함께 포함해야 한다.
180여개 기업, 투명성 준수 서약 서명
유럽위원회는 AI 생성 콘텐츠의 투명성에 관한 실무 강령(Code of Practice)에 서명한 180개 이상의 기관 목록을 공개했다. 이 강령은 AI 생성 콘텐츠 투명성 규정을 실제로 적용하기 위한 구체적 지침을 제공한다.
EU AI 사무소(AI Office)는 범용 AI(GPAI) 모델의 준수 여부를 테스트할 수 있는 권한을 갖는다. 우려 사항이 해결되지 않으면 EU 내 배포를 제한할 수도 있다.
고위험 AI 규정은 2027년으로 연기
원래 8월 2일 시행 예정이었던 고위험 AI 시스템에 대한 상세 규정은 EU의 ‘디지털 옴니버스(Digital Omnibus)’ 입법을 통해 2027년 12월으로 연기됐다. 고위험 AI 규정은 채용, 신용 평가, 교육, 법 집행, 핵심 인프라 등에 사용되는 AI 시스템을 대상으로 한다.
연기의 배경에는 기술 표준과 규제 인프라가 아직 충분히 갖추지 못한 현실이 반영됐다. 기업들이 준수에 필요한 구체적 가이드라인을 기다려온 상황에서, 추가 시간은 명확한 기준 마련에 활용될 예정이다.
다만 8월 2일부터 적용되는 투명성 의무와 금지된 AI 관행, AI 리터러시 요건은 연기 없이 그대로 시행된다.
한국 기업에 미치는 영향
EU AI법은 EU 시장에서 서비스하는 모든 기업에 적용된다. 한국의 빅테크 기업과 AI 스타트업이 EU 시장 진출을 노린다면, 챗봇 서비스의 AI 표시 의무와 딥페이크 콘텐츠 표시 규정을 즉시 준수해야 한다.
특히 AI 기반 고객 서비스를 운영하는 기업은 시스템 수정이 필요할 수 있다. 위반 시 최대 매출의 7%에 달하는 과태료가 부과될 수 있다.
자주 묻는 질문 (FAQ)
Q. EU AI법의 주요 내용은 무엇인가요?
AI 시스템이 사용자와 상호작용할 때 AI임을 밝히고, 딥페이크 등 AI 생성 콘텐츠에 표시를 하는 투명성 의무가 핵심입니다. 또한 사회 점수 매기기 등 위험한 AI 관행이 금지됩니다.
Q. 한국 기업도 영향을 받나요?
네. EU 시장에서 AI 서비스를 제공하는 모든 기업에 적용됩니다. 챗봇이나 AI 생성 콘텐츠를 활용하는 한국 기업도 준수해야 합니다.
Q. 고위험 AI 규정은 언제부터인가요?
원래 8월 2일이었으나 디지털 옴니버스 입법으로 2027년 12월으로 연기됐습니다. 채용, 신용평가, 의료기기 등에 쓰이는 AI가 대상입니다.
Q. 위반하면 어떤 제재를 받나요?
금지된 AI 관행 위반 시 최대 매출의 7%, 투명성 의무 위반 시 최대 1,500만 유로 또는 매출의 3% 과태료가 부과됩니다.
Q. 기존 시스템은 어떻게 하나요?
8월 2일 이전에 시장에 출시된 시스템은 2026년 12월 2일까지 AI 생성 콘텐츠 워터마킹 요건을 충족할 수 있는 추가 시간이 주어집니다.