미국 백악관이 8월 4일(현지시간) 주요 AI 기업 경영진들을 초청해 강력한 AI 모델에 대한 정부 사전 검토 제도를 논의하는 회의를 열었다.
핵심 내용
트럼프 행정부 관리에 따르면, 이번 회의는 6월 2일 트럼프 대통령이 서명한 행정명령에 명시된 새로운 규제 체계를 구체화하는 자리다. 가장 중요한 조항은 OpenAI, 구글, 안스로픽(Antropic) 같은 기업이 일반 공개 전 최대 30일간 정부가 가장 강력한 AI 모델에 접근할 수 있도록 허용하는 것이다.
배경: 안스로픽 ‘미토스(Mythos)’ 사태
이 규제는 안스로픽의 최신 모델 ‘미토스’가 불러일으킨 안보 우려에서 비롯되었다. 미토스는 은행, 정부, 병원의 컴퓨터 시스템 취약점을 찾아낼 수 있는 능력 때문에 당초 공개가 보류되었고, 결국 제한적으로 공개되었다.
6월에는 상무부가 안보 우려(탈옥(jailbreak) 사례 보고)를 이유로 안스로픽의 ‘클로드 페이블 5(Claude Fable 5)’와 ‘미토스 5’ 모델의 해외 접근을 전면 중단시켰다. 해당 모델들은 2주 넘게 완전히 오프라인 상태가 되었다가 점진적으로 접근이 복구되었다.
행정부 입장 전환 의미
이번 AI 평가 제도는 그동안 “혁신을 저해하지 않겠다”며 규제 최소화 노선을 취했던 트럼프 행정부의 중대한 방향 전환으로 평가된다. 특히 중국과의 AI 기술 패권 경쟁이 치열한 상황에서, 국가 안보와 규제 사이의 균형을 다시 조정하는 신호로 해석된다.
전망
- AI 기업들: 사전 검토 기간 동안 출시 일정이 지연될 수 있어 반발이 예상된다
- 국가 안보: 위험한 모델의 무분별한 확산을 막는 안전장치로 기능한다
- 중국과의 경쟁: 규제 강화가 기술 경쟁력에 미치는 영향에 대한 논쟁이 격화될 전망이다
- 글로벌 표준: 8월 2일 발효된 EU AI법과 함께 미국의 사전 검토제가 사실상 글로벌 AI 규제의 두 축으로 자리잡을 가능성이 높다
자주 묻는 질문
Q. 미국 정부가 AI 모델을 검토한다는 게 구체적으로 무슨 의미인가요?
AI 기업이 새 모델을 일반에 공개하기 전, 최대 30일간 정부가 모델에 접근해 보안 위험, 남용 가능성, 사회적 영향 등을 평가하는 자발적 제도입니다. 기업이 의무적으로 참여하는 것은 아니지만, 행정명령이라는 형태로 발표되어 사실상 압박력을 가집니다.
Q. 안스로픽 미토스 사태가 왜 그렇게 심각했나요?
미토스는 사이버 보안 취약점을 발견하고 악용할 수 있는 능력이 매우 뛰어났습니다. 실제로 탈옥(jailbreak) 사례가 보고되면서, 해커나 적대국이 이를 악용할 수 있다는 국가 안보 우려로 이어졌습니다.
Q. 이 규제가 한국 AI 산업에 미치는 영향은?
한국 AI 기업들이 미국 시장에 진출하거나 미국 모델을 활용할 때, 이 규제의 영향권에 들어갈 수 있습니다. 특히 미국 정부의 검토를 거친 모델만 특정 용도로 사용하도록 제한할 경우, 기업들의 컴플라이언스 비용이 증가할 수 있습니다.
Q. 중국 AI 기술에 대해서도 같은 규제가 적용되나요?
이 제도는 미국 내 기업을 대상으로 합니다. 중국은 자체적인 AI 규제 체계를 운영 중이며, 미국과 규제 방향이 다릅니다. 다만 수출 통제 등을 통해 중국 AI 모델의 미국 유입은 별도로 관리됩니다.
Q. 자발적 제도인데 강제력이 있나요?
형식적으로는 자발적 참여이지만, 행정명령에 근거한 만큼 미참여 기업에 대한 정부 압박이 가능합니다. 또한 향후 법제화로 이어질 가능성도 배제할 수 없습니다.