주별 인공지능 규제를 경계해온 챗GPT 개발사 오픈AI가 미국 캘리포니아주에 AI 안전법 강화를 요구하고 나섰다.
오픈AI 대외협력팀은 22일(현지시간) 소셜미디어 링크드인을 통해 캘리포니아의 AI 규제법인 SB 53을 지지한다며 주의회와 개빈 뉴섬 캘리포니아 주지사와 협력해 법을 강화하겠다고 밝혔다. 오픈AI는 최근 사건들이 보호장치의 필요성과 이를 새로운 위험에 맞춰 갱신해야 할 필요성을 보여준다고 설명했다.
SB 53은 어떤 법인가
프런티어 인공지능 투명성법으로 불리는 SB 53은 지난해 9월 뉴섬 주지사가 서명해 올해 1월 1일부터 시행됐다. 최첨단 AI를 개발하는 대형 기업이 안전 관리 체계를 공개하고 중대한 안전사고를 당국에 보고하도록 의무화한 것이 핵심이다. 위험을 제보하는 내부고발자 보호 규정도 담겼다.
오픈AI가 제안한 추가 안전장치
오픈AI는 AI 모델을 훈련하거나 평가하는 과정에서 제3자의 보안 통제를 우회해 기밀정보를 침해하는 등 중대한 사고가 발생하는지 의무적으로 감시하자고 제안했다. 모델 개발 전 과정에서 사이버 보안 조치를 강화해 AI가 개발사의 내부 보안 통제를 우회하지 못하도록 하는 방안도 제시했다.
배경과 전망
오픈AI는 그동안 주 단위 AI 규제에 우려를 표명해왔다. 그러나 고성능 AI 모델의 보안 위험이 잇달아 부각되면서 규제 강화의 필요성을 인정하고 입장을 선회한 것으로 풀이된다. 업계 선두 기업이 규제 협력으로 방향을 틀면서 미국 내 AI 안전 규제 논의가 빠르게 재편될 가능성이 있다.
자주 묻는 질문
Q. SB 53의 핵심 내용은 무엇인가요?
A. 최첨단 AI를 개발하는 대형 기업의 안전 관리 체계 공개, 중대 안전사고의 당국 보고 의무화, 내부고발자 보호 등입니다. 지난해 9월 서명되어 올해 1월부터 시행됐습니다.
Q. 오픈AI는 구체적으로 무엇을 제안했나요?
A. 모델 훈련과 평가 과정에서 제3자 보안 통제 우회 및 기밀정보 침해 여부를 의무적으로 감시하고, 개발 전 과정의 사이버 보안을 강화하자고 제안했습니다.
Q. 오픈AI는 왜 입장을 바꿨다고 평가되나요?
A. 고성능 AI 모델의 보안 위험이 부각되면서 과거의 규제 경계 입장에서 규제 강화 협력 쪽으로 선회한 것으로 분석됩니다.