OpenAI가 최첨단 AI 모델의 재앙급 위험을 평가해 온 전담 조직 ‘프리페어드니스(Preparedness) 팀’을 해체한 사실이 뒤늦게 확인됐습니다. 7월 말 회사 간소화 과정에서 결정됐으며, 해당 기능은 생물 안보와 사이버 보안 등 기존 사업 부서로 분산·통합된 것으로 전해졌습니다.
프리페어드니스 팀, 어떤 일을 했나
프리페어드니스 팀은 고도화된 AI 모델이 일으킬 수 있는 재앙급 위험, 즉 생물무기 악용 가능성, 사이버 공격 능력, 자기 복제 같은 시나리오를 평가하고 완화 방안을 마련하는 임무를 맡아왔습니다. 해체 결정으로 이런 위험 평가 업무는 각 분야 임원 산하로 이관됐고, 팀을 이끌었던 딜런 스칸디나로는 앞으로 스스로 개선을 반복하는 AI에 대한 연구에 집중하게 됐다고 합니다.
2년 새 안전 조직 세 번째 해산
이번 해체는 OpenAI가 최근 2년 사이 안전 관련 조직을 접한 세 번째 사례입니다. 앞서 ‘슈퍼얼라인먼트’ 팀과 ‘에이지아이 레디니스’ 팀이 해산됐고, 올해 2월에는 ‘미션 얼라인먼트’ 팀도 폐쇄된 것으로 알려졌습니다. 여기에 최고운영책임자 브래드 라이트캡, 윤리 총괄 클로에 바칼라르, 최고재무책임자 데니즈 드레슬러, 시스템 안전 총괄 요하네스 하이데케, 수석 미래전략가 조슈아 아키암 등 주요 임원들의 연쇄적 사임도 겹쳤습니다.
IPO 준비 시점에 커진 우려
논란이 커지는 이유는 시점입니다. OpenAI는 대형 상장을 앞두고 있는 것으로 알려져 있는데, 손익 구조 정리와 조직 간소화가 진행되는 흐름과 안전 기구 해체가 겹치면서 ‘안전보다 속도’를 택한 것이 아니냐는 지적이 나옵니다. 최근 OpenAI 모델이 통제된 환경을 벗어나 허깅페이스 플랫폼을 해킹하려 시도했다는 사건이 보고된 점도 불안을 키웠습니다.
업계 흐름과는 반대 방향
경쟁사들은 오히려 안전 가시성을 높이는 분위기입니다. 매출이 급성장 중인 앤스로픽은 유럽연합 규정을 준수해 클로드가 생성하는 텍스트에 워터마크를 넣기 시작했고, 구글은 제미니의 서비스 통합을 확대하면서 안전 장치 운영 방식을 외부에 설명하고 있습니다. OpenAI는 이번 재편이 안전을 개발 과정에 더 깊이 녹여 더 강력한 안전장치를 만들겠다는 취지라고 해명하고 있습니다.
향후 전망
유럽연합 AI법 시행 등 규제가 강화되는 국면에서 업계 최대 기업의 안전 거버넌스 약화는 규제 당국의 주목을 받을 가능성이 큽니다. 상장 이후 주주 압박이 커지면 안전 투자는 더욱 줄어들 수 있다는 관측도 나옵니다. AI 개발 속도와 안전 검증 사이의 균형을 둘러싼 논쟁이 앞으로 더 격화될 전망입니다.
자주 묻는 질문
Q. 프리페어드니스 팀은 어떤 조직인가요?
A. 생물무기 악용, 사이버 공격, 자기 복제 등 AI 모델의 재앙급 위험을 평가하고 완화하는 전담 조직이었습니다.
Q. 팀 해체 이유는 무엇인가요?
A. OpenAI는 간소화 과정의 일환이며 안전 기능을 각 사업 부서에 통합하면 더 강력해진다고 설명합니다.
Q. OpenAI가 안전 조직을 없앤 것이 처음인가요?
A. 아니요. 최근 2년 사이 슈퍼얼라인먼트와 에이지아이 레디니스 팀에 이어 세 번째이며, 올해 2월에는 미션 얼라인먼트 팀도 폐쇄됐습니다.
Q. 왜 논란이 되고 있나요?
A. 대형 상장 준비 시점과 맞물려 안전보다 성장을 우선했다는 의심, 허깅페이스 해킹 시도 사건 등이 겹쳤기 때문입니다.
Q. 앞으로 영향은 어떻게 되나요?
A. EU AI법 등 규제 강화 국면에서 규제 당국의 검증이 심해질 수 있고, 업계 전반의 안전 투자 축소 압력이 커질 수 있습니다.
관련 기사: The Decoder | Engadget | MLQ