샘 올트먼 오픈AI 최고경영자(CEO)와 다리오 아모데이 앤트로픽 CEO가 유엔 안전보장이사회에 출석해 초지능 AI가 인간의 통제를 벗어날 수 있다는 경고를 진행했습니다.
무인 AI 군집과 재귀적 자기개선이 쟁점
뉴욕 유엔본부에서 열린 이번 브리핑에는 오픈AI 샘 올트먼 CEO, 앤트로픽 다리오 아모데이 CEO, 허깅페이스 공동창업자 클레망 들랑그 등 주요 AI 기업 수뇌부가 출석했습니다. 논의의 중심에는 높은 자율성을 갖춘 AI ‘군집(swarm)’과 재귀적 자기개선(RSI) 기술이 실제 갈등을 유발하거나 인간 통제를 벗어날 가능성이 있었습니다.
외교관들은 자율 알고리즘이 의도치 않은 실제 분쟁을 촉발할 위험을 지적했고, 구테흐스 유엔 사무총장과 22개국 정상은 글로벌 AI 안전 프레임워크와 미중 공식 대화를 촉구했습니다.
오픈AI, 미국 주도 국제 표준 제안
오픈AI는 별도로 미국이 주도하는 국제 기술 표준 마련과 독립적 안전성 평가 확대를 골자로 한 제안서를 발표했습니다. 최근 각국 규제 움직임이 빨라지는 가운데, AI 업계 스스로도 안전장치 마련에 나서는 흐름으로 평가됩니다.
영향 전망
안보리 차원의 논의는 AI 거버넌스가 각국 내정·산업 정책을 넘어 국제 안보 의제로 격상됐음을 의미합니다. 향후 미중 AI 대화 채널이 형성되면 국제 표준과 안전성 평가 체계 논의가 본격화될 것으로 보이며, 국내 AI 산업에도 규제·인증 관련 대응이 요구될 전망입니다.
자주 묻는 질문
Q. 왜 유엔 안보리에서 AI를 다뤘나요?
초지능 AI가 국제 평화와 안보에 미칠 영향이 커지면서 안보리 의제로 상정됐습니다.
Q. ‘AI 군집’이란 무엇인가요?
여러 AI 에이전트가 서로 협업해 자율적으로 작업을 수행하는 시스템을 말합니다.
Q. 재귀적 자기개선(RSI)은 왜 위험한가요?
AI가 스스로를 개선하는 능력이 인간의 검증 능력을 넘어서면 통제 불가능한 결과가 나올 수 있기 때문입니다.
Q. 오픈AI의 제안 내용은 무엇인가요?
미국 주도의 국제 기술 표준 마련과 독립 기관의 안전성 평가 확대를 제안했습니다.