엔비디아가 사람의 지시 없이 자율적으로 동작하는 AI 에이전트의 오작동과 외부 시스템 침투를 차단하기 위한 오픈 에이전트 세이프티 플랫폼을 공개했다.
플랫폼의 구성
핵심은 두 가지다. 소프트웨어 기반 통제 도구 오픈셀(OpenShell)은 AI 에이전트가 실행할 수 있는 명령과 접근 범위를 정밀하게 제어한다. 하드웨어 감시 장치 센트리(Sentry)는 데이터처리장치(DPU) 상에서 동작하며, 소프트웨어가 뚫리더라도 물리 계층에서 이상 행동을 차단한다.
왜 지금 필요한가
최근 AI 에이전트는 단순한 대화를 넘어 파일 삭제, 결제, 외부 시스템 연동까지 스스로 수행하는 수준으로 발전했다. 이 과정에서 잘못된 판단이나 악의적 조작으로 인한 피해 가능성도 커졌다. 젠슨 황 엔비디아 CEO는 AI 기술이 발전하는 만큼 안전 기술의 발전 속도도 맞춰야 뛰어난 잠재력을 실현할 수 있다고 강조했다.
전망
플랫폼은 개방형으로 제공되어 기업들이 자사 환경에 맞게 자유롭게 도입할 수 있다. AI 에이전트의 기업 도입이 확산되는 국면에서 안전 인프라 표준 경쟁의 포문이 열렸다는 평가가 나온다.
자주 묻는 질문
Q. AI 에이전트 안전 플랫폼은 무엇을 막아주나요?
A. 에이전트가 허용되지 않은 명령을 실행하거나, 오작동으로 외부 시스템에 침투하는 것을 소프트웨어와 하드웨어 계층에서 각각 차단합니다.
Q. 오픈셀과 센트리는 어떻게 다른가요?
A. 오픈셀은 소프트웨어 명령 통제, 센트리는 DPU 하드웨어에서 작동하는 감시 장치로 이중 방어선을 구성합니다.
Q. 개방형이라는 의미는?
A. 기업들이 자유롭게 도입하고 자사 환경에 맞게 변형할 수 있도록 공개된 형태로 제공된다는 뜻입니다.
원문: ZDNet Korea