엔비디아, AI 돌발 행동 막는 개방형 안전 플랫폼 공개
이미지: newsite.kr 편집팀
플랫폼 개요
엔비디아가 AI 에이전트의 개발부터 배포까지 전 과정을 통제하고 모니터링하는 개방형 안전 플랫폼을 공개했습니다. AI가 스스로 판단하고 행동하는 에이전틱 AI 시대가 열리면서, 잘못된 행동이나 악용을 원천 차단할 안전망의 필요성이 커진 것이 배경입니다.
빅테크 총동원
이 플랫폼에는 앤트로픽, 마이크로소프트, 세일즈포스 등 글로벌 빅테크 100여 개사가 참여합니다. 경쟁 관계에 있는 기업들이 AI 안전이라는 공동 목표로 뭉친 것은 이례적입니다. 개방형 표준으로 만들어 업계 전반의 안전 수준을 동시에 끌어올리겠다는 전략입니다.
향후 전망
AI 에이전트가 금융, 의료, 행정 등으로 확산될수록 안전 인증과 통제 장치는 필수 인프라가 됩니다. 엔비디아가 그 표준의 중심에 서게 될지 업계의 관심이 집중되고 있습니다.
자주 묻는 질문(FAQ)
Q1. 이 플랫폼은 무엇을 하나요?
AI 에이전트의 개발부터 배포까지 전 단계에서 위험 행동을 통제하고 모니터링하는 안전 장치입니다.
Q2. 어떤 기업들이 참여하나요?
앤트로픽, 마이크로소프트, 세일즈포스 등 국내외 빅테크 100여 개사가 함께합니다.
Q3. 왜 개방형으로 만들었나요?
특정 기업 독점이 아닌 업계 공통 표준으로 삼아 AI 안전 수준 전반을 끌어올리기 위해서입니다.