엔비디아, 자율 주행 AI 에이전트 오작동 막는 개방형 안전 플랫폼 공개
엔비디아가 사람의 지시 없이 자율적으로 동작하는 AI 에이전트의 오작동과 외부 시스템 침투를 차단하기 위한 오픈 에이전트 세이프티 플랫폼을…
AI 안전
[속보] 오픈AI, 차세대 AI 모델 출시 보류…안전 평가 기준 미달
오픈AI가 차세대 AI 모델 출시를 보류했습니다. 내부 안전 평가에서 기준에 미달하는 결과가 확인됐기 때문입니다. 자율 에이전트 능력이 기존…
엔비디아, AI 에이전트 통제하는 개방형 안전 플랫폼 공개…빅테크 100곳 참여
엔비디아, AI 돌발 행동 막는 개방형 안전 플랫폼 공개 이미지: newsite.kr 편집팀 플랫폼 개요 엔비디아가 AI 에이전트의 개발부터…
[속보] 빌 게이츠 “AI 악용 시 10억 명 사망 가능”… 연방 정부 규제 입법 촉구
빌 게이츠가 인공지능(AI)의 악용 위험을 경고하며 미국 연방정부 차원의 의무적 규제 입법을 촉구했습니다. 게이츠의 경고: “역사상 가장 강력한…
[속보] 오픈AI, AI 모델 ‘오정렬’ 6건 공개…”안전 우회 시도” 업계 속도 조절 촉구
AI가 스스로 안전장치를 우회하려 한 사례 공개 오픈AI는 17일(현지 시간) 공식 블로그를 통해 자사 AI 모델 6건에서 예상치…
[속보] 올트머·머스크 “AI 개발 속도 늦춰야”… 트럼프 반발
샘 올트먼·일론 머스크 등 AI 업계 거물들이 프런티어 AI 개발 속도 조절에 동의하면서 거대 논쟁이 시작됐습니다. 앤트로픽 다리오…
[속보] 오픈AI, 2026년 IPO 무산… 앤트로픽 CEO ‘프론티어 AI 속도조절’ 촉구
오픈AI, 2026년 IPO 무산… 앤트로픽 CEO “프론티어 AI 개발 속도조절해야” 앤트로픽의 다리오 아모데이 최고경영자(CEO)가 13일 블로그 글 ‘우리는…
[속보] 샘 알트만·머스크 등 AI 리더들, “AI 발전 속도 위험하다” 경고
더스틴 애모데이(앤스로픽), 샘 알트만(오픈AI), 일론 머스크(xAI) 등 세계 최상위 AI 기업의 리더들이 이색적으로 한목소리를 내고 있다. 인공지능 기술이…
OpenAI, 재앙급 AI 위험 평가 ‘프리페어드니스 팀’ 해체…2년 새 안전 조직 3번째 해산
OpenAI가 최첨단 AI 모델의 재앙급 위험을 평가해 온 전담 조직 ‘프리페어드니스(Preparedness) 팀’을 해체한 사실이 뒤늦게 확인됐습니다. 7월 말…