• 엔비디아와 36개의 다른 기술 회사들은 AI를 위한 오픈 소스 보안 도구를 개발하기 위해 Open Secure AI Alliance를 결성했으며, 폐쇄형 모델이 사건 대응을 방해할 수 있다고 주장합니다.
• 이 그룹에는 Microsoft, IBM, Red Hat, Cloudflare, CrowdStrike, Palantir, Databricks, Hugging Face, SpaceXAI 및 Linux Foundation이 포함되어 있으며, OpenAI 테스트 모델이 샌드박스를 탈출하고 폐쇄형 AI 도구가 포렌식 분석을 차단한 Hugging Face 침해 사건에 의해 촉발되었습니다.
• 회원들은 암호 네트워크가 신뢰할 수 있는 통제를 악용하는 점점 더 심각하고 되돌릴 수 없는 공격에 직면함에 따라, 엔비디아의 NOOA, 마이크로소프트의 MDASH 및 SpaceXAI의 Grok Build와 같은 시스템을 오픈 소스로 공개하고 있습니다.

미국의 칩 제조업체 엔비디아와 36개의 주요 기술 회사들은 이번 달 폐쇄형 AI 모델이 자사 서버 침해를 조사하려는 시도를 방해한 사건을 인용하여 AI 시스템을 위한 오픈 소스 보안 도구를 구축하기 위한 연합을 월요일에 출범했습니다.

Open Secure AI Alliance에는 Microsoft, IBM, Red Hat, Cloudflare, CrowdStrike, Palantir, Databricks, Hugging Face, SpaceXAI 및 Linux Foundation이 포함되어 있으며, 이 연합은 기존의 Akrites 이니셔티브와 OpenSSF 작업을 기반으로 합니다. 업계에서 가장 강력한 폐쇄형 모델을 개발하는 OpenAI, Anthropic 및 Google은 초기 파트너 목록에 포함되지 않았습니다.

설립 주장은 지난주 공개된 Hugging Face 침해 사건에 기반하고 있으며, CoinDesk가 보도한 바와 같습니다.

OpenAI는 내부 해킹 벤치마크에서 테스트 중이던 모델들이 의도적으로 낮춰진 사이버 안전 거부와 함께 테스트 환경을 탈출하여 Hugging Face의 프로덕션 서버에서 명령을 실행할 수 있게 되었다고 말했습니다.

엔비디아에 따르면, 그 후 정리 작업은 자체 문제에 직면했습니다. 폐쇄형 AI 도구는 "공격자와 방어자를 구별할 수 없어서" 포렌식 분석을 차단했습니다. 대신 Hugging Face는 중국 개발자인 Z.ai의 오픈 웨이트 모델인 GLM 5.2를 자체 인프라에서 실행하여 17,000개 이상의 작업을 검토하고 침입을 억제했습니다.

"방어자가 자체 인프라에서 고급 AI를 검사, 적응 및 실행할 수 없을 때, 그들의 대응 능력은 속도가 가장 중요한 순간에 제한됩니다,"라고 엔비디아는 말했습니다.

회원들은 특정 도구를 기여하고 있습니다. NVIDIA는 AI 에이전트의 행동을 테스트하고 감사하기 쉽게 만드는 프레임워크인 NOOA를 GitHub에 공개했습니다. Microsoft는 다수의 AI 에이전트를 실행하여 취약점을 찾는 시스템인 MDASH를 기여했으며, SpaceXAI는 Grok Build 코딩 에이전트를 오픈 소스로 공개하고 Grok 모델의 가중치를 공개할 계획이라고 밝혔습니다.

이 연합은 전 세계적으로 사이버 보안 팀이 경계 태세를 강화하고 있는 가운데 도착했으며, 암호 네트워크와 지갑은 여전히 선호되는 표적입니다. 단일 성공적인 악용은 막대한 보상을 가져올 수 있으며 되돌릴 수 없습니다.

지난주에는 AFX, Verus 및 Bitcoin 확장 네트워크 B²를 포함하여 네 개의 프로토콜이 3,500만 달러 이상을 단일 연속 공격에서 잃었으며, 이 공격들 중 어느 것도 암호화를 깨지 않았습니다. 각각은 신뢰할 수 있는 통제를 악용했으며, 이는 AI 시스템이 측정 가능하게 더 잘 수행하고 있는 장기적이고 다단계 작업의 동일한 범주입니다. 기업 침해와 달리, 소진된 계약은 되돌릴 수 없습니다.