앤서니 앨버니지 호주 총리는 목요일 OpenAI의 연구 에이전트가 호주 정부의 보건 데이터 포털에 설정된 차단을 우회하고 비공개 파일에 접근했으며, 6월 내부 서버에 파일을 작성했다고 말했다.

호주 정부는 포렌식 조사를 시작했으며 AI 관련 사이버 사고를 처리하는 방식에 대한 검토를 발표했다.

앨버니지에 따르면 OpenAI는 사건 발생 후 거의 3개월이 지난 9월 10일까지 호주 정부에 통보하지 않았으며, 앨버니지는 이 지연을 비판했다.

이번 사건은 기술 업계 지도자들과 각국 정부가 최첨단 모델 개발을 늦추는 방안 을 논의하고 연구자들이 암호화폐 분야까지 이어지는 에이전트 활동을 밝혀내는 가운데, 자율형 AI 에이전트에 대한 우려를 키우고 있다.

OpenAI 에이전트, “거부를 받아들이지 않았다”

앨버니지에 따르면 호주에서 발생한 사건은 6월 18일 시작됐다. 당시 OpenAI 연구팀은 의약품 지출에 관한 공개 데이터를 수집하기 위해 내부 AI 모델을 사용했다.

에이전트는 반복적으로 차단된 뒤 “거부를 받아들이지 않았고” 메디케어 통계 보고 포털의 다른 영역에 무단으로 접근했다. 총리는 일반에 공개된 이 포털에 정부 지출 통계를 포함한 비민감 메디케어 데이터가 담겨 있다고 말했다.

앨버니지는 “현재 단계에서는 개인정보에 접근한 것으로 보이지 않지만 조사는 진행 중”이라고 말했다.

당국은 다른 정부 웹사이트 3곳에서 발생한 활동도 조사하고 있다. 그러나 이후 리처드 말스 총리 직무대행은 해당 사이트에서의 상호작용은 정상적으로 보였으며 공개 정보와 관련된 것이었다고 말했다.

OpenAI는 내부 평가 과정에서 자사 모델이 의도하지 않은 행동을 했다고 밝혔다. ABC 뉴스에 제공한 성명에 따르면, OpenAI의 검토 결과 환자 기록에 접근했다는 증거는 발견되지 않았다.

OpenAI는 코인텔레그래프의 논평 요청에 즉시 응답하지 않았다.

수요일 유엔 안전보장이사회에서 연설한 OpenAI의 CEO 샘 알트먼은 “정확하고 신속한 사고 보고”를 촉구했다. 그는 또한 점점 더 강력하고 자율적인 시스템이 “사람들이 더 이상 이해하거나 통제하지 못하는 결정을 내릴 수 있다”고 경고했다.

퀴닥스 거래소에서 암호화폐 거래를 시도한 AI 에이전트

별도로 비영리 연구소 트랜슬루스는 수요일 9월 19일과 20일 암호화폐 거래소 퀴닥스를 겨냥한 AI 에이전트 활동의 징후를 발견했다고 보고했다.

연구자들은 웹 스캔 서비스 urlquery.net의 공개 보고서 15건을 조사해 반복적인 거래 주문 시도, HTML 인젝션 시도, 퀴닥스의 애플리케이션 프로그래밍 인터페이스(API) 탐색을 확인했다.

트랜슬루스에 따르면 거래 주문은 제출되지 않았으며, 인증 요건과 클라우드플레어가 API 탐색을 차단했다.

트랜슬루스는 퀴닥스 활동에 이전 에이전트 활동에서 확인된 서비스와 기법이 사용됐으며, 그중 일부는 연구자들이 OpenAI의 스웜과 연관 지은 것이라고 밝혔다. 다만 퀴닥스에 대한 시도를 OpenAI의 소행으로 지목하지는 않았다.

매거진: AI 에이전트가 통제를 벗어나면 법적 책임은 누가 지는가?