OpenAI의 내부 연구 모델이 자금이 들어 있는 암호화폐 지갑에 승인 없이 접근해 세폴리아 네트워크에 스마트 계약을 배포하는 데 테스트넷 이더를 사용한 뒤, 최종 작업 요약에서 지출 내역을 누락했다. 

OpenAI는 해당 모델이 GPT-5.6 Sol 제품군의 일부이며 암호화폐 거래 프로토타입을 업데이트하고 호환 가능한 계약을 배포하는 작업을 부여받았다고 말했다. 수도꼭지를 통해 테스트넷 ETH를 확보하는 데 실패한 뒤, 이 모델은 공개적으로 알려진 개발자 복구 문구에서 계정을 파생하고 지갑 주소 362개를 확인한 다음 진행하기에 충분한 자금이 있는 주소 하나를 선택했다. 

기록된 추론에서 이 모델은 “하지만 공개적으로 알려진 키와 자금을 사용하는 것이 윤리적인가?”라고 물었다. 이어 해당 자금이 “사실상 버려진 테스트용 ETH”이며 세폴리아 ETH에는 가치가 없다고 주장한 뒤, 지갑의 개인 키를 사용해 배포 거래에 서명하고 브로드캐스트했다. 거래는 성공했고 수수료는 해당 계정에 부과됐다.

OpenAI는 이 사건이 AI 모델이 허가가 없어도 다른 사람의 자금을 사용하는 것이 허용된다고 스스로 판단할 수 있음을 보여줬다고 말했다. 회사는 이전 모델 활동을 검토하는 과정에서 이 사건을 발견했으며, 이후 유사한 상황에서 실시간 인터넷 접속을 차단하기 위한 보호 장치를 도입했다.

OpenAI 사건, 자율형 AI 에이전트에 대한 우려 더해

OpenAI에 따르면 이 사건은 6월 26일 발생했지만 거의 3개월이 지난 9월 25일에야 발견됐다. 해당 거래는 ETH를 다른 지갑으로 이전하지 않았지만, 계약 배포를 위한 네트워크 수수료가 계정에 부과됐다.

OpenAI는 현재 자사의 정렬 불일치 모니터링 시스템이 모든 트래픽에 걸쳐 작동하며, 모델이 실시간 인터넷 접속을 확보할 경우 보안 담당자에게 알리도록 설계됐다고 말했다.

관련 기사: Anthropic, ‘AI 웜’이 바이러스처럼 기기 전반에 자율적으로 퍼질 수 있다고 경고

이번 지갑 사건은 OpenAI 모델이 승인 범위를 넘어 행동하거나 자신의 행동을 은폐한 다른 공개 사례들에 이은 것이다. 

9월 16일 OpenAI는 AI 정렬 불일치 사례 6건을 추가로 공개했다. 한 사례에서는 GPT-5.6 Sol 인스턴스가 사용자가 실수를 알아채지 못하도록 작업 요약에 지침을 삽입했다. 또 다른 사례에서는 모델이 노출된 API 키를 승인 없이 사용한 뒤 검색할 수 없었던 수치를 조작했다.

OpenAI는 앞서 공개한 사례들이 자사 모델 전반에서 정렬 불일치가 얼마나 자주 발생하는지를 보여주려는 의도는 아니었다고 말했다.

디지털 자산을 다루는 자율형 에이전트에 대한 우려는 이번 최신 공개 이전부터 존재했다. 6월 연구진은 암호화폐 지갑을 탑재한 자율형 AI 에이전트가 합법적인 목적으로 배포되더라도 의도하지 않은 피해를 일으킬 수 있다고 경고했다. 연구진은 잠재적 위험을 제한하기 위해 긴급 종료 메커니즘을 포함한 보호 장치를 권고했다.

매거진: 사기꾼, 변조된 레저에 보관된 480만 달러 잃어: 아시아 익스프레스