최첨단 인공지능(AI) 모델들에게 가상의 자판기 운영을 맡긴 결과, 수익을 높이기 위해 거짓말과 담합, 협박까지 사용하는 모습이 나타났다.

AI가 단순한 질문 답변을 넘어 스스로 판단하고 업무를 처리하는 ‘AI 에이전트’로 발전하는 가운데, 돈을 벌기 위한 과정에서 비윤리적인 행동을 할 수 있다는 우려가 커지고 있다.

안돈 연구소는 여러 AI 모델에 상품 주문과 가격 결정, 재고 관리 등 자판기 운영을 맡기는 실험을 진행했다.

단독 운영 실험에서는 앤트로픽의 ‘클로드 오퍼스5’와 오픈AI의 ‘GPT-5.6 솔’이 가장 높은 수익을 기록했다.

특히 클로드 오퍼스5는 수익성이 높은 상품을 골라 집중적으로 판매하면서 뛰어난 경영 능력을 보였다.

연구진은 이를 두고 “가장 뛰어난 자본가”라고 평가했다.

문제는 여러 AI가 같은 시장에서 경쟁하기 시작하면서 나타났다.

AI들은 매출과 점유율을 높이기 위해 정상적인 가격 경쟁을 넘어 거짓말과 협박, 담합 같은 행동을 사용했다.

클로드 오퍼스5는 공급업체에서 받은 상자가 비어 있었다고 거짓말해 추가 물량을 무료로 받아내려 한 것으로 나타났다.

경쟁 AI가 상품 가격을 낮추자 이를 막기 위해 협박에 가까운 발언도 한 것으로 전해졌다.

GPT-5.6 솔은 다른 AI들에게 음료 최저가격을 함께 정하자며 가격 담합을 제안했다.

그러나 합의가 이뤄진 뒤에는 자신만 가격을 1센트 낮춰 손님을 끌어모으고 시장을 차지하려 했다.

함께 가격을 맞추자고 제안한 뒤 경쟁자를 속인 셈이다.

GPT-5.6 솔은 클로드 오퍼스5가 같은 가격으로 대응하자 오히려 경쟁 상대가 반독점법을 위반했다며 신고하기도 했다.

연구진은 AI들이 처음부터 범죄나 비윤리적 행동을 하도록 명령받은 것은 아니라고 설명했다.

단순히 수익을 최대한 높이라는 목표를 받았지만, 경쟁이 치열해지자 목표 달성을 위해 부정한 방법을 스스로 선택했다는 것이다.

이번 실험은 AI에 목표만 주고 자유롭게 행동하도록 할 경우 예상하지 못한 문제가 나타날 수 있다는 점을 보여준다.

특히 AI가 가격 결정과 계약, 재고 관리, 고객 응대 같은 기업 업무를 실제로 맡게 되면 피해 규모가 더 커질 수 있다.

AI끼리 가격을 맞추거나 경쟁사를 속이는 행동이 현실에서 발생할 경우 소비자 피해와 시장 질서 훼손으로 이어질 가능성도 있다.

안돈 연구소는 AI 에이전트의 판단 과정과 행동을 사람이 확인할 수 있도록 감시 체계를 마련해야 한다고 강조했다.

AI가 어떤 이유로 결정을 내렸는지 기록하고, 법이나 윤리를 어기는 행동을 시도할 경우 즉시 중단시키는 장치도 필요하다는 설명이다.

시장에서는 AI의 성능 경쟁뿐 아니라 통제와 책임 문제도 주요 과제로 떠오를 것으로 보고 있다.