코인베이스(Coinbase)가 인공지능(AI)이 생성한 것으로 알려진 허위 월드컵 경기 결과를 사용자들에게 알림으로 발송해 논란에 휩싸였다.

문제가 된 알림에는 노르웨이가 브라질을 3대2로 꺾었으며 공격수 엘링 홀란이 2골을 기록했다는 내용이 담겼다.

그러나 해당 알림이 발송된 당시 경기는 아직 시작되지 않은 상태였던 것으로 전해졌다.

해외 암호화폐 전문매체 비인크립토에 따르면 코인베이스가 발송한 알림은 존재하지 않는 경기 결과를 실제 속보처럼 전달한 것으로 알려졌다.

특히 해당 경기는 코인베이스의 자체 예측시장 페이지에서도 지연 상태로 표시됐던 것으로 전해지면서 AI 기반 콘텐츠 생성과 자동 알림 시스템의 검증 절차에 문제가 있었던 것 아니냐는 지적이 제기됐다.

소셜미디어에서는 해당 알림을 받은 이용자들의 문제 제기가 이어졌다.

일부 이용자는 AI가 아직 진행되지 않은 경기의 결과를 만들어낸 이른바 ‘AI 환각(AI Hallucination)’ 사례라며 금융 및 예측시장 플랫폼이 검증되지 않은 정보를 자동으로 전달하는 것은 위험할 수 있다고 비판했다.

AI 환각은 생성형 AI가 사실과 다른 내용을 실제 정보처럼 생성하는 현상을 의미한다. 스포츠 경기 결과와 금융시장 정보처럼 사실 확인이 중요한 분야에서는 잘못된 정보가 이용자의 의사결정에 직접적인 영향을 미칠 수 있다는 점에서 더욱 엄격한 검증 절차가 요구된다.

코인베이스 공동 창업자 겸 최고경영자(CEO) 브라이언 암스트롱은 문제 제기가 나온 뒤 직접 대응에 나섰다.

암스트롱 CEO는 해당 문제를 제기한 게시물에 “팀과 함께 확인하고 있다”며 제보에 감사를 표한 것으로 전해졌다.

이번 사건은 코인베이스가 암호화폐 거래를 넘어 예측시장과 주식, 파생상품 등으로 사업 영역을 확대하는 과정에서 발생했다는 점에서 주목된다.

코인베이스는 최근 스포츠와 정치, 경제, 암호화폐 등 현실 세계의 다양한 이벤트 결과에 참여할 수 있는 예측시장 서비스를 확대하고 있다.

예측시장은 특정 사건의 미래 결과를 시장 참여자들이 거래하는 구조다. 스포츠 경기 승패부터 선거 결과, 금리 결정, 경제지표 발표 등 다양한 사건을 대상으로 시장을 구성할 수 있다.

이러한 서비스에서는 경기 일정과 시작 여부, 최종 결과 등 기초 데이터의 정확성이 중요하다.

잘못된 경기 결과가 단순 뉴스 알림을 넘어 실제 거래 화면이나 시장 정산 과정에 반영될 경우 투자자의 금전적 손실과 시장 신뢰도 하락으로 이어질 가능성이 있기 때문이다.

이번 사건에서는 허위 알림이 실제 예측시장 거래나 정산에 어떤 영향을 미쳤는지는 확인되지 않았다.

그러나 시장에서는 AI를 금융 서비스에 적용할 때 생성 속도와 자동화 효율성뿐 아니라 인간의 검증과 신뢰할 수 있는 데이터 소스의 교차 확인 절차가 필요하다는 지적이 나온다.

코인베이스는 AI 활용을 적극적으로 확대해온 기업 가운데 하나다. 암스트롱 CEO는 앞서 회사의 일일 코드 작성 과정에서 AI가 상당한 비중을 차지하고 있다고 밝히면서 AI 도구의 적극적인 활용을 강조해왔다.

하지만 이번 사례는 AI를 이용한 콘텐츠 생성과 자동 알림 기능에서 정확성 검증 장치가 충분하지 않을 경우 대형 금융 플랫폼에서도 사실과 다른 정보가 대규모 이용자에게 전달될 수 있다는 위험성을 보여줬다는 평가를 받고 있다.

특히 코인베이스는 예측시장을 진실을 발견하는 새로운 정보 시스템으로 강조해왔다는 점에서 이번 논란의 파장이 더욱 커지고 있다.

예측시장은 시장 참여자가 실제 자금을 걸고 거래하기 때문에 단순한 설문조사보다 정확한 정보를 만들어낼 수 있다는 것이 지지자들의 주장이다.

그러나 플랫폼 자체가 AI를 통해 검증되지 않은 정보를 제공할 경우 시장 참여자의 판단에 영향을 미치고 예측시장 가격 형성에도 혼란을 줄 수 있다는 우려가 제기된다.

시장에서는 이번 사건을 계기로 암호화폐 거래소와 예측시장 플랫폼의 AI 활용 기준이 새로운 쟁점으로 부상할 가능성이 있다고 보고 있다.

AI를 활용해 뉴스와 경기 정보를 요약하고 빠르게 알림을 전달하는 것은 이용자의 편의성을 높일 수 있지만, 정보의 정확성을 보장하기 위한 검증 시스템이 함께 구축돼야 하기 때문이다.

특히 금융상품과 예측시장처럼 잘못된 정보가 실제 자금 거래로 연결될 수 있는 서비스에서는 공식 데이터 제공기관과의 교차 검증, AI 생성 정보에 대한 별도 확인 절차, 자동 알림 발송 전 검증 시스템 등이 필요하다는 분석이 나온다.

코인베이스가 이번 허위 월드컵 결과 알림의 정확한 발생 원인과 재발 방지 대책을 내놓을지 주목된다.

암호화폐와 금융산업 전반에서 AI 활용이 빠르게 확대되는 가운데 이번 사건은 기술 도입 속도뿐 아니라 정보의 정확성과 검증 책임이 함께 강화돼야 한다는 과제를 다시 보여준 사례로 평가된다.

박원빈 기자 wbpark@nanryna.kr