이더리움 공동 창립자 비탈릭 부테린이 인공지능(AI) 서비스를 이용할 때 개인정보 노출을 줄이기 위한 에이전트 시스템을 공개했다. 결제 기록과 네트워크 접속 정보, 질문 내용에서 발생하는 식별 위험에 각각 대응하는 방식이다.

지난 16일(현지시간) 공개된 내용에 따르면 해당 시스템은 영지식증명 기반 API 이용 기술인 zkAPI와 익명 통신 네트워크 토르(Tor), 사용자 기기에서 실행되는 대규모언어모델(LLM)을 결합했다.

비탈릭 비탈릭은 자신의 구성에서 큐웬(Qwen) 모델을 활용해 외부 AI에 전달할 프롬프트를 먼저 재작성하도록 했다.

네트워크에서는 대화마다 별도의 토르 회선을 배정한다. 서로 다른 대화가 동일한 접속 경로를 통해 연결되는 것을 줄이려는 취지다.

로컬 모델의 프롬프트 재작성은 외부로 전송되는 질문에서 사용자의 표현 방식이나 식별 단서가 드러날 가능성을 낮추는 역할을 한다.

결제 단계의 개인정보 보호에는 zkAPI가 사용된다. 이더리움 재단의 공식 설명에 따르면 zkAPI는 영지식증명을 통해 유효한 이용 대금이 존재함을 증명하면서 API 사용 내역과 결제자의 신원이 연결되는 것을 줄이도록 설계됐다.

다만 결제 정보 보호만으로 질문 내용까지 비공개가 되는 것은 아니다. 이더리움 재단은 외부 AI 제공자가 프롬프트와 응답을 볼 수 있으며 반복되는 개인정보나 문체, 과거 대화 내용이 서로 다른 세션을 연결하는 단서가 될 수 있다고 설명했다. 토르와 로컬 모델을 함께 사용하는 이유도 이러한 노출 경로에 대응하기 위해서다.

비탈릭은 시스템이 실용적인 작업에 사용할 수 있는 단계에 가까워지고 있지만, 새로운 대화를 시작할 때 상당한 지연이 발생한다고 밝혔다.

토르 역시 트래픽이 오가는 시간을 비교하는 상관관계 분석 공격에 취약해 완전한 익명성을 보장하기 어렵다고 지적했다.

이번 공개는 AI 에이전트의 개인정보 보호를 결제와 통신, 입력 내용이라는 여러 측면에서 개선하려는 시도다.

향후 과제는 이러한 보호 기능을 유지하면서 응답 지연을 줄이고 사용자의 신원을 추정할 수 있는 잔여 단서를 얼마나 효과적으로 통제하느냐에 있다.