챗GPT 등 생성형 AI 서비스에 입력한 정보가 대화창에서 삭제되더라도 서비스 내부 시스템에는 일정 기간 남아 있을 수 있는 것으로 나타났다.

2일 업계에 따르면 글로벌 시장조사업체 가트너는 최근 발표한 '섀도 AI 데이터 유출에 신속히 대응하라(Act Quickly to Remediate Shadow AI Data Loss)' 보고서에서 생성형 AI를 통한 기업 정보 유출 위험을 경고했다.

섀도 AI는 기업의 공식 승인이나 관리 없이 직원들이 업무에 사용하는 AI 서비스를 뜻한다.

회사 내부 자료를 개인 챗GPT 계정에 입력하거나 기업 보안 정책을 거치지 않은 AI 도구를 활용하는 사례가 대표적이다.

가트너는 AI에 입력된 정보가 대화 기록뿐 아니라 서버의 요청·응답 로그, 안전성 검토 시스템, 임시 저장 공간, 백업 서버, 학습용 데이터 등 여러 영역에 저장될 수 있다고 설명했다. 저장 위치에 따라 보관 기간과 삭제 절차도 달라진다.

보고서가 제시한 일반적인 보관 사례에 따르면 삭제한 대화 기록과 서버 로그는 약 30일간 남아 있을 수 있다.

위험하거나 부적절한 내용으로 분류된 기록은 안전성 검토 시스템에서 2~7년, 학습용으로 수집된 데이터는 최대 5년까지 보관될 가능성이 있다.

다만 이는 AI 서비스 전반의 데이터 보관 위험을 설명하기 위한 사례로, 챗GPT를 비롯한 모든 서비스에 동일한 기간이 적용된다는 의미는 아니다.

실제 보관 기간은 개별 기업의 정책과 데이터 유형, 법적 의무 등에 따라 달라진다.

특히 문제가 되는 것은 AI 모델 학습에 이미 활용된 정보다.

가트너는 특정 정보가 모델의 매개변수에 통계적으로 반영되면 원본 데이터를 삭제하더라도 학습 결과에서 해당 정보의 영향을 완전히 제거하기 어렵다고 지적했다.

이를 해결하기 위한 '머신 언러닝(Machine Unlearning·기계 망각)' 기술도 아직 연구 단계에 있다.

특정 정보만 선택적으로 제거하거나 해당 데이터를 제외하고 모델을 재학습시키는 방식은 기술적·경제적 한계가 있다는 설명이다.

기업용과 개인용 AI 서비스의 데이터 보호 정책이 다르다는 점도 주의해야 한다.

같은 AI 서비스라도 개인 계정으로 업무 자료를 처리하면 기업 계약에 따른 보안 조치가 적용되지 않을 수 있다.

실제로 오픈AI는 챗GPT에서 대화를 삭제하면 계정 화면에서 즉시 제거하고 원칙적으로 30일 이내에 시스템에서 영구 삭제하도록 처리한다고 안내하고 있다.

다만 이미 비식별화된 정보나 보안·법적 의무에 따라 보관해야 하는 정보는 예외가 될 수 있다.

가트너는 기업이 AI를 통한 정보 유출을 확인하면 모델 학습 활용 여부를 점검하고 관련 대화와 저장 데이터를 삭제하는 한편, 노출된 비밀번호 등 인증정보를 즉시 변경해야 한다고 권고했다.

생성형 AI가 업무 전반으로 확산되는 가운데 기업의 AI 사용 통제와 데이터 보관·삭제 정책에 대한 점검이 중요한 보안 과제로 부상하고 있다.

보안 체크포인트 | AI 대화 기록, 삭제만으로 충분할까?

AI 서비스에 업무 자료를 입력하기 전 기업용 보안 정책과 모델 학습 활용 여부를 확인해야 한다.

개인정보와 계약서, 고객정보, 내부 재무자료 등 민감한 정보는 승인되지 않은 개인용 AI 서비스에 입력하지 않는 것이 중요하다.

이미 정보가 노출됐다면 대화 삭제뿐 아니라 별도 저장 파일과 연동 서비스, 인증정보까지 점검해야 한다. 기업은 직원의 AI 사용 지침과 정보 유출 대응 절차를 마련할 필요가 있다.