생성형 AI 도입이 확산되면서 기업 IT 인프라의 무게 중심이 다시 프라이빗 클라우드로 이동하고 있다.

그동안 기업들은 빠른 확장성과 편의성을 이유로 퍼블릭 클라우드를 적극 활용해 왔지만, AI 서비스가 실제 운영 단계에 접어들면서 비용 통제와 보안, 데이터 주권 문제에 대한 고민이 커지고 있다.

특히 대규모 언어모델(LLM)과 AI 에이전트 운영에는 막대한 컴퓨팅 자원이 필요해 예상보다 높은 인프라 비용이 발생하고 있다. 여기에 기업 핵심 데이터가 외부 환경에서 처리되는 데 따른 보안 및 규제 리스크도 주요 과제로 떠올랐다.

이 같은 변화 속에서 브로드컴은 VMware Cloud Foundation(VCF)을 중심으로 기업들의 프라이빗 클라우드 전환 수요를 적극 공략하고 있다. 브로드컴은 최근 기업들이 요구하는 것은 단순한 AI 도입이 아니라 'AI 주권(AI Sovereignty)' 확보와 운영 자동화라고 강조했다.

업계에서는 앞으로 AI 경쟁력이 단순히 어떤 AI 모델을 사용하는지보다 얼마나 안전하고 효율적으로 운영할 수 있는지에 의해 결정될 것으로 보고 있다. AI가 기업 핵심 업무에 깊숙이 자리 잡으면서 안정적인 데이터 관리와 비용 효율성을 갖춘 프라이빗 클라우드의 중요성은 더욱 커질 전망이다.

전문가들은 생성형 AI 시대의 승부처가 기술 도입 자체가 아닌 지속 가능한 운영 체계 구축에 있다고 평가하고 있다.