글로벌 AI 데이터 클라우드 기업 스노우플레이크(Snowflake)가 AI 모델 선택을 자동화하는 '다이나믹 모델 라우팅(Dynamic Model Routing)' 기능을 '코텍스 AI 게이트웨이(Cortex AI Gateway)'와 자사 AI 제품에 도입한다고 발표했다. 이 기능은 각 작업에 품질과 비용의 균형을 맞춰 가장 적합한 모델을 자동으로 선택해, 기업이 AI 워크로드의 비용 효율성을 높일 수 있도록 지원한다. 이번에 추가된 기능은 지난 7월 발표한 코텍스 AI 게이트웨이를 기반으로 하며, 코텍스 AI 게이트웨이는 에이전트 연결 관리, 요청 라우팅, AI 소비 최적화를 통합 제공한다.
기업이 다양한 AI 애플리케이션과 에이전트를 운영 환경에 도입하면서 하나의 모델로 모든 작업을 처리할 경우 비용이 급증할 수 있다. 반면 모델을 일일이 평가하고 관리하는 것은 개발팀에 부담이 된다. 스노우플레이크는 모델 선택을 자동화하고 다양한 오픈 모델과 상용 모델에 대한 접근성을 제공해 이 문제를 해결하겠다는 계획이다. 이 기능은 자체 AI 제품인 스노우플레이크 코코(Snowflake CoCo)와 코워크(Snowflake CoWork)뿐만 아니라 코텍스 AI 게이트웨이를 사용하는 서드파티 AI 에이전트에서도 활용할 수 있다. 덜 복잡한 작업에는 비용 효율적인 모델을, 심층 추론이 필요한 작업에는 프론티어 모델을 배분한다.
스노우플레이크는 코텍스 AI를 통해 딥시크 V4 플래시 0731(DeepSeek-V4-Flash 0731)과 GLM-5.3을 포함한 오픈 모델 접근성을 확대한다. 이 모델들은 스노우플레이크 모델 라이브러리에 추가되어, 고객은 거버넌스가 적용된 데이터를 안전하게 유지하면서 다양한 모델을 선택할 수 있다. 스노우플레이크는 이번 발표가 기업의 '인텔리전스 효율성(intelligence efficiency)'을 개선하는 데 목적이 있다고 밝혔다. 이는 컴퓨팅 자원과 모델, 데이터, 맥락을 비즈니스 성과로 전환하는 효율성을 의미한다.
스노우플레이크에 따르면 코텍스 AI 게이트웨이의 다이나믹 모델 라우팅을 활용한 에이전트는 품질을 유지하면서 최대 3배 높은 토큰 효율성으로 dbt 파이프라인을 구축했고, 다른 테스트에서는 엔지니어링 팀이 동일한 수의 풀 리퀘스트를 처리하면서 토큰 효율성을 25% 높였다. 이는 스노우플레이크 내부 테스트 결과이며, 개별 결과는 워크로드와 구성에 따라 달라질 수 있다. 또한 스노우플레이크 AI 리서치팀이 딥시크 V4 플래시를 엔터프라이즈 실무 과제로 평가한 결과 데이터 엔지니어링 과제에서 74.4%의 점수를 기록해 주요 상용 모델을 능가했다고 밝혔다. GLM-5.2는 62.8%의 성능을 기록했으며 테스트된 모델 중 가장 적은 토큰을 사용했다. 이는 dbt가 개발한 ADE-bench 프레임워크를 활용한 내부 테스트 기반이다.
스노우플레이크는 관리자에게 토큰 사용량과 비용에 대한 가시성을 제공하고 조직 차원에서 AI 지출 한도를 설정할 수 있게 지원한다. 코코는 역할 기반 접근 제어와 태깅 프레임워크를 기반으로 관리 기능을 확장한다. 관리자는 기본 모델을 지정하고 사용량을 팀이나 코스트센터로 귀속시키며 사용자별 할당량을 설정할 수 있다.
한편, 다이나믹 모델 라우팅 기능과 딥시크 V4 플래시, GLM-5.3은 프라이빗 프리뷰(Private Preview)로 제공될 예정이다. 또한 이번 발표는 'AI 경제성' 개선에 초점을 맞추고 있으며, 스노우플레이크는 오픈 모델과 상용 모델을 조합해 비용을 절감할 수 있다는 입장이다.