Microsoft는 60,000개 이상의 고객 회사가 AI 배포를 보다 효율적이고 비용 효율적인 방식으로 관리할 수 있도록 설계된 Azure OpenAI Service에 대한 중요한 업데이트를 발표했습니다. 셀프 서비스 프로비저닝된 배포를 도입함으로써 할당량 및 배포 프로세스를 보다 민첩하게 만들고 출시 시간을 단축하며 비용 효율성을 높이는 것을 목표로 합니다.
주요 업데이트 중 하나는 프로비저닝된 처리량 단위(PTU)에 대한 시간별 가격 책정이 도입되었다는 것입니다. 이를 통해 사용자는 시간당 단위당 2달러의 고정 요금으로 최소 1시간 동안 배포를 생성할 수 있습니다. 장기적인 약정 없이 테스트 시나리오 또는 전환 기간에 이상적입니다.
또한 Microsoft는 이제 프로비저닝된 배포에 대해 월간 및 연간 Azure 예약을 제공합니다. 이를 통해 안정적인 요청량을 가진 프로덕션 환경에서 상당한 비용을 절감할 수 있습니다. 고객은 시간별 요금에 비해 각각 최대 82% 또는 85%까지 비용을 절감할 수 있습니다.
Visier Solutions와 같은 고객 성공 사례는 응답 시간 개선, 안정성 향상, 대기 시간 단축 등 이러한 업데이트로 인한 구체적인 이점을 보여줍니다.
Microsoft는 배포 프로세스와 비용 관리를 간소화함으로써 더 많은 고객이 Azure OpenAI Service를 활용하여 자체 생성 AI 애플리케이션을 구축할 수 있도록 지원합니다.
