Microsoft는 데이터 과학 및 머신 러닝 플랫폼 부문의 2024 Gartner® Magic Quadrant™에서 리더로 선정되었습니다. Azure AI는 AI 시대에 모든 조직에 필요한 엔터프라이즈 거버넌스를 제공하는 동시에 데이터 과학 및 머신 러닝 혁신을 가속화하는 강력하고 유연한 엔드투엔드 플랫폼을 제공합니다.
특히 흥미로웠던 점은 MLOps 및 LLMOps에 대한 Microsoft의 집중이었습니다. 데이터 과학 프로젝트의 규모가 커지고 애플리케이션이 복잡해짐에 따라 고품질의 반복 가능한 결과를 얻으려면 효과적인 자동화 및 협업 도구가 필수적입니다. Azure Machine Learning은 모든 규모의 데이터 과학 팀을 지원하도록 구축된 유연한 MLOps 플랫폼을 제공합니다.
Azure Machine Learning 프롬프트 플로우는 LLMOps 기능을 통해 생성 AI 애플리케이션의 전체 개발 주기를 간소화하여 모델, 프롬프트, API, Python 코드, 벡터 데이터베이스 조회 및 콘텐츠 필터링을 위한 도구로 구성된 실행 가능한 플로우를 조정합니다. Azure AI 프롬프트 플로우는 LangChain 및 Semantic Kernel과 같은 널리 사용되는 오픈 소스 프레임워크와 함께 사용할 수 있으므로 개발자는 실험적 플로우를 프롬프트 플로우로 가져와 해당 실험의 규모를 확장하고 포괄적인 평가를 실행할 수 있습니다.
개발자는 애플리케이션을 공동으로 디버그, 공유 및 반복하고 기본 제공 테스트, 추적 및 평가 도구를 CI/CD 시스템에 통합하여 애플리케이션의 품질과 안전성을 지속적으로 재평가할 수 있습니다. 그런 다음 개발자는 준비가 되면 한 번의 클릭으로 애플리케이션을 배포하고 프로덕션 환경에서 대기 시간, 토큰 사용량, 생성 품질과 같은 주요 지표에 대한 플로우를 모니터링할 수 있습니다. 그 결과 엔드투엔드 관찰 가능성과 지속적인 개선이 이루어집니다.
저는 MLOps 및 LLMOps에 대한 이러한 집중이 AI 및 머신 러닝을 대규모로 배포하려는 조직에 점점 더 중요해질 것이라고 생각합니다. Microsoft는 이러한 프로세스를 간소화하는 도구와 플랫폼을 제공함으로써 조직이 공통적인 과제를 극복하고 AI 투자를 최대한 활용할 수 있도록 지원하고 있습니다.
