Google Cloud는 Vertex AI Model Garden에서 Mistral AI의 최신 모델인 Large-Instruct-2411을 정식 출시했습니다. 1,230억 개의 매개변수를 가진 이 LLM은 추론, 지식, 코딩 기능이 강화되었으며 긴 컨텍스트 처리, 함수 호출, 시스템 프롬프트도 개선되었습니다. 정확한 지침과 JSON 출력이 필요한 복잡한 워크플로, 검색 강화 생성(RAG)을 활용하는 대규모 컨텍스트 애플리케이션 및 코드 생성 작업에 이상적입니다. Vertex AI의 서비스형 모델(MaaS) 또는 셀프 서비스 옵션을 통해 모델에 액세스하고 배포할 수 있습니다. Vertex AI에서 Mistral AI 모델을 사용하여 빌드하면 효율적인 짧은 지연 시간 옵션에서 복잡한 작업을 위한 강력한 모델에 이르기까지 필요에 맞는 적절한 모델을 선택할 수 있다는 이점이 있습니다. 완전히 관리되는 MaaS로 손쉽게 실험할 수 있습니다. 관리형 인프라와 종량제 방식으로 대규모 배포를 간소화할 수 있습니다. 또한 향후 제공될 미세 조정 기능을 통해 맞춤형 솔루션을 만들 수 있습니다. LangChain과 같은 Vertex AI 도구를 사용하여 지능형 에이전트를 빌드하고 조정하고 Genkit의 Vertex AI 플러그인을 사용하여 프로덕션 환경과 통합할 수도 있습니다. Vertex AI Model Garden의 조직 정책을 통한 액세스 제어를 포함하여 Google Cloud의 엔터프라이즈급 보안 및 규정 준수를 활용할 수 있습니다.