Amazon Web Services (AWS)는 생성 AI 애플리케이션의 안전성과 신뢰성을 향상하도록 설계된 Guardrails for Amazon Bedrock에 대한 새로운 업데이트를 발표했습니다. 이러한 업데이트에는 모든 모델에서 사용자 지정 가드레일을 사용하여 애플리케이션을 강화하고 책임감 있고 신뢰할 수 있는 출력을 보장하는 환각 감지 및 독립 API가 포함됩니다.
환각 감지 기능은 고객이 참조 소스 및 사용자 쿼리를 기반으로 모델 응답의 정확성을 확인할 수 있도록 하는 귀중한 추가 기능입니다. 이를 통해 모델이 사실에 근거하지 않은 부정확하거나 새로운 정보를 생성하지 않도록 하는 데 도움이 됩니다.
ApplyGuardrail API를 사용하면 고객이 구성된 보호 조치에 대해 사용자 입력 및 모델 응답을 평가할 수 있습니다. 이 기능은 자체 관리형 또는 타사 LLM을 사용하는 조직에 특히 유용합니다. 이를 통해 모든 애플리케이션에 표준화된 안전 조치를 적용할 수 있기 때문입니다.
이러한 업데이트를 통해 AWS는 안전하고 안정적인 생성 AI 애플리케이션을 구축하는 고객에게 역량을 제공하는 도구와 솔루션을 제공하겠다는 의지를 재확인합니다. Guardrails for Amazon Bedrock은 이러한 방향으로 나아가는 중요한 단계이며 고객이 사용하는 LLM의 동작을 더 잘 제어할 수 있도록 지원합니다.
이러한 새로운 기능에 대해 자세히 알아보려면 AWS 웹사이트의 Guardrails for Amazon Bedrock 제품 페이지를 참조하세요.
