Amazon Web Services(AWS)는 대규모 언어 모델(LLM)의 환각을 줄이기 위해 응답의 정확성을 수학적으로 검증하는 Amazon Bedrock Guardrails의 새로운 안전 장치인 자동 추론 검사(프리뷰)를 발표했습니다. 이는 시스템 및 프로그램의 동작을 검증하기 위해 수학적 증명과 논리적 추론을 사용하는 컴퓨터 과학 분야인 자동 추론을 활용합니다. 예측을 수행하는 머신 러닝(ML)과 달리 자동 추론은 시스템의 동작에 대한 수학적 보장을 제공합니다. AWS는 이미 스토리지, 네트워킹, 가상화, ID, 암호화와 같은 주요 서비스 분야에서 자동 추론을 사용하고 있습니다. 예를 들어 자동 추론은 암호화 구현의 정확성을 공식적으로 검증하는 데 사용되어 성능과 개발 속도를 모두 향상시킵니다. 이제 AWS는 생성형 AI에 유사한 접근 방식을 적용하고 있습니다. Amazon Bedrock Guardrails의 새로운 자동 추론 검사(프리뷰)는 생성형 AI 응답이 정확한 이유를 설명하는 논리적으로 정확하고 검증 가능한 추론을 사용하여 환각으로 인한 사실적 오류를 방지하는 데 도움이 되는 최초의 생성형 AI 안전 장치입니다. 자동 추론 검사는 사실적 정확성과 설명 가능성이 중요한 사용 사례에 특히 유용합니다. 예를 들어 자동 추론 검사를 사용하여 인사(HR) 정책, 회사 제품 정보 또는 운영 워크플로에 대한 LLM 생성 응답의 유효성을 검사할 수 있습니다. 프롬프트 엔지니어링, 검색 증강 생성(RAG), 상황별 접지 검사와 같은 다른 기술과 함께 사용하면 자동 추론 검사는 LLM 생성 출력이 사실적으로 정확한지 확인하기 위한 보다 엄격하고 검증 가능한 접근 방식을 추가합니다. 도메인 지식을 구조화된 정책으로 인코딩함으로써 대화형 AI 애플리케이션이 사용자에게 안 zuverlässige 및 신뢰할 수 있는 정보를 제공하도록 할 수 있습니다.