Google Cloud와 Oracle은 Oracle CloudWorld 2024에서 AI 기반 경험을 제공하기 위한 협업을 발표했습니다. “Coffee Nirvana”라는 이름의 이 데모는 AI 기반 커피 검색에 초점을 맞추고 Retrieval Augmented Generation(RAG)이 사용자 경험을 어떻게 혁신할 수 있는지 보여줍니다.
기존 검색 엔진의 과제 중 하나는 키워드 매칭에 대한 의존도가 높다는 것입니다. 이는 특히 “부드럽고 중간 정도로 로스팅된 초콜릿과 헤이즐넛 향이 나는 커피”와 같이 미묘한 뉘앙스가 담긴 표현을 다룰 때 검색 결과의 정확성과 관련성을 제한합니다. “Coffee Nirvana”는 RAG를 활용하여 이 문제를 해결합니다. RAG를 통해 AI는 방대한 정보 데이터베이스를 활용하여 실시간으로 컨텍스트에 맞는 검색 결과를 제공할 수 있습니다.
이 데모에서 Oracle Database 버션 23ai는 Google Cloud에 배포되며, 커피 설명과 사용자 검색어는 Vertex AI의 대규모 언어 모델을 사용하여 숫자 표현(벡터)으로 변환됩니다. Langchain은 벡터 데이터베이스(Oracle 데이터베이스의 샘플 커피 데이터로 채워짐) 내에서 유사성 검색을 용이하게 하고 사용자 쿼리와 가장 관련성이 높은 결과를 검색합니다. Gemini Flash 모델은 사용자 설명의 문맥적 단서와 뉘앙스를 기반으로 검색을 개선하여 정교함을 더합니다. 마지막으로 Google Maps API는 커피 재고가 있는 위치를 표시하는 시각화 레이어를 추가합니다.
“Coffee Nirvana” 데모는 Google Cloud에서 Oracle Database와 RAG를 함께 사용할 때의 이점을 보여줍니다. 여기에는 정확성 및 개인화, 자연어 이해, 실시간 재고 통합 등이 포함됩니다.
이 접근 방식은 LLM의 기능과 Oracle 데이터베이스에 저장된 실시간 컨텍스트 풍부 데이터를 결합하여 개인화된 추천을 제공하고 사용자 경험을 향상시킵니다. 이 기술의 잠재적 적용 분야는 커피 분야를 훨씬 뛰어넘어 소매, 서비스, 의료, 교육 등으로 확장됩니다. AI 기반 솔루션은 개별의 요구와 바람을 충족하는 맞춤형 경험을 제공함으로써 다양한 산업에 혁명을 일으킬 가능성이 있습니다.
