https://cloud.google.com/blog/products/ai-machine-learning/rag-and-grounding-on-vertex-ai?e=48754805&hl=en


Vertex AI Agent Builder 개요:

  • 구글 클라우드의 Vertex AI Agent Builder는 엔터프라이즈용 생성 AI(Generative AI) 앱과 에이전트를 개발할 수 있도록, 필요한 기능과 도구를 한 곳에 모아둔 플랫폼
  • 이 플랫폼의 강점은 RAG 구현을 지원하고, Google Search 를 지원해준다는 것.

 

Vertex AI 새로운 업데이트:

  • Goolge Search 는 필요할 때 검색을 하도록 하는 기능임. 모델이 자체적으로 필요한 상황에서 검색을 하도록 할 수 있고, 언제 Google Search 를 하면 되는지 알려줄 수 있다고 함.
    • 이걸 Dynamic Retrieval 라고 함. 빠르게 변하지 않는 질문은 모델의 지식을 이용하고, 최신 정보가 필요한 질문은 Google Search 를 활용.
  • High-Fidelity 모드를 지원함:
    • 모델이 근거를 활용하는 방식에서 정확성을 높여 ‘환각(hallucination)’을 더 줄이도록 돕는 모드.
    • 외부 데이터를 더 정교하게 반영해서 답변의 신뢰도를 높이는 방법이라고 함.
  • 서드파티 데이터셋 연동:
    • Moody’s, MSCI, Thomson Reuters, Zoominfo 회사들의 데이터를 연결해주는 작업을 올해 3분기까지 완료할 것이라고 함.
    • 금융, 경제, 시장 분석, 기업 정보 등 특정 업계나 분야에 특화된 데이터를 말함.
  • Vector Search & Hybrid Search:
    • 벡터 검색(Vector Search)은 임베딩(embedding)을 활용한 검색으로, RAG에서 핵심적인 기술임. 이것들은 당연히 지원해야하는 것
    • 하이브리드 검색(Hybrid Search)을 새롭게 퍼블릭 프리뷰(Public Preview)로 선보인다고 함. 서로 다른 검색 방식(정확 일치·단어 기반 검색과 벡터 검색 등)을 결합해 최적의 검색 결과를 도출.

+ Recent posts