AI/주워들은 것들

LLM의 RAG란 무엇인고

아인샴 2024. 11. 16. 16:38

내 머릿속 : 

LLM은 Large language Model로 OpenAI의 chatGPT같은 데이터를 많이 넣은 언어모델 

 

 

출처 : https://aws.amazon.com/ko/what-is/retrieval-augmented-generation/

 

RAG란? - 검색 증강 생성 AI 설명 - AWS

시맨틱 검색은 방대한 외부 지식 소스를 LLM 애플리케이션에 추가하려는 조직의 RAG 결과를 향상시킵니다. 오늘날의 기업은 매뉴얼, FAQ, 연구 보고서, 고객 서비스 가이드, 인사 관리 문서 리포지

aws.amazon.com

 

갱신된 머릿속 : 

RAG는 (Retrieval-Augmented Generation)으로써, 데이터를 많이 넣은 언어모델이 있다면 갑자기 GPT한테 오늘 뉴스 알려달라고 했을 때 외부 정보를 끌어오는 방식을 말하는 것 같다. 

이 과정은 3가지 스텝으로 이뤄지는데

  1. 관련 정보 검색
    • 뉴스를 알려달라고 하면 뉴스를 검색함
  2. LLM 프롬프트 확장
    • 뉴스 검색해서 어떻게 알려줄지 할 말을 정해 설명함
  3. 외부데이터 업데이트
    • 그리고 자기가 자기가 한 말(한 말이라기보단 검색했던 "외부"정보를 내재화 하는 것 같음) 기억함. 

 

일단 오늘은 여기까지 이해를 했다. 

그러고보니 인공지능학회 여름학술대회에 갔을 때 이화여대에서 이 주제를 다뤘던 것 같은데 가물가물하네