[AI] RAG 시스템 구축을 위한 Smart Second Brain 플러그인 활용법

최근 RAG를 학습하면서 동시에 RAG 시스템을 보다 손쉽게 구축할 수 있는 방법을 모색하고 있습니다.
이 과정에서 옵시디언의 Smart Second Brain 플러그인을 활용하는 방안에 관심을 가지게 되었어요.

현재, 올라마의 llama3와 임베딩 모델 nomic-embed-text를 활용하여 테스트를 해보고 있습니다. 해당 임베딩 모델이 한국어를 지원하지 않아 영어로 질문했을 때 더 나은 답변을 얻을 수 있습니다.

Smart Second Brain 플러그인은 Langsmith와의 연동을 지원해, 어떤 문서가 검색되었는지, 최종 답변은 어떻게 생성되었는지, 사용한 토큰 수와 비용 등을 모니터링할 수 있는 기능도 제공합니다.

하지만, 이 플러그인이 내부적으로 사용하는 orama 벡터DB의 성능이 기대치에 미치지 못해, 관련 문서를 효율적으로 검색해내지 못하는 경우가 많습니다. 이로 인해 엉뚱한 답변을 제공하는 문제가 자주 발생하네요.

AI 관련 글

• 옵시디언 QA 봇: 지식의 바다에서 AI를 활용하여 답을 찾다
• [AI] Noi: AI 프롬프트 관리를 도와줍니다
• [AI] Qwen1.5-32B-Chat 모델 사용 경험
• [AI] RAG QA챗봇 쉽게 구축하기 - AnythingLLM
• 옵시디언에서 Llama3-70b 모델 사용하기
• [AI] 라마3 한국어 pretrained 모델 사용 경험
• [AI] Joplin 노트에 GPT-4를 무료로 활용하는 방법
• [AI] Ollama 관련 UI 클라이언트 프로그램 소개
• [개발] Gemini 1.5 Pro으로 문서 요약
• 옵시디언 노트 기반 RAG 시스템 구축하기 4 (마지막)
• [AI] Meta Llama 3 8B AI모델 사용 경험
• [AI] 한국어 로컬 LLM 비교
• [GPT] 옵시디언 노트를 기반으로 AI에게 질문하기
• 빙 AI 챗봇 사용하여 스팀잇 유저 분석하기
• (ChatGPT) OpenAI로 블로그 자동화하기 - 2
• (ChatGPT) OpenAI로 블로그 자동화하기

옵시디언 관련 글

• 옵시디언에서 Llama3-70b 모델 사용하기
• 옵시디언 노트 기반 RAG 시스템 구축하기 4 (마지막)
• 옵시디언 스팀잇 플러그인 업데이트: Dataview 코드 렌더링 기능 추가
• 옵시디언 PARA 방법론
• [개발] 옵시디언 노트 기반 RAG 시스템 구축하기 3
• [개발] 옵시디언 노트 기반 RAG 시스템 구축하기 2
• [개발] 옵시디언 노트 기반 RAG 시스템 구축하기 1
• [옵시디언] '네이버 책 검색 API'를 사용하여 독서노트 생성하기
• 옵시디언에서 유튜브 노트 빠르게 생성하기 with QuickAdd 플러그인
• 옵시디언 책 검색 플러그인 개발
• 옵시디언 스팀잇 플러그인 업데이트 v0.0.7
• 옵시디언 무료 퍼블리시하기 - 나만의 디지털 가든 만들기
• 옵시디언(Obsidian) 플러그인 개발 시작하는 방법
• 옵시디언(Obsidian) 스팀잇 플러그인 개발하기

_{Posted using Obsidian Steemit plugin}