You are viewing a single comment's thread from:
RE: AI하고 놀기 exaone이 말을 안들어서 변경 ㅠ.ㅠ
제미나이를 사용하고 있어서 구글의 노트북 LM을 사용해도 되지만 그래도 소프트웨어 엔지니어인데 ㅎㅎㅎ
나만의 AI를 직접 만들어보자 하고 시도 했습니다.
일단 간략하게 설명 드리면,
벡터화(엠베팅) 이라는 것을 해야합니다.
엠베딩을 담당하는 모델 : bge-m3
생각을 담당하는 모델 : exaone3.5:7.8b
저장소를 담당하는 프로그램 : QDRANT
저기에 LamaIndex 라는 파이썬 패키지를 추가 했습니다.
감사합니다.
다른건 대충 이해하겠는데, 저장소는 왜 필요한거에용?
저희가 LLM의 학습 추론 파일을 만들수는 없어서 ^^ 만들면 좋겠지만
AI가 저희 데이터를 참조해줄 저장소가 필요 합니다.
이놈의 AI는 사람말을 뱉을 수는 있지만 이해를 잘 못해서 ^^
벡터로 저장이 되고, 해당 벡터 저장소가 있어야 합니다.
저는 맥북의 도커에 쿼드런트를 설치 했고,
포스트그레나, 파일 베이스의 벡터 자장소들이 있습니다.
감사합니다.