You are viewing a single comment's thread from:RE: AI하고 놀기 exaone이 말을 안들어서 변경 ㅠ.ㅠView the full contextjungjunghoon (78)in #kr • yesterday 와우~~ 관련 포스팅을 첨부터 확인해가면서 저도 공부좀 해봐야겠네요~
[booming-kr-auto]
보팅 완료했습니다 🙌
제미나이를 사용하고 있어서 구글의 노트북 LM을 사용해도 되지만 그래도 소프트웨어 엔지니어인데 ㅎㅎㅎ
나만의 AI를 직접 만들어보자 하고 시도 했습니다.
일단 간략하게 설명 드리면,
벡터화(엠베팅) 이라는 것을 해야합니다.
엠베딩을 담당하는 모델 : bge-m3
생각을 담당하는 모델 : exaone3.5:7.8b
저장소를 담당하는 프로그램 : QDRANT
저기에 LamaIndex 라는 파이썬 패키지를 추가 했습니다.
감사합니다.
다른건 대충 이해하겠는데, 저장소는 왜 필요한거에용?
저희가 LLM의 학습 추론 파일을 만들수는 없어서 ^^ 만들면 좋겠지만
AI가 저희 데이터를 참조해줄 저장소가 필요 합니다.
이놈의 AI는 사람말을 뱉을 수는 있지만 이해를 잘 못해서 ^^
벡터로 저장이 되고, 해당 벡터 저장소가 있어야 합니다.
저는 맥북의 도커에 쿼드런트를 설치 했고,
포스트그레나, 파일 베이스의 벡터 자장소들이 있습니다.
감사합니다.