반응형

rag 2

RAG에 대하여, 벡터 데이터베이스

🚀 벡터 데이터베이스(Vector Database) 쉽게 이해하기🧐 벡터? 스칼라? 벡터 데이터베이스?처음 "벡터"라는 단어를 들으면 물리에서 배운 크기와 방향을 가진 물리량이 떠오를 수도 있다. 그렇다면 우리가 다루는 "벡터 데이터베이스"도 그런 개념일까? 처음엔 나도 그렇게 생각했다. 벡터와 스칼라를 떠올리며, 데이터에도 방향성이 존재하는 건가? 라는 생각을 했지만, 여기서 말하는 벡터는 그런 의미가 아니다.벡터 데이터베이스(Vector Database)는 데이터를 벡터(숫자의 집합)로 변환하여 저장하고 검색하는 새로운 방식의 데이터베이스다. 기존의 관계형 데이터베이스(RDB)나 NoSQL과는 다르게, 키워드가 아닌 의미 기반 검색(Semantic Search)을 가능하게 한다.하지만 이렇게 말하..

Study/기타 2025.02.01

RAG 기반 AI 서버 구축: 기초지식 다지기

RAG 기반 AI 서버 구축: 도구들과 기초지식 다지기앞서 포스팅한 내용을 생각하며 기초지식을 다져보도록 하자.🚀 1. 목표 앞서 이야기했듯이 AI 서버 구축을 진행할 것이다. 일반 서버 내부에 AI 서버를 함께 구축하면 의존성이 증가하고, 모듈화가 어렵고, 하나의 서버 장애가 모든 시스템에 영향을 미치는 문제가 발생할 가능성이 크다. 이를 방지하고 책임 분리를 명확히 하기 위해 별도의 AI 서버를 구축하는 방향을 선택했다.🏗️ 2. 구축할 아키텍처 (일반 서버: FastAPI) ───> (AI 서버: FastAPI + vLLM + RAG) ├── LLM ├── 벡터DB ├── ..

Study/기타 2025.02.01
반응형