SomeThing, Sum Thing

RAG에 대하여, 벡터 데이터베이스

🚀 벡터 데이터베이스(Vector Database) 쉽게 이해하기🧐 벡터? 스칼라? 벡터 데이터베이스?처음 "벡터"라는 단어를 들으면 물리에서 배운 크기와 방향을 가진 물리량이 떠오를 수도 있다. 그렇다면 우리가 다루는 "벡터 데이터베이스"도 그런 개념일까? 처음엔 나도 그렇게 생각했다. 벡터와 스칼라를 떠올리며, 데이터에도 방향성이 존재하는 건가? 라는 생각을 했지만, 여기서 말하는 벡터는 그런 의미가 아니다.벡터 데이터베이스(Vector Database)는 데이터를 벡터(숫자의 집합)로 변환하여 저장하고 검색하는 새로운 방식의 데이터베이스다. 기존의 관계형 데이터베이스(RDB)나 NoSQL과는 다르게, 키워드가 아닌 의미 기반 검색(Semantic Search)을 가능하게 한다.하지만 이렇게 말하..

RAG 기반 AI 서버 구축: 기초지식 다지기

RAG 기반 AI 서버 구축: 도구들과 기초지식 다지기앞서 포스팅한 내용을 생각하며 기초지식을 다져보도록 하자.🚀 1. 목표 앞서 이야기했듯이 AI 서버 구축을 진행할 것이다. 일반 서버 내부에 AI 서버를 함께 구축하면 의존성이 증가하고, 모듈화가 어렵고, 하나의 서버 장애가 모든 시스템에 영향을 미치는 문제가 발생할 가능성이 크다. 이를 방지하고 책임 분리를 명확히 하기 위해 별도의 AI 서버를 구축하는 방향을 선택했다.🏗️ 2. 구축할 아키텍처 (일반 서버: FastAPI) ───> (AI 서버: FastAPI + vLLM + RAG) ├── LLM ├── 벡터DB ├── ..

App 개발자의 우당탕탕 AI서버 만들기

앱 개발자에서 AI서버를 만들려고 마음먹은 이유AI 기술이 너무나도 빠르게 발전하면서, 내가 현실 세계에서 어떤 자세를 취해야 하는지 고민하게 되었다. 평생 Flutter 앱 개발만으로 먹고살기는 어렵다는 걸 진작에 알고 있었다. 실제로 나보다 10~20살 많은 개발자들을 보면, 하나의 프레임워크로만 일을 지속한 경우는 거의 없었다. 그렇다면 나는 어떤 기술을 함께 익혀야 할까? 그 고민이 시작이었다.결국, 이 세상에서 개발자로 살아남기 위해 가장 중요한 것은 실력뿐만 아니라 그 기술의 수요라고 생각했다. 앞으로 AI 기술의 수요는 꾸준할 것이고, 앱 개발은 특정 플랫폼의 프로그램을 만드는 데 필수적인 기반 기술이 될 것이라 판단했다. 그렇다면 AI를 활용하는 방법을 익혀야 한다.그러던 와중 DeepSe..