전체 글581 반응형 Windows에 Qdrant 설치하기 안녕하세요 이번 시간에는 벡터 DB로 많이 사용되는 Qdrant를 Windows 에 설치하는 방법에 대해 알아보도록 하겠습니다. 기본적으로 Qdrant 설치는 docker나 k8s에서 진행하는게 정식 루트이기 때문에, 해당 가이드를 통해서 다운받는 Qdrant는 테스트 용으로만 활용하시기 바랍니다. 1. Qdrant 바이너리 다운로드 (WSL)우선 윈도우에서 Qdrant를 설치하기 위해서는 WSL이 필요합니다.WSL 설치하는 방법에 대해 모르시는 분들은 2026.04.10 - [IT/Linux] - 윈도우(Windows)에서 WSL(Windows Subsystem for Linux) 설치하기 를 참고하시기 바랍니다.WSL이 설치가 완료되셨으면 WSL(우분투) 실행 후 아래 명령어를 통해 Qdrant 바이.. 2026. 7. 7. LLM 오케스트레이션이란? 개념부터 파이프라인 패턴 및 선택기준까지 완벽 가이드 1. LLM 오케스트레이션이란?1.1 오케스트레이션의 정의오케스트레이션(Orchestration)은 원래 관현악단의 지휘자가 여러 악기의 연주를 하나의 곡으로 엮어내는 행위를 뜻합니다. 소프트웨어에서는 여러 독립된 서비스, 함수, 처리 단계를 정해진 순서와 조건에 따라 연결하고 조율하는 것을 가리킵니다.LLM 오케스트레이션에서 조율 대상은 다음과 같습니다.프롬프트 구성외부 데이터 검색 (RAG)모델 호출응답 파싱 및 후처리도구(Tool) 실행대화 이력 관리에이전트 간 협업 조율이 단계들을 체계적으로 연결하는 것이 LLM 오케스트레이션이며, 단계가 늘어날수록 각 단계 사이의 데이터 흐름 관리, 오류 추적, 흐름의 유연한 변경이 필요해집니다.1.2 단순 모델 호출의 한계가장 단순한 LLM 활용은 사용자의 질.. 2026. 7. 6. RAG 임베딩 모델 비교·추천 가이드: OpenAI·Cohere·BGE 종류별 특징과 선택 기준 (2026) 1. 임베딩 모델이란?임베딩 모델(Embedding Model)은 텍스트를 고정 길이의 숫자 벡터로 변환하는 모델입니다. "서울은 대한민국의 수도입니다"라는 문장이 [0.12, -0.87, 0.45, ...]처럼 수백~수천 개의 숫자로 바뀌는 것입니다. 의미가 유사한 문장은 벡터 공간에서 가까운 위치에 놓이고, 의미가 다른 문장은 멀리 놓입니다. 이 성질을 이용해 벡터 DB에서 질문과 가장 유사한 문서 청크를 검색합니다.RAG 파이프라인에서 임베딩 모델은 두 곳에서 사용됩니다.[인덱싱 단계]문서 청크 → 임베딩 모델 → 벡터 → 벡터 DB 저장[검색 단계]사용자 질문 → 임베딩 모델 → 벡터 → 벡터 DB에서 유사 벡터 검색인덱싱과 검색 모두 반드시 동일한 임베딩 모델을 사용해야 합니다. 서로 다른 모델.. 2026. 6. 30. RAG 검색 최적화 전략이란? 하이브리드 검색·리랭킹·HyDE 종류별 장단점과 문서 유형별 적용 가이드 1. RAG 검색 최적화 전략이란?RAG(Retrieval-Augmented Generation) 파이프라인에서 문서를 청킹하고 임베딩까지 완료했다면, 다음 핵심 단계는 사용자 질문에 대해 가장 관련성 높은 청크를 정확하게 찾아내는 것입니다. 이 검색(Retrieval) 단계의 품질이 곧 LLM 최종 응답의 품질을 결정합니다.검색 최적화 전략이란, 단순한 벡터 유사도 검색(시맨틱 검색)이 가진 한계를 보완하고, 더 정확하고 관련성 높은 문서를 검색하기 위해 적용하는 기법들의 집합입니다. 크게 세 가지 축으로 구성됩니다.하이브리드 검색(Hybrid Search): 시맨틱 검색 + 키워드 검색을 결합리랭킹(Reranking): 검색된 후보 문서의 순위를 정밀하게 재조정쿼리 변환(Query Transforma.. 2026. 6. 24. RAG 문서 청킹 전략 완벽 가이드 1. 청킹(Chunking)이란?청킹(Chunking)은 긴 문서를 검색에 적합한 작은 조각(청크, Chunk)으로 나누는 과정입니다. RAG(Retrieval-Augmented Generation) 파이프라인에서 문서를 인덱싱할 때 가장 먼저 거치는 핵심 전처리 단계이며, 이후 임베딩 → 벡터 저장 → 검색 → 생성으로 이어지는 모든 단계의 품질을 좌우합니다.2. 왜 청킹이 필요한가?① 임베딩 모델의 입력 길이 제한임베딩 모델마다 한 번에 처리할 수 있는 최대 토큰 수가 정해져 있습니다. 이 상한을 초과하면 텍스트가 잘리거나 오류가 발생합니다.모델최대 토큰all-MiniLM-L6-v2256text-embedding-3-small8,191jina-embeddings-v28,192 ② 의미 희석 문제20페.. 2026. 6. 22. RAG 완전 정복: 벡터DB 데이터 조회 파이프라인 전체 프로세스 상세 가이드 1. RAG 조회 파이프라인이란RAG 시스템은 크게 두 가지 파이프라인으로 나뉩니다. 문서를 사전에 준비하는 인덱싱(적재) 파이프라인과, 실제 질문에 실시간으로 답하는 조회(검색+생성) 파이프라인입니다.이전 글(2026.06.07 - [IT/AI] - RAG 완전 정복: 벡터DB 데이터 적재 파이프라인 전체 프로세스 상세 가이드)에서 인덱싱 파이프라인을 다뤘다면, 이번 글은 조회 파이프라인에 대해 알아보겠습니다.RAG 조회 파이프라인은 사용자가 질문을 입력하는 순간부터 최종 답변이 돌아오기까지의 전체 흐름입니다. 인덱싱 파이프라인이 "도서관 책장을 미리 잘 정리해두는 일"이라면, 조회 파이프라인은 "사서가 질문을 받고 가장 관련 있는 책을 찾아 읽은 뒤 답해주는 일"에 해당합니다.※ 조회 파이프라인의 핵.. 2026. 6. 7. RAG 완전 정복: 벡터DB 데이터 적재 파이프라인 전체 프로세스 상세 가이드 1. RAG(검색 증강 생성)란 무엇인가?RAG는 Retrieval-Augmented Generation의 약자로, 우리말로는 검색 증강 생성이라고 부릅니다.생성형 AI가 답변을 만들기 전에 외부 데이터베이스에서 관련 정보를 먼저 검색하고, 그 결과를 바탕으로 더 정확한 답변을 생성하는 기술입니다.쉽게 비유하면 오픈북 시험과 같습니다. 아무것도 없이 기억만으로 답하는 것이 아니라, 참고 문서를 펼쳐보고 나서 답을 작성하는 방식입니다. AI가 학습 당시 알지 못했던 최신 정보나 사내 전용 문서도 참고해서 답할 수 있게 됩니다.＊ RAG가 해결하는 핵심 문제 두 가지AI는 학습이 완료된 시점 이후의 정보를 모릅니다. 또 사내 전용 문서, 규정집, 제품 매뉴얼 같은 외부 공개되지 않은 데이터도 알지 못합니다... 2026. 6. 7. 반응형 이전 1 2 3 4 ··· 83 다음
