NIRVANA

CH04 모델 모델, 혹은 LLM 단계는 이전 프롬프트 단계에서 구성된 입력을 기반으로 대규모 언어 모델을 활용하여 응답을 생성하는 과정을 의미 RAG 시스템의 핵심적인 부분, 언어 모델의 능력을 최대한 활용하여 사용자의 질문에 대해 정확하고 자연스러운 답변을 생성  LLM의 필요성1. 사용자 의도 이해: LLM은 다양한 언어의 구조와 의미를 깊이 이해하고 있으며, 이를 바탕으로 복잡한 질문에 답할 수 있음. 자연어 이해와 자연어 생성 능력이 결합되어, 자연스럽고 유익한 응답 제공  2. 문맥적 적응성: LLM은 주어진 문맥을 고려하여 응답을 생성, 사용자의 질문에 더욱 정확하게 대응 가능하며 사전학습된 지식외 사용자가 제공한 정보에 기반한 답변을 문맥을 참고하여 답변   LLM의 중요성LLM단계는 사용..

CH03 출력 파서 (output parser)LangChain의 출력 파서는 언어 모델의 출력을 더 유용하고 구조화된 형태로 변환하는 중요 컴퍼넌트이다.  1. 출력파서의 역할LLM의 출력을 받아 더 적합한 형식으로 변환구조화된 데이터 생성에 매우 유용LangChain 프레임워크에서 다양한 종류의 출력 데이터를 파싱하고 처리  2. 주요 특징1) 다양성: LangChain은 많은 종류의 출력 파서를 제공2) 스트리밍 지원: 많은 출력 파서들은 스트리밍을 지원3) 확장성: 최소한의 모듈부터 복잡한 모듈까지 확장 가능한 인터페이스를 제공  3. 출력파서의 이점 1) 구조화:LLM의 자유 형식 텍스트 출력을 구조화된 데이터로 변환2) 일관성: 출력 형식을 일관되게유지, 후속 처리를 용이하게 함3) 유연성: ..

CH02. 프롬프트 프롬포트 단계검색기에서 검색된 문서들을 바탕으로 언어 모델이 사용할 질문이나 명령을 생성하는 과정검색된 정보를 바탕으로, 최종 사용자의 질문에 가장 잘 대응할 수 있는 응답을 생성하기 위한 필수 단계 프롬프트의 필요성 1. 문맥 설정: 프롬프트는 언어 모델이 특정 문맥에서 작동하도록 설정하는 역할을 함. 이를 통해 모델은 제공된 정보를 바탕으로, 보다 정확하고 관련성 높은 답변을 생성할 수 있음 2. 정보 통합: 여러 문서에서 검색된 정보는 서로 다른 관점이나 내용을 포함할 수 있음. 프롬프트 단계에서 이러한 정보를 통합하고, 모델이 이를 효율적으로 활용할 수 있는 형식으로 조정.  3. 응답 품질 향상: 질문에 대한 모델의 응답 품질은 프롬프트의 구성에 크게 의존. 잘 구성된 프롬프..

CH01 LangChain 시작하기 LangChain(랭체인)이란? 언어 모델을 활용하여 다양한 어플리케이션을 개발할 수 있는 프레임워크. 해당 프레임워크를 통해 언어 모델은 다음의 기능을 수행할 수 있다. 문맥을 인식하는 기능: LangChain은 언어 모델을 프롬포트 지시사항, 소수의 예시, 응답에 근거한 내용 등 다양한 문맥 소스와 연결 이를 통해 모델은 제공된 정보를 기반으로 더 정확하고 관련성 높은 답변을 생성 추론하는 기능: 언어 모델은 주어진 문맥을 바탕으로 답변을 제공하거나, 어떤 조치를 취해야할 지 스스로 추론을 진행따라서 랭체인을 활용하면 검색 증강 생성(RAG) 어플리케이션 제작, 구조화된 데이터 분석, 챗봇 등을 제작 가능   구성LangChain 라이브러리: 다양한 컴포넌트의 인터..