랭체인

함수와 메서드 차이

• 함수는 독립적으로 존재하며 특정 작업을 수행하는 코드 블록이다.
• 메서드는 객체에 속한 함수로, 특정 객체의 상태나 동작과 관련된 기능을 수행한다.
• 즉, 메서드는 객체 지향 프로그래밍에서 클래스나 객체와 연관된 함수라는 점에서 구분된다.

 

랭체인

 

LangChain에서 체인 구성 의미

• 여러 컴포넌트를 이어주어 하나의 체인으로 만드는 구조
• chain = prompt_template | llm | parser 는 LangChain 구성 요소를 파이프라인으로 연결한 것
• 입력이 prompt_template에서 생성되어 llm으로 전달되고, 출력이 parser에 의해 가공되어 최종 결과를 반환하는 처리 과정
• 파이프 연산자 `|`는 하나의 컴포넌트 출력을 다음 컴포넌트 입력으로 넘기는 역할

 

랭체인에서 parser 의미

• LLM이 생성한 raw 출력을 사용자가 처리하기 쉬운 구조화된 형식으로 변환하는 컴포넌트
• ex) JSON 또는 특정 데이터 구조 형태로 파싱해 후속 처리에 활용

 

LangChain에서 invoke 의미

• LLM에 동기적으로 요청을 보내고 응답을 반환하는 메서드
• llm.invoke(messages) 호출 시 메시지를 LLM으로 보내고, 결과가 올 때까지 코드가 기다림
• 단일 입력을 동기방식으로 처리하는 기본 메서드

 

1) langchain_openai 

• 메시지를 단순 (role, content) 튜플 리스트로 정의
• 빠르게 OpenAI API 호출에 적합

from langchain_openai import ChatOpenAI
llm = ChatOpenAI(model="gpt-4o-mini")

messages = [
    ("system", "사용자가 입력한 문장을 영어로 번역해."),
    ("human", "내일은 피자를 먹어야지!")
]

result = llm.invoke(messages)
print(result)

 

2) langchain_core 

• 구조화 메시지 객체 사용
• 메시지 객체로 역할과 내용이 분리되어 관리됨
• LangChain 프레임워크 내 다른 컴포넌트와 통합·확장에 유리

from langchain_core.messages import HumanMessage, SystemMessage

llm = ChatOpenAI(model="gpt-4o-mini")

messages = [
    SystemMessage(content="사용자가 입력한 문장을 영어로 번역해."),
    HumanMessage(content="오늘은 피자를 먹어야지!")
]

result = llm.invoke(messages)
print(result.content)

 

 

프롬포트

 

1. PromptTemplate 사용 (문자열 템플릿 생성)

• PromptTemplate은 단순 문자열 기반 템플릿을 만들어 준다.
• {language}, {text} 변수를 정의해 실제 값을 넣어 완성된 프롬프트를 만든다.
• 최종 출력은 변수가 채워진 문자열 프롬프트

from langchain_core.prompts import PromptTemplate

template = """
다음 문장을 {language}로 번역해.
---
{text}
"""

prompt_template = PromptTemplate(
    input_variables=["language", "text"],
    template=template
)

prompt = prompt_template.format(language="영어", text="오늘은 피자를 먹어야지!")
prompt

 

2. ChatPromptTemplate 사용 (메시지 템플릿 생성)

• ChatPromptTemplate은 채팅 메시지 형식으로 프롬프트를 만드는 템플릿
• 각 메시지를 역할과 내용으로 정의
• 시스템 메시지와 사용자 메시지를 분리해 역할 기반 대화 구조를 생성
• 변수는 {language}, {text}를 포함하며 format으로 채워 프롬프트 생성

from langchain_core.prompts import ChatPromptTemplate

prompt_template = ChatPromptTemplate.from_messages(
    [
        ("system", "사용자가 입력한 문장을 {language}로 번역해."),
        ("human", "{text}")
    ]
)

prompt = prompt_template.format(language="일본어", text="내일은 스파게티를 먹어야지!")
prompt

 

위에서 만든 2가지 방법 중 한가지로 체인을 구성하면 된다.

3. LangChain 체인 구성 및 실행

• prompt_template가 입력을 받아 프롬프트 생성 → llm에 전달해 언어 모델 실행 → parser가 모델 출력 결과를 후처리
• invoke 메서드로 체인 전체 실행, 각 단계가 순차적으로 처리되어 최종 응답 반환

from langchain_openai import ChatOpenAI
from langchain_core.output_parsers import StrOutputParser

llm = ChatOpenAI(model="gpt-4o-mini")
parser = StrOutputParser()

chain = prompt_template | llm | parser

response = chain.invoke(
    {
        "language": "영어",
        "text": "오늘은 피자를 먹어야지!"
    }
)
response

 

 

이때, 코드에서 chain = llm | parser 는 LLM 모델 실행 후 출력 파서를 연결하는 단순 체인이다. 이 체인은 매번 invoke 할 때 주어진 입력 메시지를 별도로 상태로 저장하거나 기억하지 않는다.

코드를 실행해도 첫 번째 호출의 입력이나 답변 내용이 두 번째 호출에 어떤 방식으로든 보존되거나 반영되지 않는다. 즉, 입력한 내용(대화 문맥)을 잃어버려서 매 호출이 독립적으로 처리된다.

만약, 대화의 흐름을 유지하고 이전 메시지를 기억하는 기능을 원한다면 별도로 대화 상태 관리 기능을 구현하거나 LangChain의 메모리 컴포넌트를 사용해야 한다.

 

쪼개기

 

messages = [
    SystemMessage(content="System"),
    HumanMessage(content="Human1"),
    AIMessage(content="AI1"),
    HumanMessage(content="Human2"),
    AIMessage(content="AI2"),
    HumanMessage(content="Human3"),
    AIMessage(content="AI3")
]

trimmer = trim_messages(
    max_tokens=30,
    token_counter=llm,
    strategy="last",
    include_system=True,
    start_on="human"
)

trimmed_messages = trimmer.invoke(messages)

 

LLM은 한번에 처리할 수 있는 최대 토큰 수에 한계가 있다. 이때, 대화가 길어질수록 이전 메시지들이 누적되어 입력 토큰 수가 늘어나고, 토큰 초과 시 모델 호출이 실패하거나 비용이 과도하게 증가할 수 있기에 이를 적절히 잘라내야한다. (trim)

 

언제?

• 대화 히스토리가 쌓여 연속 대화 문맥을 모두 보내기 어려운 경우
• 최근 대화 내용 위주로 모델에 입력하고, 이전 대화는 일부 생략하거나 요약할 때
• 혹은 비용 최적화를 위해 꼭 필요한 부분만 살려서 입력할 때

 

어떻게 동작하는가?

• trim_messages 함수는 주어진 메시지(대화 기록)를 토큰 제한 내로 줄임
• strategy를 조정해서 오래된 메시지를 지우고 최근 메시지부터 유지
• 시스템 메시지는 항상 포함해 대화 흐름을 유지

 

LangChain에서 대화 상태(히스토리) 관리 구현

 

from langchain_core.chat_history import BaseChatMessageHistory, InMemoryChatMessageHistory
from langchain_core.runnables.history import RunnableWithMessageHistory

store = {}

def get_session_history(session_id: str) -> BaseChatMessageHistory:
    if session_id not in store:
        store[session_id] = InMemoryChatMessageHistory()
    return store[session_id]

with_message_history = RunnableWithMessageHistory(chain, get_session_history)
config = {
    "configurable": {
        "session_id": "chat"
    }
}

 

store 딕셔너리는 여러 개의 세션별(예: 사용자별) 대화 기록을 저장하는 메모리 역할

get_session_history(session_id) 함수는 특정 세션 아이디에 해당하는 메시지 히스토리(InMemoryChatMessageHistory)를 리턴하며, 없으면 새로 생성해 저장

RunnableWithMessageHistory는 기존의 chain에 대화 기록 저장 기능을 연결해, 각 호출 시 대화 기록을 자동으로 불러오고 기록할 수 있게 확장해준다.

 

config 객체에서 session_id를 받아 대화별로 기억을 분리하는 설정도 포함된다. session_id는 대화 세션 식별자 역할. 이 식별자가 다르면 LangChain 내부에서는 완전히 다른 대화 세션으로 인식하기 때문에, 각 세션별로 독립적인 대화 기록(ChatMessageHistory)을 관리 한다.

대화 히스토리를 세션별로 관리하는 기능을 LangChain 체인에 붙여서, 대화의 흐름과 상태를 기억할 수 있게 구현한다. 따라서 한 사용자의 대화를 이어가거나, 여러 사용자의 대화를 독립적으로 관리하는 데 쓰이는 패턴이기에, 대화 상태를 유지 및 관리할 수 있다.

 

참고

https://www.udemy.com/course/nadocoding-langchain/?srsltid=AfmBOopicTN9UsEDN2HOouugqPwdZe_JMnDkfQSjybaxVEtUeIdFTMx2