루프 엔지니어링
이 글의 목차
모델 호출과 도구 실행 나누기
모델이 ‘계산 도구를 사용하겠다’고 출력하는 것과 실제 Python 함수가 실행되는 것은 별개 단계다. 프레임워크가 요청을 받아 함수에 인자를 넘기고, 반환값을 다시 모델에 전달한다.
아래 multiply 예제는 계산기 함수와 모델을 연결하는 작은 실습이다. 모델 제공자의 API 키와 사용 가능한 모델 ID가 필요하다. 사용할-모델-이름은 설명용 자리이므로 실제 ID로 바꿔야 한다.
일반적인 챗봇은 질문을 받고 답변을 한 번 만든다. 에이전트는 목표를 받고, 필요한 정보를 찾고, 도구를 실행하고, 그 결과를 다시 살펴본 뒤 다음 행동을 정한다.
이 반복 구조를 에이전트 루프라고 부를 수 있다. 루프 엔지니어링은 이 반복이 목적 없이 돌거나 위험한 행동을 하지 않도록 관찰, 판단, 행동, 검증, 종료 규칙을 설계하는 일이다.
“루프 엔지니어링”은 프롬프트 엔지니어링처럼 하나로 굳어진 표준 직무명이라기보다, 에이전트의 반복 실행 구조를 설명하기 위해 이 글에서 사용하는 실무 용어다.
가장 단순한 에이전트 루프
사용자 목표
↓
현재 상태 관찰
↓
다음 행동 결정
↓
도구 실행
↓
결과 확인
├─ 목표 미달 → 다시 관찰
└─ 목표 달성 → 최종 답변
코딩 에이전트에 “로그인 버그를 고쳐 줘”라고 요청했다고 생각해 보자.
- 관련 파일과 오류 로그를 찾는다.
- 코드를 읽고 원인을 추정한다.
- 테스트를 실행해 버그를 재현한다.
- 파일을 수정한다.
- 테스트를 다시 실행한다.
- 실패하면 결과를 보고 수정 방향을 바꾼다.
- 통과하면 변경 사항을 보고한다.
한 번의 모델 답변으로 끝나지 않고 도구 결과가 다음 판단의 입력이 된다는 점이 핵심이다.
루프의 5요소
1. 목표
루프가 끝났을 때 어떤 상태여야 하는지 정의한다.
모호한 목표: 블로그를 개선한다.
확인 가능한 목표:
- GCD 입문 글을 추가한다.
- Jekyll 빌드가 성공한다.
- 내부 링크가 모두 존재한다.
- master 브랜치에 푸시한다.
- 공개 URL이 HTTP 200을 반환한다.
목표가 확인 가능해야 에이전트가 멈출 시점을 판단할 수 있다.
2. 관찰
현재 상태를 읽는 단계다.
- 파일 읽기
- 데이터베이스 조회
- 웹 검색
- 테스트 결과 확인
- 현재 브랜치와 변경 파일 확인
- 사용자 답변 확인
관찰 도구가 없으면 모델은 기억이나 추측으로 빈칸을 채우게 된다.
3. 행동
상태를 바꾸거나 새 정보를 얻는 도구 호출이다.
- 검색 실행
- 코드 수정
- 명령 실행
- 메시지 초안 작성
- API 호출
각 도구는 이름, 설명, 입력 형식, 성공 결과, 오류 형태가 분명해야 한다. do_work처럼 모호한 도구보다 search_orders(customer_id)처럼 책임이 좁은 도구가 선택하기 쉽다.
4. 검증
행동이 실제로 목표에 가까워졌는지 확인한다.
파일을 수정했다 → 테스트가 통과하는가?
메일 초안을 썼다 → 금지 표현과 필수 항목을 확인했는가?
배포했다 → 실제 공개 URL에서 새 내용이 보이는가?
“도구가 성공을 반환했다”와 “사용자 목표가 달성됐다”는 다르다. 배포 명령 성공 뒤에도 실제 페이지를 확인해야 한다.
5. 종료 조건
루프는 반드시 끝나는 규칙을 가져야 한다.
- 목표의 모든 완료 조건을 통과함
- 최대 반복 횟수에 도달함
- 예산이나 시간 한도에 도달함
- 같은 오류가 반복돼 더 진행할 근거가 없음
- 사용자 판단이나 권한이 필요함
- 위험한 행동 직전 승인을 기다림
종료 조건이 없으면 같은 검색이나 수정을 반복하며 비용만 늘 수 있다.
루프를 의사 코드로 보기
state = observe_initial_state()
for attempt in range(1, MAX_ATTEMPTS + 1):
if goal_is_complete(state):
return make_final_report(state)
action = model_choose_next_action(state)
if action.requires_human_approval:
return pause_and_request_approval(action, state)
result = run_tool(action)
state = update_state(state, action, result)
return report_incomplete(state)
실제 구현은 더 복잡하지만 중요한 질문은 그대로다.
- 모델은 어떤 상태를 보는가?
- 어떤 행동을 선택할 수 있는가?
- 도구 오류는 상태에 어떻게 기록되는가?
- 완료 여부는 누가 어떻게 판정하는가?
- 언제 사람에게 넘기는가?
LangChain은 무엇인가
LangChain은 LLM 애플리케이션과 에이전트를 만들 때 자주 필요한 부품을 연결해 주는 오픈 소스 프레임워크다.
초보자 관점에서는 AI 앱용 부품 상자라고 생각하면 된다.
| 부품 | 하는 일 |
|---|---|
| Model | OpenAI, Anthropic 같은 모델 호출 |
| Message | 사용자·시스템·AI 대화 표현 |
| Prompt | 반복해서 사용할 요청 구조 |
| Tool | 검색, 계산, DB 조회 같은 외부 기능 |
| Agent | 상황에 따라 도구를 선택하는 루프 |
| Retriever | 질문과 관련된 문서 검색 |
| Middleware | 호출 전후에 로깅, 제한, 요약 같은 동작 추가 |
LangChain이 모델을 더 똑똑하게 만드는 것은 아니다. 모델, 도구, 메시지, 상태를 연결하는 반복 코드를 줄이고 공통 인터페이스를 제공한다.
아주 작은 LangChain 에이전트 예제
아래는 Python 예시다. API와 모델 이름은 라이브러리 버전에 따라 달라질 수 있으므로 설치한 버전의 공식 문서를 함께 확인해야 한다.
pip install -U langchain langchain-openai
from langchain.agents import create_agent
from langchain.tools import tool
@tool
def multiply(a: int, b: int) -> int:
"""두 정수를 곱한다."""
return a * b
agent = create_agent(
model="openai:사용할-모델-이름",
tools=[multiply],
system_prompt=(
"너는 초보자를 돕는 계산 도우미다. "
"곱셈은 직접 추측하지 말고 multiply 도구를 사용한다."
),
)
result = agent.invoke({
"messages": [
{"role": "user", "content": "123과 456을 곱해 줘"}
]
})
코드를 한 줄씩 보면 다음과 같다.
@tool은 평범한 Python 함수를 모델이 호출할 수 있는 도구로 등록한다.- 함수 이름, 타입, 설명 문자열이 도구 설명이 된다.
create_agent는 모델과 도구를 연결한다.- 사용자의 요청을 받은 모델은 답을 바로 만들지, 도구를 호출할지 결정한다.
- LangChain이 도구를 실행하고 결과를 다시 모델에 전달한다.
- 모델이 도구 결과를 사용해 최종 답을 만든다.
즉, 코드에 직접 while문을 쓰지 않았지만 프레임워크 내부에서 모델 호출과 도구 실행 루프가 동작한다.
도구 설명이 중요한 이유
모델은 보통 도구의 이름, 설명, 입력 스키마를 보고 무엇을 호출할지 판단한다.
나쁜 예:
@tool
def process(data: str) -> str:
"""데이터를 처리한다."""
좋은 예:
@tool
def find_order_status(order_id: str) -> str:
"""주문 ID로 현재 배송 상태를 조회한다. 주문을 변경하지 않는다."""
읽기와 쓰기도 분리하는 편이 안전하다.
get_order_status 읽기 전용
cancel_order 상태 변경, 사용자 승인 필요
manage_order 하나에 조회와 취소를 모두 넣으면 모델이 의도보다 큰 행동을 선택하기 쉽다.
오류를 루프의 일부로 설계하기
도구는 실패한다. 네트워크가 끊기고, 입력이 잘못되고, 권한이 없을 수 있다.
{
"ok": false,
"error_type": "ORDER_NOT_FOUND",
"message": "주문 ID를 확인해 주세요",
"retryable": false
}
오류를 구조화하면 에이전트가 다음 행동을 고르기 쉽다.
| 오류 | 적절한 행동 |
|---|---|
| 일시적 네트워크 오류 | 제한 횟수 안에서 재시도 |
| 잘못된 도구 입력 | 입력을 고쳐 다시 호출 |
| 사용자 정보 부족 | 사용자에게 질문하고 중단 |
| 권한 없음 | 우회하지 말고 권한 요청 |
| 알 수 없는 오류 | 로그를 남기고 사람에게 보고 |
모든 오류를 무조건 재시도하면 같은 실패를 반복하거나 중복 결제처럼 더 큰 문제가 생길 수 있다.
생성자-평가자 루프
문서 작성처럼 명확한 테스트 코드가 없는 작업은 생성과 평가를 분리할 수 있다.
초안 생성 → 기준표로 평가 → 구체적인 결함 전달 → 수정 → 재평가
평가 기준 예:
- 초보자가 모르는 용어를 처음 등장할 때 설명했는가?
- 모든 기술 주장이 제공된 공식 출처와 일치하는가?
- 예제 코드가 본문의 설명과 같은 순서로 동작하는가?
- 중복 문단이 없는가?
반복은 2~3회처럼 상한을 둔다. 점수가 더 좋아지지 않으면 가장 좋은 이전 결과를 유지하고 사람에게 넘긴다.
사람 승인이 필요한 지점
다음 행동은 모델이 확신하더라도 실행 전에 사람 승인을 두는 편이 안전하다.
- 돈을 결제하거나 환불하기
- 외부 고객에게 메시지 보내기
- 프로덕션 배포하기
- 데이터를 삭제하기
- 법적·의료적 판단을 확정하기
- 접근 권한을 변경하기
승인은 “사람이 언젠가 본다”가 아니다. 실행을 실제로 멈추고, 무엇을 왜 실행할지 보여 주고, 명시적인 답을 받은 뒤 재개해야 한다.
루프가 필요하지 않은 경우
- 한 문단 요약처럼 한 번의 생성으로 끝나는 일
- 단계와 규칙이 완전히 고정돼 일반 코드로 쉽게 해결되는 일
- 실패 비용이 큰데 검증이나 승인 수단이 없는 일
- 도구를 쓸 필요가 없는 단순 질의응답
에이전트 루프는 유연성을 얻는 대신 비용, 지연, 디버깅 난이도를 늘린다. 먼저 가장 단순한 구조로 해결하고, 실제로 필요한 자율성만 추가한다.
실습: 도구 결과를 믿기 전에 검증하기
아래 도구가 배송 상태를 반환한다고 생각해 보자.
{
"order_id": "A-100",
"status": "shipped",
"estimated_delivery": null
}
올바른 답변은 배송이 시작됐다는 사실과 도착 예정일은 확인되지 않았다는 사실을 구분해야 한다. 모델이 “내일 도착합니다”라고 덧붙이면 도구 결과 밖의 내용을 만든 것이다.
이 루프의 완료 조건을 “배송 상태와 알려진 예상일만 안내한다”로 정한다. 예상일이 없다는 이유로 같은 조회를 계속 반복하지 않는다. 더 조회해도 새 정보가 생길 근거가 없으면 현재 확인 가능한 결과를 보고한다.
재시도와 질문의 경계
도구가 시간 초과를 반환했다면 제한 횟수 안에서 재시도할 수 있다. 주문 ID가 없으면 재시도보다 사용자 질문이 먼저다. 권한 부족이면 다른 계정의 데이터를 찾아 우회하지 않는다.
같은 실패 메시지를 모델에 반복해서 넣는 것만으로 진전이 생기지는 않는다. 다음 행동이 달라질 근거가 있는지, 실제 상태가 바뀌었는지를 확인한다.
LangChain 코드를 따로 따라 하기
설치부터 API 키 설정, 도구 단독 실행, 최종 메시지 확인까지는 LangChain 입문에서 하나의 실습 흐름으로 설명한다.
체크리스트
- 목표를 기계나 사람이 확인할 수 있는가?
- 에이전트가 볼 상태가 정확하고 충분한가?
- 각 도구의 책임과 입력이 좁고 명확한가?
- 읽기와 쓰기 도구가 분리됐는가?
- 재시도 가능한 오류와 불가능한 오류를 구분했는가?
- 최대 반복, 시간, 비용 제한이 있는가?
- 중요한 행동 전에 실제 승인 게이트가 있는가?
- 완료 뒤 최종 상태를 다시 검증하는가?
- 각 단계와 도구 호출을 추적할 수 있는가?
정리
루프 엔지니어링은 AI에게 “알아서 끝까지 해”라고 말하는 것이 아니다. 목표, 관찰, 행동, 검증, 종료의 계약을 만들어 모델의 유연성을 안전한 반복 안에 넣는 일이다.
단순한 루프 하나로 부족하고 작업에 여러 갈래의 고정된 경로가 생기면 그래프로 표현하는 편이 이해하고 복구하기 쉽다. 다음 편에서 LangGraph와 함께 살펴본다.
→ 그래프 엔지니어링: LangGraph로 상태와 분기 연결하기