가장 고민이 깊었던 부분은 뭐야?

두 가지입니다.

  1. 경로 로직 — 여러 장소를 어떤 순서로 잇고, 지도에 어떻게 그릴지. 그리고 그걸 프론트와 서버 중 누가 맡을지.
  2. 에이전트 분기 — 사용자 요청을 어디서, 몇 갈래로 나눌지. 그리고 애초에 에이전트가 맞는지.

둘 다 한 번에 정하지 못했고, 많은 수정을 했습니다. 그 과정이 커밋에 그대로 남아 있어서 순서대로 설명하겠습니다.

경로 로직은 어떻게 바뀌어 왔어?

먼저 범위를 나누면, 두 지점 사이의 대중교통 길찾기 api는 팀원이, 여러 장소를 잇는 코스 동선은 제가 맡았습니다. 아래는 코스 동선 이야기입니다.

시기순서를 정한 곳바꾼 이유커밋
7/3프론트 (TypeScript)AI가 준 순서를 그대로 쓰니 동선이 지그재그cfc9c68
7/15프론트 유지, 서버 경로 코드 삭제같은 계산을 양쪽에서 하고 있었음3092629
7/22서버 (Python)시간표가 순서에 따라 달라짐84e1c94
7/30서버가 확정, 프론트는 그리기만순서 재정렬 금지를 계약으로 고정528f700

1단계 — 순서는 AI가 아니라 알고리즘이 정한다 (7/3)

처음엔 AI가 고른 순서대로 이었더니 동선이 오락가락했습니다. 그래서 역할을 나눴습니다. 어떤 장소를 고를지(의미)는 AI가, 어떤 순서로 이을지(거리)는 코드가 정합니다.

  • 장소 수에 따라 알고리즘을 고릅니다. 8곳 이하는 모든 순서를 다 따져 보고, 13곳 이하는 Held-Karp, 그 이상은 최근접 이웃 + 2-opt입니다. 서울로 코스는 3~5곳이라 항상 전수 탐색으로 정확한 답을 냅니다.
  • 운영시간을 어기는 장소 수를 먼저 줄이고, 그다음 거리를 줄입니다.
  • 총거리가 10km를 넘으면 “빼면 가장 많이 줄어드는 장소”부터 뺍니다.
  • 그 전에 반경 3km 안의 장소끼리 묶어서, AI에게 넘기는 후보부터 한 동네로 모읍니다.

서울 범위의 무작위 장소로 돌린 벤치마크(scripts/bench-tsp.mts)에서 5곳 순서 계산은 0.016ms였습니다. 8곳 기준 200회 실행에서 무작위 순서보다 동선이 평균 1.99배, 최대 3.22배 짧아졌고, 장소 수와 10km 상한은 200회 모두 지켰습니다.

경로를 그릴 때 부딪힌 문제 — 순서를 정한 뒤 실제 도보 경로를 그리는 단계에서는, 공개 OSRM 서버가 자동차 도로로 계산해 직선 0.28km 구간에 5.69km짜리 경로를 돌려주는 문제가 있었습니다. 우회 감지 규칙, 빌드 시 경로 사전 계산, 개발자 전용 경로 에디터로 해결한 과정은 “트러블슈팅” 대화에 정리했습니다.

2단계 — 서버에서 경로 코드를 지우다 (7/15)

AI 서버에도 경로 계산 코드가 있었습니다. 기존 서울로 코드를 참고해 만들다 보니 들어간 건데, 프론트가 이미 같은 일을 하고 있었습니다. 서버의 routing.py(349줄)와 테스트를 지우고, 서버는 장소·좌표·선정 이유만 넘기게 했습니다.

3단계 — 순서를 다시 서버로 옮기다 (7/22)

서버가 시간표(방문 시각, 식사 시간)를 만들기 시작하자 문제가 생겼습니다. 방문 시각은 순서에 따라 달라지는데, 순서는 프론트가 정하고 있었습니다. 서버가 짠 시간표와 프론트가 그린 순서가 어긋날 수 있는 구조였습니다. 그래서 순서도 서버로 옮겼습니다. scheduler.py가 3~6곳의 모든 순서를 따져 “운영시간 안에 들어가는 장소 최대 → 이동 최소”인 순서를 고릅니다. 프론트에서 쓰던 원칙을 그대로 가져온 것입니다.

4단계 — 프론트는 경로를 그리기만 한다 (7/30)

stops[] 배열 순서가 최종 방문 순서이고, 프론트는 재정렬하지 않는다는 걸 계약으로 문서에 박았습니다. 프론트에 남은 일은 그 순서대로 실제 도로 경로를 그리는 것뿐입니다. 경로는 코스별 저장 경로 → 장소쌍 경로 → 도보 라우팅 → 직선 순서로 찾습니다. AI 코스는 매번 id가 달라 코스별 경로를 재사용할 수 없어서, 서울숲__성수역처럼 장소 두 곳을 키로 저장하는 경로 라이브러리를 만들었습니다.

남은 과제 — 장소쌍 경로 라이브러리는 아직 비어 있어서, AI 코스는 도보 라우팅이나 직선으로 그려집니다. 서버가 주는 이동 시간도 직선 거리 기반 추정치입니다.

배운 점 — 순서와 시각처럼 서로 의존하는 값은 한 곳에서 계산해야 어긋나지 않습니다. 책임을 나눌 때는 기능 단위가 아니라 데이터 의존 관계를 기준으로 나눠야 한다는 걸 배웠습니다.

에이전트 분기는 어떻게 나눴어?

처음에는 분기를 최대한 많이 만들려고 했고, 지금은 분기를 최대한 적게 두고 있습니다.

시기구조근거
7/1장소 소개·추천·코스를 하나의 그래프가 의도별로 나눠 처리하는 설계strangemap 설계 문서
7/13Plan-and-Execute + 재계획 + 병렬 실행, 도구 7종, 잡담·단일·복합 라우터작업 기록(conversation.md)
7/15코스 전용으로 축소 · 분기는 코스/잡담 둘 · 칩 입력이면 라우터 생략3092629
7/29잡담 분기까지 제거 → 선형 9노드673c26a

처음 목표는 복잡한 요청을 쪼개는 에이전트였습니다. "아이랑 종로에서 문화행사 보고, 그 근처 맛집도 알려줘"처럼 앞 결과에 따라 뒤 작업이 달라지는 요청은 재계획으로, "종로 맛집이랑 홍대 문화행사"처럼 서로 독립된 요청은 병렬로 처리하는 구조를 실제로 구현해서 돌려 봤습니다.

그런데 돌려 보니 요청이 어디로 흐르는지 보이지 않았습니다. 기능마다 진입점이 따로 있었고, LLM이 매번 다음 할 일을 판단하다 보니 같은 로직(장소를 고르고 설명을 붙이는 일)이 여러 곳에 중복됐습니다.

그래서 기준을 세웠습니다. 다음 단계를 코드가 정하면 워크플로우, LLM이 결과를 보고 정하면 에이전트입니다. 코스 생성은 사용자가 칩을 고르는 순간 할 일이 전부 정해집니다. 여기에 도구 호출 루프를 씌우면 레이턴시만 길어지고, “후보 목록 안에서만 고른다” 같은 환각 차단 장치도 약해집니다. 코스 생성은 워크플로우로 두기로 했습니다.

분기를 하나씩 걷어냈습니다.

  • 칩으로 들어오면 의도가 이미 정해져 있으니 라우터가 할 일이 없습니다. 칩 입력은 라우터를 건너뛰게 했습니다.
  • 서울로 화면에는 잡담 입력창이 아예 없습니다. 쓰이지 않는 잡담 분기를 제거했습니다.
  • 자연어 입력은 별도 갈래로 두지 않고, 첫 노드(parse_intent)가 칩과 같은 구조로 바꿔서 같은 파이프라인에 태웁니다. 자연어면 LLM 1회, 칩이면 0회입니다.

남은 분기는 엣지가 아니라 노드 안에 둡니다. 관광객과 현지인은 audience 값 하나로 구분하고, 코드가 실제로 갈라지는 곳은 세 군데뿐입니다.

갈라지는 곳touristlocal
_base_window() — 시간 칩이 없을 때기본 여행 시간 09~21시시간 없이 자유 방문 코스
_day_areas() — 여러 날 요청일 때일차별로 권역을 나눠 배정항상 한 권역
summary() 프롬프트 라벨"서울 여행자""시민"

meals부터 compose까지 4개 노드는 분기가 없습니다. 그 시점엔 누구든 “확정된 장소 목록 + 시간표”라는 같은 모양이기 때문입니다. 분기를 세 군데로 모아 두니 새 조건을 넣을 때 고칠 곳이 바로 보입니다.

에이전트를 버린 게 아니라 역할을 바꿨습니다. LLM이 스스로 도구를 골라 부르는 진짜 에이전트는, 흐름이 정해지지 않은 자유 질문 전용 엔드포인트에만 두기로 했습니다. solar-open2에서 도구 두 개를 정확한 인자로 동시에 호출하는 것까지 확인했지만, 이후 챗 모델이 Gemini로 바뀌어 다시 검증해야 하고 아직 구현하지 않았습니다.

기술은 어떤 기준으로 골랐어?

웹

기술선택 이유
Next.js (App Router)화면과 서버 라우트를 한 프로젝트에서 다룰 수 있어서, 별도 백엔드 없이 BFF를 만들 수 있었습니다. 지도는 클라이언트 전용, 소개 페이지는 서버 렌더링처럼 페이지마다 렌더링 방식을 고를 수 있다는 점이 SEO 작업에서 결정적이었습니다.
BFF 패턴 (Route Handler)서울시 API 키, AI 서버 주소와 토큰을 브라우저에 내리지 않기 위해 모든 외부 호출을 서버 라우트로 모았습니다. 브라우저는 같은 출처만 부르니 CORS 문제도 없습니다.
TypeScriptAI 서버 응답을 기존 코스 타입으로 변환할 때, 새 필드를 선택 항목으로 넓히면 기존 코드 어디가 영향받는지 컴파일러가 알려 줍니다. 정적 코스 19개를 건드리지 않고 AI 코스를 붙일 수 있었던 이유입니다.
Naver Maps국내 서비스라 국내 지도 SDK를 썼습니다. 브라우저 전용 SDK라 지도 컴포넌트만 동적 import로 분리했습니다.
Vercel (icn1)Next.js와 배포가 바로 연결되고, 서울 리전을 지정해 서울시 API·AI 서버와의 지연을 줄였습니다.
웹과 AI 서버 분리처음엔 Next.js 하나였지만, LangGraph·RAG 생태계는 Python이 중심이라 코스 생성만 떼어 냈습니다. 웹은 화면과 BFF, AI 서버는 판단과 계산을 맡는 구조입니다.

AI 서버

기술선택 이유
LangGraph (StateGraph)흐름이 정해져 있고 분기만 처리하면 되는 구조라 StateGraph를 썼습니다. 위의 워크플로우 판단과 같은 이유입니다.
Chroma (로컬)장소 1,651곳은 벡터 DB를 따로 띄울 규모가 아닙니다. sqlite 파일이라 배포 이미지에 함께 넣어 읽기 전용으로 올립니다.
Upstage embedding-2배포 서버에서 검색어를 바로 임베딩해야 해서 GPU가 필요 없는 API를 골랐습니다. 한국어 검색 품질이 좋았고 쿼터에 하루 한도가 없습니다.
FastAPI + SSE코스 하나에 몇 초가 걸려서 진행 상황 표시가 필요했습니다. 서버가 보내기만 하면 되니 WebSocket 대신 SSE를 썼습니다.
계산 노드 분리순서·시각 계산은 항상 같은 답이 나와야 합니다. LLM에 맡기면 검증할 방법이 없어서 코드로 계산합니다.
프로바이더 스위치LLM_PROVIDER 값만 바꾸면 코드 수정 없이 챗 모델이 바뀝니다. 호출 제한 대비이자, 모델 비교 평가를 같은 조건으로 돌린 장치입니다.
uvpyproject.toml과 uv.lock을 커밋해 개발·배포 환경의 버전을 고정했습니다.

돌아보면 아쉬웠던 점은?

SEO를 늦게 챙긴 것 — 웹은 4월부터 만들었는데, 지도 앱이 클라이언트에서만 그려져 검색엔진이 홈 한 장밖에 못 읽는다는 걸 8월에야 알았습니다. 콘텐츠 레이어를 따로 얹어 해결했지만, 처음부터 어떤 페이지를 검색에 노출할지 정하고 렌더링 방식을 골랐다면 같은 작업을 덜 했을 겁니다.

컴포넌트가 너무 커진 것 — 기능을 빠르게 붙이다 보니 지도 컴포넌트가 1,800줄, 나만의 코스 패널이 1,500줄을 넘었습니다. 나만의 코스 패널은 문구도 아직 한국어로 하드코딩돼 있어 다국어가 빠져 있습니다. 다음에는 상태 관리와 화면을 먼저 나누고 기능을 붙이겠습니다.

나이대로 개인화하려 했던 것 — 처음에는 연령대별 선호 장소로 코스를 나눴는데, 테스트해 보니 나이대만으로는 왜 그 장소인지, 거기서 뭘 해야 하는지가 드러나지 않았습니다. “누가, 왜 움직이는가”를 기준으로 목적은 검색을, 동반자는 추천 문구와 할 일을 바꾸도록 다시 설계했습니다. 같은 잠실이어도 친구와 가면 야구 관람, 아이와 가면 롯데월드를 추천하는 식입니다.

평가 환경과 배포 환경이 달랐던 것 — 모델 비교 평가는 로컬 qwen3 임베딩으로 돌렸는데, 배포는 embedding-2를 씁니다. 검색 결과가 달라지면 후보 장소도 달라지므로 평가 결론을 배포 환경에 그대로 옮길 수 없습니다. 표본도 15개였고 사람 검증도 하지 못했습니다. 다음에는 배포 환경을 먼저 정하고 그 기준으로 평가하겠습니다.

부하를 늦게 확인한 것 — 배포 후에야 검색 노드가 async 안에서 동기 호출을 해서, 검색하는 동안 같은 인스턴스의 다른 요청이 모두 멈춘다는 걸 발견했습니다. 동시 요청 20개를 받도록 설정해 놓고 실제로 감당하는지는 확인하지 않았던 겁니다. 스레드로 넘기는 수정은 해 뒀지만 아직 전후 측정을 하지 못해 배포하지 않았습니다. 배포도 CI/CD 없이 수동으로 하고 있어서, 측정과 함께 배포 자동화를 다음 과제로 두고 있습니다.

모든 답변은 작성자가 직접 작성한 내용입니다.

프로필

서

서동휘

AI applied Engineer, Product Engineer

문제를 정의하고 기술을 통해 해결하는 개발자

기술 스택

  • Python
  • FastAPI
  • LangChain
  • TypeScript
  • React

연락처