기업연계 - 고객센터 Agent 프로젝트

커머스 고객센터 챗봇을 위한 멀티 에이전트 기반 지식 그래프 시스템 구축

개요

본 프로젝트는 퓨처워크랩(Future Work Lab)과 협업하여 진행한 산업 연계형 프로젝트입니다. 총 4인의 팀으로 구성되었으며, 저는 팀장 역할과 함께 기술 검토 및 멀티 에이전트 시스템 개발을 담당하였습니다.

프로젝트의 핵심 목표는 커머스 고객센터에 특화된 멀티 에이전트 기반 챗봇 시스템을 개발하는 것이었습니다. 이를 위해 최신 LLM(대규모 언어 모델) 생태계 도구인 LangChain, LangGraph, Neo4j 등을 적극적으로 활용하였습니다.

---

프로젝트 기간

2025.05.09 ~ 2025.06.05

---

역할 및 책임

• 팀장
  프로젝트 방향성 수립 및 팀원 간 협업 조율
• 기술 리드
  멀티 에이전트 구조 및 지식 그래프 설계/검토
• 멀티 에이전트 개발
  LangChain & LangGraph 기반 에이전트 시스템 구현

---

기술 스택

• 멀티 에이전트 프레임워크: LangChain, LangGraph, AutoGen
• 그래프 데이터베이스: Neo4j
• Embedding Search: Vector Search (Neo4j)

---

주요 작업 및 성과

1. 멀티 에이전트 시스템 구축

• 초기 조사 및 프레임워크 비교
  다양한 오픈소스 프레임워크(AutoGen, CrewAI 등)를 비교 분석하고, 구조적 유연성과 상태 관리 측면에서 LangChain + LangGraph 조합을 선택
• AutoGen 기반 1차 프로토타입 설계
  • hand off 구조 기반의 멀티 에이전트 시나리오 구현
  • AutoGen을 통해 에이전트 간 협업 구조 개념을 명확히 이해

hand off 구조도

• LangGraph로 전환 및 개선
  • LangGraph의 명시적 State 관리 기능을 활용하여 복잡한 에이전트 간 워크플로우를 시각화 및 구현
  • System Message 최적화를 통해 불필요한 턴(Turn) 발생 이슈를 해결

---

2. 온톨로지 기반 지식그래프 구축

• GraphRAG 방식 학습 및 응용
  • 강의 예제(Academic QA System)를 참고하여 온톨로지 설계 및 구축 방식 이해
  • 고객센터 업무 문서를 Neo4j 그래프 구조로 변환하는 프로세스 실험
• Graph DB 자동화 시도
• 문서 형식의 작업지시서를 입력으로 받아, 구조화된 Knowledge Graph 생성 파이프라인 설계

문서 -> LLM -> 온톨로지

---

3. 정보 검색 및 추론 방식 실험

• Embedding Similarity Search
  • 그래프 노드 정보를 벡터로 임베딩하여 유사도 기반 검색 구현
  • 단일 노드 검색 성능은 우수하나, 다단계 그래프 추론이 어려움을 확인

  • 

    검색용 embedding 속성 추가

• 기존 RAG 방식의 한계
  • 문서 단위 검색으로는 A→B→C 형태의 그래프 추론이 필요한 KGQA에서 한계 발생
• GNN-RAG 도입 가능성 탐색
  • 논문 GNN-RAG: Graph Neural Retrieval for LLM Reasoning 기반으로,
    LLM의 자연어 이해력 + GNN의 구조적 추론 능력을 결합한 새로운 RAG 구조 가능성 탐색
  • 진행 상황:
    실제 구현 및 정량적 평가까지는 이르지 못했으나, 구조적 탐색의 유연성과 LLM-기반 응답 정확도 개선 측면에서 실험적 가능성을 확인한 수준에서 마무리.

  • 

    \GNN - RAG

---

주요 이슈 및 인사이트

이슈	대응 및 인사이트
에이전트 간 상태 공유의 복잡성	LangGraph의 State Transition 기능 활용
반복되는 System Message	메시지 템플릿 최적화로 해결
스키마 구조의 확장성 문제	단일 구조보다 유연한 온톨로지 설계 필요
그래프 기반 검색의 한계	GNN 기반 추론 구조(GNN-RAG) 가능성 확인

---

결론

이번 프로젝트를 통해 멀티 에이전트 시스템 설계, 온톨로지 기반 지식 그래프 구축, LLM-RAG 시스템의 한계 및 확장성에 대한 깊은 통찰을 얻을 수 있었습니다. 특히, 단순 챗봇을 넘어 지식 추론이 가능한 고객 응대 시스템의 가능성을 탐색하는 소중한 계기가 되었습니다.