//
알아서 잘하는 에이전틱 AI 시스템 구축하기 · 안자나바 비스와스, 릭 탈루크다르
11장에서는 책 전체를 관통하는 핵심 주제를 세 가지로 요약한다.
에이전틱 시스템의 가치는 자율성에 있지만, 무제한적인 자율성은 위험하다. 1부에서 다룬 자기관리, 주체성, 자율성의 원칙이 기반이 되고, 3부에서 다룬 신뢰 구축과 안전 장치가 이를 보완한다. 이 균형을 어디에 설정할지는 도메인, 리스크 수준, 사용자 기대에 따라 달라진다.
단일 에이전트의 한계를 극복하기 위한 다중 에이전트 시스템의 설계 원칙이 2부의 핵심이었다. CWD 모델, 역할 기반 설계, 메모리 아키텍처, 도구 통합은 모두 에이전트 간 효과적인 협업을 위한 구성 요소다.
기술적 우수성만으로는 부족하다. 투명성, 설명 가능성, 편향 관리, 보안, 규제 준수가 에이전틱 시스템의 실제 채택을 결정짓는 요소다.
LLM의 컨텍스트 윈도우가 확장되고 추론 능력이 향상되면서, 에이전트가 더 복잡한 장기 과제를 수행할 수 있게 될 것이다. 현재는 수 분 단위의 작업이 주를 이루지만, 수 시간에서 수 일에 걸친 프로젝트 수준의 자율 작업도 점차 가능해질 전망이다.
현재 에이전트 프레임워크마다 고유한 인터페이스를 가지고 있어, 서로 다른 프레임워크로 만든 에이전트 간 협업이 어렵다. 에이전트 간 통신 프로토콜, 도구 정의 표준, 메모리 인터페이스의 표준화가 진행되면 에이전트 생태계가 한 단계 성장할 수 있다.
현재 대부분의 LLM 기반 에이전트는 추론 시 학습하지 않는다. In-context Learning이나 메모리를 통해 적응하지만, 모델 자체가 경험을 통해 업데이트되지는 않는다. 온라인 학습과 에이전트의 결합은 미래의 중요한 연구 방향이다.
텍스트 중심에서 벗어나, 이미지, 음성, 비디오, 물리적 센서 데이터까지 처리하는 에이전트가 확산될 것이다. 로봇 공학과의 결합도 장기적으로 유망한 방향이다.
| 현재 | 미래 전망 |
|---|---|
| 단일 작업 중심 | 프로젝트 수준의 장기 자율 작업 |
| 프레임워크별 고유 인터페이스 | 에이전트 간 표준 프로토콜 |
| 추론 시 모델 고정 | 경험 기반 지속적 모델 업데이트 |
| 텍스트 중심 상호작용 | 다중 모달리티 통합 |
| 제한적 도구 사용 | 물리적 환경과의 상호작용 |
책이 제시하는 장밋빛 미래 뒤에는 여전히 해결해야 할 근본적인 과제가 있다.
11장은 책 전체의 마무리이자, 에이전틱 AI가 아직 초기 단계라는 인식을 환기한다. 기술적으로는 빠르게 발전하고 있지만, 표준화, 평가 체계, 규제 프레임워크 등 생태계 차원의 성숙은 아직 갈 길이 멀다. 이 책은 그 여정의 출발점으로서, 에이전틱 AI 시스템을 설계하고 구현하기 위한 체계적인 기초를 제공한다.