AI 에이전트는 많을수록 좋을까? 앤트로픽이 '하나가 낫다'고 말한 이유

기업용 AI를 만들 때 “역할별 에이전트를 여러 개 두고 서로 일을 넘기게 하자”는 설계가 한동안 표준처럼 쓰였다. 그런데 앤트로픽이 이 흐름에 제동을 걸었다. 최신 모델이라면 에이전트 하나가 품질, 비용, 속도에서 대체로 더 낫다는 것이다.

무엇을 주장했나

앤트로픽 응용 AI 팀이 여러 기업 고객의 시스템을 직접 다뤄 본 경험을 바탕으로 낸 가이드다. 핵심은 세 가지다.

• 최신 모델은 복잡한 계획을 한 번의 실행 흐름 안에서 스스로 조율할 수 있어서, 하위 에이전트 사이에 끼워 넣던 경직된 라우팅 계층이 필요 없어졌다.
• 여러 에이전트를 얽은 구조는 사내 조직도를 그대로 본뜬 경우가 많고, 계산상 꼭 필요해서 생긴 구조가 아닌 경우가 많다. 그러다 보면 마스터 프롬프트끼리 서로 모순되기도 한다.
• 대안은 간결한 시스템 프롬프트, 네다섯 개의 핵심 데이터 도구, 고정된 출력 가이드레일이다. 도구는 필요할 때만 불러온다.

앤트로픽은 직접 만드는 Claude Code의 시스템 프롬프트도 새 모델용으로 80% 넘게 줄였다고 밝혔다. 기능을 그때그때 불러 쓰는 방식 덕분이다. 기존 구조를 단일 에이전트로 옮기는 도구 모음도 GitHub에 공개했다.

근거는 얼마나 단단한가

솔직히 말하면 공개된 수치는 많지 않다. 기사에 나온 구체적 성능 비교는 “통합한 단일 에이전트가 기존 다중 에이전트보다 약 두 배 빨랐다”는 한 건뿐이다. 품질과 비용 수치는 따로 제시되지 않았다. 즉 이 글의 주장은 앤트로픽 자신의 운영 관찰이다.

다만 바깥의 시각도 비슷한 방향이다. 평가 플랫폼 Vals의 연구에서는 에이전트 팀이 일부 작업을 더 빨리 끝내기도 했지만, 에이전트를 10개에서 30개, 100개로 늘려도 품질은 측정 가능한 만큼 오르지 않았고 비용만 크게 늘었다. 오픈AI의 개발자 에릭 프로빈처는 에이전트 군집을 “거의 확실히 돈 낭비”라고 평했다.

무조건 합치라는 얘기는 아니다

앤트로픽도 단서를 달았다. 내부 테스트에서 고객 지원 에이전트에 하위 에이전트를 합쳤더니 지연 시간은 줄었지만 업무 흐름이 깨졌다. 합친 모델이 전문 도구로 넘기지 않고 직접 답해 버렸기 때문이다. 하위 에이전트가 여전히 유효한 경우는 다음과 같다.

• 컨텍스트가 길어져 모델 성능이 눈에 띄게 떨어질 때
• 병렬 작업에 서로 분리된 컨텍스트가 필요할 때
• 도구 정의가 30~50개를 넘어 모델이 도구를 고르기 어려울 때

국내 개발자와 기업에게 의미하는 것

에이전트를 여러 개 엮어 놓은 사내 시스템이 있다면, 지금 구조가 “필요해서”인지 “조직도를 따라서”인지 한 번 점검해 볼 만하다. 합쳐서 얻을 수 있는 건 속도와 비용이고, 잃을 수 있는 건 예측 가능한 업무 흐름이다. 그래서 일괄 통합보다는 작은 업무 하나를 골라 합쳐 보고 결과를 비교하는 방식이 안전하다. (이 부분은 기사 내용을 바탕으로 한 필자의 해석이다.)