왜 Agent Team으로 구성된 AI가 더 잘되는가?

ChatGPT와 대화를 나누던 시절에서, Agent Team형태로 구성되어 돌아가는 Agentic AI가 각광받게 되었다. 왜냐하면 "잘하기" 때문이다. 그런데 왜 더 잘할까?

 

1. Anthropic의 연구에 따르면 LLM은 다양한 페르소나 수십개를 내부에 갖고 있다.

 

 예를들면 사무직 전문가와 예술가를 제각기 맥락에 따라 연기할 수 있다. 하지만 한 기억과 흐름에서 서로 다른 둘이 전부 전문성을 발휘해야하는 결론에 이르러야 한다면 비효율적일 수 있다. 여기서 가장 문제는 컨텍스트 혼란이다. 서로 다른 이해관계를 지닌 "기업가"와 "노동자"를 번갈아서 역할하면서 대화 맥락이 진행되면, 각각 다른 컨텍스트에서 단순하게 작업해서 결론을 합치는 것보다, 효율이 떨어지게 되는 것이다. 인간 세상에서의 분업도 비슷하다. 잘 조직된 구조는 서로 다른 명확한 다른 이해 관계의 목표하에 소규모 조직이 각자 노력하고, 그들의 갈등을 조정하면서 합치는 관리자에 의해서 좀더 나은 효율을 낸다. 이 맥락과 크게 다르지 않다고 예상해볼 수 있다.

 

 따라서 특정 역할과 기능 하에서 단순한 맥락과 기억속에 적절한 도구를 가지고 일관된 결론에 이르도록 하는 것이 더 효율적이다. 그리고 똑 같은 LLM일때 이러한 제약을 가해주고 토큰을 더 많이 소모하면, 최대한의 효율성을 끌어올릴 수 있어 보인다.

 

 Agent Team을 효율적으로 구성하는 원칙들을 지향하는 하네스 엔지니어링을 보면, 아래와 같이 실험적으로 밝혀진 원칙들이 언급된다

 

 1) 단순한 지침으로 시작한다

 2) 하지 말아야 할것은 분명히 하고, 꼭 해야 할것도 분명히 한다.

 3) 대신 필요한 모든 정보/맥락에 대한 접근 권을 준다.

 4) 지속적으로 불필요한 지침은 제거한다

 5) 검증 과정을 포함시킨다

 

이 중에 agent로 별도 분기시키면 5가지 모두 장점을 지니는데, "섞이지" 않기 때문이다. 그리고 이 핵심에는 한 종류의 업무역할이 활성화되어 가장 단순하게 임무를 처리하도록 구성하는 것이 유리하다는 결론에 이르게 된다.
(어떤 경우는 어설픈 agent  분할이 업무 효율을 낮추는 경우도 관찰된다. agent끼리 제대로 소통하기 어렵거나 서로의 가정이 엉키는 경우이다. Claude Code에서는 agent간에 서로 대화할 수 있고, 따라서 이 기능도 필수적이다)

 

2. 이해관계와 맥락을 단순화하게 하는게 핵심이다.

 

 늘 그렇듯이 이해관계가 분명하면, 그나마 가장 단순하게 전략을 세우고 추진할 수 있다. 늘 어려운 것은 이해관계가 복잡한 상황이다. 따라서 맥락과 이해관계를 단순화하는 형태로 agent를 나누고, 결론을 내도록 하되, 서로간에 대화는 가능하도록 해야한다는 결론에 이르게 된다.

 

 신기하게도 orchestrator는 조율만 진행하는게 일반적이다. 각 agent의 업무에 간섭하지 않는다. 각자의 전문 agent들의 의견을 들어서 편중없이 그 이해관계의 우선순위를 결정하면 될 일이다. 그리고 반드시 첨가되어야할 검증 agent는, 역시 모두와 독립적으로 목적을 위해 검증을 디자인하고 실행한다.

 

 이 이야기를 관통하는 것은 결국 agent가 가장 적은 맥락 정보와 지침으로, 일관되게 자기 역할을 할 수 있게 구성한다는게 핵심이 되겠다.

 

3. 사실 좀더 깊은 사전 조건이 있다.

 

 Agent들이 서로 이야기하고 조율하면서 업무가 처리되기 위해서는 Agent가 다른 Agent에게 중요하다고 생각하는 요약된 핵심 정보를 전달해야하고, 정보를 받는 Agent는 자기 맥락을 잃지 않으면서도 그 정보를 충분히 이해하고 반영해야 한다. 이것은 개별 LLM이 지닌 성향과 성능에 좌우되기 때문에, 어떤 임계치 조건 이상이 되어야 제대로 효율을 낼 수 있다.

 즉, Agent Team이 잘 작동하기 위해서는, 각 역할별 전문성 외에 해당 역할과 맥락하에 다른 Agent와 원활하게 의사소통 할 수 있는 역량을 갖추고 있어야 한다는 뜻이다.

 

 따라서 1과 2의 원칙에 따라 Agent를 구성하되, 3의 원칙에 따른 능력과 커뮤니케이션 스킬을 갖춘 LLM이 필요하고, 필요한 맥락이나 도구를 갖추어 주는 것이 이 Agent Team이 잘 작동하기 위한 구성 요소이며, 또한 잘 작동하는 이유가 될 것이다. 여기에 Agent의 역할과 난이도 별로 그에 가장 효율적이고 경제적인 LLM이 배정된다면 그만큼 효율적인 것이 없지 않을까 생각된다.