AI 에이전트는 많을수록 좋은가
기업에서 AI 활용을 검토하다 보면 하나의 AI에게 모든 일을 맡기는 대신, 여러 AI가 역할을 나눠 협업하도록 만들면 더 나은 결과를 얻을 수 있지 않을까 하는 질문에 도달한다.
시장조사 보고서를 예로 들면 자료 수집, 근거 확인, 초안 작성, 최종 검토를 서로 다른 에이전트에 맡기는 방식이다. AutoGen과 CrewAI는 이러한 협업 구조를 구현하도록 돕는 프레임워크다.
그러나 에이전트의 수를 늘리는 것만으로 정확성이나 생산성이 높아지는 것은 아니다. 에이전트 사이의 대화와 도구 호출이 늘어나면서 비용과 처리 시간이 증가할 수 있다. 앞 단계에서 발생한 오류가 뒤 단계로 전달돼 그럴듯한 보고서로 정리될 위험도 있다.
AutoGen 공식 문서 역시 간단한 작업은 단일 에이전트로 시작하고, 도구와 지시를 개선해도 충분하지 않을 때 멀티 에이전트 팀을 검토하도록 안내한다.
따라서 도입의 출발점은 프레임워크 선택이 아니다. 현재 업무에 여러 에이전트가 필요한 이유와, 역할을 나눴을 때 개선돼야 할 결과를 먼저 정의하는 것이다.
이 글은 공식 문서와 공개 저장소를 바탕으로 작성한 기술 해설이다. 동일한 환경에서 실행한 성능 벤치마크나 특정 기업의 도입 성과를 검증한 보고서는 아니다. 아래의 업무 예시는 실제 고객 사례가 아닌 설계 설명용 가상 시나리오다.
AutoGen의 구조: 메시지와 에이전트 간 상호작용
AutoGen은 여러 에이전트가 메시지를 주고받으며 작업을 수행하는 애플리케이션을 만들기 위한 프레임워크다. 공식 문서는 주요 구성 요소를 Core, AgentChat, Extensions로 구분한다.
Core는 메시지와 이벤트 기반 에이전트 실행을 다루는 기반 계층이다. 어떤 메시지를 받았을 때 어떤 에이전트가 반응하고, 다음 작업을 누구에게 전달할지 세밀하게 구성할 수 있다.
이러한 구조는 유연성을 제공하지만 개발자가 결정해야 할 항목도 많다. 메시지 전달 방식뿐 아니라 실행 상태, 오류 처리, 작업 종료 조건까지 함께 설계해야 한다.
AgentChat은 Core 위에서 단일 에이전트와 멀티 에이전트 대화 애플리케이션을 구성하도록 돕는 상위 계층이다.
공식 문서에는 참여자가 차례대로 발언하는 RoundRobinGroupChat, 모델이 다음 발언자를 선택하는 SelectorGroupChat, 에이전트 간 작업 인계를 활용하는 Swarm 등의 구성이 소개돼 있다.
따라서 AutoGen을 사용한다고 해서 모든 에이전트가 제한 없이 대화해야 하는 것은 아니다. 순서를 정하거나, 다음 참여자를 선택하거나, 명시적인 인계 규칙을 두는 방식으로 협업을 통제할 수 있다.
Extensions는 외부 모델과 도구 등을 연결하는 구성 요소를 제공한다. 다만 도구를 연결하는 기능과 안전한 운영은 별개의 문제다. 어떤 자료를 읽을 수 있는지, 어떤 작업을 실행할 수 있는지는 운영자가 별도로 제한해야 한다.
AutoGen 신규 도입 전 확인해야 할 지원 현황
자료 확인 시점인 2026년 10월 15일 기준, AutoGen 공식 저장소는 유지보수 모드임을 안내하고 있다. 새 기능이나 기능 개선을 추가하지 않으며, 신규 사용자는 Microsoft Agent Framework로 시작하도록 권고한다. 기존 사용자를 위한 이전 가이드도 제공한다.
이것이 기존 AutoGen 시스템이 즉시 작동하지 않게 된다는 의미는 아니다. 다만 신규 시스템을 구축하려는 조직이라면 현재 제공되는 기능만으로 판단해서는 안 된다. 향후 지원 방향과 의존성 관리, 기능 확장 요구, 이전 비용을 함께 검토해야 한다.
이미 AutoGen 기반 시스템을 운영하는 조직은 현재 서비스의 안정성과 교체 부담을 고려해 유지 여부를 판단할 수 있다. 반면 처음 도입하는 조직은 Microsoft Agent Framework를 포함한 대안도 함께 평가하는 편이 합리적이다.
기존 투자 자산이 있는 조직과 신규 프로젝트를 시작하는 조직의 선택 기준은 달라야 한다.
CrewAI의 구조: 역할과 작업, 그리고 실행 흐름
CrewAI는 역할을 수행하는 에이전트와 수행해야 할 작업을 중심으로 협업을 구성한다.
예를 들어 자료 조사 담당, 분석 담당, 보고서 작성 담당을 정하고 각 담당자가 수행할 작업과 기대 결과를 정의하는 방식이다.
다만 CrewAI를 정해진 순서로만 움직이는 도구로 이해하는 것은 정확하지 않다. 공식 문서에는 순차 프로세스와 계층형 프로세스뿐 아니라 조건 분기와 상태 관리를 다루는 Flows도 소개돼 있다.
순차 프로세스는 작업 목록의 순서에 따라 업무를 진행한다. 앞 작업의 결과를 뒤 작업의 맥락으로 전달하거나, 특정 작업에서 참고할 선행 결과를 지정할 수 있다.
이때 중요한 것은 작업 순서보다 전달되는 결과물의 품질이다. 자료 수집 단계에서 출처와 확인 날짜를 남기지 않으면, 분석 담당 에이전트도 근거를 검증하기 어렵다.
계층형 프로세스는 관리자 역할이 작업의 계획과 위임, 결과 검토를 조율하는 방식이다. 이를 사용하려면 관리자용 모델이나 사용자 정의 관리자 에이전트를 지정해야 한다.
관리자 에이전트가 있다는 이유만으로 결과가 정확해지는 것은 아니다. 작업 완료 기준과 재작업 조건, 사람에게 넘길 기준을 정해야 실질적인 통제가 가능하다.
Flows는 이벤트 기반 실행과 상태 관리, 조건 분기 등을 구성하는 기능이다. 일반 코드와 에이전트 또는 Crew를 연결해 여러 단계의 업무를 표현할 수 있다.
예를 들어 필수 정보가 부족하면 보완 요청으로 보내고, 정보가 충분하면 초안 작성으로 진행하는 흐름을 설계할 수 있다. CrewAI를 검토할 때는 역할 분담 기능뿐 아니라 전체 절차를 어떻게 통제할지도 함께 확인해야 한다.
‘AutoGen은 유연하고 CrewAI는 정형적’이라는 설명의 한계
두 도구를 비교할 때 AutoGen은 자유로운 협업에, CrewAI는 정형적인 업무에 적합하다는 설명을 접할 수 있다.
이러한 구분은 첫 이해에는 도움이 되지만 실제 도입 기준으로 사용하기에는 부족하다. AutoGen에도 순서가 정해진 협업 방식이 있고, CrewAI에도 이벤트와 조건 분기를 활용하는 흐름이 있기 때문이다.
더 유용한 비교 기준은 개발팀이 어떤 방식으로 업무를 표현하고 운영할 수 있는지다.
AutoGen을 검토한다면 메시지 흐름과 팀 실행 방식, 작업 인계와 종료 조건을 얼마나 명확하게 구성할 수 있는지 확인해야 한다. 여기에 현재의 유지보수 모드와 공식 이전 권고를 반영해야 한다.
CrewAI를 검토한다면 역할과 작업의 정의, 작업 간 맥락 전달, 관리자 위임 기준, Flows의 분기와 상태 관리가 실제 업무에 맞는지 살펴야 한다.
어느 쪽이든 기능 목록만으로 속도와 비용, 정확성의 우위를 판단할 수는 없다. 이러한 성과는 사용할 모델과 자료, 도구, 작업 구성에 따라 달라질 수 있으므로 실제 업무 조건에서 검증해야 한다.
고객 문의 답변 초안 업무에 적용한다면
구체적인 선택 기준을 만들기 위해 고객 문의에 대한 답변 초안을 작성하는 가상 업무를 생각해 보자.
목표는 고객에게 답변을 자동 전송하는 것이 아니다. 담당자가 검토할 수 있는 초안을 작성하고, 그 초안에 사용한 근거를 함께 제공하는 것이다.
먼저 문의를 분류한다. 제품 문의인지, 환불 문의인지, 계약 문의인지 구분하고 자동화 대상에 해당하는지 확인한다.
다음으로 승인된 FAQ와 내부 규정에서 관련 내용을 찾는다. 이때 근거 문서와 해당 위치를 함께 기록해야 뒤 단계에서 답변을 검토할 수 있다.
초안 작성 단계에서는 확인한 자료의 범위 안에서 답변을 만든다. 자료가 부족한 부분은 임의로 채우지 않고 추가 확인이 필요하다고 표시한다.
검토 단계에서는 근거 누락, 회사 정책과의 충돌, 개인정보 포함 여부를 확인한다. 마지막으로 담당자가 최종 검토한 뒤 발송하도록 한다.
이러한 단계를 반드시 각각의 에이전트로 만들 필요는 없다. 문의 분류와 필수 항목 확인은 일반 코드로 처리하고, 문장 작성에만 AI를 사용할 수도 있다.
AutoGen의 구조를 활용한다면 자료 조회 담당과 작성 담당, 검토 담당 사이의 메시지 전달과 작업 인계를 설계할 수 있다. 이때 재작업 요청을 누구에게 보낼지, 몇 차례까지 수정을 허용할지, 근거를 찾지 못하면 어떻게 중단할지를 정해야 한다.
CrewAI에서는 조회와 작성, 검토를 작업으로 구분하고 Flows로 정보 부족이나 승인 대기 등의 분기를 표현할 수 있다. 각 작업이 받아야 할 입력과 제출해야 할 결과를 명확히 정의하는 것이 중요하다.
두 접근 모두에서 핵심은 담당자가 흐름을 이해하고, 잘못된 결과의 원인을 찾고, 필요한 부분을 수정할 수 있는가에 있다.
멀티 에이전트끼리만 비교하지 말아야 하는 이유
도입 검증에서는 AutoGen과 CrewAI만 비교해서는 안 된다. 더 단순한 방식으로도 같은 업무를 해결할 수 있는지 확인해야 한다.
앞의 고객 문의 업무라면 기존 담당자가 초안을 작성하는 방식, 단일 AI가 승인된 자료를 참고해 초안을 작성하는 방식, 여러 에이전트가 역할을 나누는 방식을 함께 비교할 수 있다.
이때 동일한 문의 자료와 평가 기준을 사용하는 것이 중요하다. 가능한 범위에서 모델과 도구 접근 조건도 맞추고, 조건이 다르면 그 차이를 기록해야 한다.
정확성은 답변이 회사 정책과 확인된 사실에 맞는지로 평가한다. 문장이 자연스럽다는 이유만으로 정확한 답변이라고 판단해서는 안 된다.
근거 추적성은 답변에 사용한 문서와 위치를 확인할 수 있는지로 평가한다. 근거를 확인할 수 없다면 담당자가 자료를 처음부터 다시 찾아야 하므로 검토 부담이 커질 수 있다.
정보 부족 대응도 별도로 봐야 한다. 필요한 내용이 없을 때 답변을 만들어내는지, 보완 요청이나 사람의 검토로 넘기는지 확인한다.
처리 시간은 초안 생성 속도만 측정하지 않는다. 담당자가 검토하고 수정하는 시간까지 포함해야 실제 업무 효과를 판단할 수 있다.
비용 역시 성공한 요청만 집계해서는 안 된다. 실패 후 재실행한 작업과 반복 호출 비용, 사람의 수정 부담까지 함께 살펴야 한다.
에이전트가 더 많이 대화했다는 사실은 성과가 아니다. 최종 결과가 좋아지고 전체 업무 부담이 줄었는지가 성과다.
운영 단계에서 반드시 정해야 할 통제 장치
프레임워크가 협업 기능을 제공하더라도 기업의 운영 책임을 대신하지는 않는다.
우선 접근 권한은 필요한 범위로 제한해야 한다. 답변 초안 작성에 고객정보 전체나 시스템 관리자 권한을 줄 필요는 없다. 읽기만 필요한 단계에는 읽기 권한만 부여하고, 외부 발송과 데이터 변경은 별도의 승인 대상으로 구분하는 것이 바람직하다.
외부 자료를 명령으로 취급하지 않도록 하는 설계도 중요하다. 웹페이지와 문서에는 에이전트의 행동을 바꾸려는 지시가 섞일 수 있다. 가져온 내용은 분석 대상 자료로 다루고, 운영 규칙과 접근 권한을 변경하는 명령으로 받아들이지 않도록 해야 한다.
반복 실행의 상한도 필요하다. 수정 요청이 계속되면 비용이 예상보다 커지거나 작업이 종료되지 않을 수 있다. 최대 실행 시간과 재시도 횟수, 호출 예산, 사람에게 넘길 조건을 정해두는 것이 좋다.
로그는 문제 분석에 도움이 되지만 개인정보와 비밀정보가 무분별하게 저장되지 않도록 관리해야 한다. 어떤 자료를 조회하고 어떤 결과를 만들었는지 기록하되, 민감정보 마스킹과 접근 통제, 보관 기간을 함께 설계해야 한다.
마지막으로 검토 에이전트를 최종 보증인으로 보아서는 안 된다. 다른 에이전트도 같은 오류를 놓칠 수 있다. 계약과 환불, 개인정보 처리처럼 책임이 따르는 업무는 사람의 승인과 명확한 업무 규칙을 함께 적용해야 한다.
우리 조직에 맞는 선택 기준
기존 AutoGen 시스템이 있는 조직은 유지보수 모드라는 이유만으로 즉시 전면 교체할 필요는 없다. 현재 기능의 안정성, 의존성 관리 상태, 운영 인력, 향후 요구사항을 확인하고 이전 계획을 세우는 접근이 합리적이다.
다만 새 기능을 계속 확대해야 한다면 공식 이전 가이드를 검토하고, 기존 메시지 흐름과 도구 연결을 어떻게 옮길지 평가해야 한다.
역할과 단계가 분명한 신규 업무라면 CrewAI의 작업과 프로세스, Flows가 업무 표현에 적합한지 살펴볼 수 있다. 업무 담당자와 개발자가 입력과 결과물, 승인 지점을 함께 정의할 수 있는지가 중요하다.
단일 AI로 충분한 업무라면 멀티 에이전트 프레임워크를 도입하지 않는 선택도 유효하다. 정해진 자료에서 정보를 찾고 일정한 형식으로 문장을 작성하는 업무라면 단일 에이전트와 명시적인 코드 흐름이 관리하기 쉬울 수 있다.
가장 복잡한 구조가 아니라 요구사항을 충족하는 가장 단순한 구조부터 시작하는 것이 좋다.
도입 전 점검할 질문
현재 자동화하려는 업무와 자동화 대상에서 제외할 업무를 구분했는가.
단일 AI나 일반 코드로 해결할 수 있는지 먼저 검토했는가.
각 단계의 입력과 출력, 완료 기준을 정했는가.
공식 문서와 실제 사용할 버전의 차이를 확인했는가.
AutoGen을 검토한다면 유지보수 모드와 이전 권고를 반영했는가.
동일한 업무 자료로 정확성, 비용, 처리 시간, 검토 부담을 비교할 계획이 있는가.
근거가 부족할 때 답변을 보류하거나 사람에게 넘기는 경로가 있는가.
실행 권한과 데이터 접근 범위를 제한했는가.
외부 발송과 데이터 변경에 필요한 승인 절차를 정했는가.
장애가 발생하면 작업을 멈추고 사람이 이어받을 수 있는가.
결론: 선택 기준은 에이전트 수가 아니라 통제 가능한 업무 흐름
AutoGen과 CrewAI는 모두 여러 에이전트를 연결하는 도구지만, 구조를 이해하는 출발점과 도입 시 고려할 조건이 다르다.
AutoGen은 메시지와 에이전트 간 상호작용을 구성하는 계층형 구조를 제공한다. 다만 현재 유지보수 모드이므로 신규 도입에서는 공식적으로 권고되는 Microsoft Agent Framework와 이전 방향을 함께 살펴야 한다.
CrewAI는 역할과 작업을 중심으로 협업을 구성하고, Flows를 통해 조건 분기와 상태를 포함한 업무 흐름을 표현할 수 있다. 실제 업무에 적합한지는 입력과 출력의 기준, 승인 절차를 얼마나 명확하게 구현할 수 있는지로 판단해야 한다.
기업의 AI 도입에서 중요한 질문은 어느 프레임워크가 더 유명한가가 아니다.
우리 업무에서 결과의 근거를 확인하고, 잘못된 실행을 멈추고, 사람이 책임 있게 이어받을 수 있는가. 이것이 프레임워크 선택의 기준이어야 한다.
참고 자료
AutoGen AgentChat 공식 문서: 팀 구성과 단일 에이전트 우선 검토 안내 https://microsoft.github.io/autogen/stable/user-guide/agentchat-user-guide/tutorial/teams.html
AutoGen 공식 문서: Core, AgentChat, Extensions 구조 https://microsoft.github.io/autogen/stable/
AutoGen 공식 저장소: 유지보수 모드 및 Microsoft Agent Framework 권고 https://github.com/microsoft/autogen
CrewAI 공식 문서: 순차 프로세스와 계층형 프로세스 https://docs.crewai.com/en/concepts/processes
CrewAI 공식 문서: Flows와 상태 및 실행 흐름 관리 https://docs.crewai.com/en/concepts/flows