에이전트 수보다 지휘 체계를 먼저 배포하라

AI 노동 등가량이 매년 열 배 늘어도, 작업 분해·소유권·승인·검증·복구가 없다면 팀이 아니라 오류 복제 공장이 된다.

핵심 주장: 멀티에이전트 시스템의 생산성은 모델 수가 아니라, 사람이 결과를 믿을 수 있게 만드는 지휘 프로토콜의 품질로 결정된다.

문제: 10억 AI 노동자는 10억 명의 동료가 아니다

SemiAnalysis의 Dylan Patel과 Dwarkesh Patel의 대담은 프런티어 연산량 증가와 알고리즘 효율 개선이 결합되면 동일 능력 기준 AI 노동 등가량이 연간 약 10배 커질 수 있다는 시나리오를 제시한다. 숫자는 강렬하지만 실제 직원 수가 아니다. 특정 수준의 모델 인스턴스를 얼마나 많이 가동할 수 있는지에 가까운 환산값이다.

현장에서 필요한 것은 인스턴스가 아니라 완료된 업무다. 다섯 에이전트가 같은 문서를 고치고, 서로의 기준을 덮어쓰고, 버튼을 눌렀다는 이유로 등록에 성공했다고 보고하면 연산량은 늘어도 성공 건수는 늘지 않는다. FDE가 먼저 배포해야 하는 것은 더 많은 모델이 아니라 누가 무엇을 쓰고, 무엇을 증거로 완료를 선언하며, 실패 시 어디로 돌아갈지 정한 운영 체계다.

실패 패턴 네 가지

승인 게이트는 자연어가 아니라 상태 기계다

이 구조는 느려 보이지만 재작업을 줄인다. 빠른 에이전트가 잘못된 일을 백 번 수행하는 비용보다 한 번의 명시적 확인이 싸다.

바로 적용하는 작업 주문서

목표: [완료 후 사람이 확인할 한 문장]
담당 범위: [파일·장·레코드 식별자]
읽기 전용 근거: [URL·문서·데이터]
수정 금지: [다른 담당자의 영역]
완료 증거: [테스트·렌더·재조회 결과]
쓰기 승인: [허용되는 정확한 승인 문자열]
중단 조건: [모순·개인정보·기준 변경]
인계 내용: [결정·증거·남은 위험]

작업 주문서는 긴 프롬프트가 아니다. 에이전트가 스스로 판단해도 되는 영역과 사람에게 돌려줘야 하는 영역을 짧게 고정하는 계약이다.

자율성은 넓게, 영향 반경은 작게

좋은 멀티에이전트 운영은 모든 단계를 사람이 지시하는 방식이 아니다. 조사 방법, 초안 구성, 테스트 선택에는 넓은 자율성을 줄 수 있다. 대신 결제, 등록, 삭제, 공개, 고객 데이터 처리처럼 되돌리기 어려운 행동은 좁은 권한과 명시적 승인 아래 둔다.

• 넓게 맡길 것: 검색어 확장, 자료 비교, 초안, 코드 실험, 읽기 전용 감사
• 조건부로 맡길 것: 브랜치 커밋, 테스트 환경 배포, 비식별 데이터 처리
• 사람이 결정할 것: 최종 공개, 금전 거래, 평가 등록, 법적 판단, 안전 중단 해제

측정: 에이전트 수 대신 성공 1건당 비용

운영 지표는 “몇 개 모델을 썼는가”가 아니라 다음이어야 한다.

• 검증을 통과한 산출물 수와 첫 통과율
• 중복 작업 시간과 충돌 복구 시간
• 사람이 개입한 이유와 개입 후 성공률
• 성공 1건당 토큰·시간·외부 API 비용
• 같은 실패가 규칙·테스트·Skill로 전환된 비율

이 측정이 쌓이면 단발성 프롬프트가 조직의 운영 자산으로 바뀐다. 베테랑의 판단은 설명문이 아니라 사례, 중단 조건, 승인과 검증을 포함한 Skill이 된다.

결론: 지휘 능력이 희소해진다

AI 연구소는 더 많은 연산력으로 더 많은 에이전트를 만들 수 있다. 그러나 현장의 목표와 책임까지 자동으로 생성할 수는 없다. 오히려 실행 능력이 싸질수록 무엇을 실행하지 않을지 정하는 판단이 비싸진다.

한 사람이 AI 팀을 이끄는 시대의 경쟁력은 프롬프트를 화려하게 쓰는 능력이 아니다. 일을 작게 나누고, 소유권을 보이게 하고, 증거로 완료를 확인하며, 사고가 나면 권한을 회수하는 능력이다. 에이전트는 확장하고, 책임은 사람이 붙잡는다.

출처

• Dwarkesh Podcast — Dylan Patel 대담 전문
• Anthropic — Building effective agents
• NIST AI RMF Core — 역할·책임·감독

AI 노동력 수치는 조건부 연산 등가량 시나리오이며 실제 고용 인원 전망이 아니다.