앤트로픽의 AI 에이전트 도구 설계 가이드

앤트로픽이 최근 AI 에이전트의 실무 활용을 위한 도구 개발 가이드라인을 공개했다고 합니다. 이 연구는 기존과 달리 클로드가 직접 자신이 사용할 도구들을 분석하고 개선점을 제안하는 방식으로 진행되었다고 발표되었습니다. 연구팀은 클로드 코드라는 프로그래밍 도구와 협업하여 도구 성능을 반복적으로 개선했으며, 시제품 제작, 다양한 업무 상황에서의 성능 평가, AI와 함께하는 문제점 발견 및 개선이라는 3단계 과정을 거쳤다고 밝혔습니다. 특히 "고객이 중복 결제 문제를 신고했는데 관련 기록을 모두 찾고 다른 고객에게도 같은 문제가 있었는지 확인하라"와 같은 실제 업무와 유사한 복잡한 과제들을 활용하여 평가했다고 합니다.

도구 설계의 핵심 원칙과 구체적 적용 방법

앤트로픽은 "도구를 많이 주는 것보다 제대로 된 도구를 주는 것이 중요하다"고 강조했다고 합니다. 핵심 원칙으로 여러 기능을 하나로 묶는 통합 설계를 제시했다고 발표했습니다. 구체적인 예로 전화번호부에서 특정 사람을 찾을 때 모든 연락처를 다 보여주는 도구보다는 이름을 입력하면 바로 그 사람을 찾아주는 검색 도구가 훨씬 효율적이라고 설명했습니다. 이는 AI가 한 번에 처리할 수 있는 정보량이 제한되어 있어 불필요한 정보로 AI의 생각 공간을 채우면 성능이 떨어지기 때문이라고 밝혔습니다. 또한 도구들을 업무용 메신저 검색, 프로젝트 관리 검색처럼 서비스별로 구분하거나 사용자 검색, 문서 검색처럼 용도별로 나누어 체계적으로 분류하면 AI가 상황에 맞는 적절한 도구를 선택하기 쉬워진다고 언급했습니다.

정보 제공 방식과 실무 적용 가이드라인

정보의 질이 AI 성능을 결정하는 핵심 요소라고 앤트로픽은 분석했다고 합니다. 복잡한 기술 코드보다는 일반인도 이해할 수 있는 자연스러운 언어로 정보를 제공해야 한다고 권장했다고 발표했습니다. 실제 사례로 'uuid-1234-5678'같은 기술적 식별자보다는 '김철수 과장'과 같은 이름이 AI가 이해하고 활용하기 쉽다고 설명했습니다. 클로드의 경우 한 번에 처리할 수 있는 정보량을 2만5000토큰, 대략 2만 단어 분량으로 제한하고 있어 이를 고려한 페이지 분할이나 필요한 부분만 골라서 보여주는 기능이 중요하다고 강조했습니다. 앤트로픽은 효과적인 도구는 명확한 목적을 가지고 AI의 처리 능력을 고려해 설계되며 다양한 업무에서 조합해 사용할 수 있도록 만들어져야 한다고 결론지었다고 발표했습니다.