AI 뉴스

AgentOps가 AI 자동화를 위한 새로운 분야로 등장하다

페이지 정보

작성자 xtalfi
작성일 2025.10.21 14:53
2,108 조회
0 추천
0 비추천

본문

saas-solution-guide.jpg

(퍼플렉시티가 정리한 기사)

AgentOps라는 새로운 운영 규율이 기업들이 자율 워크플로우를 처리하기 위해 AI 에이전트를 배포함에 따라 기업 전반에 걸쳐 빠르게 자리 잡고 있으며, 이는 전통적인 규칙 기반 자동화 시스템으로부터의 근본적인 전환을 나타냅니다. 이 분야의 출현은 주요 기술 공급업체들이 포괄적인 AI 에이전트 플랫폼을 출시하는 것과 동시에 이루어지고 있으며, 설문조사에 응한 CIO의 89%가 에이전트 기반 AI를 2025년의 전략적 우선순위로 강조하고 있습니다.​

에이전트 운영의 약자인 AgentOps는 IBM에 따르면 "자율 AI 에이전트의 생애주기 관리에 초점을 맞춘 새로운 실무 관행 집합"을 나타냅니다. 사전 결정된 "if-then" 논리를 따르는 전통적인 자동화 도구와 달리, AI 에이전트는 맥락을 해석하고, 복잡한 작업을 추론하며, 여러 시스템에 걸쳐 자율적으로 작업을 실행할 수 있습니다.

 

주요 공급업체가 기업 도입을 주도하다

 

이 분야는 2025년 10월 주요 기술 플랫폼들이 포괄적인 AI 에이전트 전략을 발표하면서 큰 탄력을 받았습니다. Salesforce는 Dreamforce에서 Agentforce 360을 공개하며, AI 에이전트가 인간 직원과 함께 일하는 "에이전트 기반 기업(Agentic Enterprise)"이라는 개념을 소개했습니다. 이 플랫폼은 대화형 인터페이스를 Salesforce의 Customer 360 애플리케이션과 통합하고, 직원과 AI 에이전트 간의 주요 협업 인터페이스로 Slack을 사용합니다.​

Microsoft는 Power Platform 전반에 자율 에이전트를 통합하여, 사용자가 비즈니스 결과를 자연어로 설명하면 Microsoft 365, Dynamics 365 및 타사 애플리케이션에 걸친 다단계 워크플로를 자동으로 생성할 수 있도록 했습니다. 이 회사의 Copilot Studio는 이제 기업 배포를 위한 고급 구성 옵션과 함께 지속적이고 메모리 기반의 워크플로를 실행할 수 있는 에이전트를 지원합니다.​

Oracle은 고객 경험 리더들이 프로세스를 자동화하고 연결된 데이터를 분석할 수 있도록 Fusion Cloud Applications에 역할 기반 AI 에이전트를 내장했다고 발표했습니다. 이 회사는 600개 이상의 AI 에이전트(Fusion 애플리케이션에 400개, 산업 분야별로 200개)를 배포했으며, 이미 2,400명의 고객이 애플리케이션에 내장된 Oracle AI를 활용하고 있다고 밝혔습니다.

 

기업 배포가 빠르게 가속화됩니다

 

최근 산업 데이터는 AI 에이전트 도입의 폭발적인 성장을 보여줍니다. KPMG의 2025년 3분기 AI Quarterly Pulse Survey에 따르면, 에이전트 배포가 거의 4배 증가하여 현재 42%의 조직이 최소한 일부 에이전트를 배포하고 있으며, 이는 불과 두 분기 전 11%에서 증가한 수치입니다. AI 에이전트에 대한 투자는 2025년 1분기 이후 14% 증가하여 조직당 평균 1억 3천만 달러에 이릅니다.​

IBM은 2025년 10월 20일 Groq와 파트너십을 체결하여 기존 GPU보다 5배 빠른 AI 추론으로 에이전틱 AI 구현을 가속화했습니다. 이 협력은 IBM의 watsonx 플랫폼 기능을 확장하며, 현재 AI 에이전트 행동의 관찰성과 거버넌스를 위한 AgentOps가 포함되어 있습니다.​

AgentOps는 기업이 자율 시스템을 확장함에 따라 중요한 운영 과제를 해결합니다. "파일럿에 대해 말하자면, watsonx Orchestrate를 위한 우리의 AgentOps 기능을 자율 AI 시스템의 항공 교통 관제로 생각하십시오"라고 IBM은 TechXchange 2025에서 새로운 기능을 발표하며 설명했습니다. 이 프레임워크는 비즈니스 프로세스 전반에 걸쳐 작동하는 AI 에이전트에 대한 실시간 모니터링, 정책 기반 제어 및 전체 라이프사이클 투명성을 제공합니다.

댓글 0
전체 1,366 / 81 페이지
Figure AI는 390억 달러 가치의 휴머노이드 로봇 스타트업으로, 회사의 로봇이 인간의 두개골을 골절시킬 수 있고 작업자에게 심각한 부상 위험을 초래한다고 경영진에게 경고한 후 해고되었다고 주장하는 전 제품 안전 책임자로부터 연방 소송에 직면해 있습니다.아마존과 그 로봇 부서에서 6년 이상의 경력을 가진 로봇 안전 엔지니어인 Robert Gruendel은 금요일 캘리포니아 북부 지방 연방 지방법원에 소송을 제기했습니다. 고소장은 그가 회사의 휴머노이드 로봇에 대한 “가장 직접적이고 문서화된 안전 불만”을 제기한 지 며칠 후인 9월에 해고되었다고 주장합니다.소송에 따르면, Gruendel은 7월에 충격 테스트를 실시했으며, 로봇이 “초인적인 속도”로 움직이고 “통증 역치의 20배”에 달하는 힘을 발생시킨다는 사실을 발견했습니다. 이는 성인 인간의 두개골을 골절시키는 데 필요한 힘의 두 배 이상입니다. 소송은 또한 오작동하는 로봇이 직원이 근처에 서 있는 동안 “강철 냉장고 문에 ¼인치 깊이의 상처를 새긴” 사건을 설명합니다.안전 계획 하향 조정 의혹소송은 Gruendel이 두 주요 투자자로부터 투자를 확보하는 데 도움이 된 포괄적인 안전 로드맵을 개발했지만, 자금 조달 라운드가 종료된 후 회사 경영진에 의해 이 계획이 “무용지물이 되었다”고 주장합니다. Gruendel은 이것이 “사기로 해석될 수 있다”고 경영진에게 경고한 것으로 알려졌습니다.고소장은 또한 Gruendel이 CEO Brett Adcock과 수석 엔지니어 Kyle Edelberg에게 보낸 메시지에서 로봇의 능력에 대한 우려를 제기했을 때, 그의 경고가 무시되었다고 주장합니다. 소송에 따르면, Gruendel의 안전 지침은 “의무가 아닌 장애물”로 취급되었으며, 그는 해고되기 전에 회사가 “모호한 ‘사업 방향 전환’“을 겪고 있다는 말을 들었습니다.회사, 주장 부인Figure AI는 혐의를 부인하며 CNBC에 Gruendel이 “낮은 업무 성과로 해고되었다”고 밝혔고, 그의 주장은 “Figure가 법정에서 철저히 반박할 허위 사실”이라고 말했다. 회사 대변인은 추가 논평 요청에 즉각 응답하지 않았다.이 소송은 Figure가 9월에 Parkway Venture Capital이 주도하고 Nvidia, Microsoft, Intel Capital 및 기타 주요 투자자들이 참여한 10억 달러 규모의 시리즈 C 펀딩 라운드를 완료한 지 두 달 후에 제기되었다. 이번 라운드는 산호세 소재 회사의 기업 가치를 390억 달러로 평가했으며, 이는 Jeff Bezos, Nvidia, Microsoft로부터 투자를 받았던 2024년 초 기업 가치 대비 15배 증가한 것이다.Gruendel의 변호사는 CNBC에 캘리포니아 법이 안전하지 않은 관행을 보고하는 직원을 보호한다고 말하며, 이것이 휴머노이드 로봇 안전과 관련된 최초의 내부고발 소송 중 하나가 될 수 있다고 언급했다. Gruendel은 배심원 재판과 함께 경제적, 보상적, 징벌적 손해배상을 요구하고 있다.
1291 조회
0 추천
2025.11.23 등록
Linus Tech Tips는 딥페이크 기술이 지난 5년 동안 제작이 훨씬 쉬워지고 더욱 그럴듯해졌음을 보여주며, 이 기술이 취약 계층을 노린 사기 등에 악용될 수 있다는 시급한 우려를 제기합니다.팀은 DeepFaceLab을 사용하여 라이너스 세바스찬의 얼굴 사진 7,000장으로 훈련된 딥페이크를 매우 그럴듯하게 제작했으며, 이 과정은 5년 전 시도에 비해 “적어도 100배는 더 쉬웠다”고 밝히기도 했습니다. 또한 일반 하드웨어와 상업용 도구만으로 완전히 AI 기반의 영상을 만들어냈습니다.2024년 전 세계 온라인 사기 피해액은 1조 달러를 넘어섰고, 북미 지역의 딥페이크 사기 사례는 2022년부터 2023년까지 1,740% 급증했으며, 이 영상은 시청자들이 이러한 빠르게 증가하는 위협을 인식하고 피할 수 있도록 돕는 것을 목표로 합니다.
1283 조회
0 추천
2025.11.23 등록
개발자 Armin Ronacher는 2025년에도 AI 에이전트 구축이 여전히 어렵다고 주장하며, Vercel AI SDK와 같은 고수준 SDK 추상화는 실제 도구 사용을 처리할 때 제대로 작동하지 않아, 캐싱, 강화, 에이전트 루프 설계에 대한 더 나은 제어를 위해 Anthropic과 OpenAI의 네이티브 플랫폼 SDK로 회귀하게 된다고 설명한다.이 글은 명시적 캐시 관리가 자동 캐싱보다 예상외로 우수하다고 지적하며, Anthropic의 수동 캐시 제어는 개발자가 대화를 분할하고, 컨텍스트를 편집하며, 시스템 프롬프트 이후와 대화 기록 전반에 캐시 포인트를 배치하여 비용을 더 정확하게 예측할 수 있게 한다고 설명한다.Anthropic Claude 모델은 명시적 캐싱 전략을 통해 최대 90%의 비용 절감을 달성할 수 있지만, 에이전트 개발자들은 학습을 위한 상세한 실패 로깅의 이점과 모든 오류를 컨텍스트에 보존하는 데 따르는 토큰 비용 사이의 근본적인 긴장 관계에 직면한다.
1284 조회
0 추천
2025.11.23 등록
Certora는 목요일 AI Composer의 출시를 발표했습니다. 이는 스마트 계약을 위한 인공지능 코드 생성에 형식 검증을 내장한 오픈소스 플랫폼으로, AI가 생성한 코드의 보안 취약점에 대한 우려가 높아지고 있는 상황에 대응합니다.텔아비브에 본사를 둔 이 보안 회사의 새로운 도구는 실행 전에 모든 코드 스니펫이 안전 요구사항을 충족하는지 수학적으로 검증함으로써 기존의 AI 코딩 보조 도구와 차별화됩니다. 이 플랫폼은 Aave, Lido, Uniswap을 포함한 주요 탈중앙화 금융 프로토콜에서 이미 사용 중인 Certora의 Prover 기술을 AI 생성 루프에 직접 통합합니다.AI 생성 코드의 보안 우려 증가이러한 시기는 AI 생성 코드의 보안 위험에 대한 증거가 증가하고 있음을 반영합니다. 100개 이상의 대규모 언어 모델을 분석한 2025년 Veracode 연구에 따르면, AI 생성 코드의 45%가 보안 취약점을 야기하며, 코드 생성 정확도의 발전에도 불구하고 보안 실패율은 정체 상태를 유지하고 있습니다. 연구 결과 AI 모델은 안전한 대안이 제시되었을 때 45%의 경우 안전하지 않은 코딩 방법을 선택했습니다.스마트 컨트랙트 보안은 여전히 중요하며, OWASP 스마트 컨트랙트 상위 10에 따르면 2024년에 접근 제어 취약점만으로 9억 5,300만 달러의 손실이 발생했습니다. Certora의 창립자이자 수석 과학자인 Mooly Sagiv는 “AI를 사용한다고 해서 안전을 타협해서는 안 됩니다”라고 말했습니다. “Certora AI Composer는 AI와 형식 검증이 함께 작동하여 스마트 컨트랙트 개발을 기본적으로 신뢰할 수 있게 만들 수 있음을 증명합니다”.오픈 소스 출시 및 산업 영향알파 버전은 12월 4일부터 GitHub에서 이용 가능하게 되며, 이날 Certora는 “AI Meets Verification: An Open Discussion with Certora Researchers”라는 제목의 라이브스트림을 개최할 예정입니다. 이 플랫폼은 통합된 형식 검증 검사, 맞춤형 안전 모듈을 위한 오픈소스 확장성, 그리고 Web3 프로토콜 전반에 걸쳐 1,000억 달러 이상의 총 예치 가치를 보호해 온 Certora Prover의 지원을 특징으로 합니다.형식 검증은 규제 기관들이 그 중요성을 인식하면서 주목을 받고 있습니다. 프랑스 금융 규제 당국은 2025년 스마트 계약 인증을 위한 이 기술을 승인하며, 다른 분석 방법에 비해 “코드의 무결성에 관해 더 높은 수준의 보증을 제공한다”고 언급했습니다. 미국 사이버 보안국장 역시 2024년에 형식 방법론을 “국가 소프트웨어 보안에 필수불가결한 것”으로 규정했습니다.
1275 조회
0 추천
2025.11.23 등록
홈으로 전체메뉴 마이메뉴 새글/새댓글
전체 검색
회원가입