AI 에이전트를 프로덕션에 도입:플랫폼 설계의 중요한 역할

추론 모델이 발전하고 있지만 생산은 여전히 어렵습니다

추론 모델은 빠르게 발전했습니다. 이제 시스템은 한때 연구 영역에 속했던 문서를 구문 분석하고, 코드를 작성하고, 판단을 내릴 수 있습니다. 그러나 이러한 발전에도 불구하고 대부분의 AI 이니셔티브는 여전히 일관성, 거버넌스, 안정성이 중요한 생산 환경에 도달하는 데 어려움을 겪고 있습니다. 실제로 최근 MIT 보고서에 따르면 AI 프로젝트 중 극히 일부만이 일상적인 작업에 적용되는 것으로 나타났습니다.

당사의 대표적인 2025년 고객 이벤트인 FUSION의 메인 무대에 등장한 LlamaIndex의 창립자인 Jerry Liu는 이 과제를 다음과 같이 잘 요약했습니다.

"AI 채택의 가장 큰 장벽은 이러한 모델을 상황에 맞게 조정하고 워크플로우를 엔지니어링하는 능력입니다."

즉, AI 실행의 장벽은 모델이 아닙니다. 오케스트레이션, 관찰 가능성, 거버넌스, 통합, 실험적 통찰력에서 신뢰할 수 있는 실행으로 전환하는 능력 등을 둘러싼 운영 패브릭입니다.

에이전트 워크플로를 구축할 위치를 평가하는 자동화 및 운영 리더의 주요 고려 사항은 더 이상 가장 인상적인 데모를 생성하는 플랫폼이 아니라 프로토타입에서 프로덕션으로의 전환을 일관되게 지원하는 플랫폼입니다.

에이전트 워크플로에는 AI보다 더 많은 것이 필요합니다.

AI를 안정적으로 운영하는 팀은 실제 에이전트 애플리케이션이 결정론적 논리, 인간 판단, 목표 AI 추론 등 여러 실행 모드를 함께 엮는다는 점을 이해합니다.

일반적인 여행 승인 작업 흐름을 살펴보세요. 요청은 결정적 양식을 통해 제출됩니다. 에이전트는 AI 기반 추론을 사용하여 복잡한 문서에서 정책 세부 정보를 추출합니다. 관리자가 검토하고 승인합니다. 재무팀에서 최종 확인을 처리합니다. 그런 다음 결정론적 규칙을 사용하여 여행을 예약합니다.

AI 구성 요소는 이 프로세스에서 분명히 필수적이지만 더 큰 운영 체인에서는 하나의 세그먼트일 뿐입니다. 전체 흐름에 대한 오케스트레이션, 모니터링 및 거버넌스가 없으면 정교한 추론 모델이라도 프로덕션이 아닌 데모에만 국한됩니다.

범용 개발 플랫폼은 추론 세그먼트를 위한 강력한 빌딩 블록을 제공하는 경우가 많습니다. 그러나 지속적인 운영 성공을 위해서는 AI 추론을 더 넓은 비즈니스 프로세스와 안전하고 관찰 가능하며 모든 단계에 대한 명확한 소유권과 연결하도록 설계된 환경이 필요합니다.

에이전트 워크플로를 위해 구축된 플랫폼

UiPath Platform™은 엔터프라이즈 프로세스 실행에 대한 깊은 배경을 바탕으로 에이전트 자동화에 접근합니다. 이러한 유산은 특히 초기 실험을 넘어 예측 가능성과 감독이 필요한 환경으로 이동할 때 팀이 AI 기반 워크플로를 구축, 조정 및 운영하는 방법을 형성합니다.

엔드 투 엔드 워크플로우 전반에 걸친 조정

최신 에이전트 시스템은 모델 호출, 결정론적 논리, 인간 승인 및 시스템 통합을 결합합니다. 통합된 오케스트레이션 레이어는 이러한 요소를 단일 운영 흐름으로 가져와 팀이 프로세스의 위치, 의사 결정 방법, 남은 작업을 확인할 수 있도록 합니다.

각 단계마다 별도의 도구를 조정하는 대신 오케스트레이션이 한 곳에서 이루어집니다. 이를 통해 운영 오버헤드가 줄어들고 소유권이 명확해지며 보다 일관된 실행이 지원됩니다.

종단 간 관찰 가능성

워크플로가 AI 추론, 결정론적 논리, 인간 상호 작용, 시스템 호출 등 여러 결정 계층에 걸쳐 있는 경우 관찰 가능성이 안정성의 핵심이 됩니다. 플랫폼은 추론 로그와 결정론적 프로세스 로그를 결합한 상세한 실행 추적을 제공하므로 팀은 에이전트가 결정에 도달한 방법과 프로세스가 한 단계에서 다음 단계로 어떻게 진행되었는지 확인할 수 있습니다.

프롬프트, 도구 사용, 인간과 자동화 간의 전달, 통합 호출 및 비즈니스 논리 경로가 모두 동일한 추적에 나타납니다. 이러한 수준의 가시성은 팀이 문제를 진단하고 상담원 행동을 개선하며 대규모로 실행되는 결정에 대한 확신을 유지하는 데 도움이 됩니다.

거버넌스 및 AI 신뢰 계층

프로덕션에서 작동하는 에이전트 시스템에는 일관된 가드레일이 필요합니다. UiPath AI 신뢰 계층은 생성적 AI 상호 작용에 대한 중앙 집중식 감독 기능을 제공하고, 개인 식별 정보가 모델에 도달하기 전에 마스킹하고, 정책 선택을 시행하고, 사용량을 감사하고, 비용 통제를 관리합니다.

팀은 비공개로 호스팅되거나, 클라우드로 관리되거나, 특정 도메인에 맞게 미세 조정된 모델을 플랫폼에서 제공하거나 자체 모델을 가져올 수 있습니다. 이들 모두는 동일한 거버넌스 및 제어를 상속하므로 모델 선택에 관계없이 운영 일관성이 보장됩니다.

운영 규모를 지원하는 엔터프라이즈 통합

대부분의 에이전트 워크플로는 ERP(전사적 자원 관리), CRM(클라이언트 관계 관리), 문서 저장소, 고객 서비스 시스템, 데이터 플랫폼 등 핵심 비즈니스 시스템과 관련됩니다. 이 플랫폼에는 여러 대규모 배포에서 개발된 광범위한 엔터프라이즈급 통합 라이브러리가 포함되어 있습니다. 이를 통해 상담원은 팀이 맞춤형 커넥터를 구축하고 유지 관리할 필요 없이 운영 체제에서 데이터를 가져오거나 운영 체제 내에서 조치를 취할 수 있습니다.

비정형 데이터에 대한 추론

많은 자동화는 PDF, 보고서, 혼합 콘텐츠 등 구조화되지 않은 입력으로 시작됩니다. 플랫폼은 LlamaIndex와 같은 데이터 조정 프레임워크와의 직접적인 통합을 통해 상담원이 대량의 비정형 자료를 추론할 수 있도록 해줍니다. 문서 처리 기능은 복잡한 입력을 모델 사용에 적합한 구조화된 형식으로 변환하므로 상담원이 깔끔한 형식의 샘플이 아닌 실제 문서로 작업할 수 있습니다.

개방적이고 유연한 모델 선택

모델 성능은 빠르게 발전합니다. 팀은 다양한 작업에 대해 서로 다른 모델을 선택하는 경우가 많습니다. 하나는 구조적 추론용, 다른 하나는 장기 컨텍스트 분석용, 다른 하나는 음성 또는 다중 모달 상호 작용용, 때로는 규제되거나 민감한 작업을 위한 도메인별 모델입니다.

플랫폼은 이러한 유연성을 지원하도록 설계되었습니다. 상담원은 동일한 워크플로 내에서 여러 모델을 호출할 수 있으며 팀은 프로세스를 재구성하지 않고도 각 단계에 적합한 모델을 선택할 수 있습니다. 이는 조직이 환경 변화에 적응하고 새로운 모델 옵션이 나타나거나 성과가 변화하는 경우에도 연속성을 유지하는 데 도움이 됩니다.

심층적인 생태계 상호 운용성

이러한 유연성을 지원하기 위해 플랫폼은 사용자를 특정 공급업체에 가두지 않고 선도적인 AI 모델 제공업체, 클라우드 서비스, 엔터프라이즈 소프트웨어 시스템 및 오픈 소스 에이전트 프레임워크와 긴밀하게 통합됩니다.

여기에는 대화형 플랫폼과의 양방향 에이전트 상호 작용, 엔터프라이즈 데이터 클라우드에 대한 연결 조정, 개방형 에이전트 프레임워크 및 평가 도구 지원, 팀이 비공개로 호스팅되거나 미세 조정된 모델을 통합할 수 있는 모델 게이트웨이와의 호환성이 포함됩니다. 플랫폼의 개방형 설계를 통해 조직은 일관된 거버넌스 및 운영 관행을 유지하면서 시간이 지남에 따라 모델과 도구 선택을 발전시킬 수 있습니다.

상담사 테스트, 평가, 개선을 위한 도구

에이전트를 구축하는 것은 비교적 간단합니다. 프로덕션 환경에서 안정적으로 작동하는 에이전트를 배포하려면 엄격한 테스트, 평가 및 개선이 필요합니다. 플랫폼에는 이러한 운영 수명주기를 지원하기 위해 특별히 구축된 기능이 포함되어 있습니다.

팀은 합성 데이터 또는 모의 도구를 사용하여 에이전트 동작을 시뮬레이션할 수 있습니다. 이는 실제 시스템이 아직 준비되지 않았거나 원치 않는 실시간 트랜잭션을 생성할 수 있는 극단적인 사례를 테스트할 때 특히 유용합니다. 이러한 시뮬레이션은 실행 기록에 명확하게 나타나므로 실제 실행 데이터와 쉽게 구분할 수 있습니다.

평가 세트를 통해 팀은 다양한 시나리오에서 상담원 성과를 측정할 수 있습니다. 결정론적 평가자와 LLM 기반 평가자를 모두 사용할 수 있으며 팀은 비즈니스 상황에 맞는 맞춤형 평가자를 만들 수 있습니다. 사전 구축된 평가자는 출력 정확성, 단계별 궤도 일관성 및 신뢰성에 영향을 미치는 기타 요소를 평가합니다.

에이전트 상태 점수는 신속한 품질, 도구 설정, 스키마 설계 및 평가 범위를 종합하여 생산 준비 상태를 나타냅니다. Agent Optimizer가 생성한 권장 사항은 개선 사항이 가장 큰 영향을 미칠 부분을 강조하여 팀이 개선 노력을 효과적으로 집중하는 데 도움이 됩니다.

실제 요구 사항에 따른 배포 유연성

조직은 다양한 환경에서 운영됩니다. 일부는 클라우드에서 완전히 실행됩니다. 다른 기업은 엄격한 데이터 상주 요구 사항, 규제된 환경 또는 에어 갭을 유지해야 하는 인프라를 갖추고 있습니다.

플랫폼은 클라우드 배포, 온프레미스 설치, Linux 기반 환경, 베어메탈 서버, AKS, EKS, OpenShift를 포함한 Kubernetes 클러스터 등 모든 시나리오를 지원합니다. Air-Gapped 환경에서는 인터넷 접속 없이 전체 플랫폼을 실행할 수 있습니다. 최신 업데이트에는 향상된 IPv6 지원, 듀얼 스택 네트워킹, 확장된 재해 복구 옵션, 단일 Kubernetes 클러스터 내의 여러 인스턴스에 대한 지원이 포함됩니다.

이러한 유연성 덕분에 에이전트 워크플로는 각 조직의 인프라 및 규정 준수 요구 사항의 현실에 적응할 수 있습니다.

현대 팀을 위한 로우 코드와 프로 코드 연결

추론 모델은 자동화 구축 방식을 재편하고 있습니다. 기술에 대한 지식이 없는 사용자도 필요한 것을 자연어로 설명할 수 있으며 시스템은 초기 작업 흐름을 생성할 수 있습니다. 이는 신속한 생성과 엄격한 운영을 모두 지원하는 플랫폼에 대한 필요성을 높이는 동시에 빌딩 자동화에 참여할 수 있는 사람을 확대합니다.

UiPath 플랫폼™은 오랫동안 이 스펙트럼의 양쪽 끝을 모두 지원해 왔습니다. 로우 코드 도구는 속도와 접근성을 제공하는 반면, 전문 코드 기능은 개발자가 복잡한 논리를 구현하고 시스템과 긴밀하게 통합하며 생산 자동화의 전체 수명주기를 관리할 수 있도록 보장합니다. AI 지원 구축은 이제 개발자가 생산 단계로 이동하면서 자동화를 개선하고 확장함으로써 초기 워크플로 생성을 가속화합니다.

두 접근 방식 모두 동일한 기반에 있기 때문에 조직은 실험과 운영 배포 사이에서 자주 발생하는 단편화를 피할 수 있습니다.

시작하기:개인부터 기업 팀까지

누군가 학습 중이거나 소규모 팀을 위해 구축 중이거나 대규모 롤아웃을 안내 중일 때 플랫폼은 초기 실험부터 지속적인 생산 운영까지 일관된 경로를 지원합니다.

개인은 매일 LLM을 사용하고 UiPath Academy를 통해 포괄적인 학습 리소스에 액세스할 수 있는 무료 Community Edition으로 시작할 수 있습니다. 학습은 기업 환경에서 사용되는 것과 동일한 플랫폼에서 이루어지기 때문에 기술이 실제 프로젝트로 직접 전달됩니다.

소규모 팀은 템플릿 라이브러리와 모범 사례를 공유하는 대규모 실무자 커뮤니티를 활용할 수 있습니다. 요구 사항이 증가함에 따라 환경도 이에 맞춰 확장되므로 나중에 중단적인 마이그레이션이 필요하지 않습니다.

개념 증명을 실행하는 엔터프라이즈 팀은 처음부터 거버넌스 및 규정 준수를 포함함으로써 이점을 얻습니다. 이를 통해 이해관계자에게 실험 에이전트가 관리되고 관찰 가능한 프로덕션 등급 워크플로로 어떻게 이동할 수 있는지 정확하게 보여줄 수 있습니다.

단편화된 AI 실험을 통합하는 조직은 종종 고립된 데모보다 오케스트레이션, 관찰 가능성 및 운영 안정성이 더 중요한 지점에 도달합니다. 플랫폼은 이러한 기능을 하나로 통합하며, 팀은 조직이 원활하게 전환하고 처음부터 생산용으로 구축된 워크플로를 설계하도록 도울 수 있습니다.

여기서 쌓은 기술이 중요한 이유

UiPath 플랫폼은 세계 최대 기업을 포함하여 전 세계적으로 수천 개의 조직에서 사용됩니다. 결과적으로 여기에서 워크플로를 설계하고 운영하는 방법을 배우는 전문가는 실제 환경에 직접 적용할 수 있는 기술을 습득하게 됩니다.

자동화 및 운영 리더의 경우 이는 플랫폼 전문 지식에 투자하면 조직 역량과 인재 준비가 동시에 강화된다는 의미입니다.

UiPath를 무료로 사용해 보세요.

UiPath 커뮤니티에 가입하세요 .