인공 지능이 쿠버네티스의 엄청난 부스트

Canonical의 Carmine Rimi

스탠포드 대학의 연구에 따르면 세기 전환 이후 인공 지능(AI) 스타트업의 수가 14배 증가했습니다. Canonical의 AI 제품 관리자인 Carmine Rimi는 영국에서만 – Ubuntu 뒤에 있는 회사, AI 개발자는 지난 해에만 벤처 캐피탈 자금이 200% 급증한 것을 목격했습니다. AI의 변혁적 잠재력이 모든 경계를 허물기 때문입니다.

비즈니스 수행 방식과 실제로 사람들의 삶을 향상시키는 AI 애플리케이션을 만드는 것은 큰 작업입니다. 이러한 애플리케이션에는 다양한 유형의 데이터가 포함되므로 개발 및 구축이 복잡합니다. 다른 플랫폼으로의 이식을 번거롭게 합니다.

이러한 과제 외에도 가장 기본적인 AI 애플리케이션 구축을 시작하려면 각 단계에서 여러 단계가 필요합니다. 실제 ML 코드의 비교적 작은 하위 집합을 뒷받침하려면 기능 추출, 데이터 수집 확인 및 분석, 기계 리소스 관리를 비롯한 다양한 기술이 필요합니다. 출발선에 오르기 전에 많은 작업이 필요합니다. 애플리케이션을 최신 상태로 유지하기 위한 많은 지속적인 노력과 함께. 모든 개발자는 이러한 큰 과제를 해결할 방법을 찾고 있습니다.

자신을 억제

이 검색의 결과, 앱을 최신 상태로 유지하고 앱 개발에서 워크로드의 균형을 유지하기 위해 종종 동일한 대답인 Kubernetes가 나옵니다. 이 오픈 소스 플랫폼은 AI 및 머신 러닝과 같은 복잡한 워크로드로 구성된 컨테이너화된 애플리케이션의 배포 및 관리를 자동화할 수 있으므로 촉진자가 될 수 있습니다. Kubernetes는 이러한 기능을 제공할 뿐만 아니라 컨테이너 오케스트레이션 플랫폼으로도 사용할 수 있기 때문에 놀라운 일을 즐겼습니다.

포레스터 최근에 "Kubernetes는 컨테이너 오케스트레이션 우위를 위한 전쟁에서 승리했으며 마이크로서비스 계획의 핵심이 되어야 합니다"라고 말했습니다. 컨테이너는 프로세스가 작동할 수 있는 컴팩트한 환경을 제공합니다. 확장이 간편하고 다양한 환경에서 이식이 가능하므로 대규모 모놀리식 애플리케이션을 대상이 지정되고 유지 관리가 더 쉬운 마이크로서비스로 분할할 수 있습니다. Cloud Native Computing Foundation 설문 조사에 따르면 대다수의 개발자는 다양한 개발 단계에서 Kubernetes를 활용하고 있다고 말합니다.

대부분의 회사는 워크로드용 플랫폼으로 Kubernetes를 실행 중이거나 사용할 계획입니다. 물론 AI는 급속도로 중요해지고 있는 워크로드입니다. Kubernetes는 이 작업에 이상적입니다. 왜냐하면 AI 알고리즘이 효과를 발휘하려면 확장할 수 있어야 하기 때문입니다. 특정 딥 러닝 알고리즘 및 데이터 세트에는 많은 양의 계산이 필요합니다. Kubernetes는 수요에 따라 확장하는 데 중점을 두고 있기 때문에 여기에서 도움이 될 수 있습니다.

Kubernetes는 또한 관리 오버헤드를 추상화하면서 소프트웨어 파이프라인에 걸쳐 여러 상용 서버에 AI 지원 워크로드를 배포하기 위한 로드맵을 제공할 수 있습니다. 모델이 훈련된 후 에지 컴퓨팅에서 중앙 데이터 센터에 이르기까지 다양한 배포 시나리오에서 모델을 제공하는 것은 컨테이너화되지 않은 애플리케이션 형식의 경우 어렵습니다. 다시 한 번 Kubernetes는 다양한 기판에 추론 에이전트를 분산 배포하는 데 필요한 유연성을 발휘할 수 있습니다.

초점 변경

기업이 운영 비용을 절감하고 의사 결정을 개선하며 새로운 방식으로 고객을 수용하기 위해 AI에 관심을 기울이면서 Kubernetes 기반 컨테이너는 기업이 AI 및 머신 러닝을 채택하도록 지원하는 최고의 기술이 되었습니다. 지난 12월 Kubernetes 프로젝트는 Kubernetes에 기계 학습 워크플로를 간단하고 이식 가능하며 확장 가능하게 배포하는 데 중점을 둔 Kubeflow를 공개했습니다.

Kubernetes가 상태 비저장 서비스로 시작되었지만 프로젝트에서는 고객이 Kubernetes의 '풍부한 API, 안정성 및 성능'을 활용하여 복잡한 워크로드를 플랫폼으로 이동하기 시작했다고 밝혔습니다. Kubernetes의 가장 빠르게 성장하는 사용 사례 중 하나는 Machine Learning을 위한 배포 플랫폼으로 선택되는 것입니다.

2017년 초 Google Cloud Platform은 Google Kubernetes Engine을 통해 Kubernetes를 지원했습니다. 그 해의 정점에 모든 주요 퍼블릭 클라우드 공급업체가 참여했습니다. 특히 Microsoft 이후 Azure Container Service 및 Amazon에 Kubernetes 지원 추가 Kubernetes용 Amazon Elastic Container Service를 선보였습니다.

Kubernetes가 기업에서 출시되고 활용되는 방식은 무궁무진해 보입니다. 상대적으로 짧은 수명 동안 Kubernetes는 많은 것을 이뤘습니다. 이는 기술 공급업체와 그 고객이 컨테이너가 애플리케이션의 AI 부분을 개발하고 관리하는 데 엄청난 이점을 제공한다는 개념으로 몰리는 정도를 강조합니다. AI의 출현은 이러한 복잡한 워크로드에 반복성과 내결함성을 도입하기 위해 컨테이너에 대한 큰 관심을 촉발하고 있습니다.

Kubernetes는 사실상이 되고 있습니다. 컨테이너화된 AI 애플리케이션을 관리하기 위한 표준 및 환상적인 매치. 그 자체로 입증되었으며 앞으로도 오랫동안 기업에 극적인 이점을 제공할 것입니다.

저자는 Canonical의 AI 제품 관리자인 Carmine Rimi입니다.