Google AI는 인간 프로그래머보다 뛰어난 코드를 생성합니다.

2017년 5월 Google Brain Team은 AutoML이라는 새로운 접근 방식을 발표했습니다. 특정 작업을 수행하도록 훈련할 수 있는 하위 모델 아키텍처를 개발하기 위한 컨트롤러 신경망입니다. 쉽게 말하면 스스로 AI를 생성할 수 있는 AI입니다.

사용된 데이터 세트

Google 연구원은 Penn Treebank 및 CIFAR-10과 같은 소규모 학술 데이터 세트에서 AutoML을 테스트했습니다. 나중에 그들은 AutoML에 지금까지 가장 어려운 과제를 제시하기로 결정했습니다. 이번에는 COCO 개체 감지 및 ImageNet 이미지 분류와 같은 대규모 데이터 세트를 테스트했으며 얻은 결과는 놀라웠습니다.

학술 대회에서 더 큰 데이터 세트를 작업하기 위해 여러 가지 최첨단 기계 학습 아키텍처가 인간에 의해 개발되었습니다. 확장 가능한 이미지 인식을 위한 전송 가능한 아키텍처 학습에서 Google 연구원은 가장 인기 있는 두 가지 학술 데이터 세트인 COCO와 ImageNet에 AutoML을 적용했습니다. 이러한 대규모 데이터 세트에 AutoML을 기본적으로 적용하는 경우 원하는 결과를 얻으려면 수개월의 훈련이 필요합니다.

어떻게 작동하나요?

AutoML은 강화 학습 알고리즘과 진화 알고리즘을 기반으로 구축되었습니다. 그러나 ImageNet에 적용하기 위해 연구원들은 대규모 데이터 세트에 더 다루기 쉽도록 수정했습니다. –

1. 최적의 레이어를 찾을 수 있도록 검색 공간을 재설계했으며, 여러 번 유연하게 쌓아 최종 네트워크를 구축할 수 있습니다.
2. 아키텍처 검색은 CIFAR-10에서 수행되며 가장 잘 학습된 아키텍처는 COCO 객체 감지 및 ImageNet 이미지 아키텍처로 전송됩니다.

이러한 변경 후 AutoML은 CIFAR-10뿐만 아니라 COCO 객체 감지 및 ImageNet 분류에 가장 적합한 레이어를 찾을 수 있었습니다. 이 2개의 레이어는 병합되어 NASNet이라는 새로운 아키텍처를 구축합니다. .

그림에서 볼 수 있듯이 NASNet 아키텍처(AutoML에서 개발)에는 일반 레이어와 축소 레이어의 두 가지 유형의 레이어가 포함되어 있습니다

출처:Google 연구 블로그

결과

NASNet은 ImageNet 이미지 분류에서 82.7%의 예측 정확도를 달성했는데, 이는 Google Brain 팀이 구축한 이전 초기 모델보다 훨씬 뛰어납니다. 또한 이전에 게시된 결과와 게시되지 않은 결과보다 1.2% 더 나은 성과를 보였습니다.

NASNet의 크기를 조정하여 낮은 계산 비용을 유지하면서 적절한 정확도를 달성하는 모델 세트를 생성할 수도 있습니다. 예를 들어 NASNet의 소형 버전은 74%의 정확도를 제공하며(계산 비용은 절반으로 줄임) 이는 모바일 플랫폼용으로 설계된 동일한 크기의 여러 최신 모델보다 3% 이상 더 좋습니다.

그림에서 볼 수 있듯이 NASNet 정확도는 ImageNet 이미지 분류를 위해 다양한 수(수백만 단위)의 작업과 매개변수를 포함하는 다양한 모델 크기에서 인간이 발명한 모델보다 높습니다.

이 표는 ImageNet 분류에 대한 아키텍처 검색 및 기타 인간 개발 모델의 성능을 보여줍니다. 다중 합산은 하나의 이미지에 대한 복합 곱셈-누산 연산의 수를 나타냅니다.

NASNet과 함께 Faster-RCNN을 사용한 객체 감지

Google 연구원은 ImageNet에서 학습한 기능을 COCO 개체 감지로 전환했습니다. 테스트에서 ImageNet의 학습된 기능을 Faster RCNN 프레임워크와 통합하면 COCO의 이전 예측 성능이 무색해졌습니다. 가장 큰 모델은 43.1%의 mAP를 달성했는데, 이는 최신 모델의 과거 결과보다 약 4% 향상된 수치입니다.

참조: arxiv.org

이미지 분류 추론 및 객체 감지를 위한 NASNet의 소스 코드는 Github에서 확인할 수 있습니다.

다음은 무엇인가요?

COCO 및 ImageNet에서 NASNet이 학습한 기능은 여러 비전 앱에 재사용할 수 있습니다. 게다가 이 접근 방식은 특정 유형의 신경망이 왜 그렇게 잘 작동하는지에 대해 가르쳐 줄 수 있습니다.

AutoML은 비전문가에게도 기계 학습 분야를 열어줄 수 있으며 정교한 AI 기반 기계/로봇을 개발하는 데 사용될 수 있습니다. 연구에 따르면 이 정도 지능 수준의 AI는 시각 장애인이 시력을 회복하는 데 도움이 될 수 있습니다.

분명히 이 아키텍처는 자율주행차에 사용될 수 있습니다. 또한 교통, 도로 위험 및 보행자를 식별하는 데 도움이 되는 시스템을 상상할 수도 있습니다. 또한 애플리케이션이 환경과 더 잘 상호 작용할 수 있도록 증강 현실에 사용될 수도 있습니다. 그러나 아마도 이 AI의 가장 흥미로운 응용 프로그램은 아직 발견되지 않았습니다.

읽기:15가지 고급 인공 지능 프로젝트

앞으로 Google 연구팀은 이러한 유형의 컴퓨터 생성 아키텍처를 분석하고 테스트하여 이를 개선하고 더 잘 이해할 수 있도록 노력할 것입니다. 성공한다면 완전히 새로운 유형의 신경망에 영감을 줄 수 있으며 이는 모든 사람에게 더 큰 영향을 미칠 수 있습니다.