AI 알고리즘 오류 방지

머신 비전 카메라, 보정되지 않은 센서 또는 예측할 수 없는 그림자의 결함은 산업용 AI 시스템에서 잠재적으로 비용이 많이 들고 위험한 오류로 이어질 수 있습니다. 그러나 연구자들은 오류 가능성을 줄이기 위해 취할 수 있는 간단한 조치뿐만 아니라 오류 방지 알고리즘을 개발하고 있습니다.

인공 지능은 기본 퍼셉트론 인공 신경망 이상으로 발전했지만 오류는 여전히 문제로 남아 있습니다. 픽사베이 제공 이미지 사용

인공 지능을 위한 산업용 애플리케이션

로봇 공학 플랫폼, 자재 취급, 포장, 머신 텐딩, 조립, 검사 및 BAS(빌딩 자동화 시스템)와 같은 AI(인공 지능)를 위한 수많은 산업 응용 프로그램이 있습니다. 보다 구체적인 예로는 품목을 분류, 이동 및 운송하기 위한 드론 및 스웜 기술이나 생산 공정의 이상 징후 감지가 있습니다.

AI는 머신 비전, 로봇 팔, 원격 감지 및 프로세스 제어에 의존하는 산업 자동화의 중요하지만 종종 잊혀지는 측면이 되었습니다.

그러나 AI 도구는 데이터가 입력으로 제공되고 정확한 출력으로 변환되는 단순한 블랙박스가 아닙니다. 출력이 잘못된 경우가 있는데 이것이 우려되는 부분입니다.

산업용 애플리케이션의 오류 유형

컴퓨터는 하라는 대로 하므로 모든 오류의 원인은 사람입니다. 설계 오류, 알고리즘 오류, 엔지니어링 오류 또는 잘못된 데이터일 수 있지만 근본에는 사람이 있습니다.

이는 산업용 AI를 비롯한 AI에도 적용됩니다. 산업용 AI의 오류는 알고리즘 편향과 기계 편향의 두 가지 범주 중 하나로 분류될 수 있습니다.

알고리즘 편향에는 반복 가능하고 체계적인 오류가 포함됩니다. 이러한 오류는 알고리즘 논리의 고유한 오류, 알고리즘 출력의 예상치 못한 사용 또는 AI 시스템에 제공된 데이터 문제와 같은 여러 가지 방식으로 나타날 수 있습니다.

제한된 데이터 세트를 사용하여 시스템을 훈련할 때 기계 편향이 발생하여 잘못된 출력이 발생합니다.

AI 오류 제어의 중요성

알고리즘 편향의 예로 자동화된 품질 관리 시스템에 사용되는 AI 기반 머신 비전 시스템을 생각해 보십시오. 이러한 애플리케이션은 AI에 데이터로 제공되는 정확한 측정값에 크게 의존하여 부품이 허용 오차 내에 속하는지 여부를 결정합니다. AI에 부정확한 측정이 제공되면 잘못된 부품 라벨링이 발생합니다.

머신 비전 AI 뒤에 있는 알고리즘은 100% 정확할 수 있지만 잘못된 데이터는 잘못된 출력을 의미합니다. 허용되는 부품은 폐기할 수 있으며 품질이 좋지 않은 부품은 고객에게 보낼 수 있습니다. 이로 인해 문제의 원인을 추적할 때 불필요한 비용과 다운타임이 발생합니다.

FANUC의 iRVision 3DL은 레이저와 AI를 사용하여 부품의 표면 상태를 확인합니다. FANUC 제공 이미지 사용

특정 환경이나 애플리케이션에서 사용하기 전에 교육이 필요한 일부 AI 시스템. 이러한 경우 시스템에 제공되는 교육 데이터는 매우 중요합니다. 예를 들어, 시스템이 조명이 있는 영역의 조건으로 제한된 교육을 받는 경우 시스템이 조명 없이 작동해야 하는 경우 문제가 발생합니다.

오류 방지 AI(훈련 AI)

AI와 머신 러닝 뒤에는 인적 요소가 있기 때문에 오류를 방지할 수 없습니다. 그러나 AI 시스템 내에서 오류를 최소화하는 방법이 있습니다. 예를 들어 CARRL(Certified Adversarial Robustness for Deep Reinforcement Learning)은 MIT에서 개발한 딥 러닝 알고리즘으로, 데이터의 노이즈 및 시스템을 혼동시키려는 적대적 노력

Carnegie Mellon은 또한 딥 러닝 모델을 위한 AI 알고리즘을 연구하고 있습니다. RATT(Randomly Assign, Train and Track)라고 하는 이 접근 방식은 레이블이 지정되지 않은 잡음이 있는 훈련 데이터를 사용하여 실제 오류 위험에 대한 상한을 설정합니다. 이 상한은 AI 모델이 새로운 입력 데이터에 얼마나 잘 적응하는지 결정할 수 있습니다. 또한 Princeton의 연구원들은 훈련 데이터에 오류가 있을 때 AI 시스템이 효과적으로 학습할 수 있도록 하는 알고리즘을 찾고 있습니다.

오류 방지 노력에 영향을 미칠 개발 중인 표준도 있습니다. NIST(National Institute of Standards and Technology)는 AI 기술의 신뢰성 평가에 중점을 둔 AI 표준에 적극적으로 기여하고 있습니다. NIST는 AI 시스템의 편향 위험을 줄이기 위한 접근 방식도 제안했습니다.

미국 CISA(Cybersecurity and Infrastructure Security Agency)는 "Genius Machines"라는 제목의 2020년 패널에서 공개된 바와 같이 AI 알고리즘 및 데이터 수집을 심사하기 위한 표준을 이미 검토하고 있습니다. NIST의 노력과 함께 이러한 노력은 책임감을 강조합니다.

AI 시스템의 오류 해결

담당 AI 시스템의 오류 교정은 관련된 인적 요소로 인해 불가능할 수 있지만 오류 가능성을 최소화할 수 있는 방법은 분명히 있습니다.

AI 시스템에서 오류가 발생하는 것으로 의심되는 경우 알고리즘을 자동으로 비난하지 마십시오. 오히려 오류를 연구하여 패턴을 찾으십시오. 예를 들어 자율적으로 쓰레기 수거 로봇이 오류를 범하는 경우 잘못 분류된 품목에 공통점이 있는지 또는 성능에 영향을 미칠 수 있는 로봇 환경(조명, 그림자 등)의 변화가 있는지 확인하십시오. . 또한 자율 이동 로봇에서 볼 수 있는 것과 같이 시스템의 머신 비전 부분에 더러운 카메라 렌즈에 문제가 있을 수 있습니다.

FLIR Firefly DL과 같은 많은 머신 비전 카메라에는 AI 시스템이 내장되어 있지만 이러한 시스템을 깨끗하게 유지하고 올바르게 구성하지 않으면 오류가 발생할 수 있습니다. FLIR 제공 이미지 사용

프로그래밍의 어려운 규칙은 잘못된 입력은 항상 잘못된 출력을 낳는다는 것입니다. 산업용 AI 시스템에서 발생하는 오류를 최소화하는 첫 번째 단계는 센서부터 시작하여 데이터가 최대한 정확한지 확인하는 것입니다. AI 시스템에 입력 데이터를 제공하는 센서는 정기적으로 보정해야 합니다.

사용자가 데이터에 대해 허용 가능한 범위를 설정할 수 있도록 하는 AI 시스템 내의 도구는 허용 가능한 범위를 신중하게 고려한 후에 구현해야 합니다. 너무 엄격하면 AI가 많은 가치를 제공하지 않습니다. 너무 느슨하고 너무 많은 오류를 생성합니다. 그리고 이 값은 조정할 수 있음을 기억하십시오.

또한 앞에서 언급했듯이 카메라를 깨끗하게 유지하십시오. 머신 비전 시스템은 다양한 환경 조건에서 견고하게 설계되었지만 더러운 렌즈로 인해 시야가 손상되는 경우에도 여전히 잘 작동한다는 의미는 아닙니다. 스케일 축적, 부식성 환경에 대한 노출, 기계적 문제 또는 노후화로 인해 정확도가 저하될 수 있는 다른 산업용 센서도 마찬가지입니다.

AI는 공정 제어에서 품질 검사에 이르기까지 모든 산업 분야에서 널리 사용됩니다. 그리고 관련된 인적 요소로 인해 이러한 AI 시스템도 오류가 발생할 수 있습니다. 오류 방지 알고리즘이 개발되고 있지만 이러한 방법은 완전히 성숙하지 않았으며 산업 응용 프로그램에서 광범위하게 테스트되지 않았습니다. 그리고 NIST 및 CISA와 같은 조직이 오류 방지 표준을 위해 노력하고 있지만 아직 개발 중입니다. 그러나 몇 가지 간단한 조치로 AI 시스템의 오류 가능성을 줄일 수 있습니다.