강건한 AI 시스템 구축: 산업용 알고리즘 오류 방지

머신 비전 카메라 결함, 보정되지 않은 센서, 예측 불가능한 그림자는 산업용 AI 시스템에서 잠재적으로 비용이 많이 들고 위험한 오류로 이어질 수 있습니다. 그러나 연구자들은 오류 방지 알고리즘과 오류 확률을 줄일 수 있는 간단한 조치들을 개발하고 있습니다.

 

인공지능은 기본 퍼셉트론 인공신경망을 훨씬 넘어 진화했지만, 오류는 여전히 문제입니다. Pixabay 제공 이미지

 

산업용 인공지능 응용

로봇 플랫폼, 자재 취급, 포장, 머신 텐딩, 조립, 검사, BAS(빌딩 자동화 시스템) 등 AI(인공지능)의 산업 응용은 많습니다. 더 구체적인 예로는 드론과 군집 기술을 활용한 분류, 이동, 이송, 생산 공정 이상 탐지 등이 있습니다.

AI는 머신 비전, 로봇 팔, 원격 감지, 공정 제어에 의존하는 산업 자동화의 중요하지만 종종 간과되는 측면이 되었습니다.

그러나 AI 도구는 데이터를 입력으로 제공받아 정확한 출력으로 변환하는 단순한 블랙박스가 아닙니다. 때때로 출력이 틀리며, 이는 우려의 원인입니다.

 

산업 응용에서의 오류 유형

컴퓨터는 지시받은 대로 수행하므로 모든 오류의 근원에는 사람이 있습니다. 설계 오류, 알고리즘 오류, 엔지니어링 오류, 나쁜 데이터일 수 있지만 근원에는 사람이 있습니다.

이는 산업용 AI를 포함한 AI에도 적용됩니다. 산업용 AI 내 오류는 알고리즘 편향(algorithmic bias)과 머신 편향(machine bias) 두 범주로 나뉠 수 있습니다.

알고리즘 편향은 반복 가능하고 체계적인 오류를 포함합니다. 이런 오류는 여러 방식으로 나타날 수 있습니다: 알고리즘 로직의 내재적 오류, 알고리즘 출력의 예상치 못한 사용, AI 시스템에 제공된 데이터 문제.

머신 편향은 제한된 데이터 세트로 시스템을 훈련시켜 잘못된 출력을 초래할 때 발생합니다.

 

AI 오류 관리 중요성

알고리즘 편향 예로, 자동화 품질 관리 시스템에 사용되는 AI 기반 머신 비전 시스템을 생각해 보세요. 이런 애플리케이션은 AI에 공급되는 정확한 측정에 크게 의존해 부품이 공차 내에 있는지 판단합니다. 부정확한 측정이 AI에 제공되면 부품 라벨링 오류가 발생합니다.

머신 비전 AI 뒤의 알고리즘이 100% 정확해도 나쁜 데이터는 나쁜 출력을 의미합니다. 합격품이 폐기되고, 불량품이 고객에게 출하될 수 있습니다. 문제 원인을 추적하는 과정에서 불필요한 비용과 다운타임이 발생합니다.

 

FANUC의 iRVision 3DL은 레이저와 AI를 사용해 부품 표면 상태를 검사합니다. FANUC 제공 이미지

 

특정 환경이나 애플리케이션에서 사용 전 훈련이 필요한 AI 시스템도 있습니다. 이런 경우 시스템에 제공되는 훈련 데이터가 극히 중요합니다. 예를 들어 시스템이 밝은 환경 조건으로만 제한된 훈련을 받으면, 빛 없이 수행해야 할 때 문제가 생깁니다.

 

AI 오류 방지(AI 훈련)

AI와 머신러닝 뒤에는 인간 요소가 있으므로 완전히 오류 방지할 수는 없습니다. 하지만 AI 시스템 내 오류를 최소화하는 방법은 있습니다. 예로는 MIT에서 개발된 CARRL(Certified Adversarial Robustness for Deep Reinforcement Learning)이 있습니다. 이는 자율 시스템을 지원하기 위해 데이터에 대한 일정 수준의 회의론을 장려하는 심층학습 알고리즘으로, 데이터 노이즈와 시스템을 혼란시키려는 적대적 노력을 고려합니다.

카네기 멜론 대학도 심층학습 모델을 위한 AI 알고리즘을 연구해 왔습니다. RATT(Randomly Assign, Train and Track)라 불리는 이 접근법은 레이블 없는 노이즈 훈련 데이터를 사용해 실제 오류 위험의 상한을 설정합니다. 이 상한은 AI 모델이 새로운 입력 데이터에 얼마나 잘 적응하는지 판단하는 데 사용될 수 있습니다. 또한 프린스턴 연구자들은 훈련 데이터에 오류가 있을 때 AI 시스템이 효과적으로 학습할 수 있게 하는 알고리즘을 연구해 왔습니다.

오류 방지 노력에 영향을 줄 표준 개발도 진행 중입니다. NIST(미국 국립표준기술연구소)는 AI 기술 신뢰성 평가에 초점을 맞춘 AI 표준 개발에 적극 기여하고 있습니다. NIST는 AI 시스템 편향 위험을 줄이는 접근법도 제안했습니다.

미국 CISA(사이버보안 및 인프라 보안국)는 2020년 '천재 기계(Genius Machines)' 패널에서 드러난 바와 같이 AI 알고리즘과 데이터 수집 검증을 위한 표준을 이미 검토 중입니다. 이 노력은 NIST의 노력과 함께 책임성을 강조합니다.

 

AI 시스템 오류 대응

담당 AI 시스템을 오류 방지하는 것이 인간 요소 때문에 불가능할 수 있지만, 오류 가능성을 최소화하는 방법은 분명히 있습니다.

AI 시스템에서 오류가 의심된다면 알고리즘을 자동으로 탓하지 말고, 오류를 연구해 패턴을 찾으세요. 예를 들어 자율 빈 피킹 로봇이 오류를 낸다면, 잘못 분류된 아이템들에 공통점이 있는지, 로봇 환경(조명, 그림자 등) 변화가 성능에 영향을 줄 수 있는지 확인하세요. 머신 비전 부분에서 발견되는 더러운 카메라 렌즈 문제일 수도 있습니다. 자율 이동 로봇에서 발견되는 것처럼요.

 

FLIR Firefly DL 같은 많은 머신 비전 카메라에는 내장 AI 시스템이 있지만, 올바르게 청소되고 구성되지 않으면 오류를 생성할 수 있습니다. FLIR 제공 이미지

 

프로그래밍의 엄격한 규칙은 나쁜 입력이 항상 나쁜 출력을 낳는다는 것입니다. 산업용 AI 시스템이 생성하는 오류를 최소화하는 첫 단계는 센서부터 시작해 데이터가 가능한 한 정확하도록 보장하는 것입니다. AI 시스템에 입력 데이터를 제공하는 센서들은 정기적으로 보정되어야 합니다.

사용자가 데이터 허용 범위를 설정할 수 있는 AI 시스템 내 도구는 허용 범위를 신중히 고려한 후 구현해야 합니다: 너무 엄격하면 AI가 큰 가치를 제공하지 못하고, 너무 느슨하면 너무 많은 오류를 생성합니다. 그리고 이 값들은 조정 가능하다는 점을 기억하세요.

앞서 언급했듯 카메라를 깨끗하게 유지하세요. 머신 비전 시스템은 다양한 환경 조건에서 강건하게 설계되었지만, 더러운 렌즈로 시야가 손상되면 여전히 잘 작동한다는 의미는 아닙니다. 스케일링 축적, 부식 환경 노출, 기계적 문제, 노후화로 정확도가 저하될 수 있는 다른 산업용 센서에도 동일하게 적용됩니다.

AI는 공정 제어부터 품질 검사까지 산업 부문에서 널리 사용됩니다. 인간 요소 때문에 이러한 AI 시스템도 오류에 노출됩니다. 오류 방지 알고리즘이 개발되고 있지만, 이 방법들은 아직 완전히 성숙하지 않았고 산업 응용에서 광범위하게 테스트되지 않았습니다. NIST와 CISA 같은 조직이 오류 방지 표준을 위해 노력하고 있지만 여전히 개발 중입니다. 그러나 몇 가지 간단한 조치로 AI 시스템의 오류 확률을 줄일 수 있습니다.