인공지능은 아직 산업 제어 시스템 사이버보안에 준비되지 않았다

구글 듀플렉스가 식당 전화선에서 처음 말했을 때, 그것은 거의 인간처럼 들렸습니다. 데모는 AI가 오늘날 할 수 있는 것을 보여주었습니다: 기이할 정도로 유창하게 좁고 스크립트된 대화를 실행합니다. 그러나 이제 43개 미국 주에서 구글 픽셀 사용자가 사용할 수 있는 동일한 기술은 오늘날 AI의 한계를 강조합니다. 일상적 상호작용은 가능하지만 산업 제어 시스템(ICS)의 복잡성을 다루기에는 아직 멀었습니다.

다른 주목받는 AI 프로젝트도 이 격차를 강조합니다. IBM의 프로젝트 디베이터는 설득력 있는 주장을 구성할 수 있지만, 그 목소리는 여전히 로봇 같고 이해는 추상적입니다. 두 예 모두 가장 진보된 AI가 막대한 자금과 대규모 데이터 세트를 가진 기업에서 나오지만, 심지어 그들조차 알고리즘이 실패할 수 있고, 데이터가 편향될 수 있으며, 부적절한 관행이 신뢰를 침식할 수 있다고 경고합니다.

마케팅 내러티브는 종종 AI를 비즈니스 과제의 만병통치약으로 묘사하며, 방대한 양의 산업 데이터를 이해하고 제어 시스템 보안을 강화하겠다고 약속합니다. 산업 분석이 기계 데이터에 적용되면 OT와 IT의 융합을 주도하고 제4차 산업 혁명을 촉진한다고 산업 인터넷 컨소시엄의 산업용 사물인터넷 분석 프레임워크는 말합니다.

사이버보안 베테랑 제이슨 하워드-그라우, PAS 글로벌 CISO는 "로봇 프로세스 자동화는 AI 관점에서 AI가 보안에서 하는 것보다 훨씬 더 흥미롭습니다."라고 지적합니다. 그는 벤더가 모든 문제에 AI를 제공한다고 주장할 수 있지만, 기업은 먼저 "내 조직에 무엇이 필요한가?"를 묻고 AI가 답인지 판단해야 한다고 주장합니다.

위협 수준은 여전히 높습니다. 2018년 카스퍼스키 연구에 따르면 321명의 산업 응답자 중 49%가 연간 최소 1회 공격을 보고했습니다. 실제 수치는 과소 보고로 인해 더 높을 가능성이 큽니다.

AI를 정의하는 것 자체가 철학적 과제입니다. 기술 작가 자론 라니어는 2016년 측정 가능한 기준선 없이는 "당신은 환상의 나라에 있는 것"이라고 경고했습니다. 실질적으로 이는 많은 '스마트' 시스템이 경험적 근거가 부족함을 의미합니다.

구체적 사용 사례 하나는 멀웨어 또는 이상 탐지입니다. 신뢰할 수 있는 네트워크 기준선과 충분한 데이터로 훈련된 견고한 머신러닝 알고리즘이 있다면 AI는 위협을 빠르게 플래그하고 오탐을 줄일 수 있습니다. 이는 사이버보안 인재 부족을 고려할 때 특히 가치 있습니다.

그러나 성공은 데이터 관련성에 달려 있습니다. 시스템이 특정 비즈니스 프로세스를 인식하지 못하면 오경보를 생성할 수 있습니다. 또한 결함 있는 데이터로 훈련하면 멀웨어를 양성으로 잘못 분류할 수 있습니다. 적대자는 모델 특성을 역설계하여 탐지를 회피할 수도 있습니다.

산업 환경은 추가 장애물을 제시합니다. OT 기기는 종종 표준 IT 프로토콜을 사용하지 않으며, 레거시 컨트롤 버스(예: 25년 된 시스템)는 AI가 해석하기 어렵습니다. 하워드-그라우는 정유소 예로 설명했습니다. 500개 IT 기기는 네트워크 추적으로 모니터링할 수 있지만, 여러 벤더(ABB, 슈나이더 일렉트릭, 지멘스, 요꼬가와, 필립스, GE, 허니웰)의 28,500개 OT 엔드포인트는 AI 번역과 '정상' 행동 정의를 복잡하게 만드는 파편화된 데이터 환경을 제시합니다.

'언젠가 침해당할 것'에서 '이미 침해당했다'로의 전환은 정상 네트워크 행동 확립의 복잡성을 증폭시킵니다. IBM 지원 2018년 연구에 따르면 기업이 침해를 탐지하는 데 평균 197일이 걸립니다. 이는 진화하는 네트워크 토폴로지에서 훈련된 머신러닝 모델의 신뢰성을 침식할 수 있는 시간입니다.

AI는 산업 사이버보안에 약속을 가지고 있지만, 채택은 데이터 복잡성을 제한하는 잘 정의된 사용 사례에서 시작해야 합니다. E. F. 슈마허가 말했듯, "반대 방향으로 움직이는 데는 천재의 손길과 많은 용기가 필요합니다." 산업 리더들에게 그것은 전체 OT 환경으로 AI를 확장하기 전에 작고 관리 가능한 프로젝트에서 시작하는 것을 의미합니다.