ICS 사이버 보안에서 인공 지능은 아직 이르다

Google에서 개발한 가상 비서는 작년에 데뷔했을 때 큰 파장을 일으켰습니다. 식당에 전화를 걸어 예약을 할 때 사람의 소리와 구별할 수 없을 정도로 들렸기 때문이다. "안녕하세요, 일곱 번째 수요일에 자리를 예약하고 싶습니다." 구글 듀플렉스 데모에서 정중하게 들리는 남성 목소리가 빛났다. “7명이서?” 전화를 끊은 여성이 오해를 한 듯 물었다. "네 사람을 위한 것입니다." 가상 어시스턴트가 자연스럽게 들리는 "음"으로 말을 시작하며 반박했습니다.

Google Duplex의 예는 현재 AI 상태의 축소판 역할을 합니다. 이제 Google Pixel 전화 사용자를 위해 미국 43개 주에서 사용할 수 있는 Duplex 시스템은 인상적이면서도 기술적 한계를 상기시킵니다. Duplex는 사람처럼 끔찍하게 들릴 수 있지만 그 기술은 다소 일상적인 상호 작용으로 제한됩니다. 대조적으로, IBM의 Project Debater는 추상화에 더 유창합니다. 이는 숙련된 인간 토론자에게 논증을 공식화하는 데 있어 돈을 벌 수 있지만 로봇처럼 들리는 평평한 목소리로 그 사례를 제시합니다. Duplex와 Project Debater의 예는 또한 가장 성공적인 AI가 막대한 예산과 수많은 직원을 보유한 데이터 세트를 보유한 거대 기술 회사의 산물이라는 규칙성을 염두에 둡니다. 그럼에도 불구하고 일류 기업은 이 기술이 잠재적으로 오작동할 수 있다고 경고합니다. "AI 알고리즘에 결함이 있을 수 있습니다."라는 최근 Microsoft 규제 문서의 일부를 읽습니다. “데이터 세트가 충분하지 않거나 편향된 정보를 포함할 수 있습니다. 부적절하거나 논란의 여지가 있는 데이터 관행 [...]은 AI 솔루션의 수용을 저해할 수 있습니다.”

[ 사물 인터넷 세상 는 산업 기업이 IoT 혁신을 찾는 곳입니다. 예약 컨퍼런스 패스 $350 절약하고 증정 무료 엑스포 패스 또는 참조 IIoT 스피커 이벤트에서.]

그러나 AI에 대한 일반적인 마케팅 피치는 이 기술이 현대 비즈니스 문제에 대한 잠재적인 만병통치약이라는 것입니다. 기업 및 산업 기업이 산더미 같은 데이터(IIoT 장치 포함)를 이해하도록 도우면서 산업 보안을 강화할 수 있습니다. 제어 시스템. "운영 통찰력을 위해 머신 데이터에 적용되는 산업 분석은 OT와 IT의 융합을 이끄는 엔진이며 궁극적으로 4차 산업 혁명을 위한 가치 창출입니다." 산업 인터넷 컨소시엄.

PAS Global의 CISO인 사이버 보안 전문가인 Jason Haward-Grau는 ICS 사이버 보안을 위한 AI의 잠재력에 대해 질문했을 때 "로봇 프로세스 자동화는 아마도 AI가 보안에 있는 것보다 AI 관점에서 훨씬 더 흥미로울 것"이라고 말했습니다. 조달과 같은 작업에 사람이 개입할 필요성을 줄일 수 있는 자동화 기술입니다.

그러나 공급업체 환경은 상상할 수 있는 거의 모든 문제에 대해 AI를 제공하는 회사로 가득합니다. "누군가에게 'AI가 있습니까?'라고 묻는다면 그들은 항상 '예'라고 대답할 것입니다."라고 Haward-Grau는 말했습니다. “그러나 그것이 무엇인지 정의하십시오. 'AI가 답이라면 질문은 무엇입니까?'라는 질문을 하십시오. '내 비즈니스에 무엇이 필요한가요?'라는 질문을 시작하는 것이 더 나을 것이기 때문입니다.

위협 수준은 ICS 사이버 보안에서 중요합니다. 2018년 Kaspersky 조사에 따르면 321명의 산업 응답자 중 총 49%가 매년 최소 한 번 이상 공격을 경험했습니다. Haward-Grau는 실제 수치가 더 높을 수 있다고 말했습니다. 앞서 언급한 수치는 조직에서 발생한 공격임을 인정하기 때문입니다.

현재 AI라는 용어는 무수히 많은 방식으로 사용되며, 지능이 무엇인지 구체적인 용어로 이해하기가 여전히 어렵기 때문에 용어의 정의가 철학적으로 보일 수 있습니다. 기술 작가인 Jaron Lanier는 2016년 AI에 대한 토론에서 "엔지니어링 관점에서 '스마트'를 정의하기는 어렵습니다."라고 말했습니다. "측정 가능한 기준선을 정의하지 않으면 환상의 나라에 있는 것입니다." 그는 또한 다음과 같이 덧붙였습니다. "우리가 '스마트' 시스템이라고 부르는 많은 시스템이 경험적 프로세스에서 벗어나 있습니다."

AI 시스템, 더 정확하게는 머신 러닝에 대해 제안된 사용 사례 중 하나는 네트워크에서 맬웨어 또는 이상을 탐지하는 데 사용하는 것입니다. 네트워크 작동 방식에 대한 기준이 있고 건전한 기계 학습 알고리즘과 충분한 데이터 액세스가 있는 경우 이 기술은 네트워크 위협을 신속하게 감지하고 시간이 지남에 따라 잠재적으로 의심스러운 코드 또는 네트워크에 대한 잘못된 경보 수를 줄이는 데 강력할 수 있습니다. 행동. 광범위한 사이버 보안 산업이 재능 있는 인력의 상당한 부족과 씨름하고 있다는 사실을 감안할 때 이는 큰 약속입니다.

그러나 성공하려면 기계 학습 시스템이 관련 데이터에 액세스할 수 있어야 합니다. 기업이 AI 시스템이 인식하지 못하는 일을 하고 있다면 잘못된 경보의 형태로 문제가 발생할 수 있습니다. 또는 소프트웨어 코드를 조사하도록 설계된 지도 학습 시스템이 잘못된 데이터에 대해 훈련되어 알고리즘이 잠재적으로 맬웨어를 정상적인 것으로 간주하도록 유도할 수 있습니다. 또한 공격자는 보안 공급업체의 소프트웨어를 수정하여 멀웨어를 일반 코드로 유인할 수도 있습니다. Technology Review 기사에서 언급한 또 다른 가능성은 공격자가 머신 러닝 모델이 맬웨어를 식별하는 데 사용하는 기능을 파악하고 자신의 악성 코드에서 제거하는 것입니다.

산업적 맥락에서 IT 네트워크 지향적이지 않거나 IT TCP/IP 프로토콜을 사용하지 않는 장비에서 데이터를 짜는 것은 어려울 수 있습니다. "AI는 25년 된 제어 버스에서 어떻게 작동합니까?" Haward-Grau가 물었다.

산업 환경에서 광범위한 IoT 프로젝트를 시작하는 데 잠재적인 어려움의 예를 제공하기 위해 Haward-Grau는 물리적 워크스테이션, HMI, 서버 및 스위치와 같은 500개의 기존 IT 장치가 있는 정제소의 예를 제공합니다. “관리가 가능합니다. 작은 사무실 같아요. 주변에 네트워크 추적 기능을 배치할 수 있습니다.”라고 그는 말했습니다. 그러나 보안 책임자가 정제소에 OT 엔드포인트가 몇 개 있는지 물으면 답은 28,500입니다. 일반적으로 AI의 장점 중 하나는 빠른 속도로 생성되는 방대한 양의 다양한 데이터를 이해할 수 있는 잠재력이지만, 실제로는 복잡하고 역사적으로 격리된 데이터를 이해하는 것은 여전히 ​​어렵습니다. Haward-Grau는 "문제는 엔드포인트의 수가 아닙니다."라고 말했습니다. “20개의 서로 다른 공급업체를 보유하는 것은 어려운 일입니다. ABB, Schneider Electric, Siemens, Yokogawa, Philips, GE 및 Honeywell의 장비가 있다고 가정해 보겠습니다.”라고 그는 말했습니다. "그들은 모두 다르고 다르게 말할 것입니다. 그렇다면 처음에는 이 모든 다양한 것들을 번역한 다음 '좋은 것은 어떤 모습일까요?'라는 질문에 답할 생각입니다." Haward-Grau가 물었습니다.

여기에 더해 기업이 침해를 받는 것은 시간 문제일 뿐이라는 가정에서 귀사가 이미 침해를 받았다는 가정으로 사이버 보안의 입장이 바뀌면서 좋은 네트워크 행동이 어떤 모습인지 이해하는 복잡성이 점점 더 어려워지고 있습니다. IBM이 지원한 2018년 연구에 따르면 기업에서 침해를 식별하는 데 평균 197일이 소요됩니다. 이는 복잡한 네트워킹 토폴로지에서 기계 학습 모델을 훈련시키려는 잠재적으로 손상될 수 있는 조직에 나쁜 소식입니다.

이 모든 것이 AI가 ICS 사이버 보안에 대한 상당한 잠재력을 가지고 있지 않다는 것이 아니라 기술을 배포하려는 산업 기업이 초기에 제한된 데이터 복잡성으로 정의된 사용 사례로 시작해야 한다는 것입니다. E. F. Schumacher가 한 번 썼듯이 “지적인 어리석은 사람은 모든 것을 더 크고, 더 복잡하고, 더 폭력적으로 만들 수 있습니다. 천재의 손길이 필요하고 반대 방향으로 움직이려면 많은 용기가 필요합니다.”