AI가 사이버보안 강화하지만 인간 감독 여전히 필수

컴퓨터·정보시스템 사이버 공격 방어에 AI·머신러닝 도움되나, 커지는 문제 만능 해결책 아님.

AI 한계 명확

크리티컬 스타트(Critical Start) 랜디 왓킨스(Randy Watkins) CTO: "AI 현재 열기·인간 능가 능력 불구, 사이버보안 보강 마법탄환 아님." AI 방대 데이터(보안침해 가능 알림 등) 관리 탁월. 문제는 해석 방식.

알림 도착순 처리→우선순위·위협수준 평가. 비즈니스 깊은 지식·경험 인간 분석가, 각 알림 적절 맥락 배치 탁월. 기계 훨씬 취약. AI 이상 사용자 활동 탐지 가능하나 악의적 의도 여부 판단 덜 효과적.

"AI 전부 부정 아님. 하지만 AI·ML 자신 작업에 풍부한 추론 적용 능력 없다."

MS 파워셸(PowerShell) 인기 자동화 프레임워크. 기계가 특정 사용자 특정 시점 명령 실행 적절 여부 정확히 판단 못 함. 이상징후 악의적 공격 결과일 수도, 아닐 수도.

'머신러닝' 경험으로 향상 암시하나 왓킨스 "능력 제한적." 알고리즘 적절 반응 학습 위해 대량 선례(정상·악성) 입력 필요. 그래도 오음(False negative, 실제 공격 놓침) 문제 미해결. "데이터 왜곡시킬 아웃라이어 제거 능력 필요."

이벤트 악의적 여부 예/아니오 단답 아님. 시스템 민감도 결정 필요. 이상징후 100% 경보? 80%? 너무 많으면 알림 홍수·시스템 셧다운, 너무 적으면 침해 놓침. "변수 추가→추가 데이터셋·주체/시스템 행동 맥락 필요. 그런 질문 시작되면 기계 무너짐."

효과적 사이버공격 탐지 누적 리스크 스코어링 의존, 인간 강점. "이벤트 볼 때마다 의심스러운지 판단. 하지만 이유 적용, 알고리즘 없는 보안 선지식 활용 가능."

"기계 방대 데이터 신속 크롤링. 하지만 '최소권한(Least privilege)' 같은 추상개념 알림셋 적용→권한상승 탐지? 악의적으로 보이는 선량 활동 다수."

ML 진화 지속, 사이버 범죄자 새 회피법 고안. MS·팔로알토네트웍스(Palo Alto Networks) 자동탐지 정교화 진전. "하지만 결국 인간 '예, 이 도메인 컨트롤러 오프라인 시켜' 판단 필요." 기업 잘못된 알림으로 인한 다운타임 비용 최소화 부심.

사이버보안 전 분야 인간 전문가 절대 부족. "업계 인재 부족 확실." 관리형 탐지·대응(MDR) 외부 지원 전환 이유. 인재 부족 새삼 아님. "보안 존재 이래 존재." 최근 10년 기업·대학 미래 사이버보안 전문가 양성 교육·훈련 각성 시작.

인간·기계 협업으로 핵심 시스템 지키는 데 갈 길 멀다. "필요 60일 때 0에서 시작. 지금 90 필요하나 60에 머물러."

산업기술