인공 지능에 투자하는 제조업체를 위한 3가지 윤리적 고려사항

AI(인공 지능)가 대출 요청 및 보험 청구를 승인하거나 거부하는 데 알고리즘과 의사 결정 트리가 오랫동안 사용되어 온 금융 부문과 같은 산업에서 널리 퍼져 있지만 제조 산업은 AI 여정의 시작 단계에 있습니다. 제조업체는 최신 기술을 널리 사용되는 기존 자동화 시스템과 결합하여 생산성을 향상시키는 등 AI를 비즈니스 운영에 포함시키는 것의 이점을 인식하기 시작했습니다.

IFS의 인더스트리 사장인 Antony Bourne은 AI가 업계에 보급됨에 따라 제조업체가 윤리적 시스템을 구축해야 한다고 설명합니다. 그는 제조업체가 AI 투자를 늘리고 이 새로운 기술 방향에 착수함에 따라 업계가 직면한 세 가지 주요 윤리적 문제에 대해 설명합니다.

제조업체는 AI에 막대한 투자를 하고 있습니다. 600명의 응답자를 대상으로 한 최근 국제 IFS 연구에서 ERP(Enterprise Resource Planning), EAM(Enterprise Asset Management) 및 FSM(Field Service Management)을 포함한 기술을 사용하는 주요 제조 의사 결정자 중 383명이 제조업체는 AI 투자를 계획하고 있습니다.

5G 및 사물 인터넷(IoT)과 같은 다른 기술과 결합하여 AI를 통해 제조업체는 새로운 생산 리듬과 방법론을 만들 수 있습니다. 기업 시스템과 자동화 장비 간의 실시간 통신을 통해 기업은 주문형 구성 또는 맞춤형 제조를 포함하여 그 어느 때보다 까다로운 비즈니스 모델을 자동화할 수 있습니다.

AI와 관련된 생산성, 비용 절감 및 수익 증대에도 불구하고 업계는 이제 AI가 더 널리 퍼짐에 따라 첫 번째 윤리적 문제가 전면에 나타나는 것을 보고 있습니다. 기업이 AI 투자를 할 때 고려해야 하는 세 가지 주요 윤리적 고려 사항은 다음과 같습니다.

1. AI가 직원에게 어떤 영향을 미칠까요?

AI는 이전에 달성할 수 없었던 순 신제품 및 서비스 제공을 생성하여 매출 성장에 가장 크게 기여할 것입니다. 애프터마켓 서비스 계약을 체결하는 제조업체의 경우 자연어 처리(NLP) 기능이 탑재된 챗봇을 사용하는 것이 당연한 선택입니다.

이러한 기계는 높은 비율의 고객 상호 작용을 자동화할 수 있으므로 특정 에스컬레이션이 필요하지 않은 보다 간단한 서비스 요구 사항을 관리할 수 있으므로 지원 직원이 보다 복잡한 문제에 집중할 수 있습니다. 또한 AI 시스템을 연결된 장치에 연결하면 원격 해상도를 보다 효율적으로 만들고 훨씬 덜 노동 집약적으로 만들 수 있습니다.

그러나 가치를 창출하는 데 필요한 노동 시간이 감소함에 따라 수익에도 상당한 영향을 미칠 것이며, 이로 인해 AI가 노동력에 정확히 어떤 영향을 미칠지에 대한 다양한 의견과 예측이 생겨났습니다.

2017년 NCCI(National Council on Compensation Insurance) 연구에 따르면 1990년 이후 미국 제조업 생산량은 70% 이상 증가했지만 고용은 같은 기간에 30% 이상 감소했습니다. 이는 2016년에 미국이 노동력의 약 70%에 불과한 1990년보다 70% 이상 더 많은 상품을 생산했음을 의미하며, 이 기간 동안 미국의 제조업 노동 생산성이 140%나 증가한 이유를 크게 설명합니다.

NCCI 연구에서 지적한 바와 같이, 제조 자동화는 생산 비용을 절감하여 노동력 요구 감소로 인해 미국 제조업체의 비용을 낮추고 역할 경쟁력을 높였습니다. 중요한 질문이 제기되고 있습니다. 이러한 변화에 대처하기 위해 주당 근무 시간 단축, 새로운 비즈니스 모델 또는 경제 시스템이 필요한가요?

하지만 AI에는 더 많은 것이 있습니다. 인간의 기술을 향상시키고 강화하는 것입니다.

낙관론자들은 AI 기술이 일부 유형의 노동을 대체할 수 있지만 효율성 향상이 전환 비용보다 클 것이라고 제안합니다. 그들은 AI가 처음에는 인간 근로자를 위한 가이드로서 시장에 출시되어 더 나은 결정을 내리고 생산성을 향상시킬 것이라고 믿습니다. 또한, 이 기술에 대한 투자는 기존 직원의 기술을 향상시키고 AI와 직접 경쟁하지 않는 비즈니스 기능 또는 산업에서 고용을 늘릴 수 있는 잠재력을 가지고 있습니다.

또한, 최근 IFS 연구는 제조 분야에서 조화로운 AI와 인간 노동력에 대한 고무적인 미래를 지적합니다. IFS AI 연구에 따르면 응답자들은 AI를 일자리를 없애기보다는 창출하는 경로로 보았다. 응답자의 약 45%는 AI가 직원 수를 늘릴 것으로 기대한다고 답한 반면 24%는 인력 수치에 영향을 미치지 않을 것이라고 생각합니다.

2. AI의 잠재적인 생산성 및 수익성 향상을 정직하게 평가하고 있습니까?

조직이 디지털 혁신을 하고 있다고 말하는 것은 쉽습니다. 그들은 유행어를 받아들이고, 연구를 읽고, 분석가에게 자문을 구하고, 잠재적인 비용 절감 및 수익 성장에 대한 수치를 보았습니다.

그러나 디지털 트랜스포메이션은 작은 변화가 아닙니다. 이는 기술을 선택, 구현 및 활용하는 방식의 완전한 변화이며 전사적으로 발생합니다. 성공적인 디지털 혁신을 위한 중요한 첫 번째 단계는 처음부터 디지털 여정에 적절한 이해 관계자가 포함되도록 하는 것입니다. 즉, 제조 경영진은 마진을 크게 늘리기 위해 혁신적인 비즈니스 변화 비용에 대비하여 AI의 생산성 및 수익성 향상을 평가하고 전달할 때 투명해야 합니다.

AI의 가치 평가는 더 복잡합니다.

기업이 IT에 처음 투자할 때 더 빠른 프로세스 완료 또는 재고 회전 및 더 높은 주문 완료율과 같은 이점과 관련된 새로운 측정 기준을 발명해야 했습니다. 그러나 제조는 복잡한 영역입니다. 확립된 프로세스, 확장된 공급망, 자산 감가상각 및 증가하는 글로벌 압력의 조합은 일상적인 요구 사항과 함께 개선된 결과를 위한 계획을 어렵게 만듭니다. 경영진과 소프트웨어 공급업체는 획득 가치 기회를 식별하기 위해 엄격하고 세심한 프로세스를 거쳐야 합니다.

새로운 비즈니스 전략을 구현하려면 자본 지출과 프로세스 변경에 대한 투자가 필요하며, 이는 이사회, 투자자 및 기타 이해 관계자에게 매각되어야 합니다. 따라서 경영진은 AI에 대해 논의할 때 과도한 약속의 유혹을 피해야 합니다. 조직 전반에 걸친 체계적인 접근 방식과 달리 좁거나 정의된 프로세스에서 AI를 구현함으로써 기대할 수 있는 점진적인 결과를 구별해야 합니다.

3. AI 결과에 대한 좋은 점과 나쁜 점 모두에 대한 소유권을 가져보세요.

AI 기반 결과의 의도된 결과 또는 의도하지 않은 결과가 있을 수 있지만 조직과 의사 결정자는 두 가지 모두에 대해 책임을 져야 한다는 점을 이해해야 합니다. 우리는 자율 주행 자동차 사고로 인한 비극과 그에 따른 책임이 알고리즘이나 AI에 대한 입력에 기초하지 않고 궁극적으로 인간이 내리는 근본적인 동기와 결정에 따라 할당되는 비극을 봐야 합니다.

따라서 경영진은 AI가 제시하는 책임 위험을 과소평가할 여유가 없습니다. 이는 알고리즘이 조직의 진정한 결과와 일치하는지 또는 조직의 직원, 공급업체, 고객 및 사회 전체에 미치는 영향과 관련하여 적용됩니다. 이는 의도적이든 비의도적이든 비윤리적인 방식으로 결정에 영향을 미칠 수 있는 알고리즘 조작이나 AI에 입력되는 데이터를 방지하는 동시에 가능합니다.

기억하십시오 – AI는 결국 인간이 개발한 도구입니다

콜로라도 대학 로스쿨의 ​​부교수인 마고 카민스키(Margot Kaminski)는 '자동화 편향(automation bias)' 문제를 제기했습니다. 즉, 인간은 다른 인간이 내리는 결정보다 기계가 내리는 결정을 더 신뢰한다는 개념입니다. 그녀는 이러한 사고방식의 문제는 사람들이 의사결정을 용이하게 하거나 의사결정을 내리기 위해 AI를 사용할 때 다른 인간이 만든 도구에 의존하지만 종종 그들이 해야 하는지 결정할 기술적 능력이나 실질적인 능력이 없다는 점이라고 주장합니다. 우선 이러한 도구에 의존해야 합니다.

여기에서 '설명 가능한 AI'가 중요합니다. AI는 감사 경로를 생성하여 사실 전후에 알고리즘이 달성하도록 설계된 결과와 작동하는 데이터 소스의 특성을 명확하게 나타냅니다. . Kaminski는 설명 가능한 AI 결정이 변호사에서 데이터 과학자, 중간 관리자에 이르기까지 다양한 이해 관계자를 만족시키기 위해 엄격하게 문서화되어야 한다고 주장합니다. Kaminksi는 "변호사는 결정이 정당한지, 합법적인지 여부에 대한 통찰력을 제공하거나 사람이 어떤 식으로든 그 결정에 이의를 제기할 수 있도록 하는 설명과 같이 컴퓨터 과학자와는 다른 종류의 설명에 관심이 있을 수 있습니다."라고 말합니다.

AI와 함께 디지털로 진화할 준비가 되셨습니까?

제조업체는 머지 않아 기계를 사용하여 인간의 지능을 복제하려는 시점을 넘어 인간의 마음으로는 할 수 없는 방식으로 기계가 작동하는 세상으로 나아갈 것입니다. AI를 통한 진정한 디지털 혁신은 조직 내 모든 프로세스에 미치는 영향을 확인하고 시스템을 자동화하고 반복적인 작업을 먼 기억으로 만듭니다.

이렇게 하면 생산 비용이 절감되고 조직이 제한된 투입을 통해 반환할 수 있는 가치가 증가하지만 이러한 변화는 또한 사람들이 산업에 기여하는 방식, 노동의 역할 및 민사 책임법을 변화시킬 것입니다. 극복해야 할 윤리적 문제가 있지만 AI를 수용하는 것과 AI의 잠재적 이점에 대해 현실적이 되는 것 사이에서 올바른 균형을 유지하는 조직과 근로자를 행복하게 유지하고 사회에 기여하는 조직이 자리를 차지할 것입니다. 그 중 하나가 되시겠습니까?