인공 뉴런을 사용한 비지도 학습

마누엘 르 Gallo의 연구는 차세대 초고밀도 뉴로모픽 컴퓨팅 시스템에 영감을 줄 것입니다. (출처:IBM Research – 취리히)

취리히에 있는 IBM Research의 과학자 팀은 인간의 뇌가 기능하는 방식에 영감을 받아 예를 들어 우리가 핫 플레이트를 만질 때 뉴런이 급증하는 방식을 모방했습니다. 이러한 소위 인공 뉴런은 과학자들이 수십 년 동안 달성하기 위해 노력한 생물학에서 볼 수 있는 것과 유사한 전력 예산 및 밀도로 빅 데이터에서 패턴을 감지하고 상관 관계를 발견하는 데 사용할 수 있습니다. 그들은 또한 아주 적은 에너지를 사용하여 감독 없이 고속으로 학습할 수 있습니다.

오늘 Nature Nanotechnology 표지에 실린 "확률적 상변화 뉴런"이라는 제목의 논문 , 연구 및 그 결과를 요약합니다.

저는 이 논문의 공동 저자이자 현재 ETH Zurich에서 박사 과정을 밟고 있는 취리히 과학자 Manuel Le Gallo와 IBM Research와 이야기를 나눴습니다.

인공 뉴런은 어떻게 작동하나요?

마누엘 르 갈로: 뉴런에는 "통합 및 실행"이라고 하는 특정 기능이 있습니다. 뉴런은 누산기 역할을 합니다. 뉴런에 여러 입력을 계속 보내면 뉴런이 모든 입력을 통합합니다. 입력의 양과 그 강도에 따라 막 전위는 특정 임계값에 도달하고 뉴런은 "발화" 또는 "급상승"합니다. 이러한 누산기는 놀랍도록 복잡한 계산 작업을 수행하는 데 사용할 수 있습니다.

인간의 뇌는 어떻게 인공 뉴런의 발달에 영감을 줍니까?

ML: 인공 뉴런은 생물학적 뉴런이 하는 일을 모방하도록 만들어졌습니다. 인공 뉴런은 완전히 동일한 기능을 가지고 있지는 않지만 이러한 뉴런을 사용하여 뇌가 수행하는 계산을 수행할 수 있을 만큼 충분히 가깝습니다. 일반적으로 인공 뉴런은 컴퓨터에 있는 표준 트랜지스터 기술인 CMOS 기반 회로를 사용하여 만들어집니다. 우리 논문은 감소된 전력 소비와 증가된 면적 밀도로 유사한 기능을 재현하기 위해 위상 변화 장치와 같은 비 CMOS 장치를 사용하는 데 중점을 둡니다.

논문에 대한 귀하의 기여는 무엇입니까?

ML: 우리는 지난 3년 동안 수행한 특성화 및 모델링 작업을 통해 상 변화 장치 물리학에 대한 이해를 얻었습니다. 이것은 이러한 장치를 기반으로 인공 뉴런을 설계하고 기능을 이해하는 데 중요했습니다. 또한, 논문에 제시된 실험 데이터 중 일부를 입수하여 결과의 ​​분석 및 해석에 기여했습니다.

"우리의 접근 방식은 특히 대량의 데이터를 처리할 때 더 효율적일 것이라고 생각합니다."

—Manuel Le Gallo, IBM Research 과학자

인공 뉴런은 어떤 상황에서 적용될 수 있나요?

작은 사각형은 나노미터 규모의 상변화 셀(보이지 않음)에 액세스하는 데 사용되는 접촉 패드입니다. 날카로운 프로브는 접촉 패드를 터치하여 뉴런 입력에 대한 응답으로 세포에 저장된 위상 구성을 변경합니다. 각 프로브 세트는 100개 세포 집단에 액세스할 수 있습니다.

ML: 이 문서에서는 여러 이벤트 스트림에서 상관 관계를 감지하는 방법을 보여줍니다. 바이너리 이벤트의 여러 스트림이 있고 예를 들어 1이 동시에 발생하는 경우와 같이 일시적으로 상관 관계가 있는 스트림을 찾으려고 가정합니다.

이 문서에서는 여러 이벤트 스트림에서 상관 관계를 감지하는 방법을 보여주었습니다.

이벤트란 무엇을 의미하나요?

ML: 이벤트는 예를 들어 트위터 데이터, 날씨 데이터 또는 사물 인터넷에서 수집한 감각 데이터가 될 수 있습니다. 바이너리 이벤트의 여러 스트림이 있고 예를 들어 1이 동시에 오는 경우와 같이 일시적으로 상관 관계가 있는 스트림을 찾으려고 가정합니다. 이벤트를 수신하는 여러 플라스틱 시냅스에 연결된 단 하나의 뉴런을 사용하여 이러한 구별을 수행하는 방법을 논문에서 보여줍니다.

뉴로모픽 컴퓨팅이 기존 컴퓨팅보다 더 효율적인 이유는 무엇입니까?

ML: 기존 컴퓨팅에서는 별도의 메모리와 논리 장치가 있습니다. 계산을 수행하고 싶을 때마다 먼저 메모리에 액세스하고 데이터를 가져와 계산을 반환하는 논리 장치로 데이터를 전송해야 합니다. 그리고 결과를 얻을 때마다 메모리로 다시 보내야 합니다. 이 과정은 계속해서 왔다갔다 합니다. 따라서 엄청난 양의 데이터를 처리하는 경우 실제 문제가 됩니다.

신경망에서 컴퓨팅과 스토리지는 같은 위치에 있습니다. 논리와 메모리 사이에 통신을 설정할 필요가 없습니다. 서로 다른 뉴런 사이에 적절한 연결만 하면 됩니다. 이것이 우리의 접근 방식이 특히 대량의 데이터를 처리할 때 더 효율적이라고 생각하는 주된 이유입니다.

마누엘 르 갈로 은(는) 스위스 연방 공과 대학(ETH Zurich)에서 전기 공학 석사 학위를 취득하기 위해 취리히에 왔습니다. 그는 구인 제안이 그의 배경과 관심에 맞는 IBM에서 논문을 마쳤습니다. 그는 현재 박사 과정을 밟고 있습니다.

저자 정보: 밀리언 게러 IBM Research – Zurich에서 여름 인턴으로 근무하며 과학자들의 작업과 동기에 대해 자세히 알아보기 위해 과학자들을 인터뷰하고 있습니다. 가을에 그는 Princeton University에서 학부생으로 컴퓨터 공학을 공부하기 시작할 것입니다.