인공신경망과 뇌의 뉴런: 정확한 유추가 필요

전산 전문가들이 펴낸 딥러닝(Deep learning)이나 인공신경망(Artificial Neural Network) 저술을 보면 인공신경망을 인간의 신경세포와 비교해서 설명할 때 다소 혼란스러울 때가 있다. 둘 사이의 유추가 정확하지 않기 때문이다.

예컨대 국내 한 전산학자의 최근 저서를 보면 인공 뉴런과 인간 뇌의 뉴런을 다음과 같이 비교해 설명했다.

오창석. 2018. <딥러닝을 위한 인공신경망>. 내하출판사. 41쪽.

우선 입력이 수상돌기에 해당되는 값으로 그려져 있는데,  잘못된 서술이다. 입력은 시냅스-전-뉴런(presynaptic neuron)의 축삭종말(axon terminal)에 도달한 신호(신경 자극)로 보는 편이 훨씬 정확할 것이다. 그것이 축삭종말에서 신경전달물질(neurotransmitter)로 바뀌어 시냅스 틈(synapse cleft)에 분비되고, 그것이 시냅스-후-뉴런(postsynaptic neuron)의 수상돌기의 수용체들(receptors)을 통해서 전달되는 것까지가 시냅스(synapse)에 해당된다. 그림에서 연결강도라고 표시된 부분이다. 그런 다음 시냅스-후-뉴런의 수상돌기에서 신경전달물질은 활동전위(action potential)로 바뀌게 되는데 그 부분에 해당되는 과정은 그림에 없다. 그림에 세포체라고 표시된 부분은 축삭(axon)이다. 표시가 잘못 된 것이다. 그리고 그것이 인공 뉴런의 노드에 해당된다. 세포체는 여러 수상돌기로부터 들어온 활동전위를 합산하고 그것이 역치(threshold value)를 넘으면 신호를 전달해야 된다고 판단하고 축삭을 향해서 활동 전위를 발사한다. 그 활동 전위가 위 그림에서 인공 뉴런의 출력에 해당된다. 그림에 ‘축삭돌기’라는 표현이 있는데 영어 이름은 axon terminal로 ‘축삭종말’이라고 쓰는 것이 더 적절하다고 생각되며 그것의 위치도 축삭의 맨 끝 부분(위 그림에서 오른쪽 끝의 T 자 모양)이 맞다.

혼란을 바로 잡기 위해 다시 정리해 설명해 본다. 아래 그림은 한 개의 인공 뉴런이 작동하는 과정을 간략히 모형화한 것이다. 맨 왼쪽의 상자들은 여러 개의 입력값을 나타낸다. 그것들은 각각 다른 가중치(weight)를 지닌 경로를 통해서 노드(node)에 들어온다. 노드에서는 각 입력값과 가중치의 곱이 합산되고, 활성함수를 통해서 나온 값이 역치를 넘으면 산출값을 내놓는다.

artificial neural network에 대한 이미지 검색결과

그런데 이러한 과정을 인간 뇌에서 발생하는 뉴런과 시냅스 사이의 신호 전달에 비교하면 아래 그림과 같다. 위에서 언급했지만 다시 이 그림을 갖고 작동 순서대로 서술한다.

인공뉴런의 입력값()은 시냅스-전-뉴런의 축삭종말(axon terminal)에 활동 전위 형태로 전달되는 신호들의 값(강도)이다. 가중치()는 시냅스 가중치(synaptic weight)에 해당되는데, 그것은 시냅스-전-뉴런의 축삭종말에서 시냅스 틈으로 분비되는 신경전달물질의 양이나 시냅스-후-뉴런의 수상돌기에 형성된 수용체들의 수효(이것은 수용되는 신경전달물질의 양을 결정한다)에 의해 결정된다. 시냅스 후의 값()들은 시냅스-후-뉴런의 수상돌기를 통과되는 신호들의 값(세기)를 나타낸다. 그것들은 세포체(cell body)에서 합산되고, 그 총합(sum)이 역치를 넘으면 신호가 다음 뉴런에 전달되도록 활동 전위(action potential) 형태로 축삭(axon)을 향해 발사된다.

강화학습이 일어나는 경우 인공뉴런에서는 역전파(backpropagation)의 방법으로 가중치들이 조정되고 더 정확한 산출값을 내놓게 된다. 인간 뇌에서는 만약 동일한 자극이 반복적으로 전달되거나 보상예측오류(reward prediction error)가 발생할 경우, 동일한 자극에 대해 신경전달물질이 더 많이 분비되거나 수상돌기에 더 많은 수용체가 형성되어  더 효율적으로 신경전달물질을 수용하는 방식으로 시냅스 가중치가 변화된다.

전산 서적들에서 이러한 유추가 보다 정확히 사용되어야 할 것으로 생각된다. (윤영민, 2018-04-23)

SF 영화 속 인공두뇌, 과연 개발될 수 있을까?

ex machina brain에 대한 이미지 검색결과
영화 Ex Machina에서 AI인 엑스 마키나의 머리에 들어갈 인공두뇌를 보여주는 장면.

인간의 두뇌가 지구상의 어떤 물체보다도 복잡하다는데 이견을 달 사람은 없을 것이다. 과학자들은 아직 두뇌와 지능을 완전히 이해하지도 못하고 있고, 그것을 인공적으로 구현하는 도전은 더 더욱 낮은 수준에 머물러 있다.

인공 지능(Artificial Intellegence)은 인공신경망(Artificial Neural Network)이나 심층 신경망(Deep Neural Network)처럼 소프트웨어적으로 구현되고 있지만, 수십년 이내에 엑스 마키나처럼 인간에 버금가거나 인간보다 뛰어난 지능을 가진 AI 로봇, 혹은 영화 트랜센던스(Transcendence)에서처럼 인간의 두뇌-지능이 업로드된 슈퍼컴이 출현할 가능성은 별로 높아 보이지 않는다.

transcendence에 대한 이미지 검색결과
영화 ‘트랜센던스(Transcendence)’에서 과학자 윌(조니 뎁 연)의 뇌가 슈퍼컴에 업로드되는 장면.

인공신경망 같은 소프트웨어가 실제로 구현되는 현재의 폰 노이만 방식의 컴퓨터는 인간 두뇌와는 비교가 우습게 느껴질 정도로 낮은 기술 수준이다. 슈퍼컴이라는 고성능 컴퓨터라고 별로 다르지 않다. 성능이 현저히 떨어지고, 유연성도 없으며, 덩치도 무지하게 크고, 어마어마하게 많은 전기를 사용하며, 작동 과정에서 열도 많이 발생한다. 그 때문에 트랜지스터 집적 기술, 배터리 기술 개발, 신소재 개발 등에 엄청난 재원이 투입되고 있지만 그러한 발전 방향에 대해 회의적인 시각도 만만치 않다.

그래서 대안으로 추구되어온 방향 중 하나가 인공두뇌(artificial brain)의 개발이다. 인공 지능이 계산, 학습, 기억, 의사결정, 예측 등과 같은 두뇌의 기능을 소프트웨어적으로 모방하려는 노력이라면, 인공두뇌는, 최대한 인간 두뇌와 닯은 물체를 제작하여 거기에서 지능이 스스로 발현되게 하려는 시도이다.

인공두뇌 연구자들은 두뇌-지능의 핵심을 뉴런(neuron)과 시냅스(synapse)의 결합으로 본다. 학습, 기억, 종합, 판단, 예측 등과 같은 지능이 뉴런과 시냅스의 결합으로 이루어진다고 믿기 때문이다.  다시 말해 인공두뇌(artificial brain)이란 인공뉴런(artifical neuron)과 인공시냅스(artificial synapse)로 구성된 물체이다.

스위스의 과학자들이 개발한 인공 뉴런의 모습.

2015년 스위스의 Karolinska Institutet의 과학자들은 인간의 유기적 뉴런과 연결되어 작동할 수 있는 인공 뉴런을 개발했다고 발표했다. 그들의 발표에 따르면 그 인공뉴런에는 바이오센서(amperometric biosensors)와 유기 전자 이온 펌프(organic electronic ion pumps)가 부착되어 있어, 한쪽 끝에서 인간 뉴런으로부터 화학적 신호를 받으면 그것을 전기적 신호로 바꾸어 전달할 수 있으며, 다른 끝에서 그것을 다시 화학물질로 바꾸어 다른 뉴런에게 신호를 보낼 수 있는 기능을 갖추었다고 한다(Simon, et. al., 2015; Wenz, 2015). 문제는 위 사진에서 보다시피 생물체의 뉴런에 비해 아직 크기가 너무 크다는 것이다.

금년(2018년) 1월 Science Advances지에 더욱 획기적인 연구가 발표되었다. 미국의 국립표준연구소(NIST)의 연구팀은 인간의 뇌처럼 학습을 할 수 있는 인공두뇌를 구현했다고 발표했다(Schneider, et. al., 2018). 그 인공두뇌 속의 시냅스는 인간 두뇌의 시냅스처럼 시냅스 가중치가 바뀔 수 있는 가소성(plasticity)을 갖고 있다.

쉬나이더 박사 연구팀은 조셉슨 접합(Josephson Junction)에 자성을 지닌 나노입자들(magnetic nanoclusters)을 절연체(barrier)로 사용하였다. 아래 그림에서 보듯이 연구팀은, SFQ(Single Flux Quantum) 초전도체(superconduct)로 시냅스 전 뉴런을  만들고,  SQID(Superconducting Quantum Interference Device) 초전도체로 시냅스 후 뉴런을 구성하였다.

출처: Schneider, et. al.(2018)

이 인공뉴런에서 획기적인 점은 절연체(JJ synapse)가 마치 인간 두뇌의 시냅스처럼 작동한다는 사실이다. 첫째, 시냅스 전 뉴런에서 일정한 역치(threshold value) 이상의 전류가 흘러들어오면 전류가 절연체를 통과해서 시냅스 후 뉴런으로 흐르며, 둘째, 절연체에 전류 펄스를 반복해서 가하면 자기장(magnetic field)이 형성되고 그 영향으로 나노입자들이 점차 한 방향으로 정렬되면서 전류의 역치가 낮아진다는 것이다. 인간두뇌에서 뉴런의 수상돌기에 들어오는 자극이 강하면 신호가 다음 뉴런으로 전달되고, 동일한 자극이 수상돌기에 반복적으로 들어오면 시냅스 전 뉴런의 (축삭 종말의) 신경전달물질의 분비량이 늘거나 시냅스 후 뉴런의 (수상돌기에) 이온 수용체의 수효가 늘어서 시냅스 가중치(synaptic weight)가 커지는 현상과 유사한 모습이다.

이 인공두뇌는 초전도체로 구성되어 극저온에서 저항없이 전류가 흐르기 때문에 매우 효율적으로 전기 신호를 전달할 수 있다. 그 인공두뇌는 초당 10억회의 전기신호를 전달할 수 있으며(인간두뇌는 초당 50회 정도를 전달), 그 작동에 아주 소량의 에너지만사용된다.  그리고 그 인공시냅스의 직경은 10 마이크로미터(10만분의 1미터)에 불과하다. 한 마디로 인간의 뇌보다 빠르고 효율적으로 작동하는 인공두뇌의 개발 가능성이 열린 것이다(Reardon, 2018).

그러나 리어돈(Reardon, 2018)이 지적하듯이, 복잡한 컴퓨팅을 위해서는 수백만 개의 인공시냅스가 필요할턴데, 과연 인공두뇌의 규모가 그렇게까지 확대될 수 있을 지 아직 미지수이고,  그 인공시냅스들이 절대 영도(섭씨 – 273.15도)에 가까운 극저온에서 작동하기 때문에 액체 헬륨을 사용해서 냉각되어야 하는데, 그럴려면 스마트폰처럼 소형으로 구현되기 어렵다는 문제를 안고 있기도 하다.

artificial brain에 대한 이미지 검색결과

이 두 가지의 획기적인 연구만 보더라도 인간의 뇌에 비견될 수 있는 인공 두뇌가 개발되기까지는 많은 장애가 극복되어야 할 것임이 분명하다. 그리고 앞으로 얼마나 더 많은 시간이 소요될 지 누구도 알 수 없다.

1980년대 후반 절대 영도보다 상당히 높은 온도에서 초전도체가 되는 물질들이 속속 발견되면서 조셉슨 효과를 이용한 ‘초전도체 컴퓨터’가 10년 이내 발명되지 않을까 하는 기대가 있었다(김두희, 1988). 그러나 그 후 30여 년이 흘렀지만 아직 초전도체 컴퓨터가 출현했다는 소식은 없다. 위에서 소개한 미 국립표준연구소 연구팀의 발견이 초전도체 기반의 신경컴퓨터–즉, 인공두뇌–의 등장을 크게 앞당길 지도 모르겠다.

그러나 인공두뇌을 보기 위해서는 최소한 또 한 세대는 기다려야 하지 않을까. SF 영화에서 보는 로봇에 장착될만한 인공두뇌가 제작되려면 과학자들은 이미 지나온 길보다 앞으로 훨씬 더 먼 길을 가야할 것이기 때문이다. (윤영민 2018-04-22)