뇌과학이 제시하는 AI 혁명, NMDA 수용체가 열어가는 미래

▲ 왼쪽부터 이창준 단장, 권재 박사후연구원, 김동겸 박사후연구원, 차미영 CI

 

뇌과학과 AI의 융합, NMDA 수용체 모델이 인공지능의 기억 통합 능력을 혁신적으로 향상시키고 있습니다. NeurIPS에서 인정받은 이 연구는 미래 인공지능의 새로운 시대를 열어갑니다.

뇌과학이 제시하는 AI 혁명, NMDA 수용체가 열어가는 미래

우리 뇌에서 일어나는 학습 과정은 매우 효율적인 방식으로 단기 기억을 장기 기억으로 전환하며 이루어진다. 이러한 인간의 기억 통합 메커니즘을 모방해 인공지능의 학습 능력을 향상할 수 있다는 연구 결과가 나왔다.

트랜스포머 모델의 혁신, 뇌의 학습 메커니즘으로 인공지능 성능 향상

기초과학연구원(IBS) 인지 및 사회성 연구단 이창준 단장과 수리 및 계산 과학 연구단 데이터 사이언스 그룹 차미영 CI(Chief Investigator·KAIST 전산학부 교수) 공동 연구팀은 인공지능(AI) 모델이 뇌의 기억 통합 메커니즘과 유사하게 작동한다는 것을 밝히고, 뇌의 해마에서 일어나는 기억 통합의 생물학적 특징을 적용해 인공지능의 효율성을 크게 높일 수 있음을 확인했다.

NeurIPS에 인정받다, 뇌과학과 AI의 융합으로 이뤄진 차세대 학습 기술

현재와 같은 인공지능의 비약적인 발전은 2017년 구글(Google)에서 개발한 트랜스포머(Transformer) 모델로부터 시작됐다. 이 모델은 문장 속 단어와 같은 시계열 데이터 내의 관계를 추적해 맥락과 의미를 학습한다. 기존 모델에 비해 압도적인 성능을 보여주며 챗GPT와 같은 대규모 언어처리 모델의 토대가 되는 등 인공지능 분야에 혁신적인 영향을 미치고 있다.

한편, 우리 뇌 변연계에 있는 해마에서 단기 기억이 장기 기억으로 전환된다고 알려져 있으며 이 기억 통합 과정에서 신경세포에 있는 NMDA 수용체가 중요한 역할을 한다. 이 수용체는 평소에는 닫혀있다가 글루탐산과 결합 시에만 이온이 지나가는 통로가 되어 신경 연결의 강도를 조절하고 기억 형성에 관여하게 된다.

NMDA 수용체 모델의 적용으로 인공지능의 기억 통합 능력이 향상

연구진은 특정 조건에서만 통로가 되는 NMDA 수용체의 비선형적 특징에 주목해 이를 모사한 새로운 활성화 함수를 개발해 트랜스포머 모델에 적용했다. 또한, 이 모델의 기억 통합 메커니즘을 확인하기 위해 에이전트가 2차원 격자 위에서 경로 탐색을 하도록 작업을 설계했다. 무작위로 움직이는 에이전트에게 다음 장소로 이동할 때 그곳에 놓인 물체가 무엇인지 맞히게 한다.

에이전트가 해당 회차 실험 중 방문한 곳의 물체를 맞히면 단기 기억을, 해당 실험에서 방문하지 않았지만 이전 실험에서 탐색했던 물체를 맞힌다면 장기 기억을 사용한 것이다. 이 테스트를 통해 단기 기억이 장기 기억으로 전환되는 기억 통합 메커니즘을 확인할 수 있다.

그 결과, NMDA 수용체 특징을 모방한 인공지능 모델은 우리 뇌 속 해마의 장소세포 처럼 위치를 인지하는 기능을 형성했으며, 기존 모델 대비 기억 통합 능력이 크게 향상된 것을 확인했다. 이는 트랜스포머 모델에 NMDA 수용체의 비선형성을 도입함으로써 우리 뇌와 유사하게 장기 기억과 공간 표상을 강화할 수 있다는 것을 시사한다.

 

이창준 단장은 “이번 연구는 인공지능의 성능 향상뿐 아니라 인간의 뇌와 인공지능 간 연결성에 대한 이해를 확장했다는 점에서 중요한 의미가 있다”라며, “뇌의 작동 원리를 더 깊게 이해하는 것을 바탕으로 더 발전된 인공지능 시스템을 개발할 수 있을 것”이라고 전했다.

차미영 CI는 “이번에 개발한 인공지능 모델을 통해 향후 인간과 유사한 방식으로 정보를 처리하고 기억하는 저비용 고성능 인공지능 시스템이 나올 것을 기대해본다.”라고 말했다.

이번 논문은 오는 12월 미국에서 열리는 세계 최고 권위 AI 학술대회 ‘신경정보처리시스템학회(NeurIPS)’에 채택되었다.

그림 설명

▲ 트랜스포머 모델에서 뇌 NMDA 수용체의 비선형성 활용

 

[그림 1] 트랜스포머 모델에서 뇌 NMDA 수용체의 비선형성 활용
(a) 시냅스 후 신경세포의 이온 채널 활동을 나타내는 도식.
AMPA 수용체는 시냅스 후 신경세포 활성화에 관여하며, NMDA 수용체는 마그네슘 이온 (Mg2+) 에 의해 차단되어 있으나, 시냅스 후 신경세포가 충분히 활성화되면 칼슘 이온(Ca2+) 유입을 통해 시냅스 가소성을 유도한다.
(b) 트랜스포머 모델 내에서 계산 과정을 나타낸 흐름도.
피드포워드층, 계층 정규화, 셀프어텐션층 등의 단계를 통해 정보가 순차적으로 처리된다.
말풍선 속은 NMDA 수용체의 비선형적 특징을 모사해 연구진이 새로 개발한 함수.
마그네슘 농도 (α) 값에 따른 입력-출력 그래프는 NMDA 수용체의 비선형성 변화를 보여준다. 이 함수를 기존 트랜스포머 모델에 적용해 인공지능의 기억 통합 능력이 향상됨을 확인했다.

 

 

▲ AI 기억 통합의 미로: 트랜스포머 모델의 뇌과학적 도전

 

[그림2] AI 기억 통합의 미로: 트랜스포머 모델의 뇌과학적 도전
뇌를 탑재한 AI가 복잡한 미로의 중심에서 이 미로 안으로 들어가기 위해 준비하고 있다. 이는 트랜스포머 모델이 인간과 뇌의 연관성을 탐구하며, 뇌의 기억 통합 과정에서 영감을 얻어 자신의 기억을 테스트하려는 과정을 상징한다.

 

연구 추가 설명

논문/저널/저자

Transformer as a hippocampal memory consolidation model based on NMDAR-inspired nonlinearity / NeurIPS (2023)

김동겸 (공동 제1저자/기초과학연구원), 권재 (공동 제1저자/기초과학연구원), 차미영(공동 교신저자/기초과학연구원, KAIST), 이창준 (공동 교신저자/기초과학연구원)

연구내용 보충설명

인지 및 사회성 연구단과 수리 및 계산 과학 연구단 데이터 사이언스 그룹이 공동으로 작업한 본 논문은 NMDA 수용체에서 영감을 받은 비선형성을 트랜스포머 모델에 도입함으로써 AI의 기억 통합 과정을 강화하는 새로운 접근법을 제시한다.

 

 이 연구는 신경과학과 AI 사이의 간극을 메우는 중요한 작업으로, 기억 통합의 생물학적 메커니즘이 AI 모델에서 어떻게 모방될 수 있는지에 대한 통찰력을 제공한다.

학습과 기억에 중요한 역할을 하는 뇌의 중요한 부분인 해마는 그 기능을 수행하기 위해 NMDA 수용체에 의존한다. 연구팀은 NMDA 수용체의 특징을 기반으로 한 새로운 비선형 활성화 함수를 개발했다.

 

 NMDA 수용체와 같은 비선형성이 트랜스포머에서 단기 기억를 장기 기억으로 전환하는 데 필수적이라는 것을 발견하였는데, 이 과정은 포유류 뇌에서의 기억 통합 과정과 닮아있다. 이러한 발견은 이 두 가지 기억 능력을 평가하기 위해 연구팀이 개발한 2차원 공간에서 경로 탐색 작업을 통해 본 논문에서 밝혀냈다.

NMDA 수용체는 시냅스 가소성과 기억 형성, 그리고 공간 인식 능력에서 중요한 역할을 하는 비선형성을 가진 시냅스후 막에 존재하는 이온채널 글루타메이트 수용체다. 그리고 이전 연구에서 트랜스포머 기반의 AI 모델이 해마의 구조와 기능과 매우 유사함을 보고했다.

 

 따라서 연구팀은 다음과 같은 질문을 제기했다: 트랜스포머의 피드포워드층(Feed-forward layer)에 있는 NMDA 수용체와 유사한 비선형성은 장기 기억과 장소세포에 의한 공간 표현 형성을 강화할 수 있을까? 

이에 대답하기 위해, 연구팀은 NMDA 수용체의 전류-전압 (I-V) 곡선을 사용하여 새로운 NMDA 수용체와 같은 활성화 함수(그림 1)를 도출하고, 두 가지 기억 유형인 단기 기억과 장기 기억을 평가하는 2차원 공간에서 탐색 작업을 설계했다.

 

그 결과, 장소 세포 표현이 셀프어텐션층과 피드포워드층에서 나타나며, NMDA 수용체와 같은 활성화 함수의 비선형성이 장기 기억을 조절할 수 있다는 것을 보여주었다.

 

 

뇌에 빔 프로젝터 쏴 뇌 연결지도 만드는 기술 개발

 

 결론적으로, 트랜스포머의 피드포워드층에서 NMDA 수용체와 같은 비선형성을 채택함으로써, 동물 뇌에서의 관찰과 유사하게 장기 기억 형성과 공간 장소 세포 표현을 강화할 수 있다는 것을 밝혔다.
 
본 연구는 트랜스포머 모델과 해마의 기억 통합 과정이 서로 매우 유사하다는 것을 보여줌으로써, 뇌에서 영감을 받은 AI 모델을 개발하는 새로운 방향을 열었다.

 

이는 인간의 인지 과정을 더 잘 모방할 수 있는 더 효율적이고 효과적인 AI 모델의 창조로 이어질 수 있다. 또한, 이 연구는 뇌에서 발생하는 복잡한 계산 과정에 대한 더 깊은 이해에 기여할 수 있으며, 이는 신경과학의 발전을 가능하게 할 수 있다.

현재는 본 논문의 연구 결과를 확장해 AI 모델의 유연한 기억력을 테스트해보는 연구를 진행 중이다. 동물들은 완전히 새로운 환경에 놓이게 될 때 매우 빠른 적응력 및 유연한 행동 변화를 보여준다.

 

반면에 AI 모델은 오로지 한 가지의 작업에만 수행할 수 있도록 학습되며 새로운 작업에 대해서는 추가적인 학습이 필요하다.

 

따라서 AI 모델의 유연성을 테스트해 볼 수 있는 방법론들을 개발하여 유연성을 향상하고자 하는 연구들이 세계 각국에서 진행 중이며 본 연구팀도 이를 목표로 연구 중이다.

 

IBS 연구진, 공포 기억 조절하는 억제성 신경세포 발견

 

연구 이야기

[연구 과정]
IBS 인지 및 사회성 연구단과 IBS 수리 및 계산 과학 연구단 데이터 사이언스 그룹이 공동으로 연구를 진행했다. 본 연구는 실제 포유류 뇌에 존재하는 NMDA 수용체의 작동 원리에서 영감을 받아, 트랜스포머라는 AI 모델에 비선형성을 도입하는 것을 목표로 했다. 이를 위해 우리는 트랜스포머에서 단기 기억과 장기 기억의 전환 과정을 평가하기 위한 탐색 작업을 설계했다. 또한, NMDA 수용체의 전류-전압 (I-V) 곡선을 사용하여 새로운 활성화 함수를 도출하였고, 이를 트랜스포머의 피드포워드층에서 사용하여 결과를 관찰했다.

[어려웠던 점]
뇌의 복잡한 동역학과 메커니즘을 AI 모델에 통합하는 것은 큰 도전이었다. NMDA 수용체의 특성과 동작 원리를 이해하고, 이를 트랜스포머 모델에 적용하기 위한 새로운 비선형 활성화 함수를 개발하는 과정에서 다양한 시행착오와 장벽이 있었다. 또한, 뇌의 기억 통합 과정과 인공지능의 학습 과정을 어떻게 연결할지에 대한 깊은 통찰력이 필요했다.

[성과 차별점]
본 연구의 큰 성과는 NMDA 수용체의 작동 원리를 기반으로 한 비선형성을 트랜스포머 모델에 성공적으로 도입하여 AI의 기억 통합 과정을 강화하였다는 점이다. 이를 통해 신경과학과 인공지능 사이의 간극을 줄일 수 있었고, 기억 통합의 생물학적 메커니즘을 AI 모델에서 어떻게 모방할 수 있는지에 대한 새로운 통찰력을 얻었다. 또한, 트랜스포머와 해마의 공간 표현 사이의 놀라운 유사성을 발견하여, 뇌에서 영감을 받은 AI 모델 개발의 새로운 방향을 제시했다.

[향후 연구계획]
현재 본 연구의 결과를 확장하여 AI 모델의 유연한 기억력을 테스트하는 연구를 진행 중이다. 동물의 빠른 적응력과 유연한 행동 변화를 AI 모델에 적용할 수 있는 방법론을 개발하는 것을 목표로 하고 있다. AI 모델이 하나의 작업에만 특화되지 않고 다양한 작업에 유연하게 대응할 수 있도록 하는 연구가 세계 각국에서 진행 중이며, 본 연구팀도 이 과정을 이해하고 유연성을 향상시키기 위한 연구를 계속 진행할 예정이다.

 

 

출처 : 기초과학연구원

 

뇌 억제성 신호전달물질 ‘가바’, 조절과 작동 원리 체계적 정리 성공