A seminar titled "Autoassociative Learning with Modular Recurrent Networks: Brain-Like Cognitive Machine Learning" is held in KAIST.
Title : Autoassociative Learning with Modular Recurrent Networks: Brain-Like Cognitive Machine Learning
Date : November 29 (Friday), 2013 15:00
Location : N24 Bldg., Room 1104 Multimedia Studio
Speaker :Byoung-Tak Zhang, Seoul National University
학습시스템(learning systems)은 환경과의 상호작용을 통한 경험적 데이터로부터 지식을 습득하여 스스로 성능을 향상하는 시스템이다. 기계학습(machine learning)은 현재 정보검색, 데이터마이닝, 인터넷 서비스, 음성인식, 컴퓨터비전, 로보틱스, 무인자동차 등 다양한 분야에 적용되고 있다. 그러나 이러한 실제적인 응용에도 불구하고 사람의 학습 능력과 비교할 때 현재의 기계학습 기술은 아직 많은 발전을 필요로 한다. 본 세미나에서는 최근 기계학습 기술의 성공사례와 그 한계를 살펴보고 향후 연구 방향에 대해서 논의하고자 한다. 특히 인지과학(cognitive science) 관점에서 뇌의 연상기억(recall memory) 능력을 모사하는 생성적 기계학습 기술의 중요성을 살펴보고, 그 기반이 되는 뇌신경망(brain networks)의 구조와 기능적 조직 원리를 분석한다. 이 원리를 구현하는 기계학습 기술의 사례로서 발표자의 연구실에서 개발하고 있는 하이퍼네트워크(hypernetwork) 모델을 소개한다. 하이퍼네트워크는 아주 많은 수의 작은 신경모듈들이 재귀적으로 연결된 모듈재귀신경망 구조(modular recurrent neural network)를 가지는 확률적 자기연상 학습 (autoassociative learning) 모델이다. 핵심 아이디어는 두 가지로서, i) 모듈 개념의 도입을 통해서 다양한 패턴조각들을 로컬 메모리에 명시적으로 저장함으로써 고전적인 재귀신경망 모델에서의 학습 속도와 수렴성 문제를 해결하였으며, ii) 그래프 공간에서의 베이지안 몬테칼로 샘플링(Bayesian Monte Carlo sampling)을 통해서 정규화된 구조학습(regularized structure learning)을 함으로써 빠르고 점진적인 일반화가 가능하다. 스마트 폰과 스마트TV에서의 사용자 라이프 로그 데이터 모델링과 비디오 데이터로부터의 멀티모달 개념학습에의 활용 사례를 통해서 모듈화된 재귀신경망 모델의 자기연상적 학습 특성을 분석한다.
YByoung-Tak Zhang (장병탁)
URL: http://bi.snu.ac.kr/~btzhang/
1997-present: Professor of Computer Science and Engineering, Seoul National University
2012-present: Director of the Institute of Cognitive Science, Seoul National University
2011-2012: President of the Korean Society for Artificial Intelligence (KSAI)
2007-2008: Visiting Professor, Samsung Advanced Institute of Technology, Giheung
2004-2005: Visiting Scientist, MIT CSAIL and Brain and Cognitive Sciences, Cambridge, MA
1992-1995: Research Fellow, German National Research Center for Information Technology (GMD, now Fraunhofer Institutes), St. Augustin/Bonn, Germany
1988-1992: Ph.D. in Computer Science, University of Bonn, Germany. Awarded POSCO Scholarship for Studying Abroad
1982-1988: B.S. and M.S. in Computer Science and Engineering, Seoul National University