KAIST, 새로운 딥러닝 방법론 제시

능동-전이 학습과 유전 알고리즘에 의해 생성된 데이터 추가 기반으로 하는 인공신경망의 신뢰할 수 있는 예측 영역의 점진적 확장에 대한 모식도. [사진=KAIST 제공]
능동-전이 학습과 유전 알고리즘에 의해 생성된 데이터 추가 기반으로 하는 인공신경망의 신뢰할 수 있는 예측 영역의 점진적 확장에 대한 모식도. [사진=KAIST 제공]
국내 연구진이 적은 수의 데이터 검증만으로도 우수한 소재를 효율적으로 탐색할 수 있는 새로운 개념의 딥러닝 방법론을 제시했다.

KAIST(총장 이광형)는 유승화 기계공학과 교수 연구팀이 능동-전이 학습(active-transfer learning)과 데이터 증강기법(Data augmentation)에 기반해, 심층신경망 초기 훈련에 쓰인 소재들과 형태·조합이 매우 다른 우수한 특성의 소재를 탐색·설계하는 방법론을 개발했다고 16일 밝혔다.

최근 인공신경망에 기반해 방대한 설계 공간에서 새로운 소재를 찾기 위한 역설계 연구가 활발하게 진행되고 있다. 하지만 기존 설계 방식은 목표로 하는 소재의 형태와 조합이 심층신경망 훈련에 활용된 소재들과 매우 다를 때 인공신경망이 갖는 낮은 예측능력으로 인해 극히 많은 수의 소재 데이터 검증이 요구되며 제한적으로만 활용할 수 있다.

연구팀은 이번 연구에서 이를 극복하기 위해 초기 훈련 데이터 영역에서 벗어나 우수한 소재를 효율적으로 탐색할 수 있는 인공신경망 기반 전진 설계(Forward design) 방법론을 제안했다. 이 방법론은 유전 알고리즘과 결합된 능동-전이 학습·데이터 증강기법을 통해 심층신경망을 점진적으로 업데이트함으로써, 초기 훈련데이터를 벗어난 영역에서 심층신경망의 낮은 예측능력을 적은 숫자의 데이터 검증·추가로 보완한다.

유전 알고리즘에 의해 제안되는 우수 소재 후보군은 기보유한 소재 데이터를 조합해 도출하기 때문에 심층신경망의 신뢰할 수 있는 예측 영역과 설계 공간 측면에서 상대적으로 가까워 예측정확도가 유지된다. 이 후보군과 능동-전이 학습을 활용해 점진적으로 심층신경망의 신뢰성 있는 예측 범위를 확장하면, 초기 훈련데이터 영역 밖에서도 적은 데이터를 생성해 효율적인 설계 과정이 가능하다.

이번 방법은 천문학적인 수의 설계 구성을 가지는 그리드 복합소재 최적화 문제에 적용해 검증했다. 이를 통해 전체 가능한 복합재 구조 1029분의 1가량인 10만개 복합재들만 초기 훈련 데이터로 활용해 심층신경망을 학습했다. 이후 약 500개에 미치지 못하는 데이터 검증을 통해 초기 훈련에 쓰인 복합재와 매우 다른 구조를 갖고 우수한 특성을 지닌 복합재 구조를 설계할 수 있음을 보였다.

연구진이 개발한 방법론은 국소 최적점(Local optima)에 수렴하는 문제를 완화하면서도 인공신경망의 신뢰할 수 있는 예측 영역을 점진적으로 확장하는 효율적인 방법을 제공한다. 때문에 큰 설계 공간을 다루는 다양한 분야의 최적화 문제에 적용할 수 있을 것으로 기대되며, 특히 설계에 요구되는 데이터 검증의 숫자가 적기 때문에 데이터 생성에 시간과 비용이 많이 드는 설계 문제가 해결될 것으로 보인다.

공동 제1저자 김용태 박사과정과 김영수 한국기계연구원 박사 주도하에 진행된 이번 연구는 유승화 교수가 교신저자로 참여해, 국제학술지인 'npj 컴퓨테이셔널 머터리얼(Computational Material, IF:12.241)'에 게재됐다.

이번 연구는 한국연구재단 중견 연구자지원사업과 미래소재 디스커버리 사업, KAIST 글로벌 특이점 프렙 사업 지원을 통해 수행됐다.

저작권자 © 헬로디디 무단전재 및 재배포 금지