[과학]챗GPT에 사용된 '트랜스포머' 모델 활용…KAIST 다공성 소재 예측 성능↑

한국과학기술원(KAIST·총장 이광형)은 인공지능(AI)을 활용해 다공성 소재의 다양한 물성을 예측하는 기술을 개발했다고 5일 밝혔다.

김지한 생명화학공학과 교수팀이 세계 최초로 '멀티모달 트랜스포머(MOFTransformer)'를 적용해 기술을 개발했다. 챗GPT에서 사용된 모델인 트랜스포머를 다공성 소재에 도입해 모든 성능을 예측할 수 있는 멀티모달 인공 신경망을 개발했다.

멀티모달 트랜스포머는 비디오 프레임과 오디오 트랙, 웹 이미지와 캡션, 교육용 비디오와 음성 대본 등 형태가 다른 정보를 결합하도록 설계된 신경망 모델 일종이다.

Photo Image
멀티모달 트랜스포머를 이용한 범용적 물성 예측 개요

연구팀이 개발한 멀티모달 트랜스포머는 원자 단위 정보를 그래프로 표현하고, 결정성 단위 정보를 3차원 그림으로 전환한 후 함께 학습한다. 모든 물성을 고성능 예측할 수 있게 했다.

연구팀은 다공성 소재를 위한 트랜스포머를 개발, 100만개 다공성 소재로 사전학습을 진행했다. 다공성 소재 가스 흡착, 기체 확산, 전기적 특성 등 다양한 물성을 기존 머신러닝 모델들보다 고성능 예측하는 데 성공했다. 최대 28% 상승을 이뤘다. 논문으로부터 추출한 텍스트 데이터에 대해서도 역시 고성능 예측에 성공했다.

연구진은 개발 멀티모달 트랜스포머가 다공성 소재 뿐만 아니라 다른 소재에도 확장 가능한 범용적인 모델이라고 설명했다.

강영훈, 박현수 KAIST 생명화학공학과 박사과정이 공동 제1저자로 참여한 이번 연구는 국제 학술지 '네이처 머신 인텔리전스'에 지난 3월 13일에 게재됐다.

이번 연구는 과학기술정보통신부, 국가 소재 연구 데이터 사업단, 한국연구재단 중견 연구자 사업 지원으로 수행됐다.

김영준기자 kyj85@etnews.com