최적화 문제란 어떠한 목적을 이루기 위한 가장 적합한 해결책을 찾는 문제를 말한다. 이러한 최적화 문제는 차세대 반도체 연구 분야에서도 등장한다.

예를 들어, ‘전류가 가장 잘 흐르게 하려면 어떤 소재로 반도체를 설계해야 하는지’, ‘그 소재의 가장 안정적인 상태는 무엇인지’는 모두 최적화 문제이다.

특히, 현재 사용되고 있는 실리콘 반도체의 집적도 한계를 극복하고 초저전력, 고성능 차세대 반도체를 개발하기 위한 스핀트로닉스 연구에서는 그 소재로 사용되는 나노 자석의 가장 안정적인 상태를 규명하고 그 특성을 면밀히 파악하지 않으면 스핀 소자의 정확한 동작 특성 및 범위를 설계할 수 없다.

한국과학기술연구원(KIST, 원장 윤석진) 스핀융합연구단 권희영, 최준우 박사와 경희대학교(총장 한균태) 원창연 교수 연구팀이 주어진 나노 자석의 가장 안정적인 상태, 즉 기저 상태(Ground State)에서 나타나는 스핀 구조를 추정하는 인공지능 생성적 머신러닝 모델 '에너지 최소화 변이 오토인코더(Energy-minimization Variational Autoencoder, E-VAE)'를 개발했다.

여기서, '변이 오토인코더'란 생성적 머신러닝 기법의 일종으로 주어진 입력 정보를 압축하는 인코더와 압축된 정보를 복원하여 출력하는 디코더가 순차적으로 연결된 구조로, 압축된 정보에 변이를 가하여 입려고딘 데이터와 다른 새로운 출력 데이터를 생성할 수 있다.

생성적 머신러닝(Generative machine learning) 기법은 주어진 데이터를 학습하여 그 데이터가 가지는 특성을 추출하고, 재조합하여 새로운 데이터를 생성하기 위해 사용된다.

이러한 생성적 머신러닝 모델들은 흑백사진을 컬러사진으로 변환하거나 비정상 데이터를 검출하는 등 다양한 분야에서 활용되고 있다. 연구진은 기존의 생성적 머신러닝 모델을 나노자석에 적용할 경우 국소적 노이즈 및 흐림 효과 등이 발생, 물리법칙에 어긋나는 상태가 생성됨을 확인하였다.

또한, 기존 모델에서는 입력된 상태보다 새롭게 생성된 상태의 에너지를 낮게 하는 과정이 포함되어 있지 않아 나노 자석의 기저 상태를 탐색하는 데 사용하기 어려웠다.

연구진은 기존 생성적 머신러닝 모델의 하나인 변이 오토인코더에 생성된 상태들의 에너지를 최소화하는 과정을 포함한 '에너지 최소화 변이 오토인코더(E-VAE)'를 개발하고, 이를 통해 나노 자석의 스핀구조가 가질 수 있는 최적의 상태를 효율적으로 찾아내는 데 성공했다.

이는 기존에 사용되어 온 시뮬레이티드 어닐링 기법(Simulated annealing, SA)과 비교했을 때 최적의 상태를 찾는 문제에 있어서 뛰어난 효율과 정확성을 보여주었다.

KIST 권희영 박사는 “머신러닝 기술을 기반으로 주어진 물리적 시스템의 가장 낮은 에너지 상태를 조사할 수 있는 전산적 접근법을 제시했다”고 이번 연구의 의의를 밝혔다.

또한 “최적화 문제는 순수과학이나 반도체 연구뿐만 아니라 수학 및 컴퓨터 사이언스 분야에서도 중요한 연구 주제로 다뤄지는 만큼, 본 연구에서 개발된 머신러닝 기반의 혁신적인 최적화 기법은 다양한 분야에서 높은 학술적 가치를 가질 것으로 기대된다.”라고 밝혔다.

이번 연구는 국제 저널 어드밴시스 사이언스(Advanced Science)에 '해밀턴 유도 변이 자동 인코더를 이용한 스핀 구조 안정화 자기 상태 생성(Magnetic State Generation using Hamiltonian Guided Variational Autoencoder with Spin Structure Stabilization-다운)'란 제목으로