한국지능정보사회진흥원(원장 황종성, 이하 NIA)이 주최하고 한국과학기술기획평가원(원장 정병선, 이하 KISTEP)이 참여하여 대형언어모델(LLM) 기반 초거대 AI의 공공기관 구축 방법에 대한 다양한 이슈를 다룬 ‘LLM 기반 생성형 AI의 공공기관 도입방안 세미나’가 18일 NIA 대구 본원에서 개최되었다.

이번 행사는 최근 ChatGPT 열풍으로 대규모 언어모델 기반의 초거대 AI에 대한 관심이 급증함에 따라 공공기관에 생성형 AI 구축방법에 대한 다양한 이슈가 존재하고 있어 이에 대한 해결방안을 모색하기 위해 마련되었다.

세미나에서 KISTEP은 선도적으로 적용하고 있는 LLM 기반 생성형 서비스 개발 경험사례를 중심으로 장단점 및 앞으로의 제언을 소개하고 특별강연을 맡은 정병선 KISTEP 원장은 거대언어모델 AI의 오픈소스 기술혁신 필요성과 융합이 가져올 긍정적 효과를 강조했다.

KISTEP은 기관 내부에서 LLM 기반 지능형 검색, 문서 분류, 동향/이슈 탐색 및 분석, 내용요약, 질의응답 등 직원들의 실제 업무 효율화 기여하고 있는 사례를 소개하는 한편, 오픈소스 한국어 LLM 모델 필요성을 비롯한 고성능 GPU 컴퓨팅 자원 부족, 전문인력 부족, 멀티모달 부재 등의 한계점에 대해서도 언급했다.

또한 세미나에서 NIA는 초거대 AI 기반 디지털플랫폼정부 구현을 위한 전담기관으로서 생성형 AI를 공공부문에 적용하기 위한 정보 정확성의 한계, 내부정보 유출 가능성 검토, 자체 생성 AI 모델 개발을 통한 기술 자립 가능성 등을 중점적으로 살펴보고 이의 대안에 대해 함께 논의했다.

NIA 황종성원장은 “언어모델의 경량화, 성능향상을 통해 조만간 공공기관의 지식을 활용한 특화모델 LLM, 온프레미스(사내 시스템) 서비스를 가능하게 하는 혁신이 촉발될 것으로 전망한다”면서, “이번 세미나를 통해 파인튜닝 학습데이터 및 컴퓨팅 자원의 필요성을 다시 한번 인식했다며 향후 초거대 AI 정책수립에 구체적인 해결방안을 적극 검토하여 반영할 계획”이라고 밝혔다.