전 세계적으로 인공지능(AI) 위험성에 대한 경각심이 고조되면서 ‘신뢰할 수 있는 인공지능(Trustworthy AI)’ 기술이 주목받고 있는 가운데, 국내 한 대학이 관련 교육프로그램을 운영해 눈길을 끌고 있다.

군산대학교 ‘ICT특성화취업연계형사업단’이 AI 기술 전문기업 씽크포비엘과 함께 ‘데이터 밸런스’ 기반 AI 신뢰성 검증을 위한 테스트 설계 교육을 시행한다고 19일 밝혔다. 

씽크포비엘은 지난 2020년부터 올해까지 4년 연속 여름방학 기간 군산대 재학생 대상 AI 신뢰성 교육을 진행해 오고 있다.

21일부터 23일까지 비교과 과정으로 진행될 교육에서는 최근 이목을 끌고 있는 초거대 AI 소개는 물론, 불균형 데이터로 인한 AI 편향‧오류 사례를 경험하는 시간이 마련된다. 

이후 데이터 밸런스 기반 ‘데이터 불균형 평가 도구’ 등을 활용한 AI 신뢰성 검증 실습이 이뤄진다. 데이터 밸런스는 씽크포비엘이 독자 개발한 기술로, AI가 적용되는 분야에서 발생하는 예기치 못한 상황을 기술적·객관적으로 설계·검증해 AI 편향 등을 잡아낼 수 있다. 하위 기법 다섯 건이 한국정보통신기술협회(TTA) 단체표준으로 채택돼 있다.

군산대와 씽크포비엘은 최근 산업계 중요 이슈인 AI 신뢰성과 관련해 국내 최초로 이뤄진 교육이 4년째 시행되는 점에 큰 의미를 뒀다. 특히, 이번에 정보통신기획평가원(IITP) 방송통신정책연구로 마련된 개발자 대상 AI 신뢰성 교육 커리큘럼이 첫 시범 적용된다는 점도 주목할 만하다.

 커리큘럼은 향후 AI 산업에서 절대적으로 필요한 신뢰성 전문가를 6개 직군으로 분류하고 있다. 이번 군산대 교육에서는 이 가운데 데이터 안전 진단 직군과 신뢰성 비즈니스 기획 직군 일부가 적용된다.

군산대 측은 “수강생이 AI 신뢰성 확보에 필요한 기술을 숙지하고 AI 신뢰성 검증용 데이터셋 설계 역량을 기르면, 소위 취업 취약계층으로 여겨지는 지역대학 출신 한계를 극복하고 독보적 경쟁력을 갖출 수 있을 것”이라 기대했다.

AI 신뢰성 교육이 산학 협력으로 이뤄진 건 변화하는 산업계 상황과 무관하지 않다. 최근 ‘챗GPT’와 같이 초거대 AI 기술을 활용한 서비스가 본격화되면서 AI가 자칫 인류에 위협적인 존재가 될 수 있다는 우려가 커지고 있다. 

국내에서도 정부가 AI 기술 개발 단계부터 일정한 가이드를 준수할 수 있도록 제도적 장치를 마련 중이다. 따라서 관련 인증이나 컨설팅 시장이 커질 것으로 예상되는데, 이에 대응해 전문 인력을 양성하는 교육 과정이 필요하다는 목소리도 높아지고 있다.

박지환 씽크포비엘 대표는 “현재의 AI 기술은 상상을 초월하는 속도와 규모로 텍스트나 화상, 동영상 등을 조작‧유포‧확산시킬 수 있는 수준으로 발전했는데, 악의적이든 아니든 예상되는 피해를 최소화하려면 AI의 치명적 오작동과 악용 범죄 등에 대처하기 위한 전문 인력 양성이 필요한 상황”이라고 말했다.

이어 “이러한 전문 인력은 장기적 계획하에 오랜 기간 숙련‧육성돼야 함에도 여러 요인으로 국내에서 제대로 된 시도가 이뤄지지 못하고 있는데, 정부와 AI 관련 업계가 당장 이익에만 골몰하면 AI 위험성에 제때 대응하지 못할 수 있다”고 밝혔다.