대형언어모델 (LLM)은 믿을 수 없을 정도로 강력하며 복잡한 질문에 답하고 창의적인 작성, 개발, 소스 코드 디버깅 등을 수행할 수 있다. 그러나, 생성 AI (Generative AI)를 위한 우수한 가드레일을 구축하는 것은 AI가 발전함에 따라 많은 지속적인 연구가 필요한 어려운 문제다.

여기에, 엔비디아가 개발자 커뮤니티의 막대한 에너지와 작업 AI 안전에 기여하기 위해 수년간의 연구로 생성 AI 애플리케이션의 인상적인 고품질 텍스트 응답 생성을 지원하는 '엔비디아 네모 가드레일(NVIDIA NeMo Guardrails. 이하, 네모)'을 오픈 소스로 25일(현지시간) 공개했다.

네모는 대형언어모델(이하, LLM)로 구동되는 스마트 애플리케이션의 정확성, 적절성, 관련성, 안전성 확인을 돕는다. 또한 네모에는 기업이 텍스트 생성 AI 앱에 안전성을 추가하는 데 필요한 모든 코드, 예제, 문서가 포함된다.

이번 네모 출시 배경에는 AI 앱의 강력한 엔진인 LLM이 업계 전반에서 채택되고 있는 상황이 반영됐다. LLM은 고객의 질문에 응답, 긴 문서 요약, 소프트웨어 작성, 신약 설계 가속화까지 폭넓게 활용되고 있다. 사용자가 이러한 새로운 종류의 AI 기반 애플리케이션을 안전하게 보호할 수 있도록 설계됐다.

또한, 생성 AI의 안전은 업계 전반의 관심사다. 엔비디아의 네모 가드레일은 오픈 AI의 챗GPT(ChatGPT)와 같은 모든 LLM과 함께 작동하도록 설계됐다. 네모 가드레일을 통해 개발자는 LLM 기반 앱을 안전하게 조정하고 회사의 전문 영역 내에 머물도록 할 수 있다.

개발자는 네모 가드레일을 통해 세 가지 종류의 경계를 설정할 수 있다. 먼저, ▷토피컬 가드레일(Topical guardrails)은 앱이 원치 않는 영역으로 이탈하는 것을 방지한다. 예를 들어, 고객 서비스 도우미가 날씨에 대한 질문에는 답변하지 못하도록 방지한다.

▷세이프티 가드레일(Safety guardrails)은 앱이 정확하고 적절한 정보로 응답하도록 보장한다. 원치 않는 언어를 필터링하고 신뢰할 수 있는 출처만 언급하도록 강제할 수 있으며, ▷시큐리티 가드레일(Security guardrails)은 앱이 안전한 것으로 알려진 외부 서드파티 애플리케이션에만 연결하도록 제한한다.

네모 가드레일을 사용한다면 머신러닝 전문가나 데이터 과학자가 아니더라도 거의 모든 소프트웨어 개발자는 몇 줄의 코드만으로 새로운 규칙을 빠르게 생성할 수 있으며 오픈 소스로 엔터프라이즈 앱 개발자가 사용하는 모든 도구에서 작동할 수 있다.

예를 들어, 네모 가드레일은 개발자들이 타사 애플리케이션을 LLM에 연결하기 위해 빠르게 채택하고 있는 오픈 소스 툴킷인 랭체인(LangChain-다운)에서 실행할 수 있다.

특히, 엔비디아는 엔비디아 네모 프레임워크에 네모 가드레일을 통합하고 있다. 엔비디아 네모 프레임워크는 사용자가 회사의 독점 데이터를 사용해 언어 모델을 훈련하고 튜닝하는 데 필요한 모든 것을 포함한다.

네모 프레임워크의 대부분은 이미 깃허브(GitHub-다운)에서 오픈 소스 코드로 제공되고 있다. 기업의 경우, 엔비디아 AI 엔터프라이즈(AI Enterprise) 소프트웨어 플랫폼의 일부인 완전한 지원 패키지로 제공받을 수도 있다.

한편, 네모는 서비스로도 제공되며, 자체 데이터 세트와 도메인 지식을 기반으로 맞춤형 생성 AI 모델을 만들고 실행하려는 기업을 위한 클라우드 서비스 제품군인 엔비디아 AI 파운데이션의 일부이다. 네모 가드레일에 대한 자세한 내용과 시작 방법 등은 개발자 블로그 포스팅(보기)을 참고하면 된다.