인간이 명시적으로 프로그래밍하지 않는 새로운 데이터, 이미지, 코드 또는 기타 유형의 콘텐츠를 생성하도록 설계된 생성 AI(Generative AI)는 비즈니스와 기술의 거의 모든 측면에 빠르게 확산되고 있다.

챗봇, 가상 비서, 코드 개발과 같은 사용 사례에서는 기업이 자체 소유 데이터로 모델을 학습시켜야 하지만 퍼블릭 클라우드 솔루션은 데이터 주권 문제, 보안 문제, 예측할 수 없는 비용으로 인해 불확실성을 야기할 수 있다.

대형언모델(LLM, Large language models)은 일반적으로 자연어 텍스트를 이해, 처리 및 생성할 수 있는 딥 러닝을 사용하여 광범위한 데이터 세트에서 훈련된 고급 유형의 AI 모델이다. 그러나 공개 또는 일반 모델을 기반으로 구축된 AI는 기업이 비즈니스에 사용하는 데 적합하지 않다. 기업 사용 사례에는 LLM을 교육, 사용자 정의 및 운영하기 위한 도메인별 지식이 필요하다.

여기에, 메타의 오픈소스 대형언어모델(LLM) '라마 2(Llama 2)'와 같은 언어 모델을 사용하는 온프레미스 배포는 예측 가능한 비용과 데이터에 대한 완벽한 제어를 통해 고객에게 시간이 지남에 따라 더 나은 가치를 제공하며, 보안 및 IP 유출 위험을 줄이고 규정을 준수할 수 있도록 한다.

이에, 델 테크놀로지스(Dell Technologies)가 메타(Meta)와 협력해 대규모 언어모델 라마 2(Llama 2)를 델의 IT 인프라스트럭처, 클라이언트 디바이스, 프로페셔널 서비스로 구성된 생성형 AI 포트폴리오를 통해 온프레미스로 손쉽게 구축할 수 있도록 한다고 31일(현지시간) 밝혔다.

앞서 올해 초 델 테크놀로지스와 NVIDIA는 생성적 AI를 전 세계 엔터프라이즈 데이터 센터에 도입하기 위한 공동 이니셔티브를 통해 생성적 AI를 위한 획기적인 프로젝트를 도입했다. 이 프로젝트는 기업이 조직과 관련된 고유한 데이터를 사용하여 맞춤형 AI LLM을 생성하고 실행할 수 있도록 하는 풀 스택 통합 하드웨어 및 소프트웨어 솔루션에 대한 검증된 설계 세트를 제공한다.

델 테크놀로지스의 최고 AI 책임자인 제프 부드로(Jeff Boudreau)는 “우리는 생성 AI가 산업의 운영, 혁신, 경쟁 방식을 변화시키는 새로운 시대의 시작에 서 있습니다"라며, "이번 메타와 협력을 통해 우리는 모든 규모의 배포를 위한 최적의 소프트웨어 및 하드웨어 인프라와 결합된 자세한 구현 지침을 통해 모든 고객이 오픈 소스 GenAI에 더 쉽게 액세스할 수 있도록 만들고 있습니다"라고 말했다.

이어 그는 "이제 고객은 강력하고 새로운 접근 방식과 통찰력을 위해 안전한 GenAI 모델을 온프레미스에 더 쉽게 배포할 수 있습니다"라고 강조했다.

이번 협력의 핵심은 업계를 선도하는 델의 인프라 솔루션 포트폴리오와 라마 2 AI 모델 제품군을 결합하여 온프레미스 AI 환경을 간소화하는데 있다. 고객들은 이를 통해 온프레미스 데이터 센터 및 엣지 환경에서 생성형 AI를 보다 빠르게 적용할 수 있게 됐다. 델은 메타의 라마 2 모델을 시스템 사이징 툴에 통합하여 고객이 라마 2 기반 AI 역량을 강화하는 데 최적의 솔루션을 활용할 수 있도록 지원한다.

*참고로 델 설계 가이드 (기업의 생성적 AI, 모델 사용자 정의)는 대규모 언어 모델을 위한 고성능, 확장 가능한 모듈식 풀 스택 생성 AI 모델 사용자 정의 솔루션을 지원하는 Dell 검증 설계의 아키텍처는 아래 첨부 문서를 참고하면 된다. 

‘메타 라마 2 생성형 AI를 위한 델의 검증 설계(Dell Validated Design for Generative AI with Meta’s Llama 2)’는 사전 테스트를 거쳐 검증된 델의 인프라스트럭처, 소프트웨어 및 서비스를 통해 온프레미스 프로젝트의 구축 및 관리를 간소화한다. 완벽하게 문서화된 구축 및 구성 지침을 통해 조직은 생성형 AI 인프라를 빠르게 구축하고, 높은 예측 가능성을 바탕으로 라마 2를 운영할 수 있다.

메타 라마 2와 폭넓은 범위의 델 생성형 AI 솔루션 기술 및 서비스를 결합함으로써 조직의 규모와 관계없이 안정적인 툴을 사용해 데스크톱에서부터 코어 데이터센터, 엣지, 퍼블릭 클라우드 등 다양한 위치에서 생성형 AI 솔루션을 사용할 수 있다.

김경진 한국 델 테크놀로지스 총괄사장은 "생성형 AI는 다양한 위치에 구축이 가능한데, 많은 기업들이 데이터 프라이버시, 지적재산권, 보안 등의 이유로 온프레미스 형태를 고려하고 있다.”고 말했다.

이어 “메타 라마 2 모델과 델의 생성형 AI 포트폴리오를 결합함으로써 기업에서는 디지털 트랜스포메이션을 보다 가속화하고, 고객이나 내부 임직원과 폭넓게 소통함으로써 데이터 인사이트를 효과적으로 비즈니스에 적용할 수 있을 것으로 기대한다”고 말했다.