오픈AI가 현지시간 1일, 챗GPT(ChatGPT) API를 공개했다. 

이제 API에서 챗GPT(ChatGPT) 및 위스퍼(Whisper) 모델을 사용할 수 있게 되어 개발자는 채팅뿐만 아니라 최첨단 언어 및 음성-텍스트 변환 기능에 액세스할 수 있게된 것이다.

오픈AI는 이날 일련의 시스템 전반의 최적화를 통해 12월부터 챗GPT의 비용을 90% 절감할 수 있었으며, 이제 그 절감된 비용을 API 사용자에게 전달할 수 있게 되었다고 밝혔다.

이날 출시한 ChatGPT 모델 제품군인 GPT-3.5 터보(GPT-3.5-Turbo)는 챗GPT 제품에 사용되는 것과 동일한 모델로 가격은 1,000 토큰당 0.002달러로 기존 GPT-3.5 모델보다 10배 저렴하다. 또한 채팅이 아닌 다양한 사용 사례에 가장 적합한 모델로, 초기 테스터들이 프롬프트에 약간의 조정만으로 텍스트 다빈치-003(Text-Davinci-003)에서 GPT-3.5 터보로 마이그레이션 할 수 있다.

API는 일반적으로 GPT 모델은 모델에 '토큰(컴퓨터가 이해하는 언어단위)' 시퀀스로 표시되는 구조화되지 않은 텍스트를 사용한다. ChatGPT 모델은 대신 메타데이터와 함께 메시지 시퀀스를 사용한다. 즉, 내부적으로 입력은 여전히 모델이 사용할 수 있도록 '토큰' 시퀀스로 모델에 렌더링되며, 모델에서 사용하는 원시 형식은 채팅 마크업 언어(Chat Markup Language, ChatML-다운)라는 새로운 형식이다.

이제 개발자 및 연구자들은 훨씬 빠르고 비용 효율적인 결과를 얻을 수 있는 오픈소스 Whisper 대형-v2 모델(다운)을 API에서 사용할 수 있으며, 챗GPT API(보기) 사용자는 지속적인 모델 개선과 함께 전용 용량을 선택하여 모델을 더욱 세밀하게 제어할 수 있는 옵션을 기대할 수 있게 되었다.

또한, 개발자들의 피드백에 귀를 기울여 개발자들의 요구를 더 잘 충족할 수 있도록 API 서비스 약관을 개선했다고 덧붙였다. 더 자세한 사용 방법은 챗GPT API 채팅 가이드(다운) 또는 해당 사이트(보기)를 참고하면 된다.

한편, 오픈AI는 2022년 9월에 오픈 소스로 공개된 음성-텍스트 변환 모델인 위스퍼(Whisper-논문) API는 개발자 커뮤니티로부터 엄청난 찬사를 받았지만, 실행하기 어려운 모델이기도 하다. 이제, 분당 0.006달러의 편리한 온디맨드 액세스를 제공하는 대형-v2 모델을 API를 통해 사용할 수 있게 되었으며, 고도로 최적화된 서비스 스택을 통해 다른 서비스에 비해 빠른 성능을 보장한다고 밝혔다.

또한 Whisper API는 트랜스크립션(원어로 트랜스크립션) 또는 번역(영어로 트랜스크립션) 엔드포인트를 통해 이용할 수 있으며, 다양한 형식(m4a, mp3, mp4, mpeg, mpga, wav, webm)을 허용한다.