현지시간 30일,  미국 인공지능 및 디지털정책센터(Center for AI and Digital Policy. 이하, CAIDP)가 오픈AI(OpenAI)의 생성 AI이자 대형언어모델(LLM) GPT-4가 출시된지 15일만에 "편향적이거나 속이는 것"을 막기 위한 안전 장치가 마련될 때까지 GPT의 추가 상업적 배포를 중단할 것을 美연방거래위원회(US Federal Trade Commission. 이하, FTC)에 제소했다. 

CAIDP는 기술이 기본권, 민주적 제도, 법치를 바탕으로 광범위한 사회 통합을 촉진하고 더 나은 사회, 더 공정하고 정의로운 사회를 촉진하는 것을 목표로 하는 비영리단체 '생명의 미래 연구소(Future of Life Institute)'가 차세대 AI 모델 개발에 대한 6개월 유예를 요구하는 대대적으로 공개된 공개 서한이 발표된 지 하루 만에 나온 것이다.

이 서한에는 테슬라 일론 머스크와 스티브 워즈니악 애플 공동 창업자, CAIDP 회장 마크 로텐버그 등 1280명이 서명했으며, 기업이 스스로 할 수 없다면 정부가 개입해 강제 유예 조치를 취해야 한다고도 했다.

CAIDP는 FTC에 오픈AI 및 챗GPT(ChatGPT)를 조사를 촉구하고 "적절한 보호 장치가 마련될 때까지 GPT-4를 포함한 대형 언어 모델 판매 중단과 GPT의 추가 상용 버전의 출시를 중단할 것, 동시에 유럽 소비자 기구(Bureau Européen des Unions de Consommateurs, BEUC)에 EU 및 국가 차원의 유럽 규제 기관에 ChatGPT에 대한 조사를 시작할 것을 요청"했다고 밝혔다.

CAIDP는 구체적으로 오픈AI가 FTC 5조(공정거래법), AI에 대한 FTC 지침(보기), AI 제품 및 AI 거버넌스 규칙을 위반했다고 밝혔다. 아울러, FTC는 조사를 개시한 후 오픈AI가 출시한 제품에 대한 FTC지침을 준수할때까지 GPT관련 추가 배포를 중단해 줄 것을 요청했다. 

이날 CAIDP의 창립자 겸 회장이자 법률고문인 마크 로텐버그(Marc Rotenberg)는 성명을 통해 "FTC는 오픈AI의 불공정하고 기만적인 거래관행을 조사하고 금지할 분명한 책임이 있습니다"라며" 우리는 FTC가 오픈AI와 GPT-4를 면밀히 조사할 것이라고 믿습니다"라고 밝혔다.

한편, 오픈AI는 GPT-4를 지난 14일 출시하면서 챗GPT의 약 8배인 최대 25,000단어까지 처리할 수 있으며, 안전과 정치적으로 편향되거나 극단적으로 공격적이거나 때에 따라 서로 다른 방식의 결과, 거짓말 등의 최근 이슈를 인정하고 이를 보완하기 위해 6개월을 보냈고 그동안의 피드백에 대해 학습(수많은 악성 프롬프트)했다고 밝혔다.

그러나, 이날 오픈AI 샘 알트만(Sam Altman) CEO는 트위터를 통해 “가장 성능이 뛰어나고 잘 정돈된 모델이지만 이 역시 여전히 잘못된 정보를 공유하는 경향이 있을 수 있다"고 경고했다(보기).

또한, 17일(현지시간) ABC방송 인터뷰를 통해 오픈AI CEO 샘 알트만은 인공지능 기술이 우리가 알고 있는 사회를 재구성할 것이라며, 실제 위험이 따르지만 우리의 삶을 획기적으로 개선하기 위해 "인류가 지금까지 개발한 가장 위대한 기술"이 될 수도 있다고 믿는다고 밝혔다.

또 알트만은 "GPT-4는 AI가 일반적으로 인간보다 더 똑똑한 AI 시스템으로 설명될 수 있는 강력한 임계값을 넘을 때 최종적으로 인공일반지능(AGI, Artificial General Intelligence)을 구축하려는 OpenAI의 목표를 향해 내딘 한 걸음에 불과하다"고 말했다.

아울러 알트만은 이 모델의 성공에도 불구하고 밤잠을 설치게 만들 정도로 AI의 위험한 구현 가능성을 밝히며 그는 "이러한 모델이 대규모 허위 정보에 사용될 수 있다는 점과 컴퓨터 코드를 더 잘 작성하고 있으므로 사이버 공격 등 악의적으로 사용될 수 있다"며 우려했다(보기).

그러나, CAIDP의 이번 제소에 美연방거래위원회에서 그리고 EU에서 실제 조사에 나설지 여부에 귀추가 주목된다. 이와는 별도로 이번 주 한 회의에서 리나 칸(Lina M. Khan) FTC 위원장은 "인공지능 주요 모델 및 특정 플랫폼에 의해 지배되지 않도록 AI 발전과 과정에 주목하고 있다"고 밝혔다.