현재의 인공지능(AI)으로 생성된 콘텐츠는 인간의 지능을 모방하려는 노력이지만, 여전히 인간과의 차이가 존재한다. 인간이 가진 창의성, 상황 판단력, 윤리적 판단 등의 능력은 AI가 아직까지 완벽히 모방하지 못하고 있다.

이로 인해 AI가 생성하는 콘텐츠에는 불완전성과 다양한 오류가 있을 수 있다. AI 생성 콘텐츠는 주어진 데이터에 기반하여 학습하고 새로운 콘텐츠를 생성한다. 그러나 이러한 데이터에는 바이어스와 편견이 내포되어 있을 수 있다. 예를 들어, 특정 인종, 성별, 지역에 대한 편견이 데이터에 반영될 수 있고, 이는 AI가 생성하는 콘텐츠에도 반영될 수 있다.

이러한 문제점을 해결하기 위해서는 기술적인 발전 뿐만 아니라 윤리적인 고려와 정책적인 개입이 필요하다. AI 생성 콘텐츠의 발전은 빠르게 진행되고 있지만, 이러한 발전이 사회적으로 유익하고 안전한 방향으로 이루어지도록 지속적인 노력이 필요하다.

이처럼 인간 콘텐츠와 합성 콘텐츠의 차이가 모호해지면서 사람들은 그 경계가 어디에 있는지 알고 싶어한다. 최근 AI 생성 콘텐츠를 접하는 경우가 더욱 많아지고 있으며 사용자들은 이 신기술에 대한 투명성을 높이 평가한다. 따라서 사람들이 보고 있는 사실적인 콘텐츠가 AI를 사용하여 제작된 시기를 알 수 있도록 돕는 것도 매우 중요하다.

메타가 인공지능(AI)으로 생성된 이미지를 식별할 방안을 몇 달 안에 마련해 지원하는 모든 언어로 시행한다고 6일(현지시간) 밝혔다. 이는 AI 생성 콘텐츠를 식별하고 라벨링하는 새로운 접근 방식으로 자사의 페이스북과 인스타그램, 스레드(Threads) 등에 AI가 생성한 이미지에 적용해 업로드된 이미지를 사용자들이 알기 쉽도록 라벨링(꼬리표 또는 워터마크) 한다는 것이다. 

그동안 메타는 자사의 AI 이미지 생성 도구로 만들어진 이미지에만 '이매진드 위드 AI(Imagined with AI)'라는 라벨을 붙여 왔으며, 이날 인스타그램에 업로드된 AI로 생성된 이미지에 라벨링된 사례를 공개했다.

AI는 검이자 방패다. 이 접근 방식은 현재 기술적으로 가능한 최첨단의 기술이다. 하지만 아직 모든 AI 생성 콘텐츠를 식별할 수 있는 것은 아니며, 사람들이 보이지 않는 마커를 제거할 수 있는 방법도 있다. 이에 메타는 다양한 옵션을 모색하고 있다. 콘텐츠에 보이지 않는 마커가 없는 경우에도 AI가 생성한 콘텐츠를 자동으로 감지할 수 있는 분류기를 개발하기 위해 노력하고 있다.

동시에 보이지 않는 워터마크를 제거하거나 변경하기 더 어렵게 만드는 방법도 모색하고 있다. 최근 Meta의 AI 연구소 FAIR는 생성 인공지능이 만든 이미지를 확실하게 식별하는 AI 이미지 워터마킹 솔루션 '스테이블 시그니처(Stable Signature-보기)_' 오픈소스로 공개하고 보이지 않는 워터마킹 기술에 대한 연구를 공유했다. 이는 일부 이미지 생성기의 이미지 생성 프로세스에 워터마킹 메커니즘을 직접 통합하는 것으로, 오픈 소스 모델에서 워터마킹을 비활성화할 수 없도록 하는 데 유용할 수 있다.

생성 AI의 활용은 빠른 속도로 발전하고 있다. 현재 업계 전반에 걸쳐 AI 생성 콘텐츠를 식별하고 라벨을 지정하기 위한 공통 표준은 없다. 메타는 더 나은 제품을 만들기 위해서는 오픈 소스로 공개한 스테이블 시그니처 같은 책임있는 AI 연구가 병행되어야 한다고 강조했다.

또한, 이러한 연구에 대한 지속적인 투자를 통해 생성 AI가 새롭고 창의적인 시도를 위해 책임감 있게 사용되는 미래를 그려나갈 수 있을 것으로 기대한다고 밝혔다.

한편, 이미지 생성 AI 모델에서 가져온 이미지에 워터마크를 추가하는 메타의 이 모델의 자세한 연구 결과는 논문 '스테이블 시그니처: 잠재 확산 모델의 루팅 워터마크(he Stable Signature: Rooting Watermarks in Latent Diffusion Models-다운)'을 참고하면 된다. 현재, 누구나 사용할 수 있는 '스테이블 시그니처' 코드는 깃허브(다운)를 통해 공개돼 있다.