※ 본 콘텐츠에 포함된 이미지는 시각적 이해를 돕고자 AI 기술을 활용해 제작되었습니다. 따라서 실제 존재하는 인물, 특정 장소, 사건 및 실제 디자인과는 무관함을 밝힙니다.
메타(Meta)는 최근 이미지 및 영상 생성 모델인 뮤즈 이미지를 통해 생성된 콘텐츠를 감지하기 위한 새로운 AI 감지 도구를 선보였다. 이 도구는 해당 모델이 사용한 이미지의 숨겨진 워터마크, ‘콘텐츠 씰(Content Seal)’을 확인할 수 있다. 콘텐츠 씰은 크기 조정, 압축, 잘림, 스크린샷을 거쳐도 그대로 유지되며, 이를 통해 이미지가 Meta AI에 의해 제작되었는지를 알아보는 초기 방법을 제공한다.
메타는 이전에도 오픈 소스 기술을 공개한 바 있지만, 이번에 선보인 콘텐츠 씰은 뮤즈 이미지에 특화된 독점 기술이다. 과거에는 메타 AI의 이미지에 작은 로고를 추가했으나, 새로운 모델에서는 눈에 보이는 워터마크를 포함하지 않는 방향으로 발전했다.
현재 메타 AI의 감지 기능은 뮤즈 이미지로 생성되거나 편집된 이미지에 한정되어 있으나, 메타는 향후 AI가 생성하고 편집한 비디오로도 콘텐츠 씰 워터마크를 확장할 계획이라고 밝혔다. 이를 위한 별도의 비디오 생성 모델인 뮤즈 비디오 역시 곧 출시될 예정이다.
필자가 오늘 Meta AI로 제작한 이미지에 새로운 감지 기능을 시도해본 결과, 웹 기반 도구는 편집된 이미지와 완전히 AI로 만든 창작물에서 워터마크를 발견했다. 심지어 스크린샷에서도 워터마크가 확인됐다. 긍정적 결과는 해당 이미지가 Meta AI 앱 또는 meta.ai를 사용하여 생성되거나 편집되었음을 의미한다.
흥미로운 점은 메타 AI의 새로운 감지 기능이 아직 메타 AI 앱에서 이용 가능하지 않은 것으로 보인다는 것이다. 메타의 앱 기반 어시스턴트는 웹 도구가 AI 생성 이미지를 식별했을 때, 직접 확인할 수 없다고 대답했다.
메타는 이전에도 자사의 도구로 생성된 AI 콘텐츠에 디지털 워터마크를 부착하는 점에서 비일관적이라는 비판을 받은 바 있다. 신기능은 또한 다른 회사들이 사용하는 기존의 워터마크 방법과는 호환성이 없는 것으로 나타났다. 또한, 이 기능은 메타의 일일 조회 제한에도 영향받고 있는데, 몇 가지 예시 이미지를 업로드한 후, 확인 횟수를 초과했다는 알림을 받았다.
이 새로운 혁신은 메타의 AI 생성 콘텐츠 관리를 더욱 강화하고자 하는 노력의 일환으로, AI에 대한 신뢰성을 제고하고 기술적 한계를 극복하기 위해 지속적인 발전이 필요함을 보여준다.
ⓒ ofYouTimes. All rights reserved. 무단 전재·재배포 및 AI 학습 활용 금지
