AI 감지 스타트업 팽그램, 이미지·영상 판별 모델 'Image 1.0' 출시

피드에 올라온 그럴싸한 부동산 매물 사진이나 유명인의 인터뷰 영상을 눈으로만 보고 진짜인지 가짜인지 판별하는 일은 이제 거의 불가능해졌습니다.

AI 감지 전문 스타트업인 팽그램(Pangram)이 수개월간의 연구 프리뷰를 마치고, 생성형 AI 이미지와 영상을 판별하는 플래그십 모델 'Image 1.0'과 영상 분석에 특화된 경량 모델 'Image Flash 1.0'을 정식 공개했습니다.

조작 부위를 짚어내는 히트맵과 저해상도 지원

기존의 감지 도구들은 이미지 전체에 대한 단일 확률값만 제공하는 경우가 많아, 진짜 사진에 AI 생성 요소를 일부 합성한 이미지를 정밀하게 잡아내기 어려웠습니다. 이번 Image 1.0의 핵심은 이미지 내에서 AI가 생성한 특정 영역을 히트맵 형태로 정확히 표시해 준다는 점입니다.

팽그램 연구진은 12종의 최첨단 이미지 생성기를 사용해 실제 사진 100장을 모방한 1,200장의 합성 이미지를 제작했습니다. Image 1.0은 이 평가 세트에서 99.96%의 정확도를 기록했으며, X-AIGD, Mirage-Test 등 여러 학술 벤치마크에서도 기존 도구들을 앞서는 성능을 보였습니다.

현실적인 사용 환경을 고려한 내구성도 갖췄습니다. 소셜 미디어 특유의 이미지 압축이나 노이즈, 의도적인 블러 처리에도 견디도록 훈련되었습니다. 최소 입력 해상도 역시 기존 512x512에서 256x256으로 낮아졌습니다. 512 미만 해상도에서는 신뢰도 안내 문구가 함께 표시되지만, 흐릿한 작은 이미지도 판별을 시도할 수 있게 되었습니다.

프레임 단위 영상 분석과 29%p 격차

영상 분야에서의 감지는 훨씬 더 까다롭습니다. 최근 발표된 DF26 학술 연구에 따르면 사람이 말하는 영상의 진위를 눈으로 가려낼 확률은 동전 던지기 수준에 불과하며, 기존 탐지기들의 성능도 크게 다르지 않았습니다.

이를 해결하기 위해 개발된 Image Flash 1.0은 DF26 벤치마크에서 98.7%의 점수를 기록하며 2위 모델을 29%포인트 차이로 따돌렸습니다. AIGVDBench와 Ivy-Fake 같은 영상 벤치마크에서도 우수한 평가를 받았습니다.

팽그램은 실제 소셜 영상 129편을 바탕으로 14종의 비디오 생성기를 사용해 총 1,529편의 비교용 합성 영상을 만들어 검증했습니다. 영상의 첫 프레임과 설명 프롬프트를 일치시켜 판별 모델의 편향을 배제한 테스트입니다. 현재 팽그램은 네이티브 영상 업로드를 지원하며, Flash 1.0이 프레임 단위로 영상을 훑어 조작된 구간을 분석해 줍니다.

두 모델은 현재 공식 API와 크롬 브라우저 확장 프로그램으로 제공됩니다. 확장 프로그램을 설치하면 SNS를 둘러보거나 쇼핑몰, 부동산 매물을 확인할 때 실시간으로 진위를 판별할 수 있습니다.

왜 중요한가

일반 이용자에게 이번 출시는 즉각적인 안전장치가 될 수 있습니다. 가짜 매물 사진부터 AI로 합성된 유명인의 홍보 영상까지 사기성 콘텐츠가 만연한 상황에서 육안에만 의존하는 것은 한계가 분명합니다. 브라우저 확장 프로그램으로 의심스러운 부분을 바로 확인해 볼 수 있다는 점은 실생활에서 유용한 방어선이 됩니다.

플랫폼 운영사나 개발자 입장에서도 API를 통해 별도의 복잡한 파이프라인 구축 없이 검증 체계를 도입할 수 있다는 장점이 있습니다. 다만 생성 AI와 탐지 기술 간의 쫓고 쫓기는 싸움은 계속될 것입니다. 탐지 모델이 공개되면 생성 기술 역시 이를 우회하도록 학습되므로, 99.96%라는 수치가 모든 야생의 데이터에서 완벽할 수는 없습니다.

우리는 팽그램이 단순히 '진짜 혹은 가짜'라는 이분법적 결론 대신 히트맵을 통해 조작 의심 부위를 시각화한 점이 영리한 선택이라고 봅니다. 완벽한 판별이 어려운 환경에서 이용자에게 의심 정황을 구체적으로 짚어주고 최종 판단을 돕는 방식은 현재 단계에서 가장 실용적인 접근법으로 보입니다.