Cover photo by 侑奈
AI 기술의 발전으로 딥페이크는 그 어느 때보다 현실감 있게 변하고 있으며, 사진과 동영상의 신뢰성이 흔들리고 있습니다. 정치, 뉴스, 엔터테인먼트 분야에서도 가짜 정보가 확산되어 많은 사람들이 잘못된 정보를 믿게 될 위험이 커지고 있습니다.
이 문제에 대해 각 기업과 단체가 어떻게 대응하고 있는지, 그리고 앞으로 필요한 대책에 대해 소개합니다.
콘텐츠 크레덴셜이란
'콘텐츠 크레덴셜'은 사진이나 동영상에 '디지털 서명'과 '편집 이력'을 삽입하는 기술입니다. 이를 통해 이미지가 어디에서 촬영되었고, 어떤 편집이 가해졌는지를 확인할 수 있으며, 변조가 이루어진 경우 이를 감지할 수 있습니다.
특히, Adobe와 Leica를 비롯한 주요 카메라 제조사들이 도입을 진행하고 있으며, 사진의 신뢰성 향상에 크게 기여하고 있습니다.
콘텐츠 크레덴셜 도입이 진행 중인 각사의 대응
딥페이크 대책으로, Adobe와 Microsoft 등의 주요 기술 기업들이 '콘텐츠 크레덴셜' 관련 기술을 개발하고, 디지털 콘텐츠의 진정성을 증명하는 시스템을 도입하고 있습니다.
Photo by 朽蓮 kyu-ren
예를 들어, Leica의 최신 카메라는 촬영 시 이미지의 '진정성 데이터'를 기록하고, 편집 이력을 추적할 수 있도록 하고 있습니다. 또한, 소셜 미디어 기업인 TikTok과 Meta도 AI 생성 콘텐츠를 라벨링하여 사용자가 정보의 출처를 쉽게 판단할 수 있도록 하는 노력을 진행하고 있습니다.
우리에게 요구되는 의식과 대응
앞으로 AI 기술은 더욱 발전하고, 딥페이크는 더욱 교묘해질 것입니다. 그러나 기술의 발전과 동시에 신뢰성을 지키는 시스템도 진화하고 있습니다.
우리 각자가 '올바른 정보를 식별하는 능력'을 갖는 것이 디지털 사회의 신뢰를 지키는 첫걸음이 될 것입니다.
