AI로 생성된 콘텐츠가 2025년에 우리의 소셜 미디어 피드를 장악했다는 것은 비밀이 아닙니다. 이제 Instagram의 최고 경영자인 Adam Mosseri는 AI 콘텐츠가 AI가 아닌 이미지를 능가할 것으로 기대하며 이러한 변화가 제작자와 사진가에게 미치는 중요한 영향을 분명히 밝혔습니다.
Mosseri는 2026년 Instagram을 형성할 것으로 예상되는 광범위한 트렌드에 대한 긴 게시물에서 생각을 공유했습니다. 그리고 그는 AI가 플랫폼을 어떻게 변화시키고 있는지에 대해 특히 솔직한 평가를 제공했습니다. 그는 "창작자를 중요하게 만드는 모든 것, 즉 현실이 되는 능력, 연결하는 능력, 위조할 수 없는 목소리를 갖는 능력 등이 이제 적절한 도구만 있으면 누구나 갑자기 접근할 수 있게 되었습니다."라고 썼습니다. "피드가 합성 물질로 채워지기 시작했습니다."
그러나 Mosseri는 이러한 변화에 특별히 관심을 두지 않는 것 같습니다. 그는 “놀라운 AI 콘텐츠가 많이 있다”며 플랫폼이 “단순히 가짜를 쫓는 것이 아니라 실제 미디어에 지문을 찍어서” 그러한 이미지에 라벨을 붙이는 접근 방식을 재고해야 할 수도 있다고 말했습니다.
Mosseri에서 (강조):
소셜 미디어 플랫폼은 AI 생성 콘텐츠를 식별하고 라벨을 지정해야 한다는 압력이 점점 더 커질 것입니다. 모든 주요 플랫폼은 AI 콘텐츠를 식별하는 데 능숙할 것이지만, AI가 현실을 더 잘 모방하게 되면서 시간이 지나면서 그 성능은 더욱 나빠질 것입니다. 이미 나처럼 그렇게 믿는 사람들이 늘어나고 있다. 가짜 미디어보다 실제 미디어의 지문을 채취하는 것이 더 실용적입니다.. 카메라 제조업체는 캡처 시 이미지에 암호화 방식으로 서명하여 관리 체인을 만들 수 있습니다.
어떤 면에서는 이것이 Meta에 대한 보다 실용적인 접근 방식처럼 보이는 것을 쉽게 이해할 수 있습니다. 이전에 보고한 바와 같이 워터마크와 같은 AI 콘텐츠를 식별하는 기술은 기껏해야 신뢰할 수 없는 것으로 판명되었습니다. 제거하기 쉽고 완전히 무시하기가 더 쉽습니다. Meta의 자체 라벨은 명확하지 않으며 올해에만 AI에 수백억 달러를 지출한 회사는 자사 플랫폼에서 AI가 생성하거나 조작한 콘텐츠를 안정적으로 감지할 수 없다고 인정했습니다.
하지만 Mosseri가 이 문제에 대해 매우 쉽게 패배를 인정하고 있다는 점은 시사하는 바가 있습니다. AI 슬롭이 승리했습니다. 30억 명의 Instagram 사용자가 무엇을 이해할 수 있도록 돕는 것이 중요할까요? ~이다 실제로 그것은 메타의 문제가 아니라 대체로 다른 사람의 문제여야 합니다. 카메라 제조업체(아마도 휴대폰 제조업체와 실제 카메라 제조업체)는 "캡처 시 진위 여부를 확인하기 위해" 워터마킹과 매우 흡사한 자체 시스템을 마련해야 합니다. Mosseri는 이것이 어떻게 작동하거나 이를 실현하는 데 필요한 규모로 구현되는지에 대해 몇 가지 세부 정보를 제공합니다.
Mosseri는 또한 이것이 이미 앱에 좌절감을 느낀 많은 사진작가와 기타 Instagram 제작자를 소외시킬 가능성이 있다는 사실을 실제로 언급하지 않습니다. 그 임원은 Instagram의 알고리즘이 자신의 게시물을 팔로어에게 일관되게 표시하지 않는 이유를 알고 싶어하는 그룹의 불만 사항을 정기적으로 접수합니다.
그러나 Mosseri는 이러한 불만이 Instagram이 무엇인지에 대한 시대에 뒤떨어진 비전에서 비롯된다고 제안합니다. "세련된" 정사각형 이미지의 피드는 "죽었다"고 그는 말합니다. 그의 평가에 따르면 카메라 회사들은 "모든 사람을 과거의 전문 사진작가처럼 보이게 만들려고" "잘못된 미학에 베팅하고 있습니다". 대신, 그는 더 "원시적"이고 "불쾌한" 이미지가 제작자가 AI가 아닌 실제임을 증명할 수 있는 방법이 될 것이라고 말합니다. 인스타그램에 AI 콘텐츠가 없는 세상에서 제작자는 의도적으로 보기에 좋지 않게 만드는 이미지와 비디오를 우선시해야 합니다.