인스타그램, AI 인플루언서 단속 강화...“AI 정체 숨기면 추천 노출 제한”

인스타그램이 AI로 생성된 인플루언서에 대한 단속을 강화하기로 발표하면서, 사용자들의 혼란을 최소화하기 위한 조치를 취하고 있다. 최근 AI 기술의 발전으로 실제 인물과 구별하기 어려운 가상의 인플루언서들이 등장하고 있으며, 이에 따라 인스타그램은 이들의 정체를 명확히 밝히지 않는 계정에 대해 추천 알고리즘에서 노출을 제한하겠다는 방침을 세웠다.

정책 강화의 배경

인스타그램은 31일(현지시간) AI로 생성된 인물의 프로필 표기를 'AI-생성 프로필'로 변경함과 동시에, 해당 표시를 모든 AI 인플루언서에게 의무화하기로 했다. 기존에는 AI 크리에이터들이 자발적으로 라벨을 선택할 수 있었으나, 앞으로는 인스타그램이 AI 생성으로 의심되는 계정을 적극적으로 찾아내어 표시 여부를 확인할 예정이다. 만약 AI 생성 인물로 확인된 계정이 라벨 없이 활동하게 되면, 그 계정은 추천 영역에서 제외될 수 있다.

인스타그램 측은 “사용자들이 나중에야 자신이 실제 사람이 아닌 AI 인물과 소통하고 있었다는 사실을 알게 되는 상황을 줄이기 위해 이러한 정책을 시행하게 되었다”고 설명했다. 이는 특히 AI로 생성된 인물들이 광고나 협찬 등 상업적 활동에 활용될 가능성이 커지는 상황에서, 사용자들의 신뢰를 확보하기 위한 조치로 풀이된다.

AI와 콘텐츠 산업의 변화

AI 인플루언서는 단순히 소셜 미디어 플랫폼에 그치지 않고, 콘텐츠 산업 전반에 걸쳐 큰 파장을 일으키고 있다. 특히 중국에서는 AI 영상 생성 기술의 발전으로 인해 배우와 인플루언서들이 직면하고 있는 위기가 커지고 있다. 바이트댄스의 '시댄스(Seedance) 2.0'과 같은 AI 기술이 미니 드라마와 라이브 커머스에서 인간을 대체하는 현상을 가속화하고 있으며, 이는 제작비와 시간을 대폭 절감하는 결과를 낳고 있다.

칭화대 연구진의 분석에 따르면, 과거 3~5분 분량의 드라마를 제작하기 위해선 5명이 약 3개월간 작업해야 했으나, 이제는 한 사람이 하루나 이틀 만에 제작할 수 있는 수준으로 발전했다. 이로 인해 제작비도 크게 줄어들어, 과거 인간 배우를 활용하던 시기의 10% 수준까지 낮아졌다. 이러한 변화는 콘텐츠 생산 방식의 전환을 의미하며, 고용 시장에도 상당한 영향을 미칠 것으로 예상된다.

향후 전망

인스타그램의 정책 강화는 사용자 보호와 투명성을 높이려는 노력의 일환으로 볼 수 있다. 그러나 AI 인플루언서의 등장은 앞으로도 계속될 것이며, 이는 콘텐츠 산업의 구조를 근본적으로 변화시킬 가능성이 크다. AI 기술이 발전함에 따라, 사용자들은 더욱 다양한 형태의 콘텐츠를 경험하게 될 것이고, 이에 대한 법적 및 윤리적 논의도 필요할 것으로 보인다.

AI가 창작 과정에 끼치는 영향력은 점점 커지고 있으며, 이는 단순한 기술적 진보를 넘어 사회 전반에 걸쳐 새로운 패러다임을 요구하고 있다. 인스타그램의 이번 정책은 그러한 변화의 시작을 알리는 신호탄이 될지도 모르겠다.