Борьба с ИИ-шлаком: соцсети очищают ленты от синтетического контента

Социальные сети столкнулись с серьезным нашествием «ИИ-шлака» (AI slop). Какой бы платформой вы ни пользовались — X, Instagram, YouTube, Reddit, TikTok или LinkedIn — избежать этого контента становится всё сложнее.

Snapchat решил бороться с проблемой: теперь полностью сгенерированные нейросетями видео будут запрещены в рекомендациях вкладки Spotlight, где отображается лучший вертикальный контент сообщества.

Это не означает полного запрета ИИ-инструментов. Видео, в которых ИИ использовался лишь как часть творческого процесса или для редактирования, по-прежнему могут попадать в рекомендации. Ограничение касается только полностью синтетического контента.

«Поскольку низкокачественный и однообразный ИИ-контент становится всё более распространенным, мы хотим, чтобы Spotlight оставался местом для подлинного творчества реальных людей», — заявляют в Snapchat.

Snapchat не одинок в этом стремлении. Ранее Substack интегрировал инструмент Pangram для определения ИИ-текстов. В сервисе даже появился термин «claudefishing» (отсылка к чат-боту Claude от Anthropic), описывающий попытки авторов выдать работу языковой модели за свою. Это вызвало неоднозначную реакцию: часть пользователей поддерживает меру, другие же опасаются ошибочных обвинений.

В начале недели LinkedIn запустил функцию жалоб на посты, похожие на «ИИ-шлак», при этом отказавшись от собственных инструментов написания текстов с помощью ИИ. По данным Pangram, LinkedIn является одной из самых насыщенных ИИ платформ: более 40% длинных постов там созданы нейросетями. Однако ситуация в X (бывший Twitter) выглядит еще серьезнее: согласно отчету, лишь 53,2% публикаций написаны полностью человеком, тогда как остальные либо созданы ИИ (23,9%), либо являются смешанным контентом (22,9%).

В ноябре 2024 года TikTok начал тестировать функцию, позволяющую пользователям ограничивать количество ИИ-контента в ленте, не блокируя его полностью.

Примечательно, что борясь с «ИИ-шлаком» в лентах пользователей, Snapchat активно внедряет нейросети в собственные бизнес-процессы. По данным CNBC, около 65% нового кода компании пишут ИИ-агенты. В апреле компания сократила более 1000 сотрудников.