Разработчики LinkedIn и других платформ противостают росту ИИ-мусора: инструменты обнаружения и фильтрации нарастают

В наши дни сложно полностью избежать контента, генерируемого искусственным интеллектом (ИИ), на любом онлайн-платформе. В последнее время многие платформы добавили инструменты, чтобы помочь своим пользователям отфильтровывать искусственный контент и лучше различать его от аутентичного.

По словам Хари Шривинишана, заместителя президента по продуктам LinkedIn, инструмент для пометки ИИ-содержимого на платформе после своего запуска в начале августа уже стал популярным среди пользователей. Более миллиона человек использовали функцию «похоже на искусственный мусор». Этот механизм позволяет пользователям отмечать пост или комментарий как подозрительный с точки зрения искусственности: это делается через трёхточечное меню под каждым постом или комментарием.

При достаточном количестве отзывов сообщества, авторы контента получают уведомление в своём аккаунте о подозрениях со стороны пользователей. В результате внедрения этих инструментов Шривинишан отмечает уменьшение на 40% восприятия мусорного ИИ-содержимого среди пользователей LinkedIn за несколько недель – хотя это может варьироваться по разным пользователям из-за различий в лентах.

LinkedIn, однажды сильно пострадавшего от искусственного мусора, столкнулся с проблемой масштабов: исследование компании Pangram выявило, что до 41% длинных постов на платформе были полностью созданы ИИ. Тем не менее, обнаружение и фильтрация такого контента остаётся сложной задачей; существующие детекторы ИИ могут давать неверные результаты из-за своего ограниченного надёжности уровня.

Вскоре же распознавание таких сообщений может стать более эффективным благодаря внедрению в некоторых популярных ИИ-инструментах технологии «водяного знака». Это позволяет добавить незаметный маркер к тексту, указывающий на его генерацию через искусственный интеллект. Другие платформы также стали активнее бороться с ИИ-мусором: Snapchat внедрил интеграцию со службой от Pangram для пометки подозрительного ИИ-содержимого и начал удалять видео сгенерированные ИИ из своих потоков Spotlight. Spotify добавил новые метки AI Persona, чтобы пользователи могли точнее идентифицировать музыку, созданную через ИИ.

В целом такие меры помогают пользователям социальных сетей лучше различать аутентичный контент от того, что генерируется искусственным интеллектом.