Скриншот: TikTok
Сотни аккаунтов в TikTok набирают миллиарды просмотров, публикуя контент, созданный с помощью искусственного интеллекта, в том числе антииммигрантские и сексуализированные материалы, следует из отчета французской некоммерческой организации AI Forensics.
Исследователи обнаружили 354 аккаунта, которые за месяц опубликовали 43 000 постов, созданных с помощью генеративных инструментов ИИ, и набрали 4,5 млрд просмотров. По данным AI Forensics, некоторые из этих аккаунтов пытались обмануть алгоритмы TikTok, публикуя большое количество контента с расчетом на то, что он станет вирусным. Один из них выпускал до 70 постов в день или в одно и то же время суток, что указывает на автоматическую публикацию. Большинство аккаунтов были зарегистрированы в начале года.
AI Forensics изучили контент за период с середины августа по середину сентября. Часть постов была направлена на монетизацию, в том числе через рекламу пищевых добавок от виртуальных «инфлюенсеров», а также продвижение инструментов для создания вирусного контента с помощью ИИ.
Из аккаунтов, которые публиковали контент чаще всего, половина фокусировалась на сексуализированном контенте: публиковали тиктоки со «стереотипно привлекательными женщинам», в том числе несовершеннолетними на вид, говорится в отчете. Часть контента представляла собой поддельные «новостные сюжеты» с антииммигрантскими нарративами. В некоторых видео фигурировали логотипы известных телеканалов, таких как Sky News и ABC.
AI Forensics обнаружили, что половина публикуемого этими аккаунтами контента не была помечена как ИИ, а соответствующая метка от самого TikTok имелась только менее, чем у 2% аккаунтов. Исследователи полагают, что таким образом эти аккаунты с большей вероятностью могут ввести пользователей в заблуждение. Также отмечается, что выявленные профили месяцами избегают модерации платформы, хотя и публикуют запрещенный на ней контент. Тем не менее, десятки аккаунтов впоследствии были удалены, указывают исследователи.
В TikTok заявили, что утверждения в отчете «необоснованны», и что проблема, обозначенная исследователями, касается и других онлайн-платформ, пишет The Guardian.
«В TikTok мы удаляем вредный контент, созданный искусственным интеллектом, блокируем создание сотен миллионов бот-аккаунтов, инвестируем в технологии маркировки искусственного интеллекта и предоставляем людям инструменты и данные, чтобы они могли контролировать, какой контент показывает им платформа», — сказал представитель компании.
Правила TikTok запрещают использовать ИИ для изображения поддельных авторитетных источников, образов лиц моложе 18 лет или взрослых, не являющихся публичными личностями.
В ноябре TikTok отчитался, что на платформе было опубликовано 1,3 млрд постов, созданных с помощью искусственного интеллекта. Ежедневно загружается более 100 млн единиц контента, то есть подтвержденный материал, созданный с помощью искусственного интеллекта, составляет лишь небольшую часть каталога TikTok. В настройках сервиса можно уменьшить выдачу контента, созданного с помощью ИИ.
AI Forensics порекомендовали TikTok включить на платформе функцию «только ИИ», чтобы отделить сгенерированный контент от пользовательского. «Платформы должны рассмотреть возможность отделения генеративного контента от материалов, созданных людьми, либо разработать систему, которая обеспечит систематическую и видимую маркировку ИИ-контента», — заявили исследователи.
