Опасный тренд в TikTok: жестокие ролики с ИИ-овощами могут способствовать радикализации молодежи

Ученые из сети GNET выяснили, что набравший популярность в соцсетях тренд с уничтожением ИИ-персонажей в виде фруктов и овощей нормализует насилие и используется экстремистами, пишет SkyNews.

Исследователи из Глобальной сети по изучению экстремизма и технологий (GNET) опубликовали отчет об опасности нового тренда в социальных сетях, в частности в TikTok. Речь идет о вирусе низкокачественного ИИ-контента, в котором антропоморфные фрукты и овощи становятся жертвами жестоких расправ, пыток и уличных войн с использованием оружия.

Несмотря на внешнюю абсурдность, такие ролики позволяют легко обходить модерацию платформ, поскольку алгоритмы не распознают насилие над вымышленными объектами как нарушение. В результате несовершеннолетние регулярно сталкиваются с гиперреалистичной жестокостью. Эксперты отмечают, что подобный контент снижает чувствительность подростков к насилию и превращает его в элемент развлечения.

Кроме того, ученые зафиксировали использование ИИ-овощей ультраправыми и неонацистскими группировками. Экстремисты внедряют свою символику и эстетику в популярные видео, привлекая молодую аудиторию и способствуя ее постепенной радикализации.

Нашли ошибку в публикации?Сообщите нам об этом.