По данным Guardian, декабре прошлого года социальные сети заполонили фейковые изображения, созданные с помощью генеративного чат-бота, что вызвало опасения о дальнейшем ухудшении ситуации в ближайший год.
Организация Signify, занимающаяся мониторингом и сообщением о случаях ненависти в Интернете в сотрудничестве с известными спортивными группами, отмечает увеличение числа сообщений об оскорблениях после последнего обновления Grok. Ожидается, что внедрение фотореалистичного ИИ сделает такие случаи более распространенными.
Каллум Худ из Центра по противодействию цифровой ненависти подчеркнул, что платформа X поощряет распространение ненависти через финансовые стимулы, а изображения на основе ИИ только ускоряют этот процесс. По его словам, «аккаунты на X намеренно публикуют максимально возможную неприкрытую ненависть и дезинформацию».
Проблема усугубляется тем, что пользователи могут легко обходить правила ИИ с помощью так называемых «джейлбрейков», описывая физические черты персонажа, вместо того чтобы называть их напрямую.
Премьер-лига осведомлена о проблеме и создала специальную команду для отслеживания и сообщения о расистских оскорблениях в адрес спортсменов, что может привести к судебным искам.
«Дискриминации нет места в нашей игре или обществе в целом. Мы продолжаем призывать компании социальных сетей и соответствующие органы бороться с онлайн-злоупотреблениями и принимать меры против нарушителей этого неприемлемого поведения».
