Искусственный интеллект вроде ChatGPT подозревают в распространении интернет-спама. Почему это плохо

Исследователи спама в интернете замечают рост количества неаутентичного контента, созданного искусственным интеллектом. В частности, все чаще появляются отзывы о товарах на Amazon и посты в Twitter, которые, вероятно, распространяют боты. Редакция MC.today пересказывает детали со ссылкой на Vice.

Если попытаться обмануть ChatGPT или другого умного бота и попросить его написать что-то, чего он не должен делать, то искусственный интеллект выдает несколько типичных отговорок. Например, объясняет, что он языковая модель, которой запрещено создавать неприемлемый или оскорбительный контент.

Исследователи обнаружили достаточно большое количество отзывов о товарах на Amazon, содержащих фрагменты такого теста. То есть можно предположить, что для их написания люди пользовались искусственным интеллектом и по каким-то причинам не проверяли сгенерированный текстом ботом.

К примеру, в одном из них ИИ просто сообщил о том, что как языковая модель он точно может написать хороший отзыв о товаре. А в другом – что у него нет личного опыта использования продукта, но  он может составить плохую характеристику на основе другой информации в интернете.

Представители Amazon отметили, что проверяют комментарии пользователей и стараются не допускать публикации фальшивого контента. Впрочем, можно предположить, что таким образом кто-то может тестировать способность программ вроде ChatGPT для распространения спама.

Ранее в этом месяце онлайн-исследователь, известный под ником Conspirador Norteño, обнаружил спам-сеть в Twitter. Учетные записи, которые могут иметь к ней отношение, создали в период между 2010 и 2016 годами, они распространяли преимущественно посты о политике в Юго-Восточной Азии, криптовалюте и об ошибке ChatGPT. Более подробный анализ активности может свидетельствовать о том, что эти аккаунты в свое время купили или украли. Их общее количество только в этой спам-сети приближается к 60 тысячам.

Директор Обсерватории социальных сетей при Университете Индианы Филиппо Менцер считает это серьезным поводом для беспокойства. По его словам, дезинформация существовала всегда, но социальные сети и генеративный ИИ создают еще больше возможностей для ее распространения.

Ученый полагает, что эти инструменты можно легко использовать для распространения не только спама, но и опасного контента, например, вредоносного ПО или такого, который может угрожать жизни и здоровью людей. Поэтому он создал программу Botometer для анализа аккаунтов Twitter и их оценки по критериям, характерным для ботов. Впрочем, по словам Менцера, сегодня сложно назвать даже приблизительное количество учетных записей, которые могут распространять спам в соцсетях и на общедоступных ресурсах. Поэтому важно в ближайшее время создать четкие правила создания и распространения контента с помощью ИИ.

• Напомним, на днях разработчик генератора изображений Stable Diffusion выпустил конкурента ChatGPT с открытым кодом. Также предлагаем вам почитать, почему просить искусственный интеллект критиковать или оценивать авторские тексты – не очень хорошая идея.