logo
25 Apr 2023

Искусственный интеллект вроде ChatGPT подозревают в распространении интернет-спама. Почему это плохо

Юлія Фещенко

Редакторка новин MC.today

Исследователи спама в интернете замечают рост количества неаутентичного контента, созданного искусственным интеллектом. В частности, все чаще появляются отзывы о товарах на Amazon и посты в Twitter, которые, вероятно, распространяют боты. Редакция MC.today пересказывает детали со ссылкой на Vice.

AI Robot using modish computer software . Concept of artificial intelligence.AI Robot using modish computer software . Concept of artificial intelligence.

Если попытаться обмануть ChatGPT или другого умного бота и попросить его написать что-то, чего он не должен делать, то искусственный интеллект выдает несколько типичных отговорок. Например, объясняет, что он языковая модель, которой запрещено создавать неприемлемый или оскорбительный контент.

Исследователи обнаружили достаточно большое количество отзывов о товарах на Amazon, содержащих фрагменты такого теста. То есть можно предположить, что для их написания люди пользовались искусственным интеллектом и по каким-то причинам не проверяли сгенерированный текстом ботом.

Курс UX/UI дизайнер сайтів і застосунків з Alice K.
Курс від практикуючої UI/UX дизайнерки, після якого ви знатимете все про UI/UX дизайн .
Реєстрація на курс

К примеру, в одном из них ИИ просто сообщил о том, что как языковая модель он точно может написать хороший отзыв о товаре. А в другом – что у него нет личного опыта использования продукта, но  он может составить плохую характеристику на основе другой информации в интернете.

Представители Amazon отметили, что проверяют комментарии пользователей и стараются не допускать публикации фальшивого контента. Впрочем, можно предположить, что таким образом кто-то может тестировать способность программ вроде ChatGPT для распространения спама.

Ранее в этом месяце онлайн-исследователь, известный под ником Conspirador Norteño, обнаружил спам-сеть в Twitter. Учетные записи, которые могут иметь к ней отношение, создали в период между 2010 и 2016 годами, они распространяли преимущественно посты о политике в Юго-Восточной Азии, криптовалюте и об ошибке ChatGPT. Более подробный анализ активности может свидетельствовать о том, что эти аккаунты в свое время купили или украли. Их общее количество только в этой спам-сети приближается к 60 тысячам.

Директор Обсерватории социальных сетей при Университете Индианы Филиппо Менцер считает это серьезным поводом для беспокойства. По его словам, дезинформация существовала всегда, но социальные сети и генеративный ИИ создают еще больше возможностей для ее распространения.

Ученый полагает, что эти инструменты можно легко использовать для распространения не только спама, но и опасного контента, например, вредоносного ПО или такого, который может угрожать жизни и здоровью людей. Поэтому он создал программу Botometer для анализа аккаунтов Twitter и их оценки по критериям, характерным для ботов. Впрочем, по словам Менцера, сегодня сложно назвать даже приблизительное количество учетных записей, которые могут распространять спам в соцсетях и на общедоступных ресурсах. Поэтому важно в ближайшее время создать четкие правила создания и распространения контента с помощью ИИ.

  • Напомним, на днях разработчик генератора изображений Stable Diffusion выпустил конкурента ChatGPT с открытым кодом. Также предлагаем вам почитать, почему просить искусственный интеллект критиковать или оценивать авторские тексты – не очень хорошая идея.
Онлайн-курс Бізнес-аналіз. Basic Level від Ithillel.
В ході курсу студенти навчаться техніці збору і аналізу вимог, документуванню та управлінню документацією, управлінню ризиками та змінами, а також навчаться моделювати процеси і прототипуванню.
Приєднатися

Новости

Вдохновляющие компании-работодатели

«БИОСФЕРА»

Ваша жалоба отправлена модератору

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: