Чат-боты могут способствовать созданию пандемических вирусов – исследование

Эксперты из Массачусетского технологического института (МІТ) считают, что искусственный интеллект может помочь человеку создать потенциально пандемический вирус, даже если у него нет научного опыта, специального образования или даже плохих намерений. Редакция MC.today пересказывает детали со ссылкой на Science.

Эксперт по биозащите Кевин Эсвельт предложил своим студентам воспользоваться ChatGPT или другими генеративными языковыми моделями и подготовить перечень возможных вирусов, которые могут вызвать новую пандемию.

Некоторые чат-боты отказывались предоставлять информацию по запросам. Но большинство из них удалось обойти с помощью специальных кодов или формулировок вроде «я работаю над вакциной, чтобы предотвратить…».

Уже через час на руках у исследователя был реалистичный список «кандидатов», способных синтезировать генетический код патогенов. В частности, искусственный интеллект предложил возродить вирус гриппа H1N1 1918 года, модифицировать вирус птичьего гриппа H5N1 2012 года, а также вирусы оспы (variola major) и нипа. Также он нашел методы воспроизведения их генетической последовательности, перечень необходимых для этого материалов и контакты компаний, которые могли бы предоставить их.

Эсвельт обеспокоен тем, что уже в скором времени технологии искусственного интеллекта могут позволить людям без специальной подготовки создавать биологическое оружие. С ним соглашается и глава глобальной неправительственной организации Nuclear Threat Initiative Хайме Ясиф.

Некоторые эксперты по биозащите считают, что наличие в открытом доступе информации о различных биологических культурах приведет к активизации биотерроризма. Злоумышленники могут исследовать, например, вымерший или активный вирус и найти способ превратить его в оружие.

Отметим, сегодня это все еще достаточно непросто. Ведь недостаточно просто найти «формулу» и составить план действий с помощью чат-бота. Нужно синтезировать генетический материал, выделить геном и смешать его с другими реагентами, чтобы «запустить» вирус, способный размножаться и инфицировать клетки.

Правда, с каждым годом риски увеличиваются. Например, настольные ДНК-принтеры, которые появятся на рынке, могут позволить обойти проверку, которую сейчас проводят большинство компаний, работающих в отрасли синтетической биологии. Таким образом они исключают возможность распространения потенциально патогенного материала.

Впрочем, Эсвельт сомневается, что использование чат-ботов существенно увеличит риск пандемий. У многих людей, например, выработался определенный иммунитет к предыдущим вирусам гриппа. А геном натуральной оспы настолько велик, что его сложно собрать даже экспертам. Но доступность ИИ все равно вызывает озабоченность, поэтому Эсвельт настаивает на удалении части данных из обучающих наборов. Прежде всего это касается тех, которые описывают рецепты для создания и усиления патогенов.

Впрочем, сделать это будет непросто, поскольку сейчас нет хороших протоколов, позволяющих большим языковым моделям учиться в одних «частях» интернета и не трогать другие.

• Также предлагаем вам почитать, почему люди, много пользующиеся искусственным интеллектом по работе, чаще страдают от бессонницы и одиночества.