Чат-боти можуть сприяти створенню пандемічних вірусів – дослідження

Експерти з Массачусетського технологічного інституту (МІТ) вважають, що штучний інтелект може допомогти людині створити потенційно пандемічний вірус, навіть якщо вона не має наукового досвіду, спеціальної освіти або й поганих намірів. Редакція MC.today переповідає деталі з посиланням на Science.

Pandemic photo concept by Nandhu Kumar via Pexels

Експерт із біозахисту Кевін Есвельт запропонував своїм студентам скористатися ChatGPT або іншими генеративними мовними моделями та підготувати перелік можливих вірусів, котрі можуть спричинити нову пандемію.

Деякі чат-боти відмовлялися надавати інформацію за запитами. Проте більшість із них вдалося обійти за допомогою спеціальних кодів або формулювань на кшталт «я працюю над розробкою вакцини, щоб запобігти…».

Вже за годину дослідник мав реалістичний перелік «кандидатів», здатних синтезувати генетичний код патогенів. Зокрема, штучний інтелект запропонував відродити вірус грипу H1N1 1918 року, модифікувати вірус пташиного грипу H5N1 2012 року, а також віруси віспи (variola major) та ніпа. Також він надав методи відтворення їхньої генетичної послідовності, перелік потрібних для цього матеріалів та контакти компаній, що могли б їх надати.

Есвельт занепокоєний через те, що вже незабаром технології штучного інтелекту можуть дозволити людям без спеціальної підготовки створювати біологічну зброю. З ним погоджується й очільник глобальної неурядової організації Nuclear Threat Initiative Хайме Ясіф.

Деякі експерти з біозахисту вважають, що наявність у відкритому доступі інформації про різноманітні біологічні культури спричинить активізацію біотероризму. Зловмисники можуть дослідити, наприклад, вимерлий або активний вірус та знайти спосіб перетворити його на зброю.

Зазначимо, сьогодні це все ще доволі непросто. Адже недостатньо просто знайти «формулу» та скласти план дій за допомогою чат-бота. Потрібно синтезувати генетичний матеріал, виокремити геном і змішати його з іншими реагентами, щоб «запустити» вірус, здатний розмножуватися та інфікувати клітини.

Проте з кожним роком ризики зростають. Наприклад, настільні ДНК-принтери, які з’являться на ринку, можуть дозволити дослідникам обійти перевірку, яку зараз проводять більшість компаній із галузі синтетичної біології. У такий спосіб вони виключають можливість розповсюдження потенційно патогенного матеріалу.

Втім, Есвельт сумнівається, що використання чат-ботів суттєво збільшить ризик пандемій. Багато людей, наприклад, мають певний імунітет до попередніх вірусів грипу. А геном натуральної віспи настільки великий, що його складно зібрати навіть експертам. Проте доступність ШІ однаково викликає стурбованість, тому Есвельт наполягає на видаленні частини даних із навчальних наборів. Насамперед це стосується тих, що описують рецепти для створення та посилення патогенів.

Втім, зробити це буде непросто, оскільки зараз немає хороших протоколів, які б дозволили великим мовним моделям навчатися в одних «частинах» інтернету та не чіпати інші.

• Також пропонуємо вам почитати, чому люди, які багато користуються штучним інтелектом по роботі, частіше страждають від безсоння та самотності.