Роботы-убийцы могут стать реальностью. «Крестный отец» ИИ ушел из Google и предупредил об опасности развития технологии

Джеффри Хинтон, которого называют «крестным отцом искусственного интеллекта», подтвердил, что оставил свой пост в Google на прошлой неделе, чтобы иметь возможность говорить об опасности технологии, в разработке которой он участвовал. Об этом MC.today сообщает со ссылкой на The New York Times.

Работа Хинтона над нейронными сетями сформировала системы искусственного интеллекта, работающие во многих современных продуктах. Десять лет он работал в Google над разработкой искусственного интеллекта технического гиганта, но у него начались беспокойство относительно этой технологии и его роли в ее развитии.

«Я утешаю себя обычным оправданием: если бы я этого не сделал, сделал бы кто-нибудь другой», – сказал Хинтон.

Хинтон сказал, что оставил Google, чтобы свободно говорить о рисках ИИ, а не из-за желания критиковать Google.

«Я ушел, чтобы говорить об опасности ИИ, не задумываясь о том, как это повлияет на Google», – написал Хинтон. «Google действовала очень ответственно».

Решение Хинтона уйти из компании и высказаться об этой технологии произошло в тот момент, когда все больше законодателей, правозащитных групп и представителей технологических компаний, в том числе Стив Возняк и Илон Маск, выразили обеспокоенность потенциалом новой группы чат-ботов на основе ИИ для распространения дезинформации и вытеснения рабочих мест. Правда, Маск впоследствии заявил о планах создать собственное ИИ.

Волна внимания к ChatGPT в конце прошлого года помогла возобновить гонки вооружений среди технологических компаний в разработке и применении подобных инструментов ИИ в своих продуктах. OpenAI, Microsoft и Google сегодня добились наибольших успехов, но IBM, Amazon, Baidu и Tencent тоже работают над подобными технологиями.

В интервью Хинтон повторил обеспокоенность потенциалом ИИ уничтожить рабочие места и создать мир, где многие «больше не смогут знать, что правда». Он также указал на ошеломляющие темпы продвижения, значительно превышающие ожидания.

«Идея о том, что эта штука действительно может стать умнее людей… Но большинство людей думали, что это далеко. И я думал, что это далеко. Я думал, что это будет через 30-50 лет или даже больше. Очевидно, я больше так не думаю».

Еще до того, как уйти из Google, Хинтон публично говорил о потенциале искусственного интеллекта причинять вред, но также и приносить пользу.

Доктор Хинтон, 75-летний британский экспатриант, чья карьера основывалась на личных убеждениях по разработке и использованию искусственного интеллекта. В 1972 году, являясь аспирантом Эдинбургского университета, доктор Хинтон поверил в перспективность нейронных сетей.

Нейронная сеть – математическая система, которая изучает навыки путем анализа данных. В то время мало исследователей верили в эту идею. Но это стало делом жизни Хинтона.

В 1980-х годах доктор Хинтон был профессором информатики в Университете Карнеги-Меллона, но переехал в Канаду, поскольку, по его словам, он не хотел брать финансирование Пентагона. В то время большинство исследований ИИ в Соединенных Штатах финансировалось Министерством обороны. Доктор Хинтон был категорически против использования искусственного интеллекта на поле боя – того, что он называет «роботами-солдатами».

В 2012 году доктор Хинтон и два его студента в Торонто, Илья Суцкевер и Алекс Крышевски, построили нейронную сеть, которая могла анализировать тысячи фотографий и научилась идентифицировать типичные объекты, такие как цветы, собаки и машины.

Google купил компанию, основанную доктором Хинтоном и двумя его учениками за $44 млн. И их система привела к созданию все более мощных технологий, в том числе новых чат-ботов, таких как ChatGPT и Google Bard. Суцкевер стал главным научным сотрудником OpenAI. В 2018 году доктор Хинтон и два его сотрудника получили награду Тюринга, которую часто называют «Нобелевской премией по вычислительной технике», за работу над нейронными сетями.

Приблизительно в то же время Google, OpenAI и другие компании начали строить нейронные сети, обучавшиеся на большом количестве цифрового текста. Доктор Хинтон считал, что это мощный способ для машин понимать и генерировать язык, но он был хуже того, как люди обрабатывают язык.

Затем, в прошлом году, когда Google и OpenAI создали системы, используя гораздо большие объемы данных, его взгляд изменился. Он все еще верил, что эти системы в некоторых аспектах уступают человеческому мозгу, но считал, что в других они превосходят человеческий интеллект. «Возможно, то, что происходит в этих системах, – сказал он, – на самом деле гораздо лучше, чем то, что происходит в мозге».

По его словам, до прошлого года Google действовал как «должный распорядитель» технологии, стараясь не выпускать что-либо, что может нанести вред. Но теперь, когда Microsoft дополнила свою поисковую систему Bing чат-ботом, бросающую вызов основному бизнесу Google, Google пытается развернуть такую ​​же технологию. Доктор Хинтон сказал, что технологические гиганты загрузли в конкуренции, которую невозможно остановить.

Кроме того, что Хинтон беспокоится, что развитие ИИ приведет к проблемам на рынке труда и распространению большого количества дезинформации, он считает, что проблема может быть еще более глобальной.

Сегодня такие чат-боты, как ChatGPT, как правило, дополняют работников, они могут заменить помощников юристов, личных помощников, переводчиков и других сотрудников, выполняющих механические задания.

Но будущие версии технологии представляют угрозу человечеству, поскольку они часто изучают неожиданное поведение из огромных объемов данных, которые они анализируют. По его словам, это становится проблемой, поскольку отдельные лица и компании позволяют ИИ-системы не только создавать собственный компьютерный код, но и выполнять этот код самостоятельно. И он боится того дня, когда действительно автономное оружие – эти роботы-убийцы – станут реальностью.

Многие другие эксперты, включая многих его студентов и коллег, говорят, что эта угроза является гипотетической. Но доктор Хинтон считает, что гонка между Google, Microsoft и другими перерастет в глобальную, и не прекратится без какого-либо регулирования.

По его словам, в отличие от ядерного оружия, невозможно узнать, работают ли тайно компании или страны над этой технологией.

Хинтон не первый сотрудник Google, который забил тревогу по поводу ИИ. В июле компания уволила инженера, утверждавшего, что система искусственного интеллекта стала разумной.