Экс-гендиректор Google: неконтролируемый ИИ угрожает человечеству «новой Хиросимой»

Бывший гендиректор Google Эрик Шмидт сравнил искусственный интеллект с ядерным оружием. Он считает, что США и Китай должны заключить договор о сдерживании использования технологии, чтобы не произошло «новой Хиросимы».

Шмидт говорил об опасности неконтролируемого развития искусственного интеллекта на Аспенском форуме безопасности.

Отвечая на вопрос о ценности морали и нравов в технологиях, Шмидт объяснил, что он сам наивно относился к силе информации на раннем этапе развития Google. Тогда он призвал к тому, чтобы технологии лучше соответствовали этике и морали людей, которым они служат.

Шмидт вообразил себе ближайшее будущее, когда Китаю и США нужно будет закрепить договор вокруг искусственного интеллекта.

«В 50-х и 60-х годах мы в конце концов сделали мир, где было правило “никаких сюрпризов” по ​​поводу ядерных испытаний, и в итоге они были запрещены. Это пример баланса доверия или отсутствия доверия, это правило “никаких сюрпризов”».

Он добавил, что очень обеспокоен тем, что большие государства могут начать обвинять друг друга и провоцировать. В этом вопросе от боится искусственного интеллекта как нового оружия.

По его словам, искусственный интеллект и машинное обучение – удивительная технология, которую часто неправильно понимают. В большинстве своем она не столь умна, как считают люди. ИИ может создавать шедевры, побеждать людей в Starcraft II и совершать телефонные звонки за пользователей. Однако попытки заставить его выполнять более сложные задачи, например ездить на автомобиле в большом городе, пока проваливаются.