«Крестный отец» искусственного интеллекта назвал свою самую большую ошибку в работе над технологией

Один из так называемых «крестных отцов» искусственного интеллекта присоединился к призывам приостановить разработку технологии и рассказал, что ее развитие навредило ему лично. По его словам, работа всей его жизни перестала быть для него понятной. Об этом пишет BBC.

Канадский математик, кибернетик и информатик Йошуа Бенжио посвятил жизнь исследованию и разработке искусственного интеллекта. Его считают одним из «крестных отцов» ИИ, известных своей пионерской работой в этой области. Впрочем, он выразил обеспокоенность касательно направления и скорости его развития. Он также присоединился к призывам регулировать технологию и предостерег, что ею могут воспользоваться «не те люди».

«Не теми» он считает не только террористов и мошенников, но и, к слову, военных, которые могут направить ИИ на уничтожение групп лиц или целых наций. Также не получится ничего путного, если им воспользуется разъяренный из-за чего-то или психически больной человек.

Бенжио признался, что работа, которой он посвятил жизнь, фактически потеряла смысл. По словам исследователя, он сосредотачивался на развитии генеративного ИИ. А должен был бы на безопасности технологии, если бы вовремя предусмотрел темпы и масштабы ее разворачивания.

Для него эмоционально трудно осознавать свои ошибки и не иметь возможности исправить их. Впрочем, он чувствует, что не может остановиться и должен побуждать других думать о решении возможных проблем вместе с ним. В частности, он отмечает, что все разработчики ИИ должны быть зарегистрированы и сертифицированы, а также подотчетны правительствам. Кроме того, он настаивает на обязательной этической подготовке таких специалистов.

Второй «крестный отец» и коллега Бенжио доктор Джеффри Хинтон разделяет его мнение. К слову, он заявил, что сожалеет о своей работе в отрасли ИИ.

Третий «крестный отец» искусственного интеллекта профессор Янн ЛеКун, который вместе с Бенжио и Хинтоном получил престижную Премию Тюринга за новаторство, считает, что апокалиптические прогнозы существенно преувеличены. Он не думает, что ИИ будет пытаться уничтожить человечество. ЛеКун не исключает такую ​​вероятность, но предполагает, что она очень близка к нулю.

• Мы рассказывали, как инструмент на основе искусственного интеллекта помог открыть новый эффективный против супербактерий антибиотик. Также предлагаем вам почитать о предостережениях бывшего руководителя Google относительно этих технологий.