«Хрещений батько» штучного інтелекту назвав свою найбільшу помилку в роботі над технологією

Один із так званих «хрещених батьків» штучного інтелекту приєднався до закликів призупинити розробку технології та розповів, що її розвиток зашкодив йому особисто. За словами дослідника, робота всього його життя перестала бути для нього зрозумілою. Про це пише BBC.

Канадський математик, кібернетик та інформатик Йошуа Бенжіо присвятив життя дослідженню та розробці штучного інтелекту. Його вважають одним із «хрещених батьків» ШІ, відомих своєю піонерською роботою в цій галузі. Втім, він висловив занепокоєння щодо напрямку та швидкості його розвитку. Науковець також приєднався до закликів регулювати технологію та розповів про стурбованість тим, що нею можуть скористатися «не ті люди».

«Не тими» він вважає не тільки терористів та шахраїв, а й, до речі, військових, які можуть спрямувати ШІ на знищення груп осіб або цілих націй. Також не вийде нічого путнього, якщо ним скористається розлючена через щось або психічно хвора людина.

Бенжіо зізнався, що робота, якій він присвятив життя, фактично втратила сенс. За словами дослідника, він зосереджувався на розвитку генеративного ШІ. А мав би на безпечності технології, якби вчасно передбачив темпи та масштаби її розгортання.

Для нього емоційно важко усвідомлювати свої помилки та не мати змоги виправити їх. Втім, він відчуває, що не може зупинитися та мусить спонукати інших думати над розв’язанням можливих проблем разом із ним. Зокрема, він наголошує, що всі розробники ШІ мають бути зареєстрованими, сертифікованими та підзвітними урядам. Також він наполягає на обов’язковій етичній підготовці таких фахівців.

Другий «хрещений батько» та колега Бенжіо доктор Джеффрі Хінтон поділяє його думку. До речі, він заявив, що шкодує про свою роботу в галузі ШІ.

Натомість третій «хрещений батько» штучного інтелекту професор Янн ЛеКун, який разом з Бенжіо та Хінтоном отримав престижну Премію Тюрінга за новаторство, вважає, що апокаліптичні прогнози суттєво перебільшені. Він не думає, що ШІ намагатиметься знищити людство. ЛеКун не виключає таку ймовірність, проте припускає, що вона дуже близька до нуля.

• Ми розповідали, як інструмент на основі штучного інтелекту допоміг відкрити новий ефективний проти супербактерій антибіотик. Також пропонуємо вам почитати про застереження колишнього очільника Google щодо цих технологій.