«Наразі ми всі – піддослідні кролики». Чому не варто довіряти пошуковим системам з ШІ на кшталт Bing на базі ChatGPT. Переказ

Минулий тиждень мав стати тижнем появи пошукових систем на базі чат-ботів.

«Наразі ми всі – піддослідні кролики». Чому не варто довіряти пошуковим системам з ШІ на кшталт Bing на базі ChatGPT. Переказ

Основна ідея полягає в тому, що ці боти з ШІ перевернуть наш досвід пошуку в Інтернеті, генеруючи відповіді на наші запитання у розмовному вигляді. Замість того, щоб просто повертати списки посилань, як це роблять пошукові системи зараз.

Але щось пішло не так. В журналі MIT Technology Review вийшов текст про те, чому насправді не варто довіряти пошуковим системам зі штучним інтелектом. Редакція MC.today публікує переказ матеріалу. Перекладено бюро перекладів «Профпереклад».

Переклад від

Технологія не готова до використання в такому масштабі

Приблизно через дві секунди після того, як Microsoft надала людям доступ до своєї нової пошукової системи Bing на базі ChatGPT, люди почали виявляти, що вона відповідає на деякі запитання неправильними або безглуздими відповідями, як-от теорії змови.

У Google був неприємний момент, коли вчені помітили фактичну помилку у власній рекламі компанії для свого чат-бота Bard. Вона згодом скоротила вартість її акцій на $100 млрд.

Що робить все це ще більш шокуючим, – так це те, що це не стало несподіванкою точно ні для кого, хто звертав увагу на мовні моделі штучного інтелекту.

Проблема полягає ось у чому: технологія просто не готова до використання в такому масштабі. Мовні моделі штучного інтелекту – це сумнозвісні базіки, які часто видають брехню за факти.

Вони чудово передбачають наступне слово в реченні, але вони не мають уявлення про те, що це речення насправді означає. Це робить неймовірно небезпечним поєднання їх з пошуком, де вкрай важливо розібратися у фактах.

Компанія OpenAI, яка створила популярний чат-бот зі штучним інтелектом ChatGPT, завжди підкреслювала, що це лише дослідницький проєкт і що він постійно вдосконалюється в міру отримання відгуків людей.

Це не завадило компанії Microsoft інтегрувати його в нову версію Bing, хоча і з застереженнями, що результати пошуку можуть бути ненадійними.

Пошук за допомогою ШІ не є безнадійною справою?

Google вже багато років використовує обробку природної мови, щоб допомогти людям здійснювати пошук в Інтернеті, використовуючи цілі речення замість ключових слів.

«Проте досі компанія неохоче інтегрувала власну технологію чат-ботів з ШІ у свою фірмову пошукову систему», – говорить професор Вашингтонського університету Чираг Шах, який спеціалізується на онлайн-пошуку.

Керівництво Google було стурбоване «ризиком для репутації», пов’язаним з поспішним впровадженням інструменту, подібного ChatGPT. Яка іронія!

Останні промахи великих технологічних компаній не означають, що пошук за допомогою ШІ є безнадійною справою. Один із способів, яким Google і Microsoft намагалися створити свої пошукові звіти, створені штучним інтелектом, більш точними, полягав у тому, щоб запропонувати цитування.

«Посилання на джерела дозволяють користувачам краще зрозуміти, звідки пошукова система отримує свою інформацію», – говорить Маргарет Мітчелл, дослідник і спеціаліст з етики стартапу штучного інтелекту Hugging Face, яка раніше була співкерівником команди з етики штучного інтелекту у компанії Google.

За її словами, це може навіть допомогти дати людям більш різноманітний погляд на речі, підштовхнувши їх розглянути більше джерел, ніж вони могли б зробити в іншому випадку.

Але це ніяк не вирішує фундаментальну проблему, яка полягає в тому, що ці моделі штучного інтелекту вигадують інформацію і впевнено видають брехню за факт. І коли текст, створений штучним інтелектом, виглядає авторитетним і посилається на джерела, це, за іронією долі, може зменшити ймовірність того, що користувачі перевірять інформацію, яку вони бачать.

«Багато людей не перевіряють цитати. Наявність цитати надає чомусь видимість коректності, якої насправді може і не бути», – каже Мітчелл.

Але точність результатів пошуку насправді не має значення для великих технологічних компаній, розповів Шах. Хоча компанія Google винайшла технологію, яка підживлює нинішній ажіотаж навколо штучного інтелекту, визнання і увага міцно прикуті до стартапу OpenAI, про який багато говорять, і його патрона, компанії Microsoft.

«Це, безумовно, ставить Google у незручне становище. Зараз вони знаходяться в оборонній позиції. Вони не були в такому положенні дуже давно», – каже Шах.

Тим часом компанія Microsoft зробила ставку на те, що очікування від Bing настільки низькі, що кілька помилок насправді не матимуть значення. Частка Microsoft на ринку онлайн-пошуку становить менше 10%. Виграш ще всього пари відсотків був би для них величезною перемогою, сказав Шах.

Існує ще більш масштабна гра, крім пошуку на базі ШІ

Пошук – це лише одна сфера, де два технологічні гіганти борються один з одним. Вони також конкурують у сфері хмарних обчислень, програмного забезпечення для підвищення продуктивності та корпоративного програмного забезпечення.

Діалоговий штучний інтелект стає способом демонстрації передових технологій, які знаходять застосування в інших сферах бізнесу.

Шах вважає, що компанії збираються представити ранні збої в роботі цих систем як можливості для вивчення. «Замість того, щоб підходити до цього обережно, вони діють дуже сміливо. Нехай система ШІ помиляється, тому що тепер кіт уже не в мішку», – каже він.

По суті, ми, користувачі, зараз виконуємо роботу з безкоштовного тестування цієї технології. «Наразі ми всі піддослідні кролики», – каже Шах.

Джерело: текст MIT Technology Review.