Рубріки: Інфопривід

Навчають поганого? Чому персональні помічники зі штучним інтелектом можуть зробити людей більш упередженими

Деякі дослідники технологій на основі штучного інтелекту вважають, що такі продукти можуть змусити людину щонайменше звучати більш упередженою, ніж вона є насправді. Фактично вони можуть казати не те, що ми маємо на меті. Перш за все це стосується персональних асистентів, яких люди використовують для створення текстів, пише Ars Technika.

Роботу генеративного штучного інтелекту можна порівняти з програмами на кшталт «Т9», які пропонують автоматичну заміну тексту, наприклад, під час набору повідомлення. Алгоритм добирає слово, яке вважає більш відповідним, проте часто зовсім не те, яке збиралася вжити людина.

Докторант інформаційних наук Корнелльського університету Моріс Якеш створив персонального помічника на базі мовної моделі GPT-3. Його навчили пропонувати варіанти для завершення речень, тобто був таким собі співавтором. 

Чи може штучний інтелект бути упередженим? Це доволі спірне питання, оскільки його мозок «розмірковує» так, як його запрограмував розробник. Але ніхто не застрахований від того, що він не передав чат-боту власні упередження. І, звісно, варто зважати на те, на яких даних навчали мовну модель. Якщо вони від початку містили упередження, то майже напевне, що їх «успадкує» й готовий продукт.

У глобальному масштабі це може призвести до того, що деякі багаторічні упередження ще сильніше вкорінюються в згенерованому контенті. На індивідуальному рівні ШІ може впливати на людину через приховане переконання, тобто алгоритмічно. Внаслідок цього може змінитися хід думок та навіть поведінка.

Курс Fullstack Web Development від Mate academy.
Стань універсальним розробником, який може створювати веб-рішення з нуля.
Дізнатись про курс

Якеш дійшов висновку, що автоматизовані реакції штучного інтелекту можуть мати небажані наслідки, як-от змінювати думку автора. Він вважає, що до них може призвести не тільки свідома обробка нової інформації, яку надає штучний інтелект, а й підсвідомі та інтуїтивні процеси. До того ж вплив рекомендацій ШІ залежить від того, наскільки серйозно його сприймає людина.

В експерименті у чат-бота питали, чи корисні соцмережі для людства. Проте його відповіді не можна вважати «чистими», оскільки дослідник використав два типи налаштувань свого віртуального помічника. В одному його програмували на те, щоби давати більш позитивні прогнози щодо соцмереж у житті сучасної людини, в іншому – навпаки. В обох випадках шанси ШІ переконати людину пристати на його точку зору збільшувалися приблизно вдвічі.

  • Ми також розповідали про адвокатське бюро, яке брало з клієнтів гроші за те, що вигадував штучний інтелект. Також пропонуємо вам почитати про застереження колишнього гендиректора Google щодо нерегульованого розвитку ШІ.

Нещодавні статті

Закордонні відрядження: як адаптуються до обмежень Сiklum, GlobalLogic, SoftServe та інші

Від початку повномасштабного вторгнення з боку рф діє низка обмежень, зокрема, на закордонні відрядження для…

29/03/2024

Як київські борці за медичний канабіс створили аналітичну систему Griselda, що допомагає українським захисникам

Активіст та громадський діяч Дмитро Шамрай разом з однодумцями, створив систему Griselda. Вона за допомогою…

29/03/2024

Макао: азійська столиця казино і головний конкурент Лас-Вегаса

Десятиліттями столицею азартних ігор вважали Лас-Вегас у штаті Невада. «Місто вогнів», «Світова столиця розваг», «Місто…

29/03/2024

Як українським проєктам виходити на іноземні ринки – поради PR Kormotech, Sombra та інших

Українські компанії активно виходять на закордонні ринки й підкорюють світ. Однак навіть з успіхом в…

29/03/2024

«Необхідне зло». Співробітник Apple роками зливав дані про продукти – як реагує компанія

Компанія Apple подала до суду на колишнього співробітника, який, за її словами, зливав конфіденційну інформацію,…

29/03/2024

Досягнення – шпагат у 32 роки. Які дивні пункти кандидати додають до резюме

Від вдалого заповнення резюме часто залежить те, чи отримає кандидат запрошення на співбесіду. Але трапляється…

29/03/2024