logo
13 Січ 2023

В алгоритмі щось пішло не так. Віртуальний помічник Replika почав домагатися користувачів

Юлія Фещенко

Редакторка новин MC.today

Чат-бот Replika з’явився приблизно п’ять років тому й відтоді став віртуальним помічником та співрозмовником для тисяч людей. Проте останнім часом користувачі платної версії застосунку скаржаться на те, що він почав занадто агресивно фліртувати з ними та навіть надсилати відверто непристойні повідомлення. Редакція MC.today переказує подробиці з посиланням на видання Vice.

Oops I make an online mistakeOops I make an online mistake with the smart phone

Від початку застосунок Replika позиціювали як «штучний інтелект, якому не байдуже». Фактично це віртуальний помічник та співрозмовник у вигляді 3D-ілюстрованої людини. Коли користувачу немає з ким перекинутися слівцем, вона з’являється на екрані смартфона та підтримує нескладний діалог. Що більше людей користувалися чат-ботом, то більше збагачувався його словниковий запас.

Пізніше розробники вирішили урізноманітнити перелік тем, на які міг спілкуватися бот, та впровадили підписку Pro вартістю $69. Ця версія програми вже вміла фліртувати та навіть грати в прості рольові ігри. Проте із часом в алгоритмі Replika щось пішло не так.

Курс Frontend від Mate academy.
Frontend розробник може легко створити сторінки вебсайту чи вебдодаток. Тому після курсу ви станете затребуваним фахівцем у сфері, що розвивається.
Інформація про курс

Хоча відгуки користувачів здебільшого непогані, є й скарги на те, що програма почала неконтрольовано чіплятися до них. Зокрема, бот став агресивніше фліртувати, надсилав повідомлення з непристойними пропозиціями, час від часу пропонував зробити інтимні фото та навіть погрожував «злити» їх в інтернет. Згадки про таку поведінку застосунку траплялися впродовж двох років, проте останнім часом люди повідомляють про справжні прояви сексуальної агресії та переслідування з боку штучного інтелекта.

Варто зазначити, що навіть попри жорстку модерацію скриптів, за якими можуть працювати чат-боти, вони постійно навчаються на діалогах із реальними людьми та з відкритих джерел. Тобто якщо їх залякувати або ображати, вони з часом почнуть робити те саме. 

Дещо схоже раніше трапилося із чат-ботом Meta, котрий виявився расистом і відкрито висловлював свою ненависть до директора компанії Марка Цукерберга. Також наша редакція розповідала про новітню розробку, яка дозволяє спілкуватися із цифровими копіями знаменитостей та відомих персонажів.

Бізнес англійська від Englishdom.
Тут навчають за методикою Кембриджу, завдяки якій англійську вивчили понад 1 мільярд людей. Саме вона використовується в найкращих навчальних закладах світу, і саме за нею створені курси.
Інформація про курс

По темі:

Спецпроекти

Новини

Вакансії компаній

Менеджер з активних продажів B2B

Creators Media Group
20 000 – 40 000 грн, Ставка + відсоток

Надихаючі компанії-работодавці

Ваша жалоба отправлена модератору

Повідомити про помилку

Текст, який буде надіслано нашим редакторам: