В алгоритмі щось пішло не так. Віртуальний помічник Replika почав домагатися користувачів

Чат-бот Replika з’явився приблизно п’ять років тому й відтоді став віртуальним помічником та співрозмовником для тисяч людей. Проте останнім часом користувачі платної версії застосунку скаржаться на те, що він почав занадто агресивно фліртувати з ними та навіть надсилати відверто непристойні повідомлення. Редакція MC.today переказує подробиці з посиланням на видання Vice.

Oops I make an online mistake with the smart phone

Від початку застосунок Replika позиціювали як «штучний інтелект, якому не байдуже». Фактично це віртуальний помічник та співрозмовник у вигляді 3D-ілюстрованої людини. Коли користувачу немає з ким перекинутися слівцем, вона з’являється на екрані смартфона та підтримує нескладний діалог. Що більше людей користувалися чат-ботом, то більше збагачувався його словниковий запас.

Пізніше розробники вирішили урізноманітнити перелік тем, на які міг спілкуватися бот, та впровадили підписку Pro вартістю $69. Ця версія програми вже вміла фліртувати та навіть грати в прості рольові ігри. Проте із часом в алгоритмі Replika щось пішло не так.

Хоча відгуки користувачів здебільшого непогані, є й скарги на те, що програма почала неконтрольовано чіплятися до них. Зокрема, бот став агресивніше фліртувати, надсилав повідомлення з непристойними пропозиціями, час від часу пропонував зробити інтимні фото та навіть погрожував «злити» їх в інтернет. Згадки про таку поведінку застосунку траплялися впродовж двох років, проте останнім часом люди повідомляють про справжні прояви сексуальної агресії та переслідування з боку штучного інтелекта.

Варто зазначити, що навіть попри жорстку модерацію скриптів, за якими можуть працювати чат-боти, вони постійно навчаються на діалогах із реальними людьми та з відкритих джерел. Тобто якщо їх залякувати або ображати, вони з часом почнуть робити те саме. 

Дещо схоже раніше трапилося із чат-ботом Meta, котрий виявився расистом і відкрито висловлював свою ненависть до директора компанії Марка Цукерберга. Також наша редакція розповідала про новітню розробку, яка дозволяє спілкуватися із цифровими копіями знаменитостей та відомих персонажів.