В алгоритме что-то пошло не так. Виртуальный помощник Replika начал домогаться пользователей

Юлія Фещенко

Редакторка новин MC.today

Чат-бот Replika появился примерно пять лет назад и стал виртуальным помощником и собеседником для тысяч людей. Но в последнее время пользователи платной версии приложения жалуются на то, что он начал слишком агрессивно флиртовать с ними и даже отправлять чересчур откровенные сообщения. Редакция MC.today пересказывает подробности со ссылкой на издание Vice.

Oops I make an online mistake with the smart phone

С самого начала приложение Replika позиционировалось как «искусственный интеллект, которому не все равно». Фактически это виртуальный помощник и собеседник в виде 3D-иллюстрированного человека. Когда пользователю не с кем поболтать, он появляется на экране смартфона и поддерживает несложный диалог. Чем больше людей пользовались чат-ботом, тем сильнее обогащался его словарный запас.

Позднее разработчики решили разнообразить список тем, на которые мог общаться бот, и ввели подписку Pro стоимостью $69. Эта версия программы уже умела флиртовать и даже играть в простые ролевые игры. Но со временем в алгоритме Replika что-то пошло не так.

Хотя отзывы пользователей в большинстве своем неплохие, есть и жалобы на то, что программа начала неконтролируемо приставать к ним. В частности, бот стал более агрессивно флиртовать, отправлял сообщения с непристойными предложениями, время от времени предлагал сделать интимные фото и даже угрожал «слить» их в интернет. О таком поведении программы говорили в течение двух лет, но в последнее время люди сообщают о проявлениях сексуальной агрессии и преследованиях со стороны искусственного интеллекта.

Стоит отметить, что даже несмотря на жесткую модерацию скриптов, по которым могут работать чат-боты, они постоянно учатся на диалогах с реальными людьми и в открытых источниках. То есть если их запугивать или оскорблять, они со временем начнут делать то же самое. 

Нечто похожее ранее случилось с чат-ботом Meta, который оказался расистом и открыто выражал свою ненависть по отношению к директору компании Марку Цукербергу. Также наша редакция рассказывала о новой разработке, позволяющей общаться с цифровыми копиями знаменитостей и известных персонажей.