Oops I make an online mistake with the smart phone
Чат-бот Replika появился примерно пять лет назад и стал виртуальным помощником и собеседником для тысяч людей. Но в последнее время пользователи платной версии приложения жалуются на то, что он начал слишком агрессивно флиртовать с ними и даже отправлять чересчур откровенные сообщения. Редакция MC.today пересказывает подробности со ссылкой на издание Vice.
С самого начала приложение Replika позиционировалось как «искусственный интеллект, которому не все равно». Фактически это виртуальный помощник и собеседник в виде 3D-иллюстрированного человека. Когда пользователю не с кем поболтать, он появляется на экране смартфона и поддерживает несложный диалог. Чем больше людей пользовались чат-ботом, тем сильнее обогащался его словарный запас.
Позднее разработчики решили разнообразить список тем, на которые мог общаться бот, и ввели подписку Pro стоимостью $69. Эта версия программы уже умела флиртовать и даже играть в простые ролевые игры. Но со временем в алгоритме Replika что-то пошло не так.
Хотя отзывы пользователей в большинстве своем неплохие, есть и жалобы на то, что программа начала неконтролируемо приставать к ним. В частности, бот стал более агрессивно флиртовать, отправлял сообщения с непристойными предложениями, время от времени предлагал сделать интимные фото и даже угрожал «слить» их в интернет. О таком поведении программы говорили в течение двух лет, но в последнее время люди сообщают о проявлениях сексуальной агрессии и преследованиях со стороны искусственного интеллекта.
Стоит отметить, что даже несмотря на жесткую модерацию скриптов, по которым могут работать чат-боты, они постоянно учатся на диалогах с реальными людьми и в открытых источниках. То есть если их запугивать или оскорблять, они со временем начнут делать то же самое.
Нечто похожее ранее случилось с чат-ботом Meta, который оказался расистом и открыто выражал свою ненависть по отношению к директору компании Марку Цукербергу. Также наша редакция рассказывала о новой разработке, позволяющей общаться с цифровыми копиями знаменитостей и известных персонажей.
Power BI (Business Intelligence) Microsoft – это не просто платформа для анализа данных, а ключевой…
Лас-Вегас — один из самых узнаваемых городов на планете, который ежегодно манит к себе миллионы…
Из-за широкомасштабного вторжения россии в Украине было введено военное положение и объявлена мобилизация. Военнообязанным мужчинам…
«Вижу цель – не вижу препятствий». Знакомая фраза? Часто ею руководствуются кандидаты, ищущие работу мечты.…
Национальный банк Украины работает над открытым банкингом. Речь идет о структурированном и безопасном обмене данными…
В США финансовому консультанту предъявили обвинение в растрате около $5 млн, которые принадлежали его клиенту.…