Учат плохому? Почему персональные помощники с искусственным интеллектом могут делать людей более предвзятыми

Некоторые исследователи технологий на основе искусственного интеллекта считают, что такие продукты могут заставить человека по меньшей мере звучать более предвзято, чем он есть на самом деле. Фактически они могут говорить не то, что мы имеем в виду, и прежде всего это касается персональных ассистентов, которых люди используют для создания текстов, пишет Ars Technika.

Artificial intelligence concept

Работу генеративного искусственного интеллекта можно сравнить с программами вроде «Т9», которые предлагают автоматическую замену текста, например, при наборе сообщения. Алгоритм подбирает слово, которое считает более подходящим. Правда, часто совсем не то, которое собирался употребить человек.

Докторант информационных наук Корнелльского университета Морис Якеш создал персонального помощника на базе языковой модели GPT-3. Его научили предлагать варианты завершения предложений, то есть сделали неким соавтором. 

Может ли искусственный интеллект быть предвзятым? Это довольно спорный вопрос, поскольку его мозг «размышляет» так, как его запрограммировал разработчик. Но никто не застрахован от того, что он не передал чат-боту свои предубеждения. И, конечно, следует учитывать, на каких данных обучали языковую модель. Если они изначально содержали предубеждения, то почти наверняка, что их «унаследует» готовый продукт.

В глобальном масштабе это может привести к тому, что некоторые многолетние предубеждения еще сильнее укореняются в сгенерированном контенте. На индивидуальном уровне ИИ может влиять на человека из-за скрытого убеждения, то есть алгоритмически. Вследствие такого воздействия может измениться ход мыслей и даже поведение.

Якеш пришел к выводу, что автоматизированные реакции искусственного интеллекта могут иметь нежелательные последствия, например, менять мнение автора. Он считает, что к такому исходу может привести не только сознательная обработка новой информации, которую генерирует искусственный интеллект, но и подсознательные и интуитивные процессы. К тому же, влияние рекомендаций ИИ зависит от того, насколько серьезно его воспринимает человек.

В эксперименте у чат-бота спрашивали, полезны ли соцсети для человечества. Правда, его ответы нельзя считать эталонными, поскольку исследователь использовал два типа настроек своего виртуального помощника. В одном его программировали на то, чтобы давать более положительные прогнозы по роли соцсетей в жизни современного человека, в другом – наоборот. В обоих случаях шансы ИИ убедить человека принять его точку зрения увеличивались примерно вдвое.

• Мы также рассказывали об адвокатском бюро, которое брало с клиентов деньги за то, что придумывал искусственный интеллект. Также предлагаем вам почитать о предостережениях бывшего гендиректора Google относительно нерегулируемого развития ИИ.