Розповідаєте ШІ свої секрети? Ось, чому це небезпечно

Ділитися найглибшими переживаннями зі штучним інтелектом здається безпечним, але розмови на популярних платформах можуть перетворитися на відчинене вікно, через яке ваші найпотаємніші думки стануть доступні стороннім. Про це пише Tech Times з посиланням на дослідження Duck­Duck­Go та розслідування The Wash­ing­ton Post.

Головне

• Кожен третій опитаний користувач ШІ зізнався, що розповідав чат-боту секрети, які приховував навіть від близьких людей.
• The Wash­ing­ton Post виявило щонайменше десяток судових справ за останні два роки, у яких логи розмов із чат-ботами фігурували у відкритих судових матеріалах.
• Корпоративні версії Chat­G­PT та Claude можуть надавати адміністраторам компаній доступ до чатів і файлів співробітників, залежно від сервісу й типу акаунту.
• 53% опитаних не знають або не впевнені, чи навчаються ШІ-моделі на їхніх розмовах, а 75% не усвідомлюють, що переписку з мовними моделями можуть витребувати правоохоронці через суд.

Мільйони людей з моменту появи доступних чат-ботів довірили штучному інтелекту свої найінтимніші зізнання. Нове дослідження Duck­Duck­Go показує: кожен третій опитаний користувач ШІ розповідав чат-боту секрети, які приховував навіть від людей, яким довіряє найбільше.

Проблема в тому, що ці конфіденційні зізнання можуть стати доступними через корпоративні системи, судові процеси, запити правоохоронних органів або публічне поширення. The Wash­ing­ton Post виявило цю вразливість, вказавши на щонайменше десяток судових справ за останні два роки, у яких логи розмов із чат-ботами з’явилися у відкритих судових матеріалах. У багатьох випадках такі стенограми отримували не безпосередньо від компаній-розробників ШІ, а під час збору доказів із пристроїв самих користувачів.

Читайте також: В Ama­zon помітили, що Chat­G­PT «зливає» конфіденційну інформацію про компанію

Чому чат-боти — це не приватний співрозмовник

Отримані дані ставлять під сумнів саме припущення, ніби ШІ-чати функціонують як приватна довірена особа. За словами дослідників Duck­Duck­Go, усі ці повідомлення тримаються на одному припущенні — що чати приватні, хоча в більшості випадків це просто не так.

Навіть якщо логи розмов ніколи не потраплять до судових матеріалів, корпоративні інструменти, надані роботодавцем, можуть давати адміністраторам доступ до активності співробітників. The Wash­ing­ton Post також зазначає, що такі техгіганти, як Ope­nAI та Anthrop­ic, можуть зберігати дані розмов за певних обставин, включно з випадками, коли цього вимагає закон.

Роботодавці можуть мати доступ до ваших ШІ-чатів

Корпоративні акаунти можуть мати зовсім інші налаштування приватності, ніж особисті. За даними The Wash­ing­ton Post, версії сервісів Ope­nAI та Anthrop­ic для бізнесу можуть дозволяти адміністраторам переглядати чати й файли співробітників — залежно від конкретного сервісу й типу акаунту.

Окрім корпоративного моніторингу, публічно поширені логи чатів можуть виявитися доступнішими для пошуку, ніж очікують користувачі. У липні публічно поширені розмови з Claude з’явилися в результатах пошуку Google — тобто деякі розмови, які користувачі свідомо зробили доступними через посилання для поширення, стали значно легше знаходити в мережі.

Дослідниця приватності Стенфордського інституту людиноцентричного штучного інтелекту Джен Кінг зазначила: «Ви не можете бути впевнені, що це буде повністю приватно», якщо тільки не використовуєте тимчасовий чи інкогніто-режим у браузері, що вас не відстежує.

Читайте також: Що під капотом у Chat­G­PT: секрети роботи мовних моделей

Більшість користувачів усе ще недооцінюють ризики

Попри те, що люди почуваються напрочуд комфортно, виливаючи душу цифровому співрозмовнику, багато хто досі не усвідомлює, у скільки різних способів їхні розмови можуть зберігатися, стати доступними чи бути розкритими.

Опитування Duck­Duck­Go показало: 53% респондентів не знали чи не були впевнені, чи навчаються ШІ-інструменти на даних, зібраних з їхніх чатів, тоді як 75% не усвідомлювали або сумнівалися, що розмови з великими мовними моделями можуть бути витребувані правоохоронними органами через суд.

Дослідження також показало, що чимало учасників не розуміють, як провайдери обробляють їхні запити чи як налаштувати приватність, щоб зупинити запис розмов. Щодо безпеки даних приблизно 40% висловили повну недовіру до техкомпаній, а близько 50% не мають жодної довіри до федеральних органів влади.

Тож перш ніж виливати особисту драму на штучний інтелект, варто подумати двічі: цифрові розмови можуть зберігатися, ставати доступними за певних обставин або розкриватися, якщо ними поділилися публічно. Ілюзія безпечного простору зникає в ту мить, коли дані записано, розкрито через судовий процес або оприлюднено.

Читайте також: Шукає листи, файли, події і не тільки — Ope­nAI запустила Con­nec­tors для Chat­G­PT. Що вміє нова функція