Листування з ChatGPT використали у суді: користувач у в’язниці

Найняте компанією 3M «незалежне експертне свідчення» у справі про смертельний вибух у Х’юстоні виявилося цілком написаним штучним інтелектом — і суд змусив розкрити 350 сторінок переписки з Chat­G­PT, які повністю зруйнували довіру до цього висновку. Про це повідомляє 404 Media.

Суд змусив 3M розкрити 350 сторінок переписки експертного свідка з Chat­G­PT. Фото: Deposit­pho­tos

Як «експерт» використовував ChatGPT

У багаторічному позові про відповідальність за вибух на підприємстві Wat­son Grind­ing юридична команда 3M найняла Джоша Аутенріта з компанії Knighthawk Engi­neer­ing як експертного свідка. Протилежна сторона запідозрила використання ШІ ще на етапі розкриття доказів і вимагала надати логи Chat­G­PT експерта. Суддя задовольнив запит, і команда 3M була змушена передати 350 сторінок активності Аутенріта на платформі — які, як з’ясувалося, ще й містили публічні посилання на повні розмови.

Читайте також: Штучний інтелект вперше захищатиме людину в суді. Що він вміє

Логи показали: Аутенріт попросив Chat­G­PT «створити виняткове експертне свідчення на захист стандарту обережності 3M», а результат мав «показати, що вина 3M становить 0%» у смертельному вибуху. Одна з підказок починалася словами:

«Мене найняла компанія 3M як професійного експертного свідка для захисту в позовах, пов’язаних із вибухом на Wat­son Grind­ing у січні 2020 року».

Робота, повністю виконана штучним інтелектом

Без перебільшення, Аутенріт просив Chat­G­PT виконати за нього всю роботу: він додав сотні судових документів і попросив ШІ прочитати їх усі та створити захист 3M, який доводив би, що відповідальність лежить на Wat­son Grind­ing. Складений ШІ звіт на 30 сторінок стверджував, що «з технічної точки зору та з погляду стандартів обережності 3M на 0% відповідальна за вибух 24 січня 2020 року» — цю аматорську фразу пізніше прибрали, бо коли Аутенріт попросив Chat­G­PT самостійно перевірити власну роботу, той відповів, що формулювання «0% відповідальності» — «легка мішень» для атаки з боку адвокатів протилежної сторони.

Аутенріт, який позиціонував себе експертом із 20-річним досвідом у детекції газу, також завантажив у Chat­G­PT фотографію газового детектора з питанням: «Що я бачу на цьому фото?» За словами Вілла Мойе, одного з адвокатів позивачів, саме цей детектор газу і є предметом усієї судової справи.

«Цей експерт покладався на ШІ не як на допоміжний інструмент — він виключно Chat­G­PT формував свої висновки й писав звіт. Він визнав під час судового засідання, що промпти, які він вводив, були упереджені на користь 3M, щоб допомогти компанії виграти справу… це справді кричущий випадок», — розповів Мойе виданню 404 Media.

Один із важливих наслідків справи з погляду використання ШІ в юриспруденції: тепер переписку з Chat­G­PT можна розкривати під час процедури розкриття доказів чи допитів — і це створить чимало проблем з операційною безпекою для всієї юридичної галузі. Мойе додає: кожен юрист тепер має переконатися, що власні експерти не формують висновки нещиро, розуміючи, що промпти можна витребувати повісткою.

Для розуміння контексту

Вибух на Wat­son Grind­ing & Man­u­fac­tur­ing стався 24 січня 2020 року в північно-західному Х’юстоні: резервуар пропілену об’ємом 2000 галонів усю ніч непомітно протікав, а система газової детекції жодного разу не спрацювала — сигналізація мовчала. Коли працівник підприємства ввімкнув світло, накопичений газ спалахнув, зруйнувавши завод і сусідній житловий квартал. Вибух убив трьох людей, поранив щонайменше 18, а також пошкодив або знищив понад 450 будинків і підприємств.

Позови проти 3M — компанії, відповідальної за технічне обслуговування системи газової детекції — тривають уже понад шість років і охоплюють понад 2000 позивачів. Судові засідання показали, що технік 3M дав системі «зелене світло» лише за шість місяців до вибуху, хоча вона фактично ніколи не працювала належно. За останній рік суди присяжних у Харріс-Каунті вже тричі визнавали часткову вину 3M і призначили компенсації на загальну суму понад 218 млн доларів — включно з вердиктом на 61,5 млн доларів, ухваленим лише за тиждень до розкриття історії з Chat­G­PT.

Читайте також: Адвокатська контора втрапила в халепу через Chat­G­PT. Вони брали гроші з клієнтів за вигадки ШІ