Адвокатская контора влипла из-за ChatGPT. Они брали деньги с клиентов за выдумки ИИ

Адвокат Стивен А. Шварц из фирмы Levidow, Levidow & Oberman прославился на весь мир после того, как неудачно воспользовался ChatGPT. Юрист аргументировал иск клиента в суд ложными делами. Подозреваем, что клиент теперь должен расплатиться деньгами из «Монополии». Детали этой передряги MC.today пересказывает со ссылкой на The New York Times.

Young lawyer judge sitting in the office

Когда самолет авиакомпании Avianca несколько лет назад подлетал к международному аэропорту имени Кеннеди в Нью-Йорке, маленькая тележка с едой и напитками в нем даже не подозревала, что из-за нее мир в который раз задастся вопросом: такой умный искусственный интеллект, как мы думаем?

Мужчина, по имени Роберто Мата, подал в суд на авиакомпанию Avianca, заявив, что он получил травму, когда металлическая тележка для сервировки ударила ее колено во время рейса.

Когда Avianca попросила федерального судью Манхэттена отклонить иск, адвокаты Мата категорически возразили, предоставив 10-страничную запись, в которой цитировались более полудюжины соответствующих судебных решений. Были дела Мартинес против Delta Air Lines, Зикермана против Korean Air и Варгиз против China Southern Airlines (ну, конечно) .

И все было хорошо, четко и точно, но никто – ни юристы авиакомпании, ни даже сам судья – не могли найти решения или цитаты, приведенные и обобщенные в письме.

Это потому, что ChatGPT все придумал.

Читайте также: Роботы-убийцы могут стать реальностью. «Крестный отец» ИИ ушел из Google и предупредил об опасности развития технологии

Шварц на прошлой неделе признался суду, что он использовал программу для проведения своих юридических исследований – «источник, который оказался ненадежным».

Шварц, занимавшийся адвокатской практикой в ​​Нью-Йорке в течение трех десятилетий, сказал судье П. Кевину Кастелу, что он не собирался обмануть суд или авиакомпанию. Шварц сказал, что никогда до этого не использовал ChatGPT, и «поэтому не знал о возможности, что его ответы могут быть ложными».

Как он сказал судье Кастелу, адвокат даже переспросил программу, действительно ли есть такие дела.

Ответ был утвердительным.

Шварц сказал, что «очень сожалеет», что полагался на ChatGPT, «и никогда не будет этого делать в будущем без полной проверки правдивости результатов».

Он назначил слушание 8 июня для обсуждения возможных санкций для юристов.

Стивен Хиллерс, профессор юридической этики Школы права Нью-Йоркского университета, сказал, что этот вопрос особенно остро стоит среди юристов, обсуждающих ценность и опасность ИИ.

«Сейчас среди адвокатов обсуждается то, как избежать именно того, что описано в этом деле», – сказал Хиллерс. «Вы не можете просто принять результат, вырезать и вставить его в свои судебные документы».

Согласно иску, Мата был пассажиром рейса Avianca 670 из Сальвадора в Нью-Йорк 27 августа 2019 года, когда сотрудник авиакомпании ударил его тележкой для сервировки. После того, как господин Мата подал в суд, авиакомпания просила закрыть дело из-за истечения срока давности. Но адвокаты, представлявшие интересы Мата, представили краткое описание предыдущих дел, выдуманных ChatGPT.