Amazon продает полевые путеводители с опасными советами. Их написал искусственный интеллект

Так называемые полевые путеводители пользуются спросом среди любителей отдыха на природе и исследователей-аматоров. Качество некоторых из них и раньше казалось несколько сомнительным, но теперь многие авторы используют для написания даже серьезных материалов искусственный интеллект, который иногда дает опасные советы, пишет Fortune.

Robot humanoid use laptop and sit at table in future office while using AI thinking brain , artificial intelligence and machine learning process . 4th fourth industrial revolution 3D illustration.

Нью-Йоркское микологическое общество недавно опубликовало в социальных сетях предупреждение о том, что Amazon и другие розничные торговцы предлагают книги об идентификации и поиске пищи, написанные искусственным интеллектом. В посте речь шла о путеводителе по сбору грибов. Похожие по структуре книги посвящают также, например, сбору ягод, распознаванию ядовитых растений и так далее. Их могут читать и взрослые, и дети.

«В Северной Америке есть сотни разновидностей ядовитых грибов и несколько смертельных. Они могут быть похожими на популярные съедобные виды. Ложное описание в книге может побудить кого-то съесть ядовитый гриб», – рассказала в беседе с журналистами президент Нью-Йоркского микологического общества Сигрид Якоб.

Британский эксперт-миколог и гид по поиску пищи в полевых условиях Леон Фрей отметил, что в одном из написанных ИИ пособий видел метод идентификации грибов по запаху и вкусу. То есть искусственный интеллект фактически посоветовал попробовать находку, несмотря на то, что она может быть ядовитой.

В Amazon отметили, что серьезно отнеслись к информации о наличии в продаже книг, написанных ИИ. Компания заверила, что работает для того, чтобы ее клиенты получали только качественный и безопасный контент. Вероятно, уже вскоре такие путеводители изымут из продажи.

Впрочем, отслеживать сгенерированный искусственным интеллектом контент становится все сложнее. Основатель компании Originality.ai Джонатан Гилгэм в прошлом месяце с помощью искусственного интеллекта проверил десятки туристических путеводителей. По крайней мере 35 отрывков оказались написанными ИИ, а некоторые советы он назвал довольно опасными.

• Мы также рассказывали, что искусственный интеллект в путеводителе посоветовал посетить Продовольственный банк Оттавы. Это благотворительная организация, обеспечивающая пищей людей, которые в этом нуждаются. Также ИИ рекомендовал пользователям коктейли с отбеливателем и бутерброды с ядом.