От архитектуры к зайцам. ИИ, обученный на сгенерированном контенте, создает информационный мусор

Появляется все большее количество контента, сгенерированного искусственным интеллектом. Со временем модели ИИ будут учиться и использовать ранее сгенерированные данные, что может привести к путанице. Об этом предупредили ученые из Великобритании и Канады, пишет Business Insider.

Brown hare, Lepus europaeus, single mammal on grass

В новой статье ученые пытались понять, что происходит после того, как несколько поколений ИИ учатся на данных друг друга. В одном эксперименте технология сгенерировала информацию о зайцах, хотя первоначальный материал был о средневековой архитектуре, но об этом немного позже.

Исследование показало, что «на протяжении нескольких поколений текст становится мусором», – написал в блоге один из авторов, профессор Росс Андерсон. Это касается и изображений.

Ученые называют это «крахом модели». Дело в том, что большие языковые модели (LLM), как ChatGPT, обучались на огромных объемах данных, полученных из интернета и созданных людьми.

Но с активным использованием инструментов ИИ сгенерированного контента становится все больше. Соответственно будущие модели будут учиться на материалах, созданных без человека.

Со временем это приведет к большому количеству ошибок и чепухи, которую ИИ может воспринять и выдать за правду, говорится в еще не рецензированной статье.

Вернемся к зайцам. Текст об архитектуре, созданный человеком, отдали ИИ, затем на сгенерированном материале обучались другие модели, и так еще раз, и еще раз… Так до девятого поколения ИИ менял текст. В результате получилось нечто: «Архитектура. Кроме того, здесь проживает одна из крупнейших в мире популяций черных хвостатых зайцев, белых хвостатых зайцев, синих хвостатых зайцев, красных хвостатых зайцев, желтых…».

Один из авторов исследования сравнил это с загрязнением океана: люди забросали мусором океан, и так же сделают с интернетом. Однако ученые надеются, что ИИ не сможет вытеснить человека.

Пока мы не знаем, как будет с контентом, но робот с ИИ уже показал, что не конкурент для комиков.