Brown hare, Lepus europaeus, single mammal on grass
Появляется все большее количество контента, сгенерированного искусственным интеллектом. Со временем модели ИИ будут учиться и использовать ранее сгенерированные данные, что может привести к путанице. Об этом предупредили ученые из Великобритании и Канады, пишет Business Insider.
В новой статье ученые пытались понять, что происходит после того, как несколько поколений ИИ учатся на данных друг друга. В одном эксперименте технология сгенерировала информацию о зайцах, хотя первоначальный материал был о средневековой архитектуре, но об этом немного позже.
Исследование показало, что «на протяжении нескольких поколений текст становится мусором», – написал в блоге один из авторов, профессор Росс Андерсон. Это касается и изображений.
Ученые называют это «крахом модели». Дело в том, что большие языковые модели (LLM), как ChatGPT, обучались на огромных объемах данных, полученных из интернета и созданных людьми.
Но с активным использованием инструментов ИИ сгенерированного контента становится все больше. Соответственно будущие модели будут учиться на материалах, созданных без человека.
Со временем это приведет к большому количеству ошибок и чепухи, которую ИИ может воспринять и выдать за правду, говорится в еще не рецензированной статье.
Вернемся к зайцам. Текст об архитектуре, созданный человеком, отдали ИИ, затем на сгенерированном материале обучались другие модели, и так еще раз, и еще раз… Так до девятого поколения ИИ менял текст. В результате получилось нечто: «Архитектура. Кроме того, здесь проживает одна из крупнейших в мире популяций черных хвостатых зайцев, белых хвостатых зайцев, синих хвостатых зайцев, красных хвостатых зайцев, желтых…».
Один из авторов исследования сравнил это с загрязнением океана: люди забросали мусором океан, и так же сделают с интернетом. Однако ученые надеются, что ИИ не сможет вытеснить человека.
Пока мы не знаем, как будет с контентом, но робот с ИИ уже показал, что не конкурент для комиков.
Кровать — громоздкий элемент интерьера даже в просторной спальне. Но что, если помещение совсем небольшое,…
Украинские PR-агентства реализуют масштабные информационные кампании для бизнеса и придают мощный голос социальным проектам, которые…
Power BI (Business Intelligence) Microsoft – это не просто платформа для анализа данных, а ключевой…
Лас-Вегас — один из самых узнаваемых городов на планете, который ежегодно манит к себе миллионы…
Из-за широкомасштабного вторжения россии в Украине было введено военное положение и объявлена мобилизация. Военнообязанным мужчинам…
«Вижу цель – не вижу препятствий». Знакомая фраза? Часто ею руководствуются кандидаты, ищущие работу мечты.…