Конкурент ChatGPT? Цукерберг рассказал, что Meta запустила свою модель ИИ LLaMA

Meta запустила свою модель искусственного интеллекта LLaMA. Правда, доступной она будет не для всех. Рассказываем, кто сможет поработать с ней и как получить доступ.

«Мы выпускаем новую современную обширную языковую модель искусственного интеллекта под названием LLaMA, предназначенную для того, чтобы помочь исследователям продвигать свою работу. LLM показала много перспектив в создании текста, ведении бесед, обобщении письменного материала и в более сложных задачах, таких как решение математических теорем или прогнозирование структур белка», – написал Марк Цукерберг в своем Facebook.

Он добавил, что Meta придерживается открытой модели исследования и сделает новую модель доступной для сообщества исследователей ИИ.

В своем блоге компания сообщила, что модель имеет 65 миллиардов параметров .

Meta делает LLaMA доступной в нескольких версиях (параметры 7B, 13B, 33B и 65B), а также даст инструкцию к LLaMA, где подробно описано, как эта модель построена в соответствии с практикой ответственного ИИ.

«За последний год большие языковые модели – системы обработки природного языка (NLP) с миллиардами параметров – показали новые возможности для генерации креативного текста, решения математических теорем, прогнозирования структур белка, ответов на вопросы понимания прочитанного и т.д. Они являются одним из самых ярких примеров существенных потенциальных преимуществ, которые искусственный интеллект может предложить миллиардам людей».

В компании утверждают, что обучили LLaMA 65B и LLaMA 33B на 1,4 триллиона токенов. Самая маленькая модель, LLaMA 7B, обучена на одном триллионе токенов.

Как и другие крупные языковые модели, LLaMA работает, принимая последовательность слов в качестве входных данных и прогнозируя следующее слово для рекурсивного генерирования текста. «Чтобы научить нашу модель, мы выбрали текст из 20 языков, на которых говорят больше всего, сосредоточившись на языках с латиницей и кириллицей».

Читайте также: Мы спросили у ChatGPT, чей Крым. Ответ вам не понравится

В блоге отмечают, что еще предстоит провести дополнительные исследования, чтобы устранить риски предвзятости, токсических комментариев и галлюцинаций в больших языковых моделях.

Доступ к модели будет предоставляться на индивидуальной основе и не всем: академическим исследователям; тем, кто связан с организациями в правительстве, гражданском обществе и научных кругах; промышленным исследовательским лабораториям по всему миру. Люди, желающие подать заявку на доступ, могут сделать это здесь.

Техногиганты наперегонки гоняются за правом называться пионерами в области ИИ. Но пока лучше всего это удается OpenAI, которая запустила ChatGPT. Правда, в Украине он заработал совсем недавно. Здесь мы рассказываем почему. А здесь – подборка инструментов на основе ИИ, которые смогут существенно облегчить вашу жизнь и сэкономить время.