Конкурент ChatGPT? Цукерберг розповів, що Meta запустила власну модель ШІ LLaMA

Meta запустила власну модель штучного інтелекту LLaMA. Щоправда, доступною вона буде не для всіх. Розповідаємо, хто зможе попрацювати з нею та як отримати доступ.

«Ми випускаємо нову сучасну велику мовну модель штучного інтелекту під назвою LLaMA, призначену для того, щоб допомогти дослідникам просувати свою роботу. LLM показала багато перспектив у створенні тексту, веденні бесід, узагальненні письмового матеріалу та на більш складних завданнях, таких як розв’язування математичних теорем або прогнозування структур білка», – написав Марк Цукерберг у своєму Facebook.

Він додав, що Meta дотримується відкритої моделі дослідження, і зробить нову модель доступною для спільноти дослідників ШІ.

У своєму блозі компанія повідомила, що модель має 65 мільярдів параметрів.

Meta робить LLaMA доступною в кількох версіях (параметри 7B, 13B, 33B і 65B), а також дасть інструкцію до LLaMA, де детально описано, як ця модель побудована, відповідно до практики відповідального ШІ.

«За останній рік великі мовні моделі – системи обробки природної мови (NLP) із мільярдами параметрів – показали нові можливості для генерації креативного тексту, вирішення математичних теорем, прогнозування структур білка, відповідей на запитання щодо розуміння прочитаного тощо. Вони є одним із найяскравіших прикладів істотних потенційних переваг, які штучний інтелект може запропонувати мільярдам людей».

В компанії стверджують, що навчили LLaMA 65B і LLaMA 33B на 1,4 трильйона токенів. Найменша модель, LLaMA 7B, навчена на одному трильйоні токенів.

Як і інші великі мовні моделі, LLaMA працює, приймаючи послідовність слів як вхідні дані та прогнозуючи наступне слово для рекурсивного генерування тексту. «Щоб навчити нашу модель, ми вибрали текст із 20 мов, якими розмовляють найбільше, зосередившись на мовах з латиницею та кирилицею».

Читайте також: Ми спитали в ChatGPT, чий Крим. Відповідь вам не сподобається

У блозі зазначають, що ще потрібно провести додаткові дослідження, щоб усунути ризики упередженості, токсичних коментарів і «галюцинацій» у великих мовних моделях.

Доступ до моделі надаватимуть на індивідуальній основі та не всім: академічним дослідникам; тим, хто пов’язаний з організаціями в уряді, громадянському суспільстві та наукових колах; промисловим дослідницьким лабораторіям по всьому світу. Люди, які бажають подати заявку на доступ, можуть зробити це тут.

Техногіганти наввипередки ганяються за правом називатися піонерами в галузі ШІ. Але поки найкраще це вдається OpenAI, яка запустила ChatGPT. Щоправда, в Україні він запрацював зовсім недавно. Тут ми розповідаємо, чому. А тут – підбірка інструментів на основі ШІ, які зможуть суттєво полегшити ваше життя й заощадити час.