Недешеве задоволення. Підтримка ChatGPT може щоденно обходитися приблизно в $700 тис.

За оцінками аналітиків, робота Chat­G­PT може коштувати Ope­nAI приблизно $700 тис. на день через дорогі сервери. Основна проблема полягає в тому, що штучний інтелект потребує величезної обчислювальної потужності, щоб відповідати на запити, повідомляє Busi­ness Insid­er.

Ope­nAI щодня витрачає солідні гроші для того, щоби користувачі Chat­G­PT могли писати супровідні листи, створювати плани уроків та оформлювати профілі на сайтах знайомств. За словами головного аналітика дослідницької фірми Semi­Analy­sis Ділана Пателя, це пояснюється дорогою технологічною інфраструктурою, яку використовує штучний інтелект.

Саме тому Microsoft вже впродовж певного часу таємно працює над створенням аналога чипа від Nvidia. Про це ми детально розповідали тут.

До речі, оцінка в $700 тис. вже може бути неактуальною, оскільки розрахунки базувалися на сценаріях використання мовної моделі попереднього покоління GPT‑3. Зараз розумний бот працює на оновленій версії GPT‑4, тобто може бути ще дорожчим в експлуатації.

Хоча навчання великих мовних моделей Chat­G­PT, ймовірно, коштує десятки мільйонів доларів, операційні витрати на розгортання штучного інтелекту можуть набагато їх перевершувати. Компанії, які використовують продукти Ope­nAI, роками дорого за це платять.

Генеральний директор стартапу Lat­i­tude, що створює ігри зі штучним інтелектом, Нік Волтон – один із тих, хто розповів про власний досвід. Його компанія використовує мовну модель для написання підказок та створення сюжетних ліній. На ШІ та оплату за користування серверами Ama­zon Web Ser­vices він щомісяця витрачав приблизно $200 тис. Втім, через високу вартість вирішив змінити постачальника мовного програмного забезпечення та скоротив витрати вдвічі.

Ймовірно, Microsoft та Ope­nAI не хочуть втрачати перспективних клієнтів на кшталт Lat­i­tude. Тому можна припустити, що розробка нового чипа – не єдиний крок на шляху зменшення витрат на експлуатацію Chat­G­PT.

• Нагадаємо, нещодавно Microsoft представила новий інструмент Bing Image Cre­ator, який генерує зображення та переносить їх просто в браузер, а також заборонила іншим компаніям користуватися даними з пошукової системи Bing для створення нових чат-ботів.