Недешеве задоволення. Підтримка ChatGPT може щоденно обходитися приблизно в $700 тис.

За оцінками аналітиків, робота ChatGPT може коштувати OpenAI приблизно $700 тис. на день через дорогі сервери. Основна проблема полягає в тому, що штучний інтелект потребує величезної обчислювальної потужності, щоб відповідати на запити, повідомляє Business Insider.

OpenAI щодня витрачає солідні гроші для того, щоби користувачі ChatGPT могли писати супровідні листи, створювати плани уроків та оформлювати профілі на сайтах знайомств. За словами головного аналітика дослідницької фірми SemiAnalysis Ділана Пателя, це пояснюється дорогою технологічною інфраструктурою, яку використовує штучний інтелект.

Саме тому Microsoft вже впродовж певного часу таємно працює над створенням аналога чипа від Nvidia. Про це ми детально розповідали тут.

До речі, оцінка в $700 тис. вже може бути неактуальною, оскільки розрахунки базувалися на сценаріях використання мовної моделі попереднього покоління GPT-3. Зараз розумний бот працює на оновленій версії GPT-4, тобто може бути ще дорожчим в експлуатації.

Хоча навчання великих мовних моделей ChatGPT, ймовірно, коштує десятки мільйонів доларів, операційні витрати на розгортання штучного інтелекту можуть набагато їх перевершувати. Компанії, які використовують продукти OpenAI, роками дорого за це платять.

Генеральний директор стартапу Latitude, що створює ігри зі штучним інтелектом, Нік Волтон – один із тих, хто розповів про власний досвід. Його компанія використовує мовну модель для написання підказок та створення сюжетних ліній. На ШІ та оплату за користування серверами Amazon Web Services він щомісяця витрачав приблизно $200 тис. Втім, через високу вартість вирішив змінити постачальника мовного програмного забезпечення та скоротив витрати вдвічі.

Ймовірно, Microsoft та OpenAI не хочуть втрачати перспективних клієнтів на кшталт Latitude. Тому можна припустити, що розробка нового чипа – не єдиний крок на шляху зменшення витрат на експлуатацію ChatGPT.

• Нагадаємо, нещодавно Microsoft представила новий інструмент Bing Image Creator, який генерує зображення та переносить їх просто в браузер, а також заборонила іншим компаніям користуватися даними з пошукової системи Bing для створення нових чат-ботів.