Недешевое удовольствие. Поддержка ChatGPT может ежедневно обходиться примерно в $700 тыс.

По оценкам аналитиков, работа ChatGPT может стоить OpenAI примерно $700 тыс. в день из-за дорогих серверов. Основная проблема состоит в том, что искусственный интеллект нуждается в огромной вычислительной мощности, чтобы отвечать на запросы, пишет Business Insider.

LOS ANGELES, USA, JANUARY 30, 2023: Open AI. Women in Tech: Solo Software Developer Silhouette with Company Logo in Background

OpenAI ежедневно тратит солидные деньги, чтобы пользователи ChatGPT могли писать сопроводительные письма, составлять планы уроков и оформлять профили на сайтах знакомств. По словам главного аналитика исследовательской фирмы SemiAnalysis Дилана Пателя, это объясняется дорогостоящей технологической инфраструктурой, использующейся искусственным интеллектом.

Именно поэтому Microsoft уже некоторое время тайно работает над созданием аналога чипа от Nvidia. Об этом мы подробно рассказывали здесь.

К слову, оценка в $700 тыс. уже может оказаться неактуальной, поскольку расчеты базировались на сценариях использования языковой модели предыдущего поколения GPT-3. Сейчас умный бот работает на обновленной версии GPT-4, то есть может быть еще более дорогим в эксплуатации.

Хотя обучение больших языковых моделей ChatGPT, вероятно, стоит десятки миллионов долларов, операционные расходы на развертывание искусственного интеллекта могут быть намного выше. Компании, использующие продукты OpenAI, годами дорого платят за это.

Генеральный директор стартапа Latitude, создающий игры с искусственным интеллектом, Ник Уолтон – один из тех, кто рассказал о собственном опыте. Его компания использует языковую модель для написания подсказок и создания сюжетных линий. На ИИ и оплату за пользование серверами Amazon Web Services он ежемесячно тратил примерно $200 тыс. Впрочем, из-за высокой стоимости решил сменить поставщика языкового программного обеспечения и сократил расходы вдвое.

Вероятно, Microsoft и OpenAI не хотят терять перспективных клиентов вроде Latitude. Поэтому можно предположить, что разработка нового чипа – не единственный шаг для уменьшения затрат на эксплуатацию ChatGPT.

• Напомним, недавно Microsoft представила новый инструмент Bing Image Creator, который генерирует изображения и переносит их прямо в браузер, а также запретила другим компаниям использовать данные из поисковой системы Bing для создания новых чат-ботов.