Недешевое удовольствие. Поддержка ChatGPT может ежедневно обходиться примерно в $700 тыс.

По оценкам аналитиков, работа Chat­G­PT может стоить Ope­nAI примерно $700 тыс. в день из-за дорогих серверов. Основная проблема состоит в том, что искусственный интеллект нуждается в огромной вычислительной мощности, чтобы отвечать на запросы, пишет Busi­ness Insid­er.

LOS ANGELES, USA, JANUARY 30, 2023: Open AI. Women in Tech: Solo Soft­ware Devel­op­er Sil­hou­ette with Com­pa­ny Logo in Back­ground

Ope­nAI ежедневно тратит солидные деньги, чтобы пользователи Chat­G­PT могли писать сопроводительные письма, составлять планы уроков и оформлять профили на сайтах знакомств. По словам главного аналитика исследовательской фирмы Semi­Analy­sis Дилана Пателя, это объясняется дорогостоящей технологической инфраструктурой, использующейся искусственным интеллектом.

Именно поэтому Microsoft уже некоторое время тайно работает над созданием аналога чипа от Nvidia. Об этом мы подробно рассказывали здесь.

К слову, оценка в $700 тыс. уже может оказаться неактуальной, поскольку расчеты базировались на сценариях использования языковой модели предыдущего поколения GPT‑3. Сейчас умный бот работает на обновленной версии GPT‑4, то есть может быть еще более дорогим в эксплуатации.

Хотя обучение больших языковых моделей Chat­G­PT, вероятно, стоит десятки миллионов долларов, операционные расходы на развертывание искусственного интеллекта могут быть намного выше. Компании, использующие продукты Ope­nAI, годами дорого платят за это.

Генеральный директор стартапа Lat­i­tude, создающий игры с искусственным интеллектом, Ник Уолтон – один из тех, кто рассказал о собственном опыте. Его компания использует языковую модель для написания подсказок и создания сюжетных линий. На ИИ и оплату за пользование серверами Ama­zon Web Ser­vices он ежемесячно тратил примерно $200 тыс. Впрочем, из-за высокой стоимости решил сменить поставщика языкового программного обеспечения и сократил расходы вдвое.

Вероятно, Microsoft и Ope­nAI не хотят терять перспективных клиентов вроде Lat­i­tude. Поэтому можно предположить, что разработка нового чипа – не единственный шаг для уменьшения затрат на эксплуатацию Chat­G­PT.

• Напомним, недавно Microsoft представила новый инструмент Bing Image Cre­ator, который генерирует изображения и переносит их прямо в браузер, а также запретила другим компаниям использовать данные из поисковой системы Bing для создания новых чат-ботов.