В Google рассказали, что их суперкомпьютер лучше того, который для обучения искусственного интеллекта используют в Microsoft

Компания Google в среду обнародовала информацию об одном из суперкомпьютеров собственной разработки, предназначенных для работы с технологиями искусственного интеллекта. В компании утверждают, что он даже лучше того, который для усовершенствования ChatGPT создала Microsoft. Пересказываем, что о нем известно.

Machine learning concept as modern technology

Google с 2016 года разрабатывает и разворачивает чип под названием Tensor Processing Unit для искусственного интеллекта. В компании уверены, что он быстрее и эффективнее конкурирующих систем, поскольку энергоемкие модели машинного обучения остаются самой популярной частью индустрии технологий.

Модели и продукты искусственного интеллекта, такие как Bard или ChatGPT, работающий на компонентах A100 от Nvidia, нуждаются в большом количестве компьютеров и сотнях или тысячах чипов для совместной работы для обучения моделей. Обычно они не выключаются ни на мгновение месяцами.

Инженеры Google объединили в одну систему более четырех тысяч тензорных блоков обработки (TPU). Это специфические интегральные схемы обучения нейросетей и ускорения расчетов, которые выполняет искусственный интеллект. Система работает с 2020 года и использует большую языковую модель Google PaLM. Исследователи утверждают, что их суперкомпьютер примерно в 1,2–1,7 раза быстрее аналога Microsoft, еще и потребляет в 1,3–1,9 раза меньше энергии.

Значительная мощность, необходимая для разработки искусственного интеллекта, стоит дорого, поэтому многие в отрасли сосредоточились на создании новых чипов, компонентов вроде оптических соединений и программных методов, которые «сжимают» ее. Простыми словами, как при архивировании файлов. Хотя в Google признают, что их TPU могут уступать в производительности последним разработкам, в компании уверены, что именно их суперкомпьютер сейчас лучший для обучения больших языковых моделей.

• Напомним, искусственный интеллект Bard хочет выступить против Google в рассмотрении дела о монополизации цифровой рекламы, а стремление компании сэкономить дошло до того, что у сотрудников забирают даже степлеры и скотч.