Корпорация Microsoft рассказала о создании одного из пяти самых мощных суперкомпьютеров на Земле. Его разработали в сотрудничестве и эксклюзивно для некоммерческой исследовательской организации OpenAI, которую основали глава SpaceX Илон Маск и бывший глава венчурного фонда Y Combinato Сэм Альтман. Об этом было заявлено 19 мая в рамках крупной технологической онлайн-конферении Microsoft Build 2020.
Согласно заявлению компании, её суперкомпьютер входит в пятёрку самых мощных в своём роде, если исходить из публичных данных других разработчиков. Система включает в себя 285 000 процессорных ядер (CPU core), 10 000 графических процессоров (GPU), а скорость подключения - 400 гигабит в секунду для каждого GPU-сервера. Размещается в облаке Azure, что обеспечивает суперкомпьютеру быстрое развертывание, надежность датацентров и доступ к сервисам Azure.
Разработка гиганта для OpenAI позволит создать следующее поколение массивных моделей искусственного интеллекта и инфраструктуру для их обучения, доступными широкому кругу организаций и разработчиков во всем мире. Машина будет обрабатывать данные для различных моделей и AI-алгоритмов. Суперкомпьютер будет тренировать следующее поколение массивных распределенных ИИ-моделей, которые могут выполнять более широкий спектр функций и требуют очень больших ресурсов.
Одна большая модель, обученная, к примеру, на миллиардах страниц публично доступных текстов, способна понимать нюансы речи, грамматику и контекст, поэтому может хорошо справляться с несколькими задачами: подводить итоги длинных выступлений, модерировать чат в онлайн-играх и даже генерировать программный код по результатам поиска на GitHub (крупнейший веб-сервис для хостинга IT-проектов и их совместной разработки).