X

Блог Oracle в России и СНГ

Ускорение ИИ в облаке Oracle c новыми графическими процессорами NVIDIA A100 и другие предложения Oracle с NVIDIA

На протяжении последних лет Oracle тесно сотрудничает с NVIDIA по нескольким направлениям, включая графические процессоры Pascal поколения P100 и Volta поколения V100 Tensor Core. Именно благодаря поддержке аппаратного ускорения стали возможны такие сценарии применения инфраструктуры Oracle Cloud Infrastructure как поиск нефтяных месторождений, секвенирование ДНК и рендеринг анимированного контента.

Мы рады сообщить о скором появлении экземпляров Oracle Cloud Infrastructure на базе самого современного и мощного поколения графических процессоров NVIDIA A100 Tensor Core. NVIDIA A100 — это первый в отрасли графический процессор с возможностью гибкого разбиения на несколько виртуальных (multi-instance GPU). Он предназначен для выполнения задач глубокого обучения, инференса, высокопроизводительных вычислений (HPC) и аналитики. Благодаря новым графическим процессорам NVIDIA A100 наши клиенты смогут извлекать еще большую пользу из своих данных и быстрее внедрять инновации.

Экземпляры с графическими процессорами NVIDIA A100 Tensor Core

Новые экземпляры также будут оснащены процессорами AMD EPYC второго поколения с тактовой частотой 2,9 ГГц, имеющими до 64 физических ядер, и локальными накопителями NVMe для обеспечения быстрого доступа к данным при нагрузках со множеством контрольных точек.

Кроме того, экземпляры с графическими процессорами будут первыми в Oracle Cloud Infrastructure, поддерживающими кластерные сети. Высокоскоростные кластерные сети с технологией межсоединения RDMA позволят выполнять нагрузки MPI с задержкой менее 2 мкс. А пропускная способность экземпляров с новыми графическими процессорами NVIDIA A100 составит при этом свыше 1,6 Тбит/с!

Только представьте, какие возможности открывает объединение современных мощных графических процессов в один кластер! Из экземпляров Bare Metal с графическими процессорами можно будет создавать кластеры для поддержки крупномасштабных распределенных нагрузок, таких как обучение ИИ или полномасштабное HPC-моделирование, например задач вычислительной гидродинамики или краш-тестов. Кроме того, их можно будет объединять в произвольной комбинации с существующими экземплярами для высокопроизводительных вычислений, поддерживающими подключение к кластеру. Такая гетерогенная инфраструктура еще более расширяет функциональность и гибкость использования и открывает доступ к многочисленным новым сценариям применения, ранее недоступным в облаке.

Новые экземпляры Bare Metal и экземпляры виртуальных машин с графическими процессорами станут доступны для заказа уже осенью. Они дополнят имеющееся предложение на базе графических процессоров, рассчитанное на любые ценовые категории и сценарии использования. Стоимость составит 3,05 доллара США в час в расчете на графический процессор.

Предложение экземпляров Bare Metal и виртуальных машин с графическими процессорами

Развитие сотрудничества с NVIDIA

Кроме применения новых графических процессоров, Oracle сотрудничает с NVIDIA и по ряду других проектов. Эти проекты будут способствовать расширению экосистемы и обеспечат нашим клиентам новые возможности развития их бизнеса благодаря ускорению вычислений в Oracle Cloud Infrastructure.

  • NVIDIA Inception и Oracle for Startups. Стартапы, соответствующие требованиям для участия в программе NVIDIA Inception, могут воспользоваться преимуществами программы Oracle for Startups. Они могут получить облачные кредиты на сумму до 100 000 долларов США и использовать их для приобретения экземпляров виртуальных машин с графическими процессорами из портфеля Oracle Cloud Infrastructure, таких как NVIDIA V100 и, когда они станут доступны, NVIDIA A100. В свою очередь участники программы Oracle for Startups также могут воспользоваться преимуществами программы Inception.
  • Виртуальные машины на Oracle Marketplace для исследования данных и работы с ИИ. Новые графические процессоры NVIDIA A100 специально созданы для анализа и обработки данных, а также рабочих нагрузок с использованием ИИ. Для таких нагрузок существует целая экосистема приложений и библиотек с широкой функциональностью на основе открытого кода. Доступность новых, предварительно настроенных виртуальных машин на Oracle Marketplace позволит специалистам по обработке и анализу данных развертывать и запускать нагрузки за считаные минуты. Образы можно легко устанавливать прямо из Oracle Cloud Marketplace.
  • Oracle Cloud Infrastructure Data Science. Этот сервис предлагает управляемую среду для совместной работы с данными и позволяет легко создавать, обучать и контролировать модели в Oracle Cloud. Сервис поддерживает Python и JupyterLab. Кроме того, он поддерживает наиболее популярные пакеты на основе открытого кода для глубокого обучения (такие как TensorFlow, Keras, PyTorch и MXNET), машинного обучения (например, scikit-learn и xgboost), а также библиотеки для визуализации данных (такие как Plotly, matplotlib). В будущих версиях специалисты по анализу и обработке данных также смогут использовать NVIDIA A100s, что позволит ускорить крупномасштабные матричные вычисления и распараллелить крупномасштабные задачи машинного и глубинного обучения. Кроме того, Oracle и NVIDIA объединили усилия по реализации потокового прогнозирования в реальном времени с помощью ускорения MSET2.
  • GraalVM. Oracle Labs, наше передовое исследовательское подразделение, работает с NVIDIA над интеграцией библиотек CUDA-X в популярную у разработчиков среду для разработки корпоративных приложений GraalVM. Интеграция позволяет обеспечить эффективный обмен данными между графическими процессорами и языками GraalVM (R, Scala, Java, JavaScript) и запускать ядра графических процессоров непосредственно из этих языков.  Благодаря projectgrCUDA разработчики корпоративных приложений смогут легко интегрировать в существующие программные стеки библиотеки, где для ускорения выполнения используются графические процессоры.

 

С чего начать

Познакомиться с возможностями Oracle Cloud Infrastructure и получить доступ к новым предложениям Oracle можно, воспользовавашись бесплатными кредитами и сервисами Always Free.

 

Оригинал

Be the first to comment

Comments ( 0 )
Please enter your name.Please provide a valid email address.Please enter a comment.CAPTCHA challenge response provided was incorrect. Please try again.