- виртуализация
Анализ больших массивов данных, обработка тяжелых изображений или потокового видео требуют серьезных вычислительных мощностей. Их можно получить и с серверами на многоядерных центральных процессорах (CPU), но гораздо эффективней использовать виртуальные серверы с GPU. Такие серверы поддерживают многопоточную обработку и параллельные вычисления, ощутимо ускоряя обучение нейронных сетей, рендеринг трехмерной графики, статистический анализ и другие ресурсоемкие задачи. Какие именно — разберем в этом материале.
Анализ больших данных и моделирование процессов
В отраслях, где для получения консолидированного отчета, вывода или прогноза приходится обрабатывать огромные массивы сырых и обезличенных данных, сервера с GPU помогают решить три больших задачи:
- Ускорить подготовку данных к обработке: очистку, преобразование, поиск структурных ошибок, удаление дублирующихся записей.
- Сократить количество итераций и время на проверку качества наборов данных.
- Анализировать многотерабайтные массивы информации целиком, не разбивая большой объем данных на более мелкие фрагменты и, соответственно, не жертвуя точностью результата.
Что важно, графические процессоры можно использовать для ускорения отдельных этапов и всего цикла анализа, от подготовки до визуализации. Причем для любой отрасли и любого типа данных. Например, для показателей температуры/влажности/кислотности с датчиков, сенсоров и IoT в промышленности или складской логистике. Для когортного анализа в маркетинге. Для прогнозирования объема продаж, корреляции количества возвратов и рекламаций, оценки остатков в ритейле.
Кому актуально: наш опыт показывает, что облачные серверы с GPU экономически эффективны при обработке big data в объеме более 150 Гб в сутки, и для компаний, которые на основании анализа принимают краткосрочные управленческие решения и строят долгосрочные стратегии развития.
Глубокое обучение нейронных сетей
Для нейронных сетей с тремя или более слоями глубокое обучение предполагает обработку гигантских массивов данных, причем не последовательно, а независимо друг от друга. Реализовать это на серверах с CPU можно, но дорого и долго.
Облачные сервера с GPU за счет массивно-параллельной технологии ускоряют обучение сети и, что еще важнее, уменьшают стоимость вычислений. То есть, произведение времени параллельного решения задачи на число используемых процессоров у виртуальных серверов с графическими процессами меньше, чем у серверов на многоядерных центральных процессорах. Это отражается на скорости и стоимости реализации проекта в целом.
Кому актуально: виртуальные серверы с GPU упростят обучения нейросетей для стартапов, развивающих технологии распознавания лиц или генерации изображений, научно-исследовательских институтов и команд, работающих над прикладными аспектами технологии в коммерческой разработке.
Обработка изображений и видео
Когда рендеринг требует скорости, GPU нет равных. Серверы с графическими процессорами запускают обработку одновременно десятков, а то и сотен потоков, поэтому широко используются для работы с потоковым видео, визуализации тяжелых медицинских, научных и прикладных графических данных.
В медицине, например, графические процессоры помогают обрабатывать томограммы и исследовать цифровые изображения срезов. На платформах медицинской визуализации они улучшают качество изображений, автоматизируют измерение размерных характеристик анатомических структур и образований. В цифровой хирургии вычислительные мощности GPU дают возможность оптимизировать аналитику потокового видео в 4K. Чтобы операционная бригада владела данными о состоянии пациента в реальном времени.
В сельском хозяйстве, метеорологии, гидрологии оборудование с GPU используют при обработке спутниковых снимков. «Сырые» изображения, которые получает Роскосмос, непригодны для оценки состояния лесов, контроля половодья рек, анализа почв и так далее. Чтобы метеорологи, гидрологи, собственники лесных земель и сельхозугодий получали информативные снимки, системы на базе серверов с GPU предварительно обрабатывают первичные данные: очищают их от шумов и артефактов, размечают, маркируют.
Кому актуально: разработчикам и пользователям 3D-медицинских платформ визуализации. Разработчикам новых медицинских приложений и исследователям, работающим над расширением диагностических возможностей существующих инструментов. Наукоемким проектам и технологическим стартапам в области геофизики, экологии, сейсмологии, сельского хозяйства, урбанистики и других прикладных направлений.
Создание виртуальных рабочих мест с поддержкой систем автоматизированного проектирования
Виртуальные серверы с GPU обеспечивают удаленным сотрудникам и подрядчикам производительность, необходимую для работы над BIM-моделями, визуализации архитектурных проектов в Autodesk Revit Architecture, черчения и моделирования в AutoCAD/ArchiCAD. С VDI на базе облачных ресурсов с GPU компании не нужно устанавливать дорогостоящие графические пакеты на каждый терминал. Достаточно арендовать сервер, чтобы синхронизировать географически распределенную команду и поддерживать совместную работу специалистов с коллекцией несовместимых программных средств.
Кому актуально: архитектурно-конструкторским бюро и застройщикам, дизайн-студиям, разработчикам и пользователям CAD-приложений, цифровых продуктов для инженерного анализа и решения статических и динамических задач. VDI на мощных серверах с графическими процессами упрощают дистанционную работу с программным пакетом САПР в строительстве, судо-, машиностроении и вообще в сегменте промышленного моделирования и реинжиниринга.
Почему именно облачные серверы?
У «железа» с GPU всего три недостатка — дорого, долго, а сейчас еще и дефицитно. Отсюда проблемы с поиском, поставкой, запуском, а потом и с масштабированием проекта.
Облачные серверы, арендованные у провайдера, в этом отношении имеют преимущества:
- Минимум времени на запуск. Выбрали тариф, заключили договор, и виртуальную машину можно настраивать под обработку данных. Некоторые проекты наши клиенты запускают в течение 1-2 недель.
- Тестовый период. Протестируйте сервер на стенде или запустите пилотный проект, по результатам которого уже сделаете выводы об эффективности сервиса. У нас в Nubes на тестовый период выделяется минимум 2 недели.
- Оптимизация затрат. Подбираете сервер с нужной мощностью и оплачиваете его столько, сколько развивается проект. Закончили — отключили услугу.
- Гарантия доступности. Арендуя виртуальный сервер с GPU, вы оплачиваете услугу с гарантией доступности сервиса. SLA регламентирует скорость реакции на запросы и инциденты, устанавливает компенсации за нарушение обязательств.
- Масштабирование по требованию. С ростом ресурсоемкости проекта вы можете добавлять вычислительные мощности по запросу. Без покупки, настройки и обслуживания дополнительного оборудования. Отправляете заявку — получаете нужную мощность.
- Обслуживание. Если вы разворачиваете виртуальный сервер с GPU у себя, вам придется администрировать оборудование и платформу виртуализации самостоятельно. В своих серверных приходится следить за температурой, расходом электроэнергии, чистотой помещений. При аренде виртуального сервера все эти рутинные задачи можно передать облачному провайдеру.
- Решение других ИТ-задач. В нашем случае в понятие «все эти рутинные задачи» входит и информационная безопасность: пользователям виртуальных серверов с GPU доступен полный набор встроенных инструментов киберзащиты NGcloud. В набор входит защита от DDoS-атак уровня L3/L4, сканер уязвимостей IP-адресов в режиме black box, сбор событий ИБ и форензика. Дополнительно провайдер помогает решить задачи резервного копирования и быстрого восстановления из бэкапа.
Помимо технических аспектов у виртуальных серверов с GPU есть и чисто экономические преимущества. Они снижают порог входа в области высокопроизводительных вычислений и позволяют бизнесу использовать передовые технологии без крупных вложений в IT-инфраструктуру.