Я бы при выборе GPU сервера еще обязательно смотрел на то, как вся конфигурация собрана вокруг видеокарты. Мощная GPU сама по себе не гарантирует высокую скорость, если процессор, PCIe или дисковая подсистема не успевают подавать данные. Особенно это важно для серверов с двумя и более GPU. Нужно понимать, сколько линий PCIe получает каждая карта и не ограничивает ли платформа обмен данными. Для обучения моделей на нескольких ускорителях это может влиять на масштабирование сильнее, чем небольшая разница в вычислительной мощности самих видеокарт.
|