Я бы к выбору GPU сервера добавил еще проверку поведения видеокарты под длительной нагрузкой. Короткий benchmark может показать хорошую производительность, но для обучения нейросети или постоянного инференса гораздо важнее, как GPU работает несколько часов подряд. После получения сервера я обычно смотрю загрузку GPU, частоты, температуру, потребление памяти и наличие ошибок Xid. Если под длительной нагрузкой начинаются просадки частоты, это уже напрямую влияет на время обучения. Для круглосуточных вычислений стабильная производительность для меня важнее максимального результата в коротком тесте.
|