При выборе GPU сервера я бы начинал не с модели видеокарты, а с объема VRAM и характера задачи. Для генерации изображений, инференса и части задач компьютерного зрения 24 ГБ видеопамяти обычно дают нормальный запас. Для более крупных моделей, высокого разрешения и нескольких одновременных процессов уже имеет смысл смотреть на 32 ГБ и выше. Из провайдеров можно рассмотреть HOSTKEY. У них есть выделенные GPU серверы, где видеокарта не делится между несколькими виртуальными машинами. Для длительного обучения и постоянных вычислений это важный момент, поскольку производительность получается более предсказуемой.
|