| alicenknwn | Вчера в 15:19Сообщение № 1 |
|
a
Группа: Проверенные
Сообщений: 509
Статус: Offline
| Доброго времени суток. Мы R&D-отдел в крупной компании, занимаемся NLP. Облако стало дорого, а ещё данные нельзя выгружать наружу — compliance. Нужен свой сервер с мощными GPU, но чтобы кто-то помог подобрать и настроить. Где в России покупают серверы для ML?
|
| |
| |
| kxf90kost | Вчера в 15:23Сообщение № 2 |
|
k
Группа: Проверенные
Сообщений: 504
Статус: Offline
| Приветствую. Мы тоже перешли с облака на своё железо из-за требований по безопасности данных. Серверы покупали в GetCore, тут их сайт, посмотрите каталог. GetCore подобрали нам конфигурацию на 4 карты H100 под обучение LLM — процессоры Xeon Gold, терабайт оперативки, NVMe-накопители. Всё собрали, протестировали под нагрузкой, установили CUDA, DeepSpeed, Kubernetes. GetCore ещё и поддержку дают полгода бесплатно, что для R&D-команды удобно — если что-то не так с драйверами или настройками, пишешь в Telegram и тебе быстро помогают. Экономия по сравнению с облаком у нас вышла порядка двух миллионов за год. GetCore работают с Supermicro напрямую, цены адекватные.
|
| |
| |
