Могут ли 1 000 разных компьютеров стать суперкомпьютером?

Какие задачи подходят разным машинам

Отделяйте независимые задания от тесно связанных вычислений. Отдельные кадры или документы допускают неодинаковые узлы; симуляция с обменом граничными значениями на каждом шаге может ждать самого медленного участника. Учтите наборы инструкций, память, ускорители, ОС, драйверы и сеть. Разделите совместимые ресурсы, подготовьте данные и задайте требования планировщику. Slurm координирует разнородные компоненты задания, но не объединяет физическую память в единое прозрачное адресное пространство.

Почему тысяча узлов не даёт тысячекратного ускорения

Идеальная модель Амдала: S(N)=1/((1−p)+p/N). При идеально параллельных 99% фиксированной задачи 1 000 одинаковых исполнителей дают примерно 91-кратное ускорение, а не тысячекратное. При 99,9% предел около 500. Это расчётные верхние границы без обмена, дисбаланса и отказов, не измерения. Для разных машин измеряйте завершённую работу за единицу времени и накладные расходы, не считая узлы равными.

Расти от измеренного пилота

До расширения испытайте типовые задачи на 8, 32 и 128 узлах. Фиксируйте производительность, хвост времени завершения, энергию на задание и восстановление. Тысяча условных узлов по 250 Вт требует 250 кВт ИТ-мощности без сети и охлаждения.

Совместимость ПО проверяется отдельно: Open MPI 5 описывает ограничения разных представлений данных. Проверяйте конкретный стек, разделяйте несовместимые архитектуры, применяйте контрольные точки и резерв мощности. Экономичная сетка независимых задач иногда полезнее тесно связанного суперкомпьютера.