Новости

В macOS Tahoe 26.2 вы можете превратить кластер компьютеров Mac в суперкомпьютер с искусственным интеллектом

Кому нужен обновленный Mac Pro, когда можно просто объединить несколько Mac Studio в единую вычислительную систему? В предстоящем выпуске macOS Tahoe 26. 2 Apple представляет новую функцию с низкой задержкой, которая позволяет подключать несколько компьютеров Mac друг к другу с помощью Thunderbolt 5. Для разработчиков и исследователей это потенциально полезный способ создания мощных суперкомпьютеров с искусственным интеллектом, которые могут запускать массивные локальные модели. Это позволяет четырем Mac-студиям, каждая из которых может использовать до 512 ГБ объединенной памяти, работать с моделью Kimi-K2 с параметрами в 1 трлн гораздо эффективнее, чем ПК с мощными графическими процессорами.

Хотя мы уже видели кластеры Thunderbolt Mac, они были ограничены более низкие скорости Thunderbolt, особенно если для них требуется концентратор (который может снизить скорость до 10 Гбит/с). Новая функция Apple обеспечивает полноценное подключение к Thunderbolt 5 со скоростью до 80 Гб/с. Возможности кластеризации также не ограничиваются только дорогостоящей Mac Studio, они также будут работать с Mac Mini M4 Pro и MacBook Pro M4 Pro/Max. Разработчикам не потребуется никакого специального оборудования для создания кластеров, достаточно стандартных кабелей Thunderbolt 5 и совместимых компьютеров Mac. В демонстрации я наблюдал, как кластер из четырех Mac Studios загружал и запускал эту мощную модель, основанную на Kimi-K2, в ранней версии EXO 1. 0 от ExoLabs. Примечательно, что кластер потреблял менее 500 Вт энергии, что составляет около В 10 раз ниже, чем у обычного графического процессора (RTX 5090 от NVIDIA рассчитан на 575 Вт, но его требования могут быть и выше).

macOS Tahoe 26. 2 также предоставит проекту Apple MLX project полный доступ к нейронным ускорителям на чипе M5 с открытым исходным кодом, что должно значительно повысить производительность. ускорьте вывод данных с помощью искусственного интеллекта. Однако, по иронии судьбы, единственный доступный на сегодняшний день Mac M5 — 14-дюймовый MacBook Pro — поддерживает только Thunderbolt 4. Это означает, что он не сможет воспользоваться преимуществами новой возможности кластеризации Mac.

Благодаря унифицированной памяти и маломощному дизайну Apple Silicon компьютеры Mac уже стали отличным выбором для сложной работы с искусственным интеллектом, но возможность объединения нескольких систем в кластер с помощью Thunderbolt 5 потенциально еще более привлекательна для тех, кто работает с большими моделями. Конечно, Mac Studio с 512 ГБ оперативной памяти стоит недешево — стоимость чипа M3 Ultra начинается от 9 499 долларов, — но это только самый дорогой вариант. Лаборатории и компании, у которых уже есть Mac Studios, Mac minis и MacBook Pro, потенциально могут создать кластерные системы, которые они уже приобрели.


Другие статьи: