В Китае представили технологию для объединения тысячи ИИ-чипов

Китайская Biren Technology представила архитектуру оптических соединений, которая может объединять до 1024 ИИ-ускорителей в один вычислительный кластер, сообщает El.kz.

South China Morning Post. Разработка рассчитана на центры обработки данных и обучение крупных моделей искусственного интеллекта.

По данным издания, компания делает ставку на передачу данных с помощью света. Такой подход должен помочь обойти ограничения электрических соединений, которые используются в современных серверных платформах.

Речь идет о технологии near-packaged optics, или NPO. При таком решении оптические компоненты размещают близко к вычислительным чипам, чтобы увеличить скорость обмена данными и снизить задержки.

Для систем ИИ это критично: большие модели работают не на одном процессоре, а на кластерах из множества графических процессоров и ускорителей. Чем быстрее они обмениваются данными, тем эффективнее работает вся система.

В Biren заявляют, что новая архитектура потенциально поддерживает кластеры до 1024 ИИ-ускорителей. Для сравнения, существующие серверные решения на электрических соединениях, по оценке компании, обычно ограничены примерно 128 графическими процессорами.

Оптические соединения активно рассматриваются как одно из направлений развития ИИ-инфраструктуры. Broadcom ранее отмечала, что перенос оптики ближе к чипам помогает снизить энергопотребление и направить больше ресурсов на вычисления.

Biren Technology работает в Шанхае и разрабатывает графические процессоры, ускорители и серверные решения. На фоне ограничений в доступе к зарубежным чипам такие разработки становятся частью курса Китая на развитие собственной ИИ-инфраструктуры.

Ранее мы рассказывали, что в Казахстане открыли набор на две бесплатные образовательные программы в сфере IT и цифрового творчества.