UniFabriX: Использование технологии памяти CXL для увеличения производительности и оптимизации объема данных в центрах обработки данных

Израильский стартап UniFabriX стремится предоставить многоядерным процессорам объем памяти и пропускную способность, необходимые для выполнения вычислительных задач и задач, требующих интенсивной работы с памятью, таких как AI и машинное обучение.

UniFabriX предлагает свою технологию Smart Memory Node в качестве альтернативы DRAM, подключенной через сокет, которая ограничивает объем памяти и пропускную способность процессоров. Технология UniFabriX основана на CXL (Compute Express Link), отраслевом интерконнекте для процессоров, расширения памяти и акселераторов. Технология CXL поддерживает согласованность памяти между пространством памяти процессора и памятью на подключенных устройствах, что позволяет совместно использовать ресурсы для повышения производительности, снижения сложности программного стека и снижения общей стоимости системы.

Компания была основана в 2020 году Роненом Хайаттом и Дэнни Волкиндом. Хайатт ранее работал архитектором платформ в группе по центрам обработки данных Intel. Позже он присоединился к Huawei в качестве CTO Smart Platforms в 2018 году. Волкинд работал системным архитектором в Intel и позже был нанят Huawei в качестве главного архитектора. Оба партнера начали свою карьеру в Институте технологий Технион в Израиле.

Разобравшись с вызовами рынка центров обработки данных и потенциальными возможностями, дуэт искал решения для преодоления существенного препятствия: ограничений памяти, говорит Миха Рислинг, сооснователь и главный управляющий директор UniFabriX. "Они выяснили, что DRAM становится преградой для масштабирования вычислительных операций".

Когда Smart Memory Node от UniFabriX развертывается в центре обработки данных, он размещается в шасси 2RU, содержащем 32ТБ DDR5 DRAM. "Концепция состоит в том, что подключенные серверы требуют меньше локальной DRAM, поскольку они могут более эффективно использовать общую память от Smart Memory Node", объясняет Рислинг. "Этот подход устраняет проблему локальной DRAM, которая не используется эффективно". UniFabriX оценивает, что DRAM составляет примерно 50% стоимости сервера.

Типичный сценарий использования, говорит Рислинг, - это центр обработки данных, который приобретает серверы по наилучшей возможной цене с достаточной емкостью для запуска базовых приложений. Когда он развертывается в центре кластера, Smart Memory Node от UniFabriX действует как ресурсный пул, из которого серверы могут черпать, когда у них заканчивается память, емкость или пропускная способность.

Совместное использование ресурсов внутри кластера предлагает ряд преимуществ, включая снижение энергопотребления, уменьшение физического размера и повышение гибкости. Поэтому, даже когда оборудованы одинаковым объемом памяти, развертывание кластера с 12 серверами, оснащенными 8ТБ, и тремя Smart Memory Nodes по 32ТБ - общим объемом 192ТБ RAM - было бы на 25% более экономически эффективно с точки зрения операционных расходов, чем кластер из 24 серверов с 8ТБ RAM, объясняет Рислинг.

В UniFabriX верят, что Smart Memory Node отличает его использование CXL. "CXL представляет собой последнее и наиболее значимое продвижение среди различных стандартов, разработанных для обеспечения композиции памяти", говорит он. "Это первый универсально принятый открытый стандарт от крупнейших производителей процессоров, обеспечивающий одновременные транзакции семантики памяти и семантики кэша наряду с существующей IO семантикой PCIe".