Французский стартап ZML выпустил бесплатное ПО для ускорения работы ИИ

Французский стартап ZML, поддержанный лауреатом премии Тьюринга Яном Лекуном, выпустил программное обеспечение ZML/LLMD. Оно ускоряет вывод данных в ИИ-моделях и работает на разных чипах.

ZML/LLMD совместим с популярными аппаратными платформами, включая NVIDIA, AMD и Graphcore. Разработчики утверждают, что ПО снижает затраты на вычисления без потери качества.

Стартап уже привлек 15 млн евро инвестиций. В команде ZML работают бывшие инженеры Google DeepMind и Meta. Они занимаются оптимизацией больших языковых моделей.

Бесплатная версия ZML/LLMD доступна для коммерческого и исследовательского использования. Платный вариант с расширенными функциями появится в конце года.

Эксперты считают, что инструмент может изменить рынок ИИ-инфраструктуры, упрощая развертывание моделей на недорогом оборудовании.

ZML тестирует технологию с 10 клиентами из Европы и США, включая две крупные облачные платформы.