🔧 Индийский стартап Ziroh Labs разработал систему, которая позволяет запускать передовые ИИ-модели без необходимости использовать мощные чипы.

Платформа Kompact AI разработана совместно с Индийским технологическим институтом в Мадрасе. Она дает возможность нейросетям эффективно работать на центральных процессорах (CPU), используемых в обычных вычислительных устройствах. 

Стартап ориентируется на процесс вывода, то есть работу ИИ-модели после ее обучения. Он оптимизирует ведущие нейросети для применения на ПК. В качестве примера продемонстрирована работа Llama 2 от Meta и Qwen2.5 от Alibaba на ноутбуке с процессором Intel Xeon.

Новости | AI | YouTube