HIGGS от Яндекса: суперкомпьютер больше не нужен для работы с ИИ

Исследователи Яндекса совместно с учёными из ведущих мировых институтов - НИУ ВШЭ, MIT, KAUST и ISTA - разработали революционный метод сжатия.  Новая технология получила название Hadamard Incoherence with Gaussian MSE-optimal GridS (HIGGS) и позволяет запускать даже самые мощные языковые модели на смартфонах и ноутбуках.

Новый метод HIGGS способен эффективно сжимать гигантские модели, такие как DeepSeek-R1 с 671 млрд параметров. До сегодняшнего дня такие модели можно было квантовать только простейшими методами, что неизбежно приводило к существенной потере качества их работы.

https://mltimes.ai/higgs-ot-yandeksa-superkompyuter-bolshe-ne-nuzhen-dlya-raboty-s-ii/