Квантование нейросетей. Причём здесь Платон?

2 апреля Салищев Сергей Игоревич рассказал о квантовании классификаторов и связи с кодированием.

🔽У квантования цель — снижение вычислительных затрат и энергопотребления при сохранении точности результата.

Прозвучали идеи Платона в машинном обучении⬇️

Представьте, что у каждого объекта есть «идеальная версия». Возьмём стол. В нейросетях ему соответствует идеализированный набор признаков (форма, цвет, текстура), который определяет класс. Но столы бывают разные. Как классифицировать?

Здесь идёт работа с «шумом».

➡️Устойчивость модели к входному шуму достигается за счёт плавного изменения кодовых слов в пространстве признаков через стохастический градиентный спуск для оптимизации.

Задача — сделать так, чтобы даже с помехами результат был верным.

❓Что это даст на практике?
✔️Упрощение нейросетей без потери точности результата.

Следующий семинар 9 апреля. Сотрудники Научного офиса Центра ИИ СПбГУ представят свои доклады. Ссылку для регистрации опубликуем позже. Следите за обновлениями🖥