... буду аналитегом

#meme

Прочитал решение первого места с Lux AI

1000 фичей на каждый тайл 24*24 карты! большая часть бинарных, около 100 числовых. фичи в основном про историю того, что видели на данной клетке в прошлом, как давно это было и так далее.

Архитектура очень нетривиальная, мне нравится. Две головы, где одна отвечает за предсказание действие всех агентов и своих и вражеских и одна для предсказания атакующих действий.

ConvLSTM для учета предыдущих действий и трансформер поверх - это забавно, позволяет держать трансформер маленьким, не запихивая в него энкоды предыдущих шагов.

Не использовали Behavior Cloning как многие в топе в финальном решении и его обучении.

Обучали IMPALA (асинхронные агенты RL) + V-trace (корректировка оценок для борьбы со смещениями из-за устаревших треков).

Мне понравились идеи:
* Играли против учителя (лучшей последней модели), текущей и еще пачки старых, чтобы избежать оверфита.
* KL с учителем, чтобы не терять приобретенные навыки
* динамические реворды: реворды могут прыгать, поэтому давайте заскейлим их на каждом шаге в определенный диапазон
* убывающие коэффициенты энтропии по мере обучения (тут я не до конца понял) что заставляет policy автоматически скейлиться по мере улучшения модели
* аугментации с флипами поля (вот они почему довольно симметрично играют сами с собой!)
* стратегия участия в сореве: не хотим чтобы нас копировали через imitation learning, поэтому выкладываем только слабые улучшения, а сильные играют только небольшое количество времени; поскольку противники обладают меньшей информацией - какая версия сильная, а какая слабая, то им сильно сложнее копировать

Что-то еще интересное упустил, наверное. Точно не смог бы по описанию повторить, дюже сложно.

RL работает 👍

удачи тем, кто решает https://www.kaggle.com/competitions/march-machine-learning-mania-2025 осталось чуть-чуть

Медленно и печально разбираю ежегодное соревнование на распознание голосов птичек BirdCLEF+2025. В этом году предстоит классифицировать 206 различных видов, включая не только птиц, но земноводных и насекомых.

Кто сказал pyboost?

Особенности: модель должна работать на 4-ядерном 2.2GHz CPU, за 90 минут классифицируя 700 минутных записей, причем предсказание должно быть дано для 12 последовательных 5-секундных интервалов.

В тренировочной выборке практически только один регион, в котором были сделаны записи - Колумбия. В тесте, однако, есть заведомо другие регионы. Московский акцент чирикания, ага.

Метрика мультикласс ROC-AUC с выбрасываем классов, которые не представлены в тесте (отдельно паблике, отдельно прайвате)

Валидация посему очень странная; обычно в этих соревнованиях нет способа выстроить близкую по значениям валидацию (0.99х на страт-фолдах трейна превращаются в 0.7 на паблике).

Часть записей содержит голос меланхоличного испанского пост-дока, зачитывающего условия, в которых сделан данный трек

Стандартный подход: превращаем аудио-фрагменты в mel-спектрограммы, отрисовываем в картинку и классифицируем CNN-ками. Особенности, что модель лучше всего инференсить на OpenVINO из-за специфики ограничений.

Ключевые факторы: найти удачную валидацию, почистить датасет, хорошие аугментации, придумать хитрый пост-процессинг (мы классифицируем соседние 5-секундные отрезки аудио), сделать быстрый код для инференса.

Зависимость от внешних датасетов как-будто бы каждый год падает, победители предыдущего уже не использовали внешние, а просто хорошо запроцессили данный.

запустили пару сорев теперь с отлаженными датасетами.

как предыдущая, но по 100 перестановок на каждый n, алгоритм так просто не заточишь:
https://www.kaggle.com/competitions/lrx-discover-math-gods-algorithm/

отдельно интересная задача, где вместо перестановки чисел поровну 0 и 1:
https://www.kaggle.com/competitions/lrx-binary-in-search-of-gods-number/leaderboard

универсальный алгоритм не нашли, но и не доказали его отсутствия. трансформеры работают, RL нет. я, впрочем, интерес к задаче утратил, увы.

Соревнование закончилось очень быстро, не сильно дольше, чем я его готовил. Поздравляю, @Luxoove и @VeennnN - большие молодцы! 🎉 Хорошо, что приз не успели сделать 😂

Подумал, что часто ожидания хоста соревы от решений расходятся с реальностью на каггле. Любые ограничения подталкивающие в сторону необходимого - зло, как мне кажется. Если задача решается естественным путем вот так, а не иначе, значит просто плохо подобрана задача. С другой стороны, создателю задачи тяжело, он не может придумать все те хаки, которые придумают участники.

Интересный опыт!

У меня есть еще одна задача на ту же тему, но в ней хорошо бы code competition, чтобы не решали тест вручную. LLM довольно неплохо генерит алгоритмы, а если ей задавать уточняющие вопросы, то она приходит к хорошим, а иногда оптимальным решениям.

Можно ли, ограничившись некоторым классом задач (группы перестановок с произвольными образующими), заставить ее генерить алгоритмы решения (перевод произвольной перестановки в единичную за минимальное число ходов или, что то же самое, представление любой перестановки за минимальное число образующих. Мне на основе небольшого опыта с ними, кажется, что можно. Уж от подходов в решении этой задачи точно было бы много пользы науке.

Неожиданное. Запустил сореву на каггле. https://www.kaggle.com/competitions/lrx-oeis-a-186783-brainstorm-math-conjecture/overview

Хорошее решение ML/RL-ем имеет важное прикладное значение и можно стать соавтором статьи. Алгоритмические не так интересны, потому что плохо обобщаются.

Добавил код алго-бейзлайна и Beam Search с трансформером