Считаю время на переименование "курса" в "руководства" (по английски — это guide) в моих текстах — среди свежепереписанного это будет примерно 1800 вхождений, там набежит где-то четыре дня full time. В субботу у меня будет информационный семинар по мантрам/канвам/уравнениям/сюжетам (системная, операционная, элегантности/lean, стратегирования), а после него внесу в руководство по системному мышлению пару разделов по материалам объяснительной части семинара. Продолжаю думать над эквивалентностью инженерии личности и инженерии систем с LLM, делаю заметки по свежей литературе (сомнения в важности натаскивания на формальное мышление, замена capability engineering на reliability engineering, оценка получения AI-наставника по системному мышлению и всякому такому — полсотни человек на год это только для "научить learning sciences", и столько же наверняка — "научить системно мыслить"). Развлечения со сведением физики к геометрии: работы Ванчурина и Jussi Lindgren со товарищи. Картинка с цитатой из алгебраического геометра в канале физиков.

https://ailev.livejournal.com/1762199.html (10Кзнаков)

Мои заметки, а также ссылки на видео и слайды по конференции-2025 (девятая) по современной системной инженерии и менеджменту:
— Мой доклад "От школы менеджмента к Совету инженеров-менеджеров"
— Мой доклад "Программа стажировки "Организационное развитие" в 2025 году.
— Доклад на круглом столе «Evolvability/learnability организаций, сообществ, людей»
— Недоученное в детском саду.
— Мы таки развиваем
— Как оно всё было

Картинка — слайд из доклада про смену позиционирования Школы.

https://ailev.livejournal.com/1761815.html

Опубликована программа девятой конференции "Современная системная инженерия и менеджмент-2025", 19-20 апреля 2025 года. Участие бесплатно, докладчики могут приходить в офис Школы системного менеджмента в Москве на Таганке, остальные участвуют онлайн (возможны вопросы докладчикам) через канал Школы в телеграм.

Два дня, 15 докладов, круглый стол, 13 докладчиков.

https://ailev.livejournal.com/1761582.html

Готовлю слайды для моих ближайших мероприятий, там дедлайны как даты этих мероприятий, а дальше шестое — переписка курсов "Инженерия личности и "Системного менеджмента", и там оба текста будут отвечать на заботы HR (он про людей) и отчасти заботы CIO (он про нежить), которые все вместе там "сообщество сотрудников". Один из слайдов, которые объясняет многоуровневое мета-моделирование, и что там надо держать "в уме", а что "на языке". Новая работа Ванчурина и Гусева: атомы учатся быть молекулой, а моделька такого обучения при сравнимой точности-аккуратности тратит меньше компьюта, чем при классическом физическом моделировании. Новое исследование: богатенькие не покупают место в жизни своим детям, они дарят им гены — всё это генетически обусловлено, но по eco-evo-devo раскрывается средой, и я как раз занимаюсь такой средой в клубе создателей. По мотивам дискуссии в gonzo-обзорах: "Большие конференции по AI как GAN архитектуры" — пусть там AI и статьи пишет, а другие AI их будут проверять. А дальше тот же вопрос — радоваться ли тому, что и эту работу отнимет AI (сюрприз: радоваться). Повайбадминил, перенося треки из яндекс.музыки в Spotify — 4o нашла хитрый баг, невидимый глазу, очень круто, огромное число задач high code вдруг стали задачами low code. А ещё Spotify мне кажется чуть глуховатым, ибо там бесплатно и "обычный звук", а я привык к lossless у платной яндекс.музыки — к хорошему быстро привыкаешь.

https://ailev.livejournal.com/1761309.html (12Кзнаков)

Закон Брандолини — это про лёгкость беллетристики, когда важна не правда, а приятная людям форма. Если хочется попсовости, то сразу появляется желтизна как в СМИ, неаккуратность (у AI это accuracy — насколько большое расхождение с правдой). Это легко настраивается, говорить приятную чушь много проще, чем проверять её, опровергать её — но главное, к тебе ведь тянутся люди, поэтому быть душнилой, заумным, неприятным (ибо правда чаще всего неприятна) типом просто невыгодно. Попсовость — это популярность, высокие тиражи, крутой маркетинг. Это всё и про людей, и про нейросетки. Аккуратность зависит от интеллекта, вся эта логика и кругозор ведь в интеллект-стеке. Но этим дисциплинам не учат в школе, не учат в вузе, поэтому "образованные люди" зачастую мыслительно неаккуратны -- ни школьное поголовное, ни вузовское (почти уже тоже поголовное) образование не спасают. И жизненный опыт не спасает. А AI-ассистенты могут помогать только в том случае, если ты их об этом специально попросишь. Но ты не попросишь, ибо после этой просьбы получишь не-попсу, с которой тебе надо будет разбираться, вникать, а это очень мыслезатратно, ну его. Так что всё плохо.

https://ailev.livejournal.com/1761088.html (7Кзнаков)

В моих 17Кзнаках заметок с XV рабочей встречи INCOSE RUS по проблемам системной инженерии:
— про мой доклад по новому курсу "Системная инженерия", а также синонимический ряд чеклистов/канв/уравнений/сюжетов/мантр, все со своими нюансами
— эволюционная инженерия в спектре от "полного знания" и классического проектирования до "полного незнания" и метода проб и ошибок.
— в обучении системных инженеров МИРЭА прорыв: у них в курсе теперь представлен более-менее полноценный инженерный процесс, а не его фрагменты, как раньше. И есть работа руками (моделирование "образовательных роботов"), а не только аналитика.
— инженерия организационных систем и новое разделение труда (архитектор и HR как ответственные за людей и CIO за нелюдей — в том, чтобы организация могла меняться, но ещё и личности в сообществе сотрудников могли меняться). Неожиданный выход на организмы сотрудников ("выгорание" как физиологическое, а не психологическое явление — проявление синдрома усталости надпочечников).
— где искать заметки по предыдущим встречам, всё сильно изменилось буквально за четыре года.

На картинке обсуждаемое разнообразие от "всё однозначно, взял и сделал" до "ничего не понятно, надо много пробовать и ошибаться".

https://ailev.livejournal.com/1760816.html

Какие системы мы обсуждали на тренировках первого шага системного мышления, новые слайды для тренировки. Слайд, на котором вчера больше всего провели времени в ходе тренировки (системное описание графа создателей с расписанной поверх неё мантрой). Шестая тренировка уже объявлена, продолжаем идти по графику всех десяти тренировок серии. Идёт регистрация докладов на нашу IX конференцию "Современный системный менеджмент и инженерия-2025", у меня там два доклада — "От школы менеджмента к клубу мастеров-создателей" про изменение позиционирования ШСМ и "Программа "Организационное развитие"" о переформатировании отдельных курсов в связную учебную программу: почему мы это сделали и что попало в первую такую программу. Про смену позиционирования — идея в том, что это клуб мастеров-создателей систем самой различной природы. Дальше рассказываю про масонов и делаю предложение к программе личного развития (ученик — имеет мастерство учиться) и организационного развития (мастер — умеет менять мир, причём организовывать на это коллективы) добавить программу интеллект-стека (исследователь — может добывать новое знание, то есть менять описание мира). Остающиеся проблемы в метафорах для той культуры, которую мы потихонечку развиваем. Мой рассказ о новой версии курса "Системной инженерии" на XV ежегодной рабочей встрече INCOSE RUS, а ещё буду делать семинар с этим рассказом на полдня 17 мая.

https://ailev.livejournal.com/1760602.html

Написал набор некоторых спекулятивных идей по итогам обсуждения в gonzo-обзорах свежей статьи Ванчурина и новой статьи про непрерывность в LLM. Интересно, очень интересно, подрывы ведь обычно происходят в самом низу системного стека, а этот стек упирается в физику. Но — интересно, а практических результатов пока нет. Зачем тогда писал? Считайте это работой онтолога, который предупреждает, что слова "дискретный", "непрерывный", "квант", "квантовость", "квантование", "квантовоподобность" у разных людей могут в разных ситуациях обозначать абсолютно разное -- и договориться в этой предметной области людям будет крайне трудно, ибо там "косил косой косой косой". LLM тоже с таким очень плохо работают, так что вы предупреждены.

https://ailev.livejournal.com/1760481.html (14Кзнаков)

Начал переписку "Инженерии личности", добавил в черновик сразу 70 вордовых страниц записей в блоге, вопрос тут — для кого пишу: “Следует жить, шить сарафаны и легкие платья из ситца. — Вы полагаете, все это будет носиться? — Я полагаю, что все это следует шить”. Ключевой вопрос тут — эпистемологический, опять пересказываю то, как можно использовать "теории всего" для толкования ситуаций — придумывать новые концепты или перетолковывать старые, использовать старую математику или новую. Оплатил на год спамодавилку для трёх чатов, это примерно по 3тыс. рублей за чат в год, создателям спама — мои лучи поноса. Успел сделать черновик слайдов к лекционному семинару на полдня, выбираю дату, картинка — начальный слайд.

https://ailev.livejournal.com/1760057.html (10Кзнаков)

Переписка "Системной инженерии" шла 3.5 месяца, а результат тут не только "продукт", но и моя обновлённая голова системного инженера (вернее, методолога системной инженерии) — я же более чем подробно прошёл этот свеженький курс! Две группы (открытая и корпоративная) по курсу стартуют уже в конце апреля, а я думаю, что ещё надо сделать с уже готовым курсом (понять про издание книги в Ridero, доклад для INCOSE RUS, вебинар для канала ШСМ, и может ещё что-нибудь для чего-нибудь). Прошла четвёртая тренировка по выявлению системы, много любопытного, публикую даты оставшихся шести тренировок этой первой серии. Открыта запись на мой однодневный лекционный семинар 26 апреля 2025 по мантрам оргразвития (системного мышления, операционной, элегантности/распожаризации/lean, стратегирования). На майские меня пакуют в чемодан и увозят на море в Турцию, будут там главным образом танцевать (а свежие видео моих танцев — ВКонтакте). ChatGPT настояла таки попробовать её картинки, мой запрос к этой игрушке традиционный: "нарисуй системного инженера", причём просил в стиле Альфонса Мухи, но получил в фирменных миядзаковских тонах, которым забиты сейчас все интернеты.

https://ailev.livejournal.com/1759764.html

Закончена очередная большая переписка онлайн-курса "Системная инженерия", теперь это версия 2025 года, согласованная по идеям и терминологии со всеми курсами-пререквизитами.

Основная цель текущей переписки -- это подробней дать идеи эволюционной инженерии, гибкой (agile) инженерной разработки. Существенно обновлены основные понятия: вместо "жизненный цикл", отсылающий к идеям однократного его прохождения и представлениям "водопада" идёт отсылка к "инженерному процессу" (engineering process, иногда в конкретизации software process или с отсылкой именно к разработке development process).

В этой версии уточнено разделение труда: введена явно роль прикладного методолога (функционального проектировщика, функционального архитектора), уточнена роль визионера, уточнена роль инженера внутрненней платформы разработки (идеи DevOps дополнены идеями platform engineering). Инженерные обоснования, как главный технический тренд (после тренда автоматизации инженерии, в том числе с использованием AI) выведены в отдельный раздел.

Объём текста (включая задания) -- 1Мзнак с пробелами (для сравнения: "Рациональная работа" -- 1.2Мзнака, "Системное мышление" -- 2.5Мзнаков, "Методология" -- 1.4Мзнака), текст был существенно дополнен разъяснениями и примерами (объём предыдущей версии курса -- 0.7Мзнаков, так что 30% материала в курсе -- новые).

Разделы:
Введение
1. Безсмасштабная эволюционная системная инженерия
2. Архироль создателя/инженера и разделение инженерного труда
3. Инженерный процесс
4. Прикладная методология предметной области
5. Эволюционная архитектура
6. Эволюционное проектирование
7. DevOps
8. Инженерные обоснования

Основной материал курса изложен с использованием не столько стандартов системной и программной инженерии (они отражают идеи, которые были передовыми больше десяти лет назад, поэтому не отражают произошедшего с тех пор сдвига в эволюционную инженерию, но продолжают использоваться в сильно зарегулированных госорганами больших инженерных проектах создания кибер-физических систем типа атомной электростанции и авианосца, изменений инженерии там можно ожидать очень нескоро), сколько по современной литературе 2017-2025 годов. При этом в курсе нет фрагментов, сгенерированных AI-системами.

В курсе приведено 392 ссылки на первоисточники и 21 обложка рекомендованных книг (картинка в посте в ЖЖ — как раз эти обложки, над каждой книгой — год её издания).

https://ailev.livejournal.com/1759527.html

Открыт набор на лекционный семинар - Мантры по организационному развитию

Мантры по организационному развитию – это чеклисты проверки мышления. Наиболее близкий к ним инструмент — это канва ("шаблон для вышивания", canvas — наиболее известные тут business model generator, применяемая в методологии lean startup).

Лектор: Анатолий Левенчук
Пререквизит: отсутствует (но максимальная польза будет у прошедших хотя бы начальные курсы программы "Организационное развитие")
Время: 26 апреля 2025, с 11:30 до 18:30 (UTC+3), перерывы на кофе и обед
Место: очно офис Школы (для тех, кто будет Москве) и онлайн в telegram (для всех остальных)
Стоимость: 20000 ₽

Наш лекционный семинар кратко расскажет о нескольких мантрах, которые мы используем в курсах программы "Организационное развитие". Они хорошо знакомы тем нашим студентам, которые проходили курсы с преподавателями. Вот они:
• Краткая мантра системного мышления в проекте
• Операционная мантра
• Мантра распожаризации/learn
• Мантра стратегирования

Дополнительная информация и ссылка на оплату размещены в чате @SystemsSchool_bot (Меню -> Даты старта ближайших курсов -> Хочу принять участие -> Тренировка - Первый шаг системного мышления -> Вход в чат -> Ссылка на оплату)

В "Системной инженерии" переписан полностью раздел "7. DevOps", посвящённый методам инженерии внутренней платформы разработки (internal development platform), с учётом таких тем как управление конфигурацией, интеграция данных, цифровой двойник. По факту с учётом этой версии в текущей переписке готов уже 91% курса.

Открыт набор на тренировку типов - «Абсурдная аналогия»

Пробовали работать с типами, но было скучно и тяжело? Давайте сделаем веселее и легче.

Для этого уберем из предметной области стандартное содержание (чтобы оно вас не давило), но зато очень аккруатно сохраним форму. Выкинем (заменим на простые) все объекты, с которыми вы работаете, но сохраним отношения.

Преподаватель: Прапион Медведева
Пререквизит: завершенный курс первого семестра "Рациональная работа" в любом его виде (РР, ОИК, МИС)
Время: 5 апреля 2025, с 16:00 до 18:00 (UTC+3)
Место: онлайн, в telegram
Стоимость: 10 000 ₽
Максимальный размер группы: 5 участников

Зачем идти:
- научитесь моделировать сложные области, где много абстракций и много непонятных отношений между описаниями, частями описаний и описываемыми объектам;
- освоите очень простые инструменты наведения порядка;
- повеселитесь (в каком-то смысле)

Дополнительная информация и ссылка на оплату размещены в чате @SystemsSchool_bot (Меню -> Даты старта ближайших курсов -> Хочу принять участие -> Тренировка - работа с типами «Абсурдная аналогия» -> Вход в чат -> Ссылка на оплату в первом посте)

Ещё Пион тоже будет делать тренировку, но немного другую.

Открыт набор на тренировку - Первый шаг системного мышления

На первом шаге называем ту вещь, которая в результате вашего проекта должна быть создана, изменена или уничтожена, и это кому-то нужно (если не нужно, то проект закрываем!).

Тренировка помогает в скоростном режиме выявить ошибку в своих рассуждениях или способе рассказа, проверить свое понимание системного мышления, потренироваться на кейсах одногруппников.

Лучше один раз системно помыслить, чем десять раз об этом прочесть

Преподаватель: Анатолий Левенчук
Пререквизит: отсутствует (но максимальная польза будет у прошедших хотя бы начальные курсы программы "Организационное развитие")
Время: 3 апреля 2025, с 18:00 до 20:00 (UTC+3)
Место: онлайн, в telegram
Стоимость: 10 000 ₽
Максимальный размер группы: 5 участников

Содержание тренировки: вам будет задан вопрос про систему вашего рабочего (не учебного! не личного!) проекта - и вы должны попробовать довести формулировку того, чем же занимается ваш проект до "лифтового теста" (уложиться в пару минут со всеми объяснениями для людей, которые впервые слышат, чем вы занимаетесь). Преподаватель будет контролировать выполнение основных правил системного мышления для первого шага "мантры системного мышления" из курса "Системное мышление": материальность системы, рассмотрение времени эксплуатации в системном окружении, функциональное именование, отношение к целевой системе, и т.д. Вы также будете пытаться помогать пройти тренировку другим членам группы, а они - вам.

Задача тренировки: превратить знание того, как описывать системы, в реальное умение описывать системы

Дополнительная информация и ссылка на оплату размещены в чате @SystemsSchool_bot (Даты старта ближайших курсов -> Хочу принять участие -> Тренировка - Первый шаг системного мышления -> Вход в чат -> Ссылка на оплату)

Регламентация: для выбранного метода инженерной работы («инженерного процесса») в целом надо выбрать его составляющие прикладные методы, подходящие для природы систем в вашем проекте, начать организовывать работников на их выполнение – и продолжать это в ходе всего проекта. Этот выбор метода делают инженеры, но вот затем сделать так, чтобы люди и инструменты ему следовали – это часть задачи менеджеров, оргразвитие. Получается, что оргразвитие в существенной мере (содержательная часть регламентов работы, предписанный метод работы) определяется не менеджерами, а инженерами. Не знаешь, какие методы нужны для работы – не можешь организовать на их выполнение людей и AI с необходимыми инструментами.
Дальше я пишу про влияние регламентации на производительность труда. Почему мы вдруг отвлеклись и заинтересовались производительностью труда, операционным менеджментом, регламентацией, мы же вроде обсуждаем DevOps – работу инженеров? Ops из DevOps – это operations, ими занимаются операторы/администраторы, которые вроде обязаны в platform engineering воспринимать разработчиков как клиентов (в фирме – это администраторы, которые обязаны воспринимать сотрудников фирмы как клиентов, в вузах – это деканаты). Но на деле разработчики оказываются от них крайне зависимыми, избежать выполнения требований (да, тут – «требования», деонтический аспект и никаких отмен, «раз и навсегда установлено») администраторов нельзя, и если требования неоптимальны, то вы получаете итальянскую забастовку сотрудников – и эта забастовка против воли сотрудников, она организована менеджерами, которые просто не отследили лишние требования по организации работы.

Это 8Кзнаков свежепереписанного отрывка подраздела "Составляющие DevOps" раздела "7. DevOps" курса "Системная инженерия".

https://ailev.livejournal.com/1759341.html

Провёл третью тренировку, появился аспект разнообразия природы систем на тренировках — это отличает "консалтинг по проблемам проекта" от "образования как прихвата паттерна мышления". Будет 4 апреля 2025 тренировка "Абсурдная аналогия" по работе с типами — от Пион Медведевой. Последствия моего лекционного семинара: материал оказался непонятным, но подвиг на прохождение курса, после чего изменилась жизнь (предпринимателя). Поскольку мои лекционные семинары подвигают кого-то подвиги, решил провести однодневный семинар по мантрам, буду 26 апреля 2025 рассказывать про мантры системного мышления, операционную, распожаризации/lean, стратегирования/рациональности. Пока всеобъемлющей метафоры нет, предметных областей три, мы транслируем вовне что-то очень противоречивое про образование/учёбу, работу и фитнес, нельзя даже сказать “сначала учёба, потом работа, потом фитнес как поддержание формы, когда работу отдадите LLM”, так что надо продолжать думать дальше. Удивительное количество разговоров про нейросети, которые “никогда не смогут”, и дальше что-то невнятное про тёплый ламповый звук — картинка про это.

https://ailev.livejournal.com/1759076.html (12Кзнаков)

Запустили очередной ARC-AGI-2, где humans берут сейчас 100% и цена $17 за задачу, а лучшая LLM o3 (low) имеет 4% за $200 задачу, восторг, у людей ещё на полгодика шанс поработать людьми. Gemini 2.5 Pro Experimental пишет ямб по-русски и описание иллюстраций к стихам, ChatGPT рисует по ним картинки с надписями по-русски (всё это пока "стоковые стихи, стоковые картинки", но "талантливо" — будет, сомнений нет). Развитие моей любимой идеи Toolformer в Chain-of-Tools, теорема о бесплатном обеде получает своё инструментальное оформление. Продолжение разборок с RL — там и "ага-момент" ищут, и воображение/поиск пытаются усилить. Это цветочки, ягодки будут у роботов — пишу, как Brett Adcock пишет 22 марта, что его интересуют исключительно полезные для клиентов способности роботов, а не всякие сальто со стойками на руках, а 25 марта мощно и безудержно хвастается огромным достижением его фирмы: его роботы пошли человечьим шагом (но всем этим робототехническим фирмам надо бы поглядеть, что там с протезами голеностопа, чтобы "ходить по-человечьи", но это будет дико дорого). Для всех премиальных пользователей телеграма теперь доступен Grok 3, "бесплатно без регистрации, СМС, VPN".

https://ailev.livejournal.com/1758877.html (11Кзнаков)

Группа мою на тренировку 27 марта 2025 набрана, набор закрыт.

Продолжаю писать по итогам дискуссии в чате блога в телеграме — кратенько ответы на типичные возражения против прохождения нашей программы "Организационное развитие". Написал ответы на 19 возражений, потом рука бойца колоть устала — 25Кзнаков. Другое дело, что это рациональные ответы на возражения, а сами возражения — символы веры, рациональные ответы их вряд ли одолеют. Но какие-то люди, возможно, смогут отнестись рационально. Вот для этих "каких-то" и писал. Никогда не знаешь, чем слово наше отзовётся.

https://ailev.livejournal.com/1758549.html

Несколько тезисов по итогам дискуссии в чате блога о том, что мы не оправдываем ожидания приходящих к нам людей по формату образования (ибо по содержанию уже вопросов нет — оно доступно бесплатно):
— Инфобизнес победил: сформировал обывательские ожидания
— Контринтуитивность: учим не тому, что вы хотите, а тому, что надо
— Мета-мета-модель: чеклист важных объектов, которые надо отследить в проекте
— Долго учим системному мышлению: смотреть сначала вовне своей системы, вовне своего проекта, потом только внутрь
— Миф о втором прохождении курса как "недоучили" и вообще миф о "доучили"

https://ailev.livejournal.com/1758321.html (28Кзнаков)

Решил сделать ещё одну тренировку — третью. Вроде как формат получается интересный.

Открыт набор на тренировку - Первый шаг системного мышления

На первом шаге называем ту вещь, которая в результате вашего проекта должна быть создана, изменена или уничтожена, и это кому-то нужно (если не нужно, то проект закрываем!).

Тренировка помогает в скоростном режиме выявить ошибку в своих рассуждениях или способе рассказа, проверить свое понимание системного мышления, потренироваться на кейсах одногруппников.

Лучше один раз системно помыслить, чем десять раз об этом прочесть

Преподаватель: Анатолий Левенчук
Пререквизит: отсутствует (но максимальная польза будет у прошедших хотя бы начальные курсы программы "Организационное развитие")
Время: 27 марта 2025, с 18:00 до 20:00 (UTC+3)
Место: онлайн, в telegram
Стоимость: 10 000 ₽
Максимальный размер группы: 5 участников

Содержание тренировки: вам будет задан вопрос про систему вашего рабочего (не учебного! не личного!) проекта - и вы должны попробовать довести формулировку того, чем же занимается ваш проект до "лифтового теста" (уложиться в пару минут со всеми объяснениями для людей, которые впервые слышат, чем вы занимаетесь). Преподаватель будет контролировать выполнение основных правил системного мышления для первого шага "мантры системного мышления" из курса "Системное мышление": материальность системы, рассмотрение времени эксплуатации в системном окружении, функциональное именование, отношение к целевой системе, и т.д. Вы также будете пытаться помогать пройти тренировку другим членам группы, а они - вам.

Задача тренировки: превратить знание того, как описывать системы, в реальное умение описывать системы

Дополнительная информация и ссылка на оплату размещены в чате @SystemsSchool_bot (Даты старта ближайших курсов -> Хочу принять участие -> Тренировка - Первый шаг системного мышления -> Вход в чат -> Ссылка на оплату)

В "Системной инженерии" опубликовал раздел "6. Эволюционное проектирование", переписано уже 79% курса. По статистике Ridero узнал, что у меня на сегодня продано 8901.81 штук, оказалось, что дробные книги считает яндекс.книги — наследник иноагента bookmate. Шесть вариантов, куда направить ресурсы для усиления мышления — опять сравниваю нейросети нежити и нейросети людские. Напоминаю картинку результатов Toolformer (упоминался в описании одного из вариантов усиления мышления), всего пару лет назад, седая древность. Дискуссия об удачности или неудачности термина "мантра" (ибо давал мантры оргразвития — системного мышления, операционную, распожаризации/lean, стратегирования).

https://ailev.livejournal.com/1758044.html (8Кзнаков)

Написал что-то типа white paper про клуб создателей, но в основе которого работают AI-агенты следующих поколений, или даже следующего к следующему, которое уже не так долго ждать. Будущее придёт внезапно, надо давать себе свободу о нём подумать.
— Эскиз клуба создателей на базе продвинутых AI-агентов
— Отслеживание трендов
— Новостная лента
— Учебные курсы
— Продвижение, бизнес-модель и монетизация

https://ailev.livejournal.com/1757701.html (25Кзнаков, причём ни разу не попса, текст "для своих")

Пишу подробней, почему я жду "приличной RAG", чтобы был "из коробки" — что я там считаю критериями приличности и почему сам лично занимаюсь full time курсописательством, а не файнтьюном на десятке томиков наших курсов. Этот файнтьюн много людей могут сделать, а такие томики, как я пишу — только я. Это и есть моя роль в прогрессе человечества, textbooks is all you need (была такая статья, даю ссылки на эту тему тоже). Пошёл дописывать "Системную инженерию", а картинка про то, чем занимаются в литературном институте им. А.М.Горького — хорошо, что я больше технический писатель, а не художественный.

https://ailev.livejournal.com/1757545.html (7Кзнаков)

Опубликовано очередное обновление курса "Системная инженерия", в этой версии переписан раздел "5. Эволюционная архитектура", всего переписано уже 70% курса. Чего я жду для использования LLM: чтобы писать, уже не жду, а пользую, а чтобы вытащить это для студентов — удобного фреймворка RAG, и потихоньку отслеживаю там происходящее. В четверг прошла вторая тренировка по мантре системного мышления, объекты разной природы — но главный вопрос в причинно-следственном объяснении, зачем нужна наша система, ибо ну не хотят люди привязывать свой проект к целевой системе, очень уж это контринтуитивно! RL в causality ladder — это вторая ступенька, do-calculus, а там ещё третья ступенька есть causal reinforcement learning, рассуждаю на эту тему и даю три темы, для которых это всё важно лично для меня. Схемы Парето-границ для LLM сравниваю с такими же для людей, бенчмаркинг интеллектов ведь сильно продвинулся — вот и людей надо тоже бенчмаркать, тоже по Парето. Мы живём в удивительное время, когда человечество в развитых странах тупеет на глазах (пруф в картинке), а нежить умнеет -- в целом же пока баланс: что население мозгами сдаёт, нежить подхватывает и даже с опережением, жизнь становится лучше.

https://ailev.livejournal.com/1757388.html (11Кзнаков)

Опубликована очередная версия "Системной инженерии", в ней полностью переписан раздел "4. Прикладная методология предметной области" (тем самым переписано примерно 63% содержания). В котором рассказывается о работе по созданию функционального описания системы -- ответа на вопрос "что система делает" и "как система работает". Это работа прикладного методолога, функционального проектировщика, функционального архитектора, процессного архитектора -- у такой роли множество самых разных названий. Рассказано о самых разных способах моделирования функциональности, подробней -- о сценариях использования (use case, в том числе рассказано о том, чем они отличаются от case из case management).

Переписанные части курса "Системная инженерия" доступны тут: https://aisystant.system-school.ru/lk/#/course/systems-engineering/ -- курс откроется на том месте, где вы его открывали в прошлый раз. Если проходили старую версию, будет предложено её обновить. Для тех, кто ещё не проходил наши курсы -- эта версия по ссылке доступна бесплатно (после регистрации), но для её прохождения нужны пререквизиты -- освоение материала курсов "Рациональная работа", "Системное мышление", "Методология" (доступны тут: https://aisystant.system-school.ru/).

Картинка сценария использования на языке тестирования (BDD).

Приготовил слайды тренировок по организационному развитию (даю ссылку), а также даю кратенько упомянутые там мантры из наших курсов — системного мышления, операционную, распожаризации/lean, стратегирования.

https://ailev.livejournal.com/1756760.html (4.5Кзнаков)

Открыт набор на тренировку - Первый шаг системного мышления

Преподаватель: Анатолий Левенчук
Пререквизит: отсутствует (но максимальная польза будет у прошедших хотя бы начальные курсы программы "Организационное развитие")
Время: 13 марта 2025, с 18:00 до 20:00 (UTC+3)
Место: онлайн телеграм
Стоимость: 10 000 ₽
Максимальный размер группы: 5 участников

Содержание тренировки: вам будет задан вопрос про систему вашего рабочего (не учебного! не личного!) проекта - и вы должны попробовать довести формулировку того, чем же занимается ваш проект до "лифтового теста" (уложиться в пару минут со всеми объяснениями для людей, которые впервые слышат, чем вы занимаетесь). Преподаватель будет контролировать выполнение основных правил системного мышления для первого шага "мантры системного мышления" из курса "Системное мышление": материальность системы, рассмотрение времени эксплуатации в системном окружении, функциональное именование, отношение к целевой системе, и т.д. Вы также будете пытаться помогать пройти тренировку другим членам группы, а они - вам.

Задача тренировки: превратить знание того, как описывать системы, в реальное умение описывать системы

Дополнительная информация и ссылка на оплату размещены в чате @SystemsSchool_bot (Даты старта ближайших курсов -> Хочу принять участие -> Тренировка - Первый шаг системного мышления -> Вход в чат -> Ссылка на оплату)

13 марта 2025 буду проводить очередную тренировку по первому шагу системной мантры, только полностью уже онлайн и с домашним заданием (надо будет изложить результаты письменно). Написал в "Системную инженерию" зубодробительный подраздел "Функциональное проектирование". Как тренировать причинно-следственное мышление — уходить от "понимания лестницы причинности в исследованиях" к использованию в рабочих проектах для debug/troubleshooting и инженерных обоснований. Прикидки операционной мантры (вдобавок к системной мантре и "распожаризации" как lean мантре). Особенности социальных сетей: лайки идут как "художественность", перепосты как "польза", и если судить по ним, то в моих постах спрос на материалы "личного развития", а усиление интеллекта, инженерия и менеджмент (правда, последний год я меньше писал про менеджмент) не так уж читателям и интересны, но всё одно про это буду писать, как и писал. Материалы, которые вроде бы про улучшение обучения AI, но помогают многое что понять и улучшить в обучении мокрых нейронных сеток: "Predictive Data Selection: The Data That Predicts Is the Data That Teaches" и "Cognitive Behaviors that Enable Self-Improving Reasoners, or, Four Habits of Highly Effective STaRs". Немного про политику: отношение к "переобуванию", стохастическое правое выправление левого коленвала, битьё левых с лозунгом "грабь награбленное", радость по поводу отъёма денег налогоплательщиков у просвещенцев и академиков США. Много видео антропоморфных роботов, вот это будут ягодки "достаточно разумных существ" 4E AI после цветочков в форме LLM (и помним про осьминогов, ведь "благо всех чувствующих существ"), для цивилизации это много круче, чем вечный маятник лево-право. Ещё одна политическая идея: глобальное потепление, но найдена причина ледниковых периодов, людей там не стояло, а силы буквально космических масштабов — и картинка из статьи в Science как раз про это, ледниковый период через 10тыс. лет вполне вероятен.

https://ailev.livejournal.com/1756659.html (19Кзнаков)

Немного новостей AI и моего к ним отношения:
— уволенные бенчмарки, их много
— новая архитектура нейросетки решает ARC-AGI на 20% вообще без обучения.
— вместо CoT делаем CoD (Chain-of-Draft), это занимает 7.6% токенов от CoT с теми же результатами reasoning
— дистилляция трансформера в мамбу (llamba) даёт не слишком хорошее качество, зато влезает в телефоны и требует только 0.1% данных для обучения.
— Cortical Labs выпустила очередной комп на человечьих нейронах, но интересней даже не это, а повтор их эксперимента с обучением нейронов играть в Pong на простом геле, безо всяких нейронов. Это всё reservoir computing.
— DeepSeek R1 слегка всех подорвали с 671B параметров (37B активных), а QwQ-32B с тем же качеством работает просто на 32B параметров, и цель у них — long horizon reasoning, и это open source, что особенно приятно читается, когда OpenAI планирует продавать long horizon reasoning за $20000 в месяц
— обсуждение AI-как-SkyNet перешло в обсуждение AI-как-атомная-бомба, появились лоббисты международного регулирования нераспространения, но с учётом того, что тут много чего уже в open source, требования к аппаратуре падают, по энергии намечается большой запас (помним о нейроморфных архитектурах, как пример), а также об отсутствии мирового правительства, которое справляется с распределёнными инициативами типа DeFi, тут поможет не лоббирование или антилоббирование, но слоган шифропанков: "не пишите законы, пишите код". Что и происходит.
— Про роботов не пишу, но там тоже всё более чем хорошо. И нормальные роботы уже стоят меньше $100000.

Картинка про Chain-of-Draft, а в посте 15Кзнаков.

https://ailev.livejournal.com/1756202.html

Некоторые мысли о том, как важно "мышление письмом" — это же культура, часть общей культуры создателей успешных систем. Привожу самых разных шесть аргументов в пользу этого, а затем показываю, что мало только писать и общаться асинхронно — передать культуру таким образом трудно, надо ещё и очно общаться. Текста много, 23Кзнака.
— Культура мышления письмом
— Надо ли иметь развитый экзокортекс, свой zettelkasten?
— Как привить культуру сильного мышления, где мышление письмом -- маленькая начальная часть?

https://ailev.livejournal.com/1756090.html

Мокрые и сухие нейросетки показывают впечатляющие результаты в генерации чего бы то ни было, но испытывают трудности с нахождением ошибок. Они с трудом переключаются в режим осознанного логического мышления (S2 по Канеману), необходимого для анализа и отладки. Текущие бенчмарки показывают низкую способность LLM находить ошибки даже в собственных выводах, какие уж там инженерные обоснования. Хотя каждая новая модель LLM улучшает ситуацию, люди остаются на прежнем уровне — победить тут людей довольно просто, даже будучи относительно плохим неживым критиком. В тексте (11Кзнаков) много ссылок и небольшой план моих собственных действий.

https://ailev.livejournal.com/1755878.html

Как такая многослойная архитектура "умных медленных" и "поглупее, но итерирующих быстро" нейросетей, упакованных в антропоморфное тело выглядит в работе -- вот видео: https://www.youtube.com/watch?v=f6ChFc8eUuo). Армия клонов, ага.

Это я чисто в порядке эксперимента вдруг взял и поместил сюда кусочек (не весь!) моего вчерашнего поста. Просто поглядеть, что будет )))

Я думаю, всё это закончится многослойными архитектурами, вот статья теории про эту скорость-точность в управлении, "Towards a Theory of Control Architecture: A quantitative framework for layered multi-rate control", https://arxiv.org/abs/2401.15185, а картинку из этой работы я приводил в конце предыдущего поста (https://ailev.livejournal.com/1755013.html) -- пешком передвигаться можно точно к месту назначения, но медленно, на самолёте -- очень неточно, но очень быстро, автобус -- не так быстро как на самолёте, но быстрее чем пешком, но не так неточно, как на самолёте, но не так точно, как пешком. А как надо? Вот так и надо: многослойное действие (пешком-автобус-самолёт-автобус-пешком). Вот тут эта многослойность управления и две нейронки уже есть: — медленный слой работает на 7-9Hz, быстрый — 20Hz, архитектура разная (7B VLM и 80М transformer), https://www.figure.ai/news/helix. Такое должно не только в роботах появляться, но и везде во взаимодействии AI-систем с окружением, хоть и не физическими. Диалог — как раз пример такого взаимодействия. Вот картинка.

У меня во всех лентах обсуждается выход GPT-4.5, ибо и впрямь что-то странное: все характеристики очень похожи на характеристики предыдущего поколения, которое обучалось x10 меньше. Стало ли лучше? Маргинально: в каких-то задачах да, в каких-то -- нет. По сравнениям людей в большой статистике предпочтения ответа GPT-4.5 ответам других сеток очень незначительные, и даже галлюцинирует эта сетка меньше, но не меньше других моделей OpenAI. Сотрудники OpenAI туманно говорят, что "лучше в тех аспектах, которые трудно измерить", скажем, отсутствие галлюцинаций по фактическим знаниям о мире. От общего тона обсуждений остаётся впечатление, что "подняли гуманитарные способности, ответы чуть больше будут нравиться гуманитариям, а технарские способности ниже SoTA -- ожидаем, что там что-то будет в reasoning режиме". Но по тестам строгих рассуждений там ниже, чем DeepSeek V3, тоже "без ризонинга". Очень, очень странное событие -- выход этой модели с такими характеристиками. Сам я последнее время пользуюсь Gemini 2.0 Pro Experimental и Grok 3 -- а ответами ChatGPT я как-то чаще недоволен, чем доволен. Ну ладно, конкуренция -- великое дело, всё только начинается. Интересный вопрос про то, как добиться умности -- учить подольше исходную модель или дать побольше времени на рассуждения. Вот несколько свежих материалов об этом:
-- на русском из сиолошной: https://t.me/seeallochnaya/2379: "условная o3, построенная на GPT-4o, может генерировать цепочки рассуждений в 50 раз длиннее, что условно равно увеличению мощностей на тренировку в 40 раз (цифры из головы). А поскольку GPT-4.5 тренировалась всего лишь в 15-20 раз больше, то получается, что ризонер на модели прошлого поколения как бы лучше
— однако эти цифры перемножаются, и ризонер на основе новой модели <должен быть> существенно лучше. Если модель ошибается реже на каждом шаге, то все мощности будут уходить в правильное русло, а не на исправление ошибок"
-- https://arxiv.org/abs/2502.15631, We systematically analyze chain-of-thought length across o1-mini and o3-mini variants on the Omni-MATH benchmark, finding that o3-mini (m) achieves superior accuracy without requiring longer reasoning chains than o1-mini. Moreover, we show that accuracy generally declines as reasoning chains grow across all models and compute settings, even when controlling for difficulty of the questions. This accuracy drop is significantly smaller in more proficient models, suggesting that new generations of reasoning models use test-time compute more effectively. Finally, we highlight that while o3-mini (h) achieves a marginal accuracy gain over o3-mini (m), it does so by allocating substantially more reasoning tokens across all problems, even the ones that o3-mini (m) can already solve.
-- https://arxiv.org/abs/2411.18071, тут попытка быстрой проверки гипотез: просят LLM оценить верность гипотезы (оценивает, точность низка), затем просят просимулировать феномен и сгенерировать табличку этого моделирования ("побольше порассуждать" что там происходит). По табличке с данными берут корреляцию -- и она оказывается точнее, чем просто ответ на вопрос о корреляции! Это явно не CoT, но явно удлинение времени размышления.

-- https://arxiv.org/abs/2502.20339, попытка загнать reasoning в mamba с её высокой эффективностью и низкой точностью, а затем дать побольше времени на reasoning, чтобы перегнать трансформер по точности на том же вычислительном бюджете: can models with lower complexity leverage their superior generation throughput to outperform similarly sized Transformers for a fixed computational budget? To address this question and overcome the lack of strong subquadratic reasoners, we distill pure and hybrid Mamba models from pretrained Transformers. Trained on only 8 billion tokens, our distilled models show strong performance and scaling on mathematical reasoning datasets while being much faster at inference for large batches and long sequences. Despite the zero-shot performance hit due to distillation, both pure and hybrid Mamba models can scale their coverage and accuracy performance past their Transformer teacher models under fixed time budgets, opening a new direction for scaling inference compute.
-- https://arxiv.org/abs/2502.16965, попытка загнать CoT в autoregression image generation, которая обычно хуже генерирует, чем диффузионные модели. И впрямь, CoT поднимает качество: autoregressive Image Generation with Thoughtful Reasoning (IGTR), Compared to the autoregressive method without prompts, our method shows outstanding performance and achieves an approximate improvement of 20%. Но если заглянуть внутрь — таки диффузию не догнали (сравнимые, даже чуть-чуть хуже, характеристики при вдвое большем числе параметров), но в авторегрессионных моделях они ого-го. Это подтверждает мысль, что исходной модели надо быть умной, глупой модели добавка reasoning помогает очень существенно, но не так сильно, чтобы перегнать более умную модель. Усидчивостью перегнать талантливых в общем случае не удастся. Если кошечка будет долго-долго думать, хоть и всю жизнь, она стишок не сочинит.
-- https://www.inceptionlabs.ai/news. Вот тут наоборот — диффузия для генерации кода, вдесятеро быстрее, но менее точна, чем чемпионы — https://www.inceptionlabs.ai/news.
-- ... тысячи этих работ, про test time compute против компьюта обучения не думает только ленивый. Вот даже я думаю. У меня ведь те же проблемы: учить студентов дольше, или просто заставлять их дольше думать в своих проектах (но ведь мы тоже хотим экономить test time compute -- за счёт того, что один раз потратим время на обучение, а потом много раз сэкономим на размышлениях)? Я обычно сильно удивляюсь, когда узнаю, сколько времени люди делают качественные продукты. Кажется, что хорошо обученные гении должны делать всё быстро -- но нет, у них test time compute тоже будь здоров! Жизнь показывает, что и учатся как можно лучше/дольше, и потом времени на подумать берут тоже побольше. И дальше лидируют в рейтингах.

Ещё один текст (17Кзнаков) про агентность — аргументы в пользу того, что агентность должна быть разумной, и ей можно научить, были evidence-based исследования.
— Разумная агентность
— Интеллект
— И уму-разуму, и агентности можно научить
— "Теории" андрагогики и корпоративного обучения вам не помогут

Картинка из курса "Методология".

https://ailev.livejournal.com/1755563.html

Опубликована очередная версия "Системной инженерии", в ней переписан полностью раздел "3. Инженерный процесс" (тем самым переписано примерно 58% содержания). Провёл вчера первую двухчасовую тренировку на пять человек, там обсуждали производство корпусной мебели в длинной цепочке поставок, торговлю частями частного домовладения (типа кровли, которая не шумит от дождя, или навесного фасада, под которым нет плесени), потоки лекарств через аптеки (ERP), пожилых здоровых людей в медицинском страховании, потоки дров и досок (ERP) -- удивительно, рассуждение везде было одно и то же, а не хватало, как выразился один из участников в кулуарах, "не особых знаний из курсов, а мышления, и из лекций это трудно понять, можно понять только в таких разговорах о проектах". Мои недоумения по поводу GPT-4.5 и шесть ссылок на тему сочетания затрат времени на обучение и затрат времени на подумать (да, к нашим студентам это тоже относится — что они, не нейросетки в мозгу имеют?). Я думаю, что всё это закончится многослойными архитектурами (картинка такой архитектуры для робота Helix). Ссылка на видео работы такой многослойной архитектуры "умных медленных" и "поглупее, но итерирующих быстро" нейросетей, упакованных в антропоморфное тело.

https://ailev.livejournal.com/1755390.html (10Кзнаков)

В "Системной инженерии" перешёл экватор, переписано 50%, вписал туда поколения инженерии и разные альтернативые названия роли прикладного методолога, даю короткий план продолжения разбирательств — аж два пункта. Набор в микрогруппу тренировки по первому шагу мантры системного мышления прошёл за пять часов, но по-хорошему когда-нибудь такие тренировки должен делать не я или другие люди, а нежить — и там есть нетривиальные усложнения постановки задачи. ШСМ, Karpathy, Grok и Musk об обучении агентности и сдвигу локуса контроля на внутренний. Даю подборку статей про этот самый локус контроля — и говорю, как мы в ШСМ меняем этот локус контроля. Рейтингованный список теорий, лежащих в основе evidence-based методов обучения агентности и сдвигу локуса контроля вовнутрь. Забавный побочный результат изучения связи агентности (способность действовать) и локуса контроля (восприятие места, которое рулит выдачей ништяков, это ж про подкрепление из reinforcement learning): 11 жизненных благ из модели хорошей жизни. Ещё одна работа Levin и Shmeleva про паразитов и их стратегии влияния на хостов (это всё к тому, как думать про security и safety).

Картинка из одного помянутого в посте (в нём 16Кзнаков) текста, угадайте, какого.

https://ailev.livejournal.com/1754858.html

Всё, группа набрана, набор закрыт.

Открыт набор на тренировку - Первый шаг системного мышления

Преподаватель: Анатолий Левенчук
Пререквизит: отсутствует (но максимальная польза будет у прошедших хотя бы начальные курсы программы "Организационное развитие")
Время: 27 февраля 2025, с 18:00 до 20:00 (UTC+3)
Место: онлайн телеграм (и очно в Москве - в офисе ШСМ на Таганке)
Стоимость: 10 000 ₽
Максимальный размер группы: 5 участников

Содержание тренировки: вам будет задан вопрос про систему вашего рабочего (не учебного! не личного!) проекта - и вы должны попробовать довести формулировку того, чем же занимается ваш проект до "лифтового теста" (уложиться в пару минут со всеми объяснениями для людей, которые впервые слышат, чем вы занимаетесь). Преподаватель будет контролировать выполнение основных правил системного мышления для первого шага "мантры системного мышления" из курса "Системное мышление": материальность системы, рассмотрение времени эксплуатации в системном окружении, функциональное именование, отношение к целевой системе, и т.д. Вы также будете пытаться помогать пройти тренировку другим членам группы, а они - вам.

Задача тренировки: превратить знание того, как описывать системы, в реальное умение описывать системы

Дополнительная информация и ссылка на оплату размещены в чате @SystemsSchool_bot (Даты старта ближайших курсов -> Хочу принять участие -> Тренировка - Первый шаг системного мышления -> Вход в чат -> Ссылка на оплату)

Провожу эксперимент. Группа всего из 5 человек, после её набора регистрация будет закрыта.

Ещё один текст в порядке подготовки переписки "Инженерии личности", и какие-то идеи пойдут в качестве примеров в "Системную инженерию". 19Кзнаков:
— Науки обучения (learning sciences)
— От адаптивного обучения к персонализированному
— Перспективное в науке обучения
— Контрольные вопросы

Картинка к контрольным вопросам.

https://ailev.livejournal.com/1754580.html

22 февраля 2025 стартует курс "Рациональная работа", первый курс в программе "Организационное развитие", пойдёт по новому содержанию. Итоги моих обсуждений в чате Julia: AI copilots существенно сдвинули преимущества в использовании языков (ну, и разные языковые сообщества ориентированы, похоже, не на разные языки, а на разные классы задач). Теорема о бесплатном обеде: ходы на вынос reasoning вовне сетки, а LLM остаётся в интерфейсе. Наоборот: ходы в невынос reasoning за пределы нейросетки, но попытки улучшить его результаты (например, уход в latent space reasoning, обучение программированию на Prolog и выполнению кода прямо внутри сетки). Весёлая техника выключения людей из дискуссии — отправка в интроспекцию, в занятия философией, ответ на вечные вопросы "что ты сейчас делаешь, кто ты, зачем это всё тебе?", картинка как раз про такое.

https://ailev.livejournal.com/1754198.html (в посте 13Кзнаков)

Ещё один текст в порядке подготовки обновления "Инженерии личности" (опять на 27Кзнаков):
— "Инженерия личности", "Личное развитие", "Системный менеджмент"
— Рассмотрение одной ситуации с трёх позиций минимум: изнутри личности, снаружи личности, снаружи сообщества личностей
— Выбор инженерной науки для инженерии личности
— Что с субъективным опытом? Как его объясняют в выбранных подходах? Иногда объясняют, а иногда просто демонстрируют эффективность подхода
— А кто будет инженерами личности? Сегодня -- ещё люди. Завтра -- вряд ли.

Картинка показывает "терапию" от "болезни" -- cognitive behavior therapy для прокрастинации. Это вы всё и так знаете, не правда ли? Все мы психотерапевты, когнитивные, поведенческие, особенно если с помощью AI-агента.

https://ailev.livejournal.com/1753981.html

Заметки по поводу грядущего обновления "Инженерии личности", и там немного про конкурентов на "развитие личности" от школ иррациональной мысли: поп-психологии, поп-духовности и их народных вариантов (впрочем, не-поп там не сильно лучше в плане рациональности). Пост на 27Кзнаков.
— Что надо менять в "Инженерии личности"
— Мастерство изменения себя и мастерство изменения мира
— Говорить о том, о чём людям говорить интересно: об их ощущениях "изнутри"
— Личное развитие как уход в эзотерику, религию и "народную духовность"
— Обучение даёт свободу!
— Что же делать с "необъяснимыми событиями"?
— Уйти от обсуждения "духовности" нельзя

https://ailev.livejournal.com/1753783.html

28Кзнаков о том, что обучение сухих и мокрых нейросеток идёт очень похожим образом. Привожу условные стадии этого обучения — "водопад", но предупреждаю, что водопадов не бывает!
— Водопад против agile в curriculum learning и успеваемость в обучении людей и нежити
— 1. Необученная сеть, на входе у нас "архитектура нейронной сети" или "царь природы", успехи слабые
— 2. Предобучение/pretrain, на выходе -- Base model, успехи посредственные
— 3. Дообучение/finetune, на выходе -- Instruct model, успехи удовлетворительные
— 4. Обучение с подкреплением на основе обратной связи от учителя, RLHF, на выходе -- Chat model, успехи хорошие
— 5. Дрессировка (обучение с подкреплением), RL, на выходе -- Reasoning model, успехи отличные
— 6. Open-endedness, бесконечное познание, на выходе -- PhD model (учёный), успехи в форме нобелевской премии
— 7. Эволюция в физическом мире, на выходе -- Engineer model (инженер), успехи в форме изменения мира к лучшему
— Возвращаемся к проблеме водопада: помним, что его не бывает, это чрезмерное упрощение

Дальше надо только брать -- и делать, брать -- и делать. Картинка как раз об этом.

https://ailev.livejournal.com/1753533.html

Переписано 44% -- опубликован ещё один раздел "Системной инженерии"
Опубликована очередная версия курса "Системная инженерия", новых там 44% текста. В этой версии полностью переписан второй раздел, "2. Архироль создателя/инженера и разделение инженерного труда". В первый раздел, который был переписан чуть ранее, добавлен подраздел "Динамический ландшафт приспособленности". Намечена структура остальных разделов (заменены заголовки), но содержание там не трогалось -- оно по-прежнему двухлетней давности. Вот оглавление переписанного куска:

1. Безмасштабная эволюционная системная инженерия
Инженерия
Системность инженерии как задающая её безмасштабность и эволюционность
Моделирование: «неинженерные» инженерные проекты
Инженерия и эволюция
Динамический ландшафт приспособленности
Эволюционная неизбежность этических/политических проблем и инженерные подходы к их решению
Слова-термины в безмасштабной эволюционной инженерии и важны, и не важны
Прикладная инженерия как специализация системной инженерии
Задания

2. Архироль создателя/инженера и разделение инженерного труда
Роль системного инженера в её отличии от роли прикладного инженера
Разделение инженерного труда
Системная инженерия в основе сотрудничества
Инженерия и наука
Ненаучность инженерии. Эвристики
Инженерная наука
Моделирование: мои инженерные проекты
Задания

Дальше в курсе будут переписаны:
3. Инженерный процесс
4. Эволюционная методология
5. Эволюционная архитектура
6. Эволюционное проектирование
7. Эволюционная инженерия платформы: непрерывное введение в эксплуатацию (CI/CD)

Переписанные части курса "Системная инженерия" доступны тут: https://aisystant.system-school.ru/lk/#/course/systems-engineering/ -- курс откроется на том месте, где вы его открывали в прошлый раз. Если проходили старую версию, будет предложено её обновить. Для тех, кто ещё не проходил наши курсы -- эта версия по ссылке доступна бесплатно (после регистрации), но для её прохождения нужны пререквизиты -- освоение материала курсов "Рациональная работа", "Системное мышление", "Методология" (доступны тут: https://aisystant.system-school.ru/).

Картинка -- это покадровая раскладка видео о динамическом ландшафте приспособленности, она приводится в соответствующем подразделе.

Для новых супер-дупер-AI сейчас только ленивый не приводит какие-нибудь рейтинги, тысячи их. Написал 17Кзнаков про то, как к этому относиться.
— Не верим попсовым рейтингам, они врут. Нужна элитарность, а не попсовость.
— Не верим многоборьям, они врут
— А как вообще оценивать интеллект?
— Пузомерки дадут нам болванов для нашего прикладного интеллекта

Не попса, лонгрид, много ссылок — но на сами рейтинги ссылок мало )))

https://ailev.livejournal.com/1753048.html

Обсуждаю художественную литературу — в том числе возможности её использования не для развлечения, а для обучения, мотивирования, просветления и прочей психологии. Это эссе на 20Кзнаков, в темах там и физика с математикой, и машинное обучение, и буддизм, и выигрыш Трампа, и аниме с мангой. И куча ссылок на то, что читать по всем этим темам дальше.
— Чистая математика -- это художественная литература, если нет выхода в реальность
— Проект Вольфрама: художественный, а не физический
— Нельзя читать мусорные тексты, на них умным не станешь, скорее наоборот
— Святые тексты как художественная развлекательная литература и как учебники психопрактик
— Фильтр в голове на психологическую литературу

Картинка -- этот самый "Князь света", издание 1971 года (а книжка вышла в 1967 году). Там всё честно, выдумка чистой воды, никаких претензий на обучение психологии, религиозным идеям, этическим принципам, медитативным практикам, просветлению и всякому такому. Чтиво исключительно ради удовольствия. Я вот читал, в нескольких переводах, чистая же поэзия! Аниме стали доступны много позже, их тоже смотрел. Помогло ли мне это стать умней? Дало ли просветление, цирковой режим работы мозга, недоступный людям без специальной цирковой подготовки? Вроде как нет. Но развлечение, конечно, знатное! Главное -- не считать это "престижным образовательным потреблением". Потребление, и отнюдь не престижное.

https://ailev.livejournal.com/1752577.html

Следующий ход в развитии систем AI — это внимание к сложным мирам (в пределе — к реальному миру), к продуцированию новых интересных (новых и познаваемых) артефактов, постановке интересных проблем. Ибо решать проблемы вроде научились — современные сетки (вроде o3, R1, Gemini 2.0 Thinking) вполне способны не только рассуждать, но и познавать новые способы рассуждений. Слово "агенты" на слуху у всех, но тут мало просто "агентов" с их автономностью. Нам надо бесконечно развивающихся агентов, надо выходить на проблему open-endedness. Для этого кроме развивающихся агентов надо заняться развитием миров и постановкой всё более сложных, но всё ещё решаемых (goldilocks, из зоны ближнего развития) проблем.

На эту тему у меня 13Кзнаков текста. Картинка из ещё августовской 2024 статьи "Open-endedness is all we'll need". Поглядите, там всё те же "три шага обучения" -- это всё носится в воздухе, просто, как и в нормальной эволюции, у некоторых проектов получается выжить, а у некоторых догадки оказываются неправильными. "Момент DeepSeek" получился не только из-за правильной догадки о том, как выучивать меметический алгоритм с догадками и самокритикой/рефлексией в нейросетке с LLM, но и из-за того, что там всё выложили в опенсорс. Но это ещё не последний фронтир, дальше open-endedness, а для этого выложить в опен сорс надо генератор миров, генератор артефактов, генератор проблем. Агенты, да, это у всех сейчас агенты. Но агенты агентам рознь, нам нужны непрерывно умнеющие агенты. И коллективы агентов, которые могут познавать совместно. Ну, участвуем, а не ждём, пока "они там пусть сделают". Помним, что в распоряжении каждого из нас есть мокрая нейронная сетка, в которой работает неплохая LLM, она уже pretrained и даже finetuned, теперь её надо научить думать, а потом научить думать лучше, а потом... и мы опять упираемся в open-endedness, is all we'll need. Так что я хоть и не обучаю нежить, но с обучением нейронных сеток сталкиваюсь каждый день. Мопед мой.

https://ailev.livejournal.com/1752457.html

Мои заметки по связи инженерии и теории эволюции — теория эволюции и теория инженерии более менее одинаковы. Биологическая эволюция, культурная эволюция, техническая эволюция — это всё одна и та же общая эволюция. Наблюдаемые резкие перемены во всём — это просто эволюция, чтобы в этом разобраться, надо хотя бы чуть-чуть знать теорию эволюции. А она в 21 веке существенно поменялась.
— Две стороны одной сингулярности
— Основные идеи современной теории эволюции
— Пример эволюции в инженерии: нейросети
— Изготовление (evo), а затем три шага обучения (devo)
— Концептуальный синтез каких теорий эволюции мы делаем

Картинка — обложка книжки по eco-evo-devo, SoTA на октябрь 2024

https://ailev.livejournal.com/1752137.html (19Кзнаков)

Полностью переписан первый раздел, "Безмасштабная эволюционная системная инженерия" курса "Системная инженерия", там отражены современные воззрения на общую эволюцию, частью которой являются биологическая, культурная, техно-эволюция (опубликовано, можно уже читать). Мои эксперименты с o3, она таки получше R1, а до экспериментов с Gemini 2.0 Thinking просто руки не доходят. Обсуждаю IDE и реактивные ноутбуки в Julia — похоже, там всё плохо с copilots, но заодно там и большие заблуждения по поводу развития AI, всё-таки я сижу в информационном пузыре и отслеживаю тему, но в целом про качественное отличия "думающих" моделей и "обычных" ещё никто не знает. При этом с Julia всё вроде в порядке, но не совсем — как и всегда в эволюции, оптимум недостижим, и проблемы двух языков пока не удалось решить, зато победа не в Software 3.0, а в Software 2.0. С роботами тоже всё идёт, для них, например, Genie 2.0 — world model, где можно моделировать последствия действий и предсказания, а ещё Tesla таки объявила, что роботакси без человека-водителя запускает уже в июне 2025, в техасском Остине. Алармисты делают перепосты материалов Бенжио и Хинтона, что "AI всех убьёт", но мне кажется, что обсуждать это надо по линии эволюции, а не по линии аргументов этих двоих и их комментаторов — это ж всё рассуждения по факту про судьбу популяций в эволюции, вот так и надо обсуждать. Это всё обсуждалось в чате gonzo-обзоров, вышло к обсуждению "направления эволюции" — но какое к чёрту "направление", если у нас dynamic fitness landscape, и что вчера было смертью, сегодня оазис, и наоборот (и пример самих нейросеток, которые из зимы AI привели к AI-лету тут как раз в кассу). На картинке как раз динамический ландшафт, на нём показана серыми точечками популяция — кто-то там вымирает, кто-то успевает выжить, но когда говорят о "направлении эволюции" надо помнить об этой картинке.

https://ailev.livejournal.com/1752045.html — в посте 18Кзнаков.

Видео (2 часа 26 минут) моего вебинара "Образование для образованных в 2025" на разных платформах (и слайды тоже). Мысли Karpathy про примат RL по сравнению с RLHF и о том, как писать учебники для LLM (хинт: как и для людей — учебный материал, примеры задач с решениями, затем много задач с ответом — и вот эти "задачи с ответом" как раз фронтир, это RL). Провёл некоторое количество игр "барышня-мадам", пишу про необходимость примерно 4 часов тренировки — пока не научатся надёжно удерживать "вещь в окружении в момент эксплуатации" в ходе рассуждений, я тут даже слова "система" не говорю. В чате моего канала очередной приступ психологии — много туда писал, а вирус психологического трёпа надо удавливать, на темы психологии надо беседовать не с людьми, а с o1, R1, Gemini Thinking, если уж совсем невтерпёж (при этом понятно, что уж совсем невтерпёж!). У Fields и Levin вышла очередная работа, и по этому поводу я много часов беседовал с нежитью — изучал вопрос, может ли нежить предложить, как использовать знания из статьи для инженерии и менеджмента, привожу пять соображений на эту тему.

Картинка из поста Karpathy.

https://ailev.livejournal.com/1751581.html (17Кзнаков)

Запись моего вебинара в понедельник.

Она же в ютьюбе https://www.youtube.com/watch?v=bOc2srOnD2s, ВКонтакте — https://vk.com/video-121136545_456239352

Слайды — https://disk.yandex.ru/i/w2ikhzayzpUI8Q

Слайды для сегодняшнего семинара — https://disk.yandex.ru/i/w2ikhzayzpUI8Q

Оказывается (раскрыл это в 6Кзнаках), кроме DeepSeek R1 за два месяца до его выпуска вели независимые эксперименты с RL и CoT — и сетка simpleRL-reason как и R1 научилась рефлексии, причём без синтетических данных, данных там вообще надо было x50 меньше! Шороху это всё наделало много, экспоненты в падении цен на интеллект продолжают работать. Но есть люди (даже знаменитые, вроде Lehman и Stanley, а также Levin), которые утверждают, что с нейросетками всё плохо, ибо спасает только эволюция и open-endedness — но эволюцию в нейросетях почему-то не замечают.

Выложил слайды для сегодняшнего вебинара, там на восьмом слайде пара картинок из ссылок сегодняшнего поста.
https://ailev.livejournal.com/1751437.html

Небольшой (15Кзнаков) обзорчик январских 2025 исследований (а не выпусков очередных фич "лидеров рынка") в области AI. Попсовые AI-блогеры перестали о таком писать, а жаль: про o3 расскажут из каждого утюга, а они бы могли перестать быть этими утюгами. Рассказывать о том, что только они могли бы рассказать с их уникальным опытом. А "я протестировал очередную фичу продукта OpenAI" -- это уже не новости фронтира, это новости того, что было фронтиром год назад, а сейчас просто докатилось до широкой публики, стало попсой. Эх, мне бы самому не опопсеть, очень не хотелось бы.

Для меня тут самое интересное — это текущий тренд на уход от языка (токенов) в представлении мыслей, ибо "изречённое дао — не настоящее дао". Картинка как раз из одной из статей об этом.

https://ailev.livejournal.com/1751264.html

Переписал уже 20% "Системной инженерии", там "непрерывную инженерию" (от всех этих CI/CD) меняю на "эволюционную инженерию", там уже вовсю эти "динамические ландшафты приспособленности" — они уже и в инженерии, и в менеджменте. Особенности современного образования: любое (любое-любое, да) рассуждение по любым правилам сегодня маркируется "душнила" — и это вроде как культурно поддержано, ничего умного говорить публично вроде как и нельзя, это же "грузить", есть много разного сленга на эту тему — а сленг возражений отсутствует, нельзя сказать, например, "душнила, зато не идиот безмозглый, как ты — ты уже мозг напрягать разучился, тебя даже 2*2 насмерть задушить может, как я погляжу". Можно взять критерий "Лиги школ" — "сколько человек из наших выпускников попадёт в энциклопедию", скажем, миллион человек, почему бы и нет, для этого надо на входе иметь миллион человек, если мы качественно учим (десять миллионов, если не очень качественно), а отбирать можно вот прямо изо всего человечества, даже если брать людей с PhD, то это 2% от населения развитых стран, это огромная цифра. AI-блогеры из обозревателей "разработки AI" стали тупо усилителями пресс-службы OpenAI — не надо много лет заниматься разработкой систем AI, чтобы живописать фичи очередных версий пользовательских продуктов, поэтому ищем других блогеров (которые пишут про то, что под капотом), а также ищем интересное сами — и не только про "трансформеры". Когда пользовался будильником (а не пользуюсь уже десятки лет, пользуюсь встроенным в меня биобудильником), самый навороченный из моих будильников был таким, как на картинке: будильник запускает крыльчатку, которая летает по комнате в разных направлениях, потом где-то падает, и надо встать, найти улетевшую крыльчатку и засунуть её назад в будильник, всё это время будильник орёт благим матом так, что мёртвого поднимает.

https://ailev.livejournal.com/1750940.html (10Кзнаков)

16Кзнаков о разных терминологиях для многоуровневых систем/агентов/репликаторов и прочих единиц многоуровневой организации, архитектуры, компоновки и т.д.
— Многоуровневые системы и многоуровневые их описания
— Подходы к многоуровневости объектов
— Теории многоуровневости: системный подход в его множестве обличий
— Слова-термины важны, и не важны.

На картинке -- системы вроде на всех уровнях, но с нюансом: если это последний уровень в какой-то ветви иерархии, то это уже не система, а "системный элемент". Это ведущий стандарт классической системной инженерии. И если вы вдруг решите сделать этот элемент из двух частей, то придётся поменять тип с "системного элемента" на "систему". И это счастье, ибо раньше у вас это было деталью, подсборкой, сборкой, подсистемой, системой (и это даже не все предписанные уровни), при любом изменении организации и архитектуры приходилось переприсваивать типы объектов. Сама идея, что уровни по отношению "часть-целое" должны содержать какие-то единицы/units одного типа -- она в системную инженерию шла очень медленно, а до многих мест "просто инженерии" пока ещё вообще не дошла.

https://ailev.livejournal.com/1750648.html