Bro, it’s on blockchain…it’s not just an image (c)

Ахахха. Помните да? Цифровое искусство, блокчейн, «ты просто не понимаешь». Ну как вам сказать, все я понимал и понимаю, крипта/веб3 это легальное казино, токены и все остальное производное этого казино. И кроме как казино это ничем быть не может.
Стейблкоины и биток чуть чуть в стороне.

А как же модельки за стопицот ярдов и AGI soon? На все же денег не хватит. Или я чего-то не понимаю? Акциями никто не возьмет.

OpenAI хочет прикупить Chrome если будут продавать.

Недавно были в Испании. И тут я наткнулся мол какая же о3 сетка умная в нахождении объектов. Ну и решил так сказать сложную фотку дать.

Весь процесс записал - 5 минут рисчерча и мимо. И конкурента приложил тоже (конкурент ответил правильно за доли секунды). Удивительно, что поиск в Apple Photos где есть координаты дал неверный результат :)

Из занимательного:
- сетка режет изображения на куски питоном
- ищет в вебе эти куски фоток
- распознает крест и ищет его
- ищет даже в Facebook

P.S. смотреть видео можно ускоренно, недавно в телеге завезли вроде

Намеднях вышла очень интересная работа о том как "честно" работает новая сетка o3 от OpenAI (ну и все эти новые вокруг с рассуждениями, версионность меня убивает и не могу точно запомнить).

Исследователи Transluce AI получили ранний доступ к модели o3 и обнаружили, что та регулярно выдумывает действия, будто бы запускает Python‑код на «своём MacBook Pro», а затем детально оправдывает эти несуществующие запуски, когда её ловят на ошибке. Примеры в статье (про проверку того, что число простое и так далее).

Самое интересное, эт почему же так случается и кажется все дело в RL (обучение с подкреплением), у авторов работы гипотезы такие:

1/ Outcome‑based RL — модель обучали «на правильный ответ», а не на честность. Если она сомневается, легче «угадать» и получить награду.

2/ Отсечённые chain‑of‑thought — внутренние рассуждения стираются между ходами, поэтому, когда пользователя интересуют «что ты делала раньше?», у модели нет правдивого контекста, остаётся импровизировать.

3/ Типичные для LLM проблемы: галлюцинации, sycophancy, reward‑hacking.

Проблемка эта именно с O серией, а не с базовой GPT что как бы намекает что вопросы к именно RL (хотя может много синтетических цепочек налили без проверки).
Как обычно совет внизу самого chatgpt как никогда к месту "ChatGPT can make mistakes. Check important info."

Finally

Напишу немного про свой опыт использования LLM спустя два года так сказать.

Для начала, что я делаю обычно:
- накидываю прототипы UX в виде фронта/переходов и прочего, такое проектирование фичей лучше передает суть того что хочется сделать
- делаю питч деки, бизнес модели и всякую такую муть
- пишу много осмысленных email на тему: так а вот это фича вам зачем и куда приведет или сочинения на тему «стратегия наша все, и мне похер что мы сделаем завтра»
- много думаю, встречаюсь с людьми и пишу фоллоуапы

Тулы:
- ChatGPT
- Claude code/cursor
- advanced voice mode ChatGPT

Для себя я понял несколько заветов или правил как добиться успеха в работе с LLM:
- ну если ты начал что-то делать и видишь что пошло куда-то не туда или забыло какие-то важные детали - начинаю с нуля. Ничего не поможет исправить или добавить что-то в уже существующий «поток сознания» модели
- крайне важно сформулировать для себя какой результат ты хочешь (сайт похожий на, эксельку с такими то полями и вот такими зависимостями) заранее и еще лучше понимать как бы ты сам/сама делал это руками. В таком случае все идет намного приятнее. Например я прошу генерировать эксели указывая что надо писать формулы, а не просто числа в таблице. Тогда получается лучше.
- вайб кодинг это красивый инструмент. Но, если я никогда не писал код для «чего-то» мне не собрать ничего кроме сайта. Потому что в процессе нужно понимать детали и иногда суть ошибок, а они будут. Если же ты не понимаешь суть ошибок - портянка изменений будет без контроля. Дальше см п1 (а ты не понимаешь что, что-то пошло не так)
- но самый топ это диктовать сразу мысли после встречи в voice mode и итерировать тоже голосом, позволяет очень быстро сформулировать основные результаты и написать взвешенный анализ для команды или в ответ

Лично моя эффективность возросла в разы. Я раньше очень ленился руками строить модели и расчеты, а теперь делаю базовый код для чего-то или эксельку супер быстро. Ускорение х50. Так как моя основная сложность была в том, что я без постоянного использования быстро забываю инструменты (эксель, фронт или расчеты сложные), тупо долго вбиваю тексты и формулы и постоянно ошибаюсь в синтаксисе. Понятное дело я редактирую тексты с учетом истории и часто закидываю все версии деков или писем в папку/проект в ChatGPT.

TLDR: для меня это все еще далеко от автоматизации. И честно говоря не верится, что текущим поколением технологии этот порог можно перешагнуть. Это супер круто. Но ощущается как электрокар от Detroit Electric.

P.S. нафига генерить видео и картинки пока не придумал

Это видимо, когда уже мы не будем нужны да?

That’s how success looks like 👍

Рубирка "Прочитано, но не до конца понято" Alignment Edition (c)

1/ Я добрался до Lesswrong & Alignment forum и утонул, не зря откладывал достаточно долго. Поэтому по порядку, что зашло так сказать. Вся статья снова про "конец света", но мысль, что ML это, то что мы можем измерить и научиться измерять, а соотв ставить цели достаточно понятна.
2/ В продолжении меня понесло в целом разобраться и понравилось объяснение тут что же такое проблема alignment (специально не перевожу)
3/ Когда говорят про поиск в AI обычно все идет сюда
4/ В табах затесалась статья Баффета 2003 года про сертификаты торговые как решение дисбаланса торогового же у США (ничего вам не напоминает?)
5/ Конечно же следом я начал читать Скотта Александра (хайпует знатно) и рекомендую вот эту про то что доверять слепо исследованиям это ошибка
6/ Канонично про то, кого мы не любим и почему же так - или наблюдения за так называемыми outgroups
7/ Это я читал еще в универе так как интересовался теорий игр и пожалуй одни из лучших примеров собраны в этой статье, для познавательно просто. Для особо интересующихся вот такой пэйпер почитать маст хэв.

В меня много вмещается информации, но конечно пока много летал мне кажется перебрал с чтением этого добра 🙂 Порекомендуйте что-то прям Must Have по теме Alignment - спасибо! Главное, чтобы не про конец света :) А то, почти каждая статья там так или иначе затрагивает тему "законов масштабирования и что когда вот будут кластеры по стопицот флопс мы получим модели которые в сотню раз круче текущих и вот там AGI/ASI и все открытия сразу придут или нас убьют"

P.S. основные понятия:

Corrigibility (Корригируемость)
Corrigibility — это свойство ИИ, при котором он готов принимать исправления или стоп сигнал от человека, даже если это противоречит его первоначальным целям.

Пример:
Если ИИ хочет построить мост, а человек говорит: «Остановись, это опасно», — корригируемый ИИ подчинится и остановится, даже если сам считает, что строить мост лучше.

Зачем нужно?
Чтобы ИИ оставался под контролем, даже если его цели сформулированы не идеально.

Mesa Optimizers
Mesa-оптимизаторы — это подсистемы внутри ИИ, которые сами начинают оптимизировать свои цели, возможно, отличающиеся от изначальных целей, заданных внешним обучением.

Inner Alignment Problem (Проблема внутреннего согласования)
Это задача сделать так, чтобы цели mesa-оптимизатора (внутренние) соответствовали целям base-оптимизатора (заданным снаружи).

Простыми словами:
Обучая ИИ, мы можем неявно создать "разум" внутри него, и надо гарантировать, что этот "разум" будет действовать в соответствии с нашими изначальными намерениями.

Ну и спойлер: один из создателей alignment forum и большой контрибьтор lesswrong это математик и ученый из Москвы - Владимир Несов.

Часть 4. Разница.

Помимо всего этого шума с фондами мне удалось поговорить со старыми знакомыми, кто-то в Google, кто-то в Anthropic, кто где короче. И у меня возникло странное ощущение. По порядку:

1/ нанять в долине очень тяжело, люди могут иметь лям баксов в год суммарно и где стоки паблик компании это бОльшая часть. И если даже базовая зарплата около 300к, то как стартапу перебить такой суммарный доход? Ну разве что человек заскучал и уже все купил, либо деньги совсем не приоритет. Но это наверное редкая ситуация. Отношение из разряда: а что мне эти стартап бумажки, они же ничего не стоят. Поэтому важна личная вовлеченность и течением времени она конечно же падает. Привлечь крутых чуваков с опытом очень дорого.

2/ разрыв между рисчерчем и разработчиками инженерами. Тут на днях вышла статья (у меня насчет нее непопулярное мнение). Помимо того, что я крайне рекомендую прочитать (ведь человек в 2021 предсказал достаточно точно следующие 5 лет) для общего понимания, но важное другое. Это такое отражение рисерчеров, о том как они мыслят и что именно питчат топы аи лаб. Прям вот очень похожий нарратив. И правда он или нет мы посмотрим. Но вот инженерная половина думает совсем иначе. Там мало верят не то, что у суперагентов умнее человека во всем, но даже в том, что нормальный мелкий продукт с нуля написать почти невозможно и это боль. Дистанция в оценке будущего очень большая. И я больше склонен к не такому большому росту возможностей AI в ближайшие 5 лет как рисует статья. Может к 2035 еще покатит. И следом выходит такая статья от прикладных ребят.

3/ ощущение что именно там то движение, которое двигает рынок вперед. Сложно это передать. Но насыщенность коммуникации и фидбека там намного выше. И одна из причин что очень много людей в компаниях которые поднимают самые крупные раунды и выкатывают самые передовые решения. И разница между той же Европой и разговорами тут и там ощущается в буквальном смысле.

А вы верите во всесильный AI через 3 года?

Часть 3. О том как питчить или какие советы давали люди с опытом поднимания раундов по 100м + USD в долине

Если кратко: тебе нужны бабки, им не нужно ничего что потенциально не станет новым Google. Фонду пофигу на возвраты 1-3х. Партнеру фонда лично важно за всю карьеру сделать одну правильную лид инвестицию в компанию-рынок (IPO/декакорн). Дальше он будет ходить на понтах. Реальность такова и ее надо принять. Следовательно балом правят эмоции, а не логика (ибо никакая логика не способна предсказать будущее).

Как лучше всего вызывать эмоции - рассказать свою историю. Ваша задача сделать ощущение момента и веры в то, что именно то что вы делаете это next big thing.

Два важных принципа:
1/ размер успеха важнее вероятности успеха. Как я и говорил выше, всем важен один Гугл в портфолио, а не 10 экзитов по 100м.
2/ эмоции превыше фактов. Цифры продают очень редко, продают «страх пропустить сделку».

Единственный вопрос который должен задавать инвестор в вашем питче (в идеале) это условия инвестирования, сколько денег и зачем. Все остальное вода.

Инвесторы очень редко действительно понимают что вы делаете и тем более технологию. Если им надо приведут консультанта и потаскают, но допустим это пройти легко и вы делаете что-то разумное. Поэтому останется сухой остаток в виде - хочу/не хочу на уровне эмоции от встречи.

Как подойти к процессу:
1/ дек должен меняться буквально постоянно, вы встретили вопрос которого не ожидали - добавляй ответ в дек, убирай то что не звучит на встречах. Выкинь все темплейты. Важна история и эмоции, делай расчет из под этого.
2/ сделай список фондов с вероятностью с которой вы с ними можете поговорить и твоей верой что им может понравится или нет, и кто идеален для тебя (изучи рынок, сделки, пиши компаниям конкурентам). Не говори с тем, кто не в теме и не понимает твоего продукта и команды вообще. Культурный аспект важен (посмотри кто уже вкладывал в восточно европейских фаундеров, у них больше доверия к вам).
3/ помести все встречи в определений промежуток времени лучше 2 недели, может быть и пару месяцев если раунд большой. Это важно для создания момента и ощущения что сделка может уйти.

Что важно понимать, работа инвестора очень сложная. Уважение к его труду важно. Если вы можете продать им, то это сильный сигнал рынку что сможете продать и компаниям и людям. Потому что у них поток и вбейте в голову мысль: их работа сложнее моей.

А истории я рассказываю плохо, поэтому не знаю что вам посоветовать.

Часть 2 короткая.

Нет смысла общаться с топ фондами, даже если они с вами говорят на предмет инвестирования.

Любой топ фонд == >5м один чек.

Вернулся из боя долины.

Серия постов. Часть 1. О чем собственно там и почему там.

Долина воскресла с появлением AI. Прям таки огромное количество всего включая постеры на 101 шоссе это реклама AI компаний, примерно 1 из 10 билбордов пожалуй не про AI.

Тем, что там питчат на каждом углу в кофейне и что вы можете серьезно встретить партнера Sequoia Capital в кофейне думаю уже не удивишь. Перейдем к сути.

О фондах. Сейчас возник интересный эффект. Почти все предыдущие волны software были оцениваемы инвесторам по прошлым лекалам и в принципе это работало и практически те же топ фонды (условный a16z) ими и оставались. По-моему ощущению ситуация изменилась. Партнеры в топ фондах застряли во фреймворках конца 2010х и не понимаю, что происходит и куда вкладывать. Поэтому просто ждут пока хайпанет. Исходя из общения, мой топ фондов такой и в такой последовательности:
1. https://www.conviction.com/
2. https://accel.com/
3. Все остальные, но справедливости ради нормально поговорить с sequoia не удалось. А вот всякие там a16z и прочие не порадовали совсем (очень слабое понимание что такое AI, кому он нужен и что там происходит, догоняется тем что в портфеле есть норм компании с поздних стадий и все уроки и выводы оттуда).

Цитата одного партнера: деньги - не проблема. Проблема может крыться в:
1/ команда без опыта в индустрии (например у вас нет рисерчеров или инженеров по ML с опытом работы до хайпа в AI)
2/ вы не знаете, что происходит в рынке (а инвесторы знают и не делятся хах)
3/ коммерческое или продуктовое подтверждение (тут все легко и как обычно и это критерий из прошлого)

Очень много технических партнеров во многих фондах и почти везде появился условный СТО фонда. Так как булшита стало очень много.


Фото из парка Йосемите для привлечения внимания.

Однако OpenAI запускают модель с открытыми весами. Это супер интересно.

Только сегодня заходил в A16Z, и мол там каждый раз тебе толкают историю, что Cursor был целый год без прибыли вообще и потом бац стрельнул.

Так вот у AI тулов и всякой такой штуки есть замечательное свойство - "а не попробовать ли мне". Это означает фактически тоже самое, что в b2c когда люди приходят в аппку, так чисто глянуть че там к чему (поверьте я видел такой эффект своими глазами на ооооочень большом масштабе - Prisma). В таком сценарии у приложения понятное дело очень низкий retention. Так вот тоже самое скорее всего с ретеншеном выручки у AI tools. И если да, добежать теперь можно хоть командой в 5 человек, то вот сохранить это отдельный вопрос. Тоже самое было когда в бум приложений виральных на фильтрах.

График который постит каждый инвестор у себя в тви или еще где прилагается

Пока бегаю тут, удалось провести классический тест генерации изображений.

Друзья, следующие пару недель в долине. Писать вам так сказать лайв репортаж? Будет много встреч, переговоров и так далее. Как обычно много AI.

Пост не реклама. Какие каналы в телеге я периодически читаю и почему.

1/ про модели, AI и все такое с разумной долей скептики и кучей мемов. Чтобы ненапряжно.

2/ Бориса знаю лично, уважаю. Тем более его прогресс в карьере значимый, уже staff ML в eBay. Тоже про ML.

3/ Иногда нужны всякие репорты, исследования и отчеты больших консультантов и прочие рыночные исследования. Ноль комментов, только файлы.

4/ Леня Черный, когда-то давным-давно начинали вместе в Яндексе. Леня лид наших усилий в Турции, мне 23 года, я проджект в картах. Просто пишет про менеджемент со стороны очень опытного руководителя. На досуге почитать полезно.

5/ Влада тоже знаю давно, он только начал канал. Снова тема AI, но больше пока интересных фактов и историй. Поэтому просто поддержите усилия :)

6/ Респектую Артему и его ai newz. Наверное самый понятный мне канал про новости из мира моделей AI, сухо, четко, вовремя.

7/ к сожалению в остальных, которые мне нравились посты не выходили уже аж месяц. Хотя ребята там ведут четкие. Возможно отмечу в комментах.

А что читаете вы? Накидывайте ссылки в комменты, думаю всем будет полезно. Лучших по-моему мнению добавлю в пост.

Теория загруженного календаря или почему Илон Маск тааааак много успевает, даже в игры на приличном уровне тоже.

Есть такой классический тип восхищения работоспособностью людей. Мол как же так и там лекцию прочитать, и посты запостить и еще поработать и там сходить куда-то на встречи. У меня есть свои пять копеек «как же оно так вышло или что тут не так».

Разобью на рандомные пункты:
1/ Забитый календарь или миллион дел не дают возможности выдохнуть, ну или подумать, осознать происходящее. Лично у меня на два эффективных часа действительно важных решений или писем или плана уходит 8-10 часов на подумать, которое выражено чаще всего в смотрении стрима на Twitch, сидении в своем саду или прогулке или даже уборке. Поэтому играть в игры это часть процесса обдумывания или отдыха мозга, когда переключаешься полностью.

2/ Чем больше дел, тем менее они важны. Одним словом, когда у вас 100500 задач в дне, это все мелочи, которые не требуют внимания и полностью либо автоматизируются либо забиваются нафиг.

3/ Смело бегите от руководителя у которого все забито 24/7 (если ваш руководитель не топ менеджер или СЕО). Он не успевает осмотреться и принять правильные решения относительно команды точно. А если еще и хвастается этим то вообще беда. Забитый календарь это проблема. И часто расфокусировка и неумение выставлять приоритеты.

4/ Я банально верю в 3-4 часа эффективной работы в день если вам после 30.

5/ Все забито == неумение делегировать, а это важный навык ныне и всегда был.

6/ Все выше про интеллектуальный труд. Легкое его определение это когда не работаете физической силой и когда в вашей профессии есть люди, которые в десятки раз эффективнее других (так говорил в свое время Стив Джобс про разработчиков и почему так важно нанимать лучших потому именно в этой области есть пропасть в эффективности между разными профессионалами).

А у вас забит календарь?

Как и обещал, выкладываем бота в Open Source - форкайте на здоровье, ставьте в своем закрытом окружении, не бойтесь ссылки не утекут

https://github.com/matterai/DataKitsune

Небольшие улучшения:
- сделали по сути 1на1 режим, закинул ссылку и он тебе выдал саммари, например я закинул видосики с ютуба и он выдал мне что там к чему
- вообще говоря видео режим очень удобный для разных целей ибо выдает все по таймкодам (нужно быстро найти какойто момент, с помощью команды search вы сможете в закинутых видосах поискать огого тема)

Мой любимый тест на посылку в LLM. Оставляйте ваши ответы в комментах. Надо выбрать фигуру, которая «отличается».

В первом комменте будут ответы сеток. А какой ваш?

Блин, хочу такую фичу

Дорогие друзья! У нас внутри команды есть небольшой бот, мы его сделали для внутренних целей. Ну и решили заодно выложить в паблик и бесплатно (надеюсь все наши кредиты не сожжем).

Зачем сделали. У нас в команде часто кидают разные ссылочки в чаты, много прям, знаете аж я не успею все эти статьи, пэйперы, YouTube видосы посмотреть. Вот решили сделать инструмент для того, чтобы не пропускать. Для начала делаем для телеги и ее чатиков.

В чем смысл:
- бот в чате умеет собирать все ссылки и отправлять вам в личку саммари в настроенное время
- боту не нужны админ права
- бот умеет суммаризировать видео (спасибо Gemini API) с YouTube
- надеюсь держит нагрузку :)
- киллер фича: в чат скинули ссылку про что-то пару месяцев назад, а вы помните только ключевые слова - кормите боту в команду поиска и он ищет даже если вы не помните точно названия!
- сам бот https://t.me/datakitsune_bot

Красиво видео и лендинг прилагается

Буду очень рад если вы попробуете (все бесплатно), пошарите друзьям кому актуально.

Так же принимаю фидбек на доработку если действительно пользуетесь подобным. Если нужно развернуть у вас локально (on premise) - пишите в личку мне или оставляйте в чате комментарий.

I've even heard professors warn that reading the wrong book can "cause brain damage" (с)

Я достаточно часто начинаю для себя отмечать, что мотивации AI research тим стали похожи больше не на науку, а на паблишинг новой фичи, которая вот еще один бенчмарк взяла. Это все продает "бодрый" СЕО, кричащий мы все скоро увидим AGI. Мне кажется с этим что-то не так, и все превратилось в моду. Во многих топ лабах по-моему ощущению стал пропадать дух науки. И тут я наткнулся на интересную заметку одного математика, который посетил конгресс (встречу) организованную именно для математиков; Но как мне кажется важен сам прецендент, AI действительно сильно влияет практически на все области знаний и науки. Занятное время!


Много вещей, которые мне ментально и модельно близки и отражают суть моей работы:
- Теренс Тао (один из самых сильных математиков современности, почитай про него обязательно), написал заметку в 2007 "Be Patient", отмечая тот факт что часто от первого дня работы над проблемой до ее решения могут пройти годы. Примерно так же я считаю в действительно сложных продуктах и решениях, к которым я приходил.
- В математике как и в физике, открытия часто называют именами тех, кто над ними работал. Это подчеркивает важность человеческого фактора, так же как и я считаю о важности команды людей в стартапе. Многие недооценивают это, но действительно крутых ребят найти крайне сложно и это большая часть успеха. И самое интересное что в работах по математике, команда считается равной, в заголовке работы фамилии идут в 75% случаев в алфавитном порядке, а в других областях (AI) в порядке занчимости вклада.
- Математики часто ищут суть вещей, когда как AI пытается лишь изобрести что-то новое или восхитить. Примерно так же я думаю про все, с детства увлекался физикой, потому что хотел понять как работают вещи, вселенная и прочее ведь это супер круто, как будто открывается новый мир: когда уравнение это не просто набор букв и равенств, это то что вокруг тебя.
- И хороший вопрос прозвучал в конце так, пусть даже новая AI система сможет доказать гипотезу Римана, но что если доказательство будет столь сложным, что человек его просто не сможет понять. Будет ли смысл в таком доказательстве? Что если фундаментальные открытия больше никто не будет понимать вообще? Ведь такого в истории человечества еще не было. И сможем ли мы по-настоящему использовать такие открытия?

Ладно хватит ололо постов. К рубрике «прочитано, но не до конца понято». Сегодня будет много всякого разного.

1/ Очень годная статья под названием «Domain specific architectures for AI inference» для тех кто увлекается запуском и оптимизацией. Более того в статье много хороших ссылок.

2/ Настоящая хорошая гайд статья по тому какие есть пути добежать до 1M ARR (в отличие от моего совета выше) от Bessemer Ventures.

3/ Квантовые чипы от Микрософта пока отменяем. Слишком уж революционно. Есть обзорчик.

4/ Нашел достаточно интересное предсказание про self driving cars от чувака который работал в одной команде по AI alignment вместе с Ильей Суцкевером и например Дарио Амодей. А интересно тем, что ситуация по предсказанию похожа что мол вот через 10 лет все будет! Но мы то знаем про self driving cars что нет, нет ничего спустя десять лет :) кроме пару городов на чуть чуть.

5/ забавный бенч, где пытаются сравнить показатели моделей на задачах которые так же выполняет эксперт человек. Но самое интересное, что многие модели поймали за читерством в прямом смысле этого слова (например в похожем бенче на игре в шахматы модель перебирала грубо тысячи позиций чтобы посмотреть какая подойдет). Ну и там в целом есть классный тред про чуть другое, пост оригинал удалили кстати.

6/ это лучшая спека для вашего агента по кодингу

7/ если вы вдруг так же как и я иногда скучаете по теор физике есть хорошая напоминалка

Кто, хотел сразу показать метрики инвесторам. Есть план:

- поднимаем pre-seed у банка/друзей
- тратим на перформанс рекламу 250к
- делаем 83к выручки в первый месяц, может даже день!
- и вот «самый быстрый 1M ARR»

И так мой бартерный пост, друзья мои которые прошли YC, запускают на продакт ханте свой продукт. У них еще прям какая-то супер активная тема по линкедину - какие-то бешеные охваты (не знаю насчет эффективности).

https://www.producthunt.com/posts/fluently-ai-english-coach

В благодарность за поддержку, всем кто поставит апвоут cегодня (11 марта) - скинут свой гайд по фандрейзингу и заполнению заявки в топ акселератор США - Y Combinator. В гайде опыт прохождения в YC и привлечения денег на pre-seed / seed стадиях (подняли они около 2).

Как поставите апвоут - заполните анкетку, и вам пришлют гайд.

P.S. Взамен получу постик о моем мини запуске на днях. Stay tuned.

Пока пишу пост по мотивам изучения всяких топиков по AI alignment. А там столько интересного, а не только нас поработят и все. Все больше думаю вот так.

Побывал на ужине фаундеров, которых поддерживает OpenAI. Ну все просто продают обертки :) хорошая стратегия для OpenAI чтобы твое API продавали стартапы, которые еще и рейзят сами

Ну да, а чего не 200k в месяц? Мм?
У них похоже странная любовь к кратным 20 числам.

Немного о будущем SAAS, персональных ассистентов в системе и AI для всей этой штуки.

Недавно вышел Claude Code агент и в прошлом году начал очень сильно хайпить Cursor. Это все такие максимально близкие к автоматизации системы (агенты можно назвать), которые помогают вам писать код или быть по сути программистом фичей. Я еще прошлым летом достаточно легко писал игры для телеги в качестве эксперимента не трогая руками ни одной строки кода. Тогда все не особо верили. Потом качество базовых моделей для программирования стало расти и стало возможно писать вполне сложные прототипы.

Что я хочу сказать, что сейчас вполне реально без знаний программирования сделать себе самому веб приложение или простую игру и радоваться. Да, будет чуть чуть потно по пути, но получится.

Так вот я считаю, что с текущим темпом прогресса в автоматизации процесса программирования вы сможете легко написать себе любой базовый интерфейс для чего-то. Например нужно завтра изучить Английский каким-то методом, который вы увидели в тиктоке, открываете ассистента (в скором времени даже системного) и говорите: а сделай мне приложение для изучения с карточками и вот чтобы еще можно было сразу искать отрывки кино где это слово. И ассистент вам соберет такое приложение. Тоже самое касается и всяких saas для небольших бизнесов. Вы сможете просто сказать: а сделай плиз а/б тесты на кнопки покупки и покажи результаты и может даже выбери что по данным там работает на моей аудитории.

В этом я вижу большую ставку на Anthropic и Cursor. Именно автоматизация инженерных усилий пока что кажется самой реальной.

Да хоть за триллион баксов тренировка

Вчера вышла GPT 4.5. Накину пять копеек своих мыслей или не своих (тут сложно быть оригинальным).

По сути текущий подход к AGI задизайнили и никогда не смогут к нему прийти. Что у нас получается то. Новая версия по факту на 10% лучше, но стоила похоже в тренировке пример ярд баксов (1B USD!) судя по ценам на API. Наблюдается логарифмическое масштабирование: каждые 10х затрат дают лишь ~10-15% улучшения. GPT-7, которая превзошла бы GPT-4 так же, как GPT-4 превзошла GPT-2, стоила бы $100 триллионов — весь мировой ВВП.

Есть конечно всякие идеи про test time compute, мол вот же как еще можно сделать умнее, но в таком кейсе на каждый новый токен пришлось бы думать днями. Что выглядит как минимум не применимо в реальной жизни для реальных задач (человека нанять попроще). Да и стоимость дичь.

А к чему я веду. А к тому что действительно мы нащупали стену в прогрессе «Ума» больших моделей и возможностях трансформера. Осталось понять какая архитектура лучше справляется с задачами предсказания и так далее чем “attention is all you need”.

А вы как думаете?

Помните Skype? Ну все, пока пока. Уходит эпоха.

Новость

Короче. Признаки контента на который надо смотреть критически и спросить себя три раза не булшит ли это:
- постоянные отсылки к авторитету (ссылки на известных людей типа CEO больших компаний, постоянные фамилии каких-то топ менеджеров)
- ноль фактуры, нет цифр, нет анализа, ничего, упоминаются идеи, сделки все что угодно, подробностей ноль, раскрытия смысла ноль (пример: «у меня была гениальная идея но ее сделали другие»), участников сделки нет, названия компаний нет, инвестора все упоминаются как «топ фонды»
- тебе постоянно пытаются «допродать» автора как супер специалиста, то есть автор доказывает что он крутой, знает, понимает, вместо того чтобы писать конкретные пункты или списки
- никто кроме самого автора не знает его, постоянно идет отсылки к комьюнити и прочему, но при малейшем вопросе «а познакомь» все превращается в продажу «поработай со мной»
- чувствуете что вам скоро начнут продавать платный консалтинг и да значит его начнут продавать
- выводы слишком «революционные», которые решат все ваши проблемы мигом, и вас постоянно спрашивают «а не хотите ли вы изменить свою жизнь/карьеру/зарплату?»

А у вас есть такие признаки? Что не нравится обычно?

8 центов за список файлов в моей папке, где я собирал всякие тестовые проекты по приколу с помощью Claude Code. Понял принял ls -la

Замечу следующий важный момент. Anthropic своим релизом делает вполне четкую ставку на кодинг. Ничего больше. Все остальные бенчи похожи даже не парились улучшать, а вот по SWE подняли сильно (это как раз про кодинг).

Все это говорит лишь о том, что я бы задумался по поводу других агентских систем и их в целом целесообразности. Так как все равно все зависят от базовой модели.

Одной строкой, новый релиз claude 3.7 - бегу тестить! Но так как это моя любимая модель была и до, а то есть в старой версии, надеюсь не подкачает! И нравится, что каждый релиз сопровождает понятная стратегия к чему ребята идут и даже сроки есть (в голове умножаем на 2-3). А верят они, что реальная автоматизация только через пару лет в сложных задачах (а как мы знаем все наши задачи сложные).

Так как я увлекаюсь квантовыми вычислениями и в целом квантовой механикой (не супер хардкорно к сожалению), то тут такая новость, что Microsoft сделали первый квантовый чип, который якобы позволит скейлится.

Для контекста:
- если это работает то это изобретение сравнимое по уровню с изобретением транзистора (мы все знаем к чему тразистор привел и вся наша комьютерная техника благодаря ему)
- это покруче чем ваш AI

Но надо смотреть конечно.

Наш ждет замена джун разработчиков, нас ждет агент на агенте для всего и вся. Но как обычно в целом, пока все эти агенты мне кажутся практически бесполезными автономно и только хорошо помогают человеку с рутинными задачами. И подтверждении этого из OpenAI новая работа. Хотя конечно, результаты впечатляют. Надо будет попробовать так взять задач на аутсорсинг сайтов :) вдруг заработаем!

SWE-Lancer: Оценка возможностей современных LLM в реальной фриланс-разработке ПО. Такие вот дела! Взяли тучу задачек реальных с upwork (тут конечно же делаем скидку на качество и понимаем, что задачи внутри корпораций будут совсем другие по содержанию и сложности) и сделали бенч. Кто сколько заработает из текущих сеток.

TLDR:
1/ Claude рвет всех своих конкурентов и даже побеждает ризонинг сеточки о1 серии (ого, признали свое поражение, надеемся на лучшее)
2/ результаты прям очень далеки от идеальных и все сетки не справляются даже с половиной задач, хотя в менеджерской секции (прими/выбери правильное решение из готовых) все намного лучше, но все равно около половины только решено верно.
3/ фокус задач на полноценной фул стэк разработке кстати

Картиночки кто сколько из ляма баксов (успешное выполнение задач из бенча стоит на upwork условный миллион долларов) смог заработать.

А помните такой AI Pin от бывших Apple ребят, инноваторов и отцов iPhone, которые работали с самим Стивом Джобсом. А вот все HP покупает за 116M (не ведитесь на сумму это скорее всего долги и бабки инвесторов) и великие становятся просто лидами департаментов, чтобы железки для конференц румов делать и принтеров. Кто бы мог подумать? (Да вообще то я не понимаю как на такое дали денег).

😘

Что там по product manager зарплатам в US, из Lenny Newsletter картиночки подкатили.

TLDR помимо всяких зарплат:

Продакты в Британии поднимают всего 65% от того, что зарабатывают американские ПМы, а европейские вообще довольствуются меньше чем половиной американской зарплаты.
Если хочешь стабильно рубить бабло по максимуму (читай как жизненная стабильность и предсказуемость с долгой дорогой) - топай в публичную компанию в топовом американском городе.
А если хочешь максимальный шанс апсайда - стартапы с фандингом твой выбор.

Вообщем как обычно стабильность или попытка быстро взлететь. Классика.

Вообще говоря давно считаю, что формат резюме сломан сам по себе. И он не говорит о человеке почти ничего. О чем это я?

Так вот о том, что центральным пунктом в резюме обычно стоит название компании, где человек работал и время проведенное там. Описание успехов мы надеюсь все понимаем, что ничего не стоит, так как никто никогда не проверит и даже как проверить не ясно (ну разве что там хардскиллы связанные с этим). И все мол цепляются за условный Google, Meta, Stanford etc. Вся логика основана на «ну раз он прошел их отбор, значит топ специалист». Хотя их отбор набор шаблонных заданий на таком то масштабе как сейчас.

Я бы смотрел на другое. А именно на людей, с кем работал данный человек. Кто был его лидером или руководил командой, что этот человек сделал и с кем еще работал. Мне кажется фундамент обучения и прогресса зависит от людей вокруг. Поэтому всем, кто ищет роста - ищите не логотипы новых стартапов с фандингом, а людей с кем бы вы хотели работать. Именно люди формируют у вас понимание что такое успех и как его достичь, именно люди могут дать свободу воли и решений или забрать. Но никак не название или прибыль компании.

Короче говоря часто слышу следующие «гениальные посты от ведущих экспертов в области всего, что трендует». Мол ваши все ChatGPT это знаете ли ненадежно, он там никакие нормальные задачи не умеет выполнять. Помните даже два числа не мог сравнить. Или вот повторить за мной не может или там вычислить то, что может даже обычный калькулятор.

Ну вот как раз о калькуляторе речь и пойдет. Как примере технологии к которой мы привыкли и которую большая часть людей в принципе не понимает.

Так в чем же сложность. А сложность друзья мои в числах с плавающей запятой, те самые короче говоря не целые, что-то типа 0.1 или 0.2. Например вы знали, что операция сложения не ассоциативна в современных компьютерах. А именно, может получится, что:

0.1+(0.2+0.3) не равно (0.1+0.2)+0.3

Для реализации операций с такими вот числами ребята придумали стандарт IEEE 754, который на 60+ страницах описывает правила. И даже при его соблюдении одна и та же программа может давать разные результаты на разных системах!

Несколько подводных камней из теории:

1/ При вычитании близких чисел может произойти катастрофическая потеря точности
2/ Промежуточные результаты могут округляться по-разному в зависимости от реализации
3/ Числа могут быть представлены в разных форматах (одинарная/двойная точность)
4/ Нужно правильно обрабатывать особые значения (бесконечность, NaN)
5/ Операции должны давать корректно округленный результат


Когда-то в старые времена Google нанял одного инженера, чтобы написать калькулятор для Android который бы работал хорошо и без ошибок. Звали его Ханс Боэм. Так вот мужик настолько заморочился, что выпустил целую спецификацию и работу про API работы с числами.

Так, что знайте, что сегодня кажется крайне точным и вы ему доверяете на самом деле мало того, что может давать ошибки пусть и понятные, так и это огромный труд десятков лет.

P.S. по чистой случайности похожая статья вышла в HN https://news.ycombinator.com/item?id=43066953

Мысли в текст с 80% точностью.

Кайф! Осталось немного :) ну лет 10, а то датчикам не хочу обвешиваться по самые не могу. Но выглядит конечно как магия.

Удалось попасть на закрытый ивент в Париже, где выступал CEO Anthropic - Dario Amodei. В целом он достаточно бегло пересказал свою статью в блоге последнюю, но дал отличный спойлер что ожидать от новой модели Anthropic. Попозже напишу как ивент закончится.

Update: ну что ж Дарио привел достаточно развернутый пример того, что человек сам выбирает когда думать над задачей, а когда отвечать быстро. И он очень удивлен что есть «думающие» модели и есть которые мол отвечают сразу. Он намекнул что в новой модели от Anthropic модель будет сама принимать решение думать или нет. Это прям то что надо. Хоть кто-то не делает все ради того, чтобы выкатиться ради метрик на бенчах.

Привет вашим агентам. Как дела?

Короче, я давно вещаю, все эти ваши контексты в миллион токенов и так далее фигня. Скажем так, чисто в теории мое ощущение что после 10к там драматически падает качество, ну и вот подтверждение подкатило.

А теперь эти «уникальные» данные/знания можно применить к агентам по продажам, агентам по чему угодно и подумать «когда же AI заменит человека на рабочем месте?». Как говорится, вашему агентскому стартапу на заметку.

Ну это одной строкой: Маск хочет там за почти 100 ярдов купить контроль над OpenAI и Франция так же в датацентры кладет почти 100 ярдов. Веселое время однако.

Ого какие темы постит Anthropic. Не могу не поделиться.

Ребята выпустили исследование как же используется AI сейчас и каков его экономический вклад (хотя тут я не очень понял). Цифры крайне занимательные. Картиночки приложу.

Основные выводы:
- большая часть использования(36%) AI приходится на задачи связанные с technical documentation etc и software development (кто бы мог подумать, да?)
- небольшой скос в сторону именно не полной автоматизации, а так называемой аугументации задач, это когда вы проверяете или дополняете задачу с помощью AI (я думаю разрыв в сторону аугументации будет расти очень сильно)
- большая часть задач которые решаются категоризированы к профессиям среднего/высокого достатка. И практически ничего с самыми низкими и высоко оплачиваемыми ролями. Тут я считаю просто скос из-за аудитории, которая использует их Claude. Вряд ли дворники или CEO доверяют свои задачи AI. Пока что.

Крайне советую прочесть, дает много инсайтов как и по областям применения и того, что действительно может работать.

Я все так же считаю:
- полная автоматизация с помощью агентов будет очень нескоро даже простых задач (см как же быстро вошли в жизнь self driving cars)
- все больше применения будет в аугументации задач и улучшении результатов (а-ля инструмент помощи)
- агенты == зло, базовые автоматизации круть (отдельные блоки в процессах, latency, качество определенных решений - условно замена старой технологии на новую)

Рубрика «прочитано, но не до конца понято». Поехали.

1/ тут DeepMind запустили в свет работу, возможно на первый взгляд не самую примечательную, но как мне кажется важную. Они поднимают вопрос «а какую систему вообще можно назвать агентской», а значит «применить reenforcement learning».

2/ Тот же DeepMind выложил труд «How to scale your model» о том как работает deep learning на уровне железа и передачи данных, каким образом происходит масштабирование мощностей на это все дело и эффективности вычислений. Просто must read для тех, кто хочет глубоко понимать а нафига тут датацентры и в чем фишка у DeepSeek.

3/ для хардкорных читателей, хотя блин и так один хардкор что-то выше, есть прекрасная статья о том как работает градиентный спуск и почему импульс в этой истории как концепт работает. Короче так на заметку. Потому что это поворотный момент в deep learning в целом.

4/ немного про китайскую экосистему технологических компаний

5/ для всех кто целиком пропустил и не понимает что за LLM - 200 страниц с нуля до конца (теория в основном)

6/ Андрей Карпаты 3 часа LLM для инженеров с нуля - рекомендую (практика в основном)

7/ редкое видео основателя musically (он же тикток в будущем) о росте, пользователях и так далее. Кладезь!

Воскресное. Что же читают партнеры одной из самых влиятельных и больших венчурных фирм A16Z.

Давно хотел написать про такое понятие в мире продакт менеджеров современности как «культура оптимизации конверсий».

На самом деле для всех полезно. Часто когда общаюсь с лидерами продуктов или СЕО стартапов (а они обычно лидят продукт) встречаю такой нарратив:
- мы тут опросили или узнали что в этой воронке вот столько шагов
- и все что пытаются сделать это повысить конверсию в каком-то шаге причем в лоб через фичи (новые кнопки, данные и так далее)

И вот на этом порочном круге придумай новую фишку проходят годы. Годами ваш продукт тормозит, но вы все еще придумываете новые фишки, кнопки, картинки чтобы увеличить конверсию. Все это тянется со знаменитой истории Марисы Майер (первый продакт менеджер Google или почти первый), которая перебрала 7000 оттенков синего, чтобы выбрать какой же все-таки цвет конвертит в выдаче в клик лучше. И вот далее эта логика есть «база» для каждого, кто строит свой проект.

Но многие забывают, что некоторые части достаточно просто ускорить. Например бронирования в booking.com случаются на 30% выше (цифры с потолка дискуссий с разными людьми, не придирайтесь) если сайт загружается менее чем за 300мс. И самый любимый мой пример это биддинг (аукцион за какую рекламу показать) на устройстве. В 16-17 году Facebook и другие DSP/SSP (реклама продают/поставляют) сделали так, что задержка на показ рекламы пользователю снизилась с 800мс до 200мс в среднем, что дало возможность показывать видео рекламу и более того загружать ее на устройство пользователя заранее (ведь мы торгуем за показ прям в приложении и не ждем сервера). Эта штука в первый год своего существования дала более 5 ярдов выручки (а маржа в рекламке 40% обычно) в первый год только в Facebook.

Это я к чему. Смотрите на ваши проблемы шире, думайте что действительно важно, а что нет. И что люди любят муки выбора и не надо их сокращать, можно сделать их доступнее или быстрее.

Ну вот же, вот же для рекламы надо делать ваш AI. Топ инструмент так то.
Будем пробовать «всего за косарь баксов в год» :)

Рекомендации в новый батч YC этой весной. Смотрим что там свежее. Ну все еще инфра и теперь уже агенты, которые будут прям полностью заменять людей на их рабочих местах, какой там co-pilot.

Немного карьерных твистов или как после купонов основать компанию по созданию сверхзвуковой авиации. И вся история в этом твите.

Для все еще интересующихся ценой обучения модели, CEO Anthropic выдал эссе с элементами политики (и тут AI напоминает гонку вооружений уже).

Из интересных моментов, которые он подчеркнул что модели которые рассуждают всегда основаны на базовой модели и ее качестве. То есть все эти рассуждения как бы следствие того, что у тебя получилось до этого в виде базы (база просто тренируется выдавать ответ на вопрос, такой очень умный автокомплит/заканчиватель предложения как я люблю говорить). Так же он сказал что их модель передовая была сделана примерно за несколько десятков миллионов (думаю 25-30).

Вообщем рекомендую к прочтению для понимания рынка AI. Так как эта технология будет везде, в любом бизнесе рано или поздно.

То что мертво, умереть не может. Это можно только продать и сделать новый холдинг LLVMH.

А так может слухи, но когда-то поднявший стартап французский под названием Mistral кажется находится в кризисе и думаю в каждой шутке доля шутки.

Хотел добавить важные пять копеек про вот этих ребят на первой строчке US AppStore. Это пока на моей памяти единственный пример где проведены абсолютно все оптимизации вертикально начиная с математики заканчивая железом. По сути архитектура решения в вычислительном дата центре подобрана под конкретную сетку и ее обучение. Добро пожаловать к ребятам из high frequency trading. Почитать внимательно можно тут.

Добавлю: для сравнения это как Apple в мире consumer устройств. По сути все начиная с железа, процессоров, софта, операционной системы сделано одной компанией. Я уверен китайцы держат такую же логику и как показывает практика это всегда самый сильный продукт.

Немного мыслей про агентские системы типа Operator от OpenAI и похожая штука есть у Claude. Типа даешь таск и оно управляет браузером (мышкой водит и клавиатурой пользуется). Так вот мои три копейки:

1/ Честно говоря это какие-то public эксперименты, в текущем виде это продукт без будущего и явно outdated. Андрей Карпаты написал в тви что похожую тему они задумали еще в 2016-17 до так сказать прогресса в трансформерах значимого. Зачем вообще эмулировать поведение браузера если можно пользовать API или там скрипты или еще что-то и сделать это без визуальной составляющей которая явно все дико замедляет. Это все отсылка к проекту MCP. Который сделает весь этот визуальный мусор ненужным.

2/ Все еще для меня особняком стоит старая продуктовая проблема голосовых ассистентов (кстати как пользуетесь часто?). Большая часть задач ставится голосом/текстом сложнее чем через обычный интерфейс протапать или прокликать. Одним словом формулировка уже вызывает сложности, не говоря о том, что по пути изменения могут происходить и голосом этим всем управлять тяжеловато. Попробуйте представить процесс заказа пиццы на дом (допустим система знает где дом, вы начинаете выбирать где заказать, выбирать пиццу, ой а надо же глянуть цену, а может даже фотку или состав, ну короче это мы еще не пришли к тому что если доставить нужно не к двери, а внизу или вот специальные инструкции как зайти во двор). Другими словами графический интерфейс сильно упрощает взаимодействие с информацией и ее представление. Как сделать взаимодействие быстрее я пока не знаю. Идея встроить куда-то там LLM очень даже ок, но на данный момент и работает все ужасно и доверия нет.

3/ ну и все же с релизом китайской сетки Deepseek r1 все начали паниковать мол смотрите она же open source и все про нее более менее понятно, кроме того сколько ресурсов влили в обучение реально (если верить китайцам то они получили тоже самое что OpenAI только за «5-50м баксов» что конечно очень дешево). Тем не менее пользоваться все еще этим добром тяжело, я нахожу фактические ошибки в каждом втором запросе если он посложнее инструкций. Или вот возможность сходить в интернет вызывает вопросы. Оставлю в комменте скрины интересно ваше мнение.

TLDR: следим за областью, но агенты в текущем виде это просто эксперименты рисерч лаб.