Архитектура безопасности: как защитить IT-будущее?

Киберугрозы растут, данные становятся ценнее. Как строить устойчивые IT-системы? Ответ — на Arch.Meetup 2025 от Сбера 29 апреля в Москве и онлайн. Тема: "Ген безопасности в ДНК архитектуры". 250+ участников, 1000+ зрителей, эксперты и технологии.

Ключевые темы и спикеры:
🔵 Управление доступом по Zero Trust
Алексей Баксаляр, Исполнительный директор Департамента корпоративной архитектуры, Сбер
Защита API и AI-native систем.
🔵 Доверенный ИИ
Алексей Сидорюк, Отраслевой технический директор, Positive Technologies
Безопасность машинного обучения и генеративного ИИ.
🔵 Лицензии под ударом
Артём Бачевский, Директор продукта, Solar
Противодействие атакам на защиту лицензий.

Zero Trust, безопасный ИИ и защита лицензий — основа выживания IT-проектов. Это не просто митап, а практические инсайты от лидеров отрасли.

Регистрация на сайте

#полезное

@gen_i_i

Применение ИИ в сельском хозяйстве

Задумывались ли вы, как искусственный интеллект (ИИ) может накормить мир? Он уже трансформирует фермы: меньше труда, больше урожая, ноль ошибок. Давайте разберем, как это работает.

Где ИИ творит чудеса:
🔺 Растениеводство: роботы сеют, поливают и следят за полями. Урожайность растет, а фермеры отдыхают.
🔺 Животноводство: ИИ считает коров, предсказывает приплод и даже замечает, если кто-то захворал.
🔺 Качество: от поля до прилавка — всё под контролем. Безопасность и вкус гарантированы.

Цифры впечатляют: рынок ИИ в агроиндустрии уже $2,8 млрд, а к 2028 году — $5,6 млрд! Это не просто технологии, а новая эра устойчивого фермерства.

Российские компании вроде «Мираторг» и «Черкизово» уже в деле, оптимизируя всё — от селекции до учета свиней с точностью 99%. ИИ — это не фантастика, а инструмент, который делает еду доступнее.

А что думаете вы? Сможет ли ИИ сделать фермерство прибыльнее и экологичнее? Делитесь в комментариях!

⛓ Подробнее:
kept

#кейсы

@gen_i_i

Технологии на передовой кибербеза?

22-24 мая Лужники превратятся в эпицентр киберсобытий — международный фестиваль Positive Hack Days возвращается! Ожидается выступления более 500 спикеров, 26 треков и 270 докладов! 🤯

Что нас ждет? Фестиваль разделен на две зоны:

1️⃣ Закрытая (PRO-зона):
⏺ Технические и бизнес доклады: Разбор атак, расследования инцидентов, поиск уязвимостей.
⏺ Фокус на ИИ: Отдельное внимание уделено применению искусственного интеллекта в кибербезе. Будут обсуждать ИИ-агентов в киберразведке, автоматизацию защиты, безопасную разработку.
⏺ Международный уровень: 15 зарубежных экспертов, делегации из 41 страны.
⏺ Кибербитва Standoff 15: Более 30 команд атакующих сразятся за 5 млн ₽, а защитники будут противостоять им в реальном времени.
⏺ Киберхаб: 7 конкурсов для техноэнтузиастов — от взлома робокафе до задач по машинному обучению!

2️⃣ Открытая (FREE-зона):
⏺ Кибергород: Интерактивные инсталляции, где реверс-инженеры покажут «изнанку» умных устройств и научат пользоваться ими безопасно.
⏺ Научно-популярная сцена «Кулибин»: Выступления топ-экспертов, включая техноблогера Wylsacom, спецов из T-Банка, Yandex Cloud. Темы: гаджеты, цифровая грамотность, и, конечно, ИИ в искусстве!
⏺ Карьера: Аллея стажировок с ведущими вузами (МГУ, ВШЭ, МГТУ им. Баумана, ИТМО и др.).
⏺ Развлечения: Выступление Uma2rman, Минаевой и ГРАНЖ в дни фестиваля!

Готовы увидеть, как создается и защищается цифровое будущее? Тогда встречаемся на PHDays 😉

⛓ Подробнее:
ptsecurity
phdays

#интересное

@gen_i_i

Передовые технологии кибербеза

Представьте: кибератака стартует, а система сама её замечает, анализирует и нейтрализует за секунды. Фантастика? Уже реальность благодаря ИИ!

Что уже умеют решения на базе ИИ?
🔺 Прогноз и предупреждение. Распознают чувствительные данные в документах, гибко маскируют данные под уровни доступа и помогают бороться с утечками.
🔺 Автоматическое тестирование. В PT Dephaze генерируют пароли и сценарии атак, анализируют файлы и мгновенно готовят отчёты.
🔺 Обнаружение аномалий. Анализируют поведение пользователей, сетевой трафик и исполняемые файлы, ловят неуловимые угрозы нулевого дня.
🔺 Автопилот реагирования. В MaxPatrol O2 система сама предлагает сценарии остановки атаки, снижая нагрузку на специалистов.

Ключевые цифры от Positive Technologies:
⏩ В 55% защитных мер по матрице MITRE D3FEND возможно применение ИИ
⏩ 28% техник уже применяют ИИ
⏩ 27% — находятся на стадии разработки

Куда движемся дальше?
➡️ Мультиагентные системы: команда ИИ‑агентов, где каждый — эксперт в своей задаче.
➡️ Цифровые двойники: киберполигоны для безопасного тестирования.
➡️ Непрерывная аутентификация: биометрия в реальном времени не даст злоумышленнику шанса.

Риски и вызовы:
➡️ Потребность в качественных обучающих данных и мощностях
➡️ Сам ИИ становится мишенью для атак
➡️ Без опытных специалистов «автопилот» не взлетит

Что делать сегодня?
1️⃣ Обучать команду распознавать фишинг и дипфейки
2️⃣ Внедрять ИИ‑решения, сохраняя контроль человека
3️⃣ Следить за трендами и готовиться к новому раунду киберпротивостояния

Подробнее:
positive technologies

#интересное

@gen_i_i

ИИ на передовой кибербеза!

Представьте: кибератака начинается, но система сама её замечает, анализирует и нейтрализует за секунды. Фантастика? Уже нет! Искусственный интеллект (ИИ) стремительно трансформирует защиту данных, становясь не просто помощником, а настоящим автопилотом в кибербезопасности.

Что уже умеет ИИ?
Облегчает жизнь спецам: автоматизирует рутину, вроде сортировки тысяч алертов, сокращая время реакции в разы.
Ловит аномалии: замечает подозрительные изменения в поведении пользователей или систем, даже если атака новая.
Борется с угрозами: от обнаружения фишинга до блокировки веб-шеллов — ИИ усиливает защиту на всех фронтах.
Пентесты на автомате: инструменты вроде PentAGI находят уязвимости быстрее, чем хакеры успевают их использовать.

Куда мы движемся?
ИИ уже покрывает 28% техник защиты по матрице MITRE D3FEND, особенно в обнаружении угроз. В 2025 году ждём бум мультиагентных систем: они будут работать как команда спецов, где каждый агент — эксперт в своей задаче. А в будущем? Полноценные автопилоты, которые сами остановят атаку, и киберполигоны, где ИИ создаёт цифровые копии компаний для тестов.

Но есть и риски!
ИИ — это не только щит, но и потенциальная мишень. Киберпреступники уже используют ИИ для фишинга и дипфейков. Плюс, нужны огромные вычислительные мощности и качественные данные для обучения. Без экспертов, которые понимают и ИИ, и кибербезопасность, автопилот не взлетит.

🔍 Что делать?
🔺 Учите сотрудников распознавать фишинг и дипфейки.
🔺 Инвестируйте в ИИ-решения, но не забывайте про человеческий контроль.
🔺 Следите за трендами: киберпреступники не дремлют, и защита должна быть на шаг впереди.

💬 А вы готовы к эре ИИ в кибербезопасности? Доверяете автопилоту или всё ещё за ручной контроль? Делитесь мыслями в комментариях!

Подробнее:
positive technologies

#интересное

@gen_i_i

Дубай доказывает: ИИ в госуправлении – это не просто хайп, а рабочая стратегия!

Пока многие рассуждают о потенциале искусственного интеллекта, Дубай активно его внедряет. Свежий отчет Dubai Future Foundation и Dubai Centre for Artificial Intelligence (DCAI) подводит итоги масштабной инициативы: 33 правительственных ведомства предложили 183 идеи использования ИИ, 75 из которых были запущены как пилотные проекты! В отчете детально разобраны 15 самых показательных кейсов.

Что это значит на практике?

Это не просто чат-боты (хотя и они есть!). ИИ проникает в самую суть госуслуг, повышая их эффективность и доступность:

1️⃣ Новый уровень клиентского сервиса: ИИ-ассистенты и цифровые аватары уже обрабатывают до 80% рутинных запросов, освобождая людей для сложных задач. Представьте: время ответа сокращается на 70%, а точность растет!
2️⃣ Персонализированная медицина: ИИ анализирует геномные данные и электронные медкарты, помогая создавать индивидуальные планы лечения (особенно для хронических заболеваний) и повышая точность диагностики на 40%.
3️⃣ Решение нетривиальных задач:
🔺 Поиск потерянных вещей: ИИ-системы распознают предметы по фото или описанию, увеличивая шансы на возврат втрое.
🔺 Сохранение истории: ИИ помогает распознавать и оцифровывать древние рукописи (даже поврежденные или на редких языках), автоматизируя до 80% задач и делая наследие доступным.
🔺 Умный город: От архитектурного проектирования до повышения точности оценки недвижимости с помощью ИИ (до 85%!) – технологии работают на городскую среду.

Экспертный взгляд: 🧐

Ключевое здесь – системный подход. Дубай не просто "играет" с ИИ, а целенаправленно интегрирует его в инфраструктуру госуправления. Создание DCAI, запуск акселератора, фокус на измеримых результатах – всё это говорит о стратегической ставке на ИИ как на инструмент реальной трансформации. Речь идет о создании умного государства, способного быстрее и качественнее реагировать на нужды граждан и бизнеса. Потенциальный экономический вклад ИИ для ОАЭ оценивается почти в 14% ВВП к 2030 году!

Что дальше?

Дубай демонстрирует впечатляющий масштаб и последовательность, претендуя на глобальное лидерство в ИИ-управлении. Это мощный пример того, как можно переходить от теории к практике.

Какие из этих кейсов кажутся вам наиболее прорывными или применимыми в вашем контексте? 👇 Обсудим в комментариях!

⛓ Подробнее:
dubaifuture

#кейсы

@gen_i_i

📍 Недельный #дайджест 14 апреля - 20 апреля


Главное на прошлой неделе:

🌟 Новые модели GPT-4.1

🌟 Что такое deep research и почему он не идеален

🌟 Embed 4

🌟 YandexGPT 5 с режимом рассуждений!

🌟 Вышел новый playbook от OpenAI по созданию ИИ-агентов

@gen_i_i

Подборки решений от  red_mad_robot AI:

1️⃣ Международные инструменты (первая часть) — помогают бизнесу экономить ресурсы и ускорять запуск продуктов.
2️⃣ Российские решения (вторая часть) — проверенные в наших проектах сервисы для кода, дизайна, голосовых интерфейсов, LLM‑ассистентов и маркетинга.

Подробнее в red_mad_robot AI

❤️, если пользуешься отечественными решениями!

Делитесь в комментариях опытом использования инструментов или добавляйте свои фавориты.

#полезное

@gen_i_i

Сколково запускает ProGenAI — новую платформу для генеративного ИИ в промышленности!

Глобальная гонка GenAI обостряется: у зарубежных лидеров больше инвестиций и инфраструктуры. ProGenAI поможет нашим вендорам наверстать упущенное через массовые пилоты, постоянный приток данных и оперативную обратную связь для обучения моделей.

Что такое ProGenAI?
🔺 Сквозная экспертиза на всех этапах — от НИОКР до масштабирования в цехах.
🔺 Централизованная база лучших практик: >30 российских кейсов и 100 мировых примеров.
🔺 Инструменты: стратегический консалтинг, отраслевые аналитические отчёты, образовательные программы и GenAI‑чемпионаты в вузах.
🔺 Гранты, финансирование и преференции для лучших пилотных проектов.

Кто участвует?
🔺 Исследователи: Сколтех, AIRI
🔺 MLLM‑вендоры: Сбер, Яндекс, МТС
🔺 ИТ‑интеграторы: Рексофт, Софтлайн, Ай‑Теко + экспертиза 300+ ИИ‑стартапов
🔺 Индустриальные лидеры: Норникель, Газпромнефть, НЛМК, РМК, Сибур

Почему это важно?
1️⃣ Ускоренное внедрение: кастомные решения прямо «под ключ».
2️⃣ Рост конкурентоспособности: постоянный обмен данными и опытом.
3️⃣ Синергия науки и бизнеса: прорывные алгоритмы сквозь призму промышленных задач.

💡 Итог: ProGenAI — это не просто платформа, а экосистема, которая переведёт наше производство на новый ИИ‑уровень.

👉 Узнать подробнее: ProGenAI

#полезное

@gen_i_i

Вышел новый playbook от OpenAI по созданию ИИ-агентов

ИИ-агенты — модели, способные не просто общаться, а автономно выполнять сложные, многошаговые задачи от вашего имени. Это уже не ассистенты, а настоящие цифровые исполнители.

Когда стоит задуматься об агенте? 🤔

Агенты — это не универсальное решение. Их сила проявляется там, где пасует традиционная автоматизация:

⚪️ Сложные решения: Задачи, требующие нюансов, анализа контекста и обработки исключений (например, одобрение нестандартного возврата в поддержке).
⚪️ Громоздкие правила: Системы с запутанными, трудно поддерживаемыми наборами правил (например, проверка безопасности поставщиков).
⚪️ Неструктурированные данные: Работа с естественным языком, документами, диалогами (например, обработка страхового случая по фото и описанию).

Проще говоря, если ваша задача похожа на работу опытного следователя, а не на заполнение простого чек-листа, агент может быть вашим выбором.

Из чего "собран" агент? Основы основ:

1️⃣ Модель (LLM): "Мозг" агента, отвечающий за рассуждения и принятие решений. Важно выбрать правильную модель — не всегда нужна самая мощная (и дорогая).
2️⃣ Инструменты: Внешние API и функции, которыми агент пользуется для сбора информации или выполнения действий (отправка email, запрос к базе данных, даже использование других агентов!).
3️⃣ Инструкции и "Ограждения" (Guardrails): Четкие правила игры, определяющие поведение, цели и, что критически важно, границы дозволенного.

Оркестрация и Безопасность:

Создание агента — это не только про "ум". Сложные задачи могут потребовать координации нескольких агентов ("менеджер" или "децентрализованная" схема). Но начинать лучше с простого, постепенно усложняя.

Ключевой аспект — безопасность (Guardrails). Это многоуровневая защита: от фильтрации неуместных запросов и защиты от "взлома" промпта до контроля над использованием инструментов и обязательной проверки действий с высоким риском (например, финансовые операции).

И помните: возможность вмешательства человека — не слабость, а необходимый элемент надежности, особенно на старте.

Итог: ИИ-агенты — это мощный инструмент для автоматизации нового уровня, способный принести реальную ценность там, где раньше требовался человек. Но их создание требует глубокого понимания задачи, тщательного проектирования и неукоснительного внимания к безопасности.

А как вы думаете, какие задачи в вашей сфере первыми "дорастут" до автоматизации с помощью ИИ-агентов? Поделитесь в комментариях!

Подробнее: OpenAI

#полезное

@gen_i_i

OpenAI выкатила o3 и o4-mini

OpenAI представила новое поколение своих моделей – o3 (флагман) и o4-mini (оптимизированная). Но главная новость – не просто очередное улучшение интеллекта. Это качественный скачок к агентному ИИ внутри ChatGPT! 🧠

Что это значит?

Впервые модели o-серии могут самостоятельно решать, когда и как использовать весь арсенал инструментов ChatGPT:
🌐 Поиск в интернете
🐍 Анализ данных и файлов с помощью Python
🖼 Глубокое понимание изображений (даже нечетких!)
🎨 Генерация картинок

Они не просто выполняют команды, а рассуждают, как лучше решить сложную, многоэтапную задачу, комбинируя нужные инструменты. Представьте: вы просите проанализировать тренды рынка, а ИИ сам ищет данные, пишет код для анализа, строит графики и дает развернутый ответ – и все это за минуту!

Ключевые моменты:

🔺 OpenAI o3: Самая мощная модель на сегодня. Блестяще справляется с кодом, математикой, наукой и, особенно, визуальным анализом (графики, диаграммы, фото). Значительно меньше ошибок по сравнению с o1 на сложных задачах. Идеальный партнер для аналитики и генерации гипотез.
🔺 OpenAI o4-mini: Быстрее и экономичнее, но с впечатляющей производительностью для своего класса (особенно в математике, коде, визуальных задачах). Отличный вариант для задач, требующих "думающего" ИИ в больших объемах.
🔺 "Мышление картинками": Модели теперь не просто "видят" изображение, а интегрируют его в свою цепочку рассуждений. Это открывает новые горизонты для решения задач, смешивающих текст и визуал.
🔺 Масштабирование RL: OpenAI подтверждает: чем больше вычислительных ресурсов дается модели на этапе обучения с подкреплением (RL), тем лучше она работает.

Экспертный взгляд:

Это не просто апдейт, это смена парадигмы. Мы движемся от ИИ-помощников, отвечающих на вопросы, к ИИ-агентам, способным автономно выполнять комплексные задачи. Интеграция всех инструментов под управлением продвинутого интеллекта модели – огромный шаг вперед. Визуальное мышление стирает границы между текстовым ИИ и реальным миром. Ожидаем волну новых приложений и сценариев использования!

Как думаете, какие задачи вы бы доверили такому "проактивному" ChatGPT в первую очередь? Делитесь в комментариях! 👇

⛓ Подробнее:
OpenAI

#полезное

@gen_i_i

Как ИИ помогает мне худеть к лету

Друзья, привет,

у меня есть небольшой «загон». Несколько раз в своей жизни я пытался вести табличку с показателями активности, здоровья, энергии, сна.

Цель была в том, чтобы понять, как улучшить качества сна, продуктивность, радость от жизни, отследить заранее, если я выгораю, а также замерять потребление калорий.

Иногда я находил интересные корреляции и отказался от свинины и молочки, а также внедрил прогулки и велосипед перед сном.

Меня хватало обычно на 1-2 месяца, дальше становилось лениво и накладно вести таблички. А пропустив 2-3 раза я переставал этим заниматься совсем.

С удивлением обнаружил, что ChatGPT сегодня успешно замещает FatSecret и прочие сервисы и таблички.

Например, можно сфотографировать свою еду и попросить занести в таблицу ккал.

Также он может выступить вашем персональным диетологом, может похвалить за правильный рацион и активность. Кстати, это действительно мотивирует :)

С утра ChatGPT меня спрашивает, как прошел вчерашний день, а заполнить таблицу можно хоть голосом в режиме диалога, хоть вручную.

Я сделал отдельный проект "Долголетие" и вводный промпт:

В этом проекте ты играешь роль моего лайфкауча, и давай определим ключевые метрики состояния здоровья, например уровень энергии от 0 до 10, уровень здоровья от 0 до 10, количество часов сна, может быть какие-то еще метрики, по которым я тебе каждый день буду отчитываться, и мы будем вести дневник здоровья и долголетия.

Не знаю на сколько меня хватит на этот раз, но точно стало удобнее и проще :)

Судя по всему у FatSecret и смарт-часов появился серьезный конкурент.

PS: если вы хотите видеть больше контента с личным применением ИИ, поставьте 🔥 под постом. Сделаем небольшую перекличку

#личное

@gen_i_i

Ваши корпоративные данные — нечитаемый хаос? PDF, презентации, отчеты с графиками — как заставить ИИ по-настоящему всё это понять?

Cohere выпустили Embed 4 — новую модель эмбеддингов, которая обещает революцию в корпоративном поиске и работе с AI-ассистентами. И это не просто слова, вот почему это важно:

1️⃣ Истинная Мультимодальность:
Забудьте о головной боли с предобработкой! Embed 4 «видит» и понимает не только текст, но и изображения, таблицы, графики и диаграммы прямо внутри сложных документов (PDF, PPT и т.д.). Всё это упаковывается в единый вектор! Это прорыв для поиска по реальным бизнес-материалам.

2️⃣ Гигантский Контекст:
Модель обрабатывает документы длиной до 128 000 токенов (это около 200 страниц!). Годовые отчеты, техническая документация, юридические договоры — теперь ИИ может осмыслить их целиком, не теряя контекста.

3️⃣ Глобальный Охват:
Поддержка более 100 языков, включая ключевые для бизнеса (арабский, японский, корейский, французский и др.). И что круто — возможен кросс-языковой поиск! Ищите на русском по документам на английском? Легко.

4️⃣ Эффективность и RAG:
Embed 4 — это идеальный движок для Retrieval-Augmented Generation (RAG). То есть, ваши ИИ-ассистенты будут давать более точные, релевантные ответы, опираясь на реальные данные компании, а не галлюцинировать. Плюс, сжатые эмбеддинги экономят до 83% на хранении без потери качества поиска!

5️⃣ Фокус на Безопасность и Отрасли:
Модель оптимизирована для данных из регулируемых отраслей (финансы, здравоохранение, производство) и может быть развернута в вашем частном облаке (VPC) или локально (on-premise). Данные под контролем.

Что это значит на практике?

Представьте: вы можете спросить ИИ-ассистента о конкретном графике в годовом отчете за прошлый год или найти нужную схему в инструкции на японском, даже если ваш запрос на русском. Компании вроде Hunt Club уже видят +47% улучшение точности поиска по сравнению с предыдущей версией!

Cohere Embed 4 — это не просто очередное обновление, а серьезный шаг к созданию по-настоящему умных и полезных корпоративных ИИ-систем, способных понимать сложную, реальную информацию.

Похоже, эра "слепых" корпоративных поисковиков подходит к концу. Как думаете, насколько быстро такие технологии изменят нашу повседневную работу с информацией? 🤔

⛓ Подробнее:
cohere

#полезное

@gen_i_i

Тестируем YandexGPT 5 с режимом рассуждений!

Яндекс не перестает удивлять и выкатил в публичную бету YandexGPT 5 с новой фичей – режимом рассуждений! 🚀 Это не просто очередное обновление чат-бота, а серьезный шаг вперед.

Что нового и почему это важно?

1️⃣ Прозрачность Мышления: Главная фишка – модель теперь может показывать ход своих "мыслей" в реальном времени! Она анализирует ваш запрос, разбивает его на логические шаги и только потом выдает ответ. Это как заглянуть ИИ под капот – огромный плюс для понимания и доверия. ✨ Больше не "магия", а понятный процесс!

2️⃣ Глубина Анализа: Режим рассуждений – это не про быстрые ответы на простые вопросы. Это про сложные задачи, где требуется логика, анализ и последовательность. Яндекс обучил модель именно этому, используя не только стандартные датасеты, но и специфические B2B-задачи (классификация, извлечение данных).

3️⃣ Гибридный Подход с Вебом: Включаем опцию "Искать в сети", и YandexGPT 5 сама генерирует поисковые запросы, анализирует найденную информацию и интегрирует ее в ответ, ссылаясь на источники! 🔍 Это мощный гибрид LLM и актуальных данных из интернета.

Как это работает?

Яндекс использует продвинутые методы обучения:
🔺 Стартуют с SFT-чекпоинта (а не претрейна).
🔺 Растят навыки на задачах с четкими ответами.
🔺 Экспериментируют с RL (online GRPO и offline подходы).
🔺 Финальная доводка через RLHF для "серых зон".
Серьезный R&D, нацеленный на качество рассуждений! 🤓

Интересный ход:

В бете можно потестировать не только модель Яндекса, но и опенсорсную DeepSeek R1, развернутую на их инфраструктуре. Это отличная возможность для пользователей сравнить подходы, а для Яндекса – собрать ценный фидбэк и понять, когда именно нужен "думающий" ИИ. Напоминает стратегию Perplexity с несколькими моделями.

⛓ Подробнее:
habr

#полезное

@gen_i_i

Новые модели GPT-4.1

OpenAI представила три новые модели: GPT-4.1, GPT-4.1 mini и GPT-4.1 nano. Это обновление — настоящий скачок в возможностях ИИ, особенно в написании кода и выполнении сложных инструкций. А контекстное окно до 1 миллиона токенов открывает двери для задач, о которых раньше можно было только мечтать.

Что нового?
🔺 Кодинг: GPT-4.1 решает 54.6% задач на SWE-bench Verified — это на 21.4% лучше, чем GPT-4o. Фронтенд, diff-форматы, меньше лишних правок — модель стала настоящим помощником для разработчиков.
🔺 Инструкции: На тесте MultiChallenge от Scale модель набрала 38.3% — рост на 10.5% по сравнению с GPT-4o. Она лучше понимает сложные команды и держит нить разговора.
🔺 Длинный контекст: 1 миллион токенов — это 8 копий кода React! GPT-4.1 уверенно работает с большими документами и кодовыми базами, показывая топ-результаты на Video-MME и OpenAI-MRCR.

🤔 Почему это круто?
Модели стали не только мощнее, но и дешевле: GPT-4.1 на 26% выгоднее GPT-4o, а nano — идеальный выбор для задач вроде автодополнения с минимальной задержкой. Компании уже в деле: Windsurf отмечает рост эффективности кода на 60%, а Qodo хвалит модель за качественные код-ревью в 55% случаев.

⛓ Подробнее:
openai

#полезное

@gen_i_i

ЧТО ТАКОЕ DEEP RESEARCH И ПОЧЕМУ ОН НЕ ИДЕАЛЕН

Google, OpenAI и xAI Илона Маска почти одновременно запустили новые инструменты под названием Deep Research. Что это такое и стоит ли доверять этой технологии?

📊 Что умеет Deep Research?

Deep Research — это ИИ-агент, который самостоятельно ищет информацию в интернете и проводит глубокий анализ источников. За считанные минуты он просматривает сотни онлайн-материалов и формирует подробный отчет — на то, что у человека заняло бы часы или дни.

В отличие от обычных чат-ботов, Deep Research не просто выдает поверхностный обзор первой страницы поисковой выдачи, а действительно "рассуждает", разбивая задачу на этапы и последовательно их выполняя.

💡 Как это работает на практике?

Например, Фелипе Миллон из OpenAI рассказал, как с помощью Deep Research анализировал медицинские данные своей супруги с диагнозом рак груди. ИИ не только обработал гистологическое исследование и персональную информацию, но и предоставил дополнительные исследования, учитывающие индивидуальные особенности пациентки.

Google уже опробовала свою многоагентную систему AI co-scientist в трех биомедицинских экспериментах и готовит научную статью по результатам поиска эпигенетических мишеней. Интересно, что одна из гипотез, предложенных ИИ об эволюции генов, совпала с выводами ученых из Лондона, опубликованными всего на день раньше. Профессор Хосе Пенадес был настолько шокирован, что даже заподозрил утечку данных!

⚠️ Но не все так идеально

Как показывает опыт Бенедикта Эванса, аналитика, который подробно изучил возможности Deep Research от OpenAI, инструмент часто ошибается в конкретных данных.

Исследуя рынок смартфонов в Японии, он обнаружил, что заявленные Deep Research цифры (69% iOS и 31% Android) не соответствуют ни одному из указанных источников. При проверке оказалось, что реальное соотношение было почти противоположным!

🤔 Итак, помощник или головная боль?

Deep Research можно сравнить с "вечным стажером" — он способен сэкономить вам массу времени, но все результаты нужно проверять. Как сказал Стив Джобс: "Компьютер — это велосипед для мозга: он позволяет двигаться дальше и быстрее гораздо меньшими усилиями, но сам по себе он никуда не уедет".

⛓ Подробнее:
habr
n+1

#интересное

@gen_i_i

📍 Недельный #дайджест 7 апреля - 13 апреля


Главное на прошлой неделе:

🌟 5 ключевых выводов из Stanford AI Index 2025

🌟 ИИ в разработке ПО: Революция уже здесь или еще подождем?

🌟 Новый игрок врывается на сцену ИИ: Cogito v1!

🌟 Обновление модели Kodify

🌟 ИИ-хайп не утихает, но фокус смещается! Куда теперь текут миллиарды венчурных инвестиций?

@gen_i_i

ИИ-хайп не утихает, но фокус смещается! Куда теперь текут миллиарды венчурных инвестиций?

После стремительного взлета ChatGPT два года назад, искусственный интеллект продолжает оставаться в центре внимания как инвесторов, так и бизнеса. Согласно свежему рейтингу Forbes ИИ 50, подготовленному совместно с Sequoia и Meritech Capital, сейчас акцент смещается с гонки гигантских моделей на создание конкретных продуктов и решений на их основе.

Что же нового и интересного происходит в мире ИИ?

1️⃣ Нишевые сценарии применения GPT-моделей лидируют: стартапы активно внедряют технологии автоматизации для решения повседневных задач. Вот несколько ярких примеров:
➡️ Anysphere (Cursor) - помощник для программистов стоимостью $2,5 млрд, который, по слухам, уже приносит свыше $100 млн выручки в год. Он помогает создавать код буквально по запросу, будь то написание программы или разработка 8-битной игры.
➡️ Speak - репетитор по языкам с оценочной стоимостью $1 млрд и базой из 10 миллионов пользователей.
➡️ OpenEvidence - платформа для врачей, способная обрабатывать и обобщать медицинские данные.
➡️ Mercor - система подбора персонала, использующая ИИ-авиаторов для проведения интервью. Основатели компании - студенты, которым всего 21 год!

2️⃣ Титаны и новые звезды: OpenAI ($63,9 млрд) и Anthropic ($17 млрд) остаются крупнейшими игроками по объему привлеченного капитала (в сумме более половины всех вложений в топ-50 компаний). Но конкуренты наступают на пятки: это xAI Илона Маска ($12,1 млрд), таинственная Thinking Machine Labs, основанная бывшим техническим директором OpenAI Мирой Мурати (по слухам, компания привлекла раунд инвестиций на сумму $1 млрд при оценке в $9 млрд, причем без какого-либо готового продукта!), World Labs от "крёстной матери ИИ" Фэй-Фэй Ли ($291,5 млн) для анализа физического мира, а также стартап Writer ($326 млн), специализирующийся на моделях для бизнес-задач.

3️⃣ Инфраструктура - всему голова: огромный спрос на вычислительные мощности для работы ИИ породил настоящий бум среди поставщиков вроде Crusoe ($1,6 млрд), Lambda ($863 млн) и Together AI ($534 млн). Без надежной инфраструктуры магии AI просто не существует.

4️⃣ Главная угроза - юристы: почти всю индустрию накрыли судебные иски, касающиеся нарушения авторских прав. Среди тех, кого обвиняют в неправомерном использовании контента для обучения моделей, такие известные компании, как OpenAI, Anthropic, Midjourney, Runway, Elevenlabs, Suno, Cohere и Perplexity. Последствия этих судебных разбирательств могут кардинально изменить правила игры и определить будущее развития ИИ-индустрии. Даже сам Forbes оказался втянутым в разбирательства с Perplexity и Cohere.

Заключение:
Рынок ИИ явно взрослеет. Бешеный ажиотаж вокруг "самых больших моделей" уступает место практическим вопросам поиска реальной пользы и возврата на инвестиции. Стартапы, которые решают конкретные проблемы бизнеса, демонстрируют впечатляющий рост. Тем не менее, юридические риски представляют собой серьезную угрозу, которая требует пересмотра подходов к обучению моделей. Те, кто смогут доказать законность своих данных или найдут другие способы обхода проблем, окажутся победителями в этой гонке.

Вопрос на размышление:
Что будет движущей силой развития ИИ в ближайшие годы - новые революционные модели или умные приложения на их основе? И как индустрия справится с вызовами, связанными с авторским правом?

рейтинг Forbes ИИ 50

#инсайты

@gen_i_i

Data Fusion 2025

16-17 апреля в Москве пройдет пятое, юбилейное издание конференции Data Fusion.

Адрес форума: г. Москва, Раменский бульвар, д.1, ближайшие станции метро - Университет и Раменки.

Искусственный интеллект перестал быть абстрактной концепцией, он активно трансформирует отрасли прямо сейчас. От HR до банкинга – его влияние колоссально и продолжает расти. Data Fusion – это та площадка, где можно из первых уст узнать о самых прорывных кейсах и будущих векторах развития.

В программе – более 70 сессий!

🔵 Первый день посвящен научным исследованиям в области искусственного интеллекта.
🔵 Второй день – его бизнес-применению.

🚨 ВАЖНО! Регистрация открыта до 11 апреля! 🚨

🔗 Регистрируйтесь прямо сейчас

PS: Я буду 17 апреля вести 2 сессии: “AI-native банк: что это такое и как им стать?” и “Применение ИИ в HR: помощник или конкурент?”. Кто хочет очно пообщаться, приходите!

#форум

@gen_i_i

О чём думает ИИ? Российские учёные, кажется, узнали.

Часто ли вы задумывались, почему нейросеть выдает тот или иной ответ? Этот вопрос – одна из главных головных болей в мире ИИ, особенно когда речь идет о медицине, финансах или безопасности. Ошибка здесь может стоить очень дорого.

Ученые из T-Bank AI Research разработали метод SAE Match. Если говорить просто, это способ понять логику ИИ "изнутри", отследить, как формируется решение на каждом этапе вычислений.

В чем соль и почему это важно? 🤔

1️⃣ Прозрачность: Наконец-то можно будет не просто гадать, а видеть, как ИИ приходит к выводам.

2️⃣ Надежность: Понимание = возможность быстро находить и исправлять ошибки без долгого и дорогого переобучения всей модели. Это огромный шаг к созданию более безопасного ИИ для критических сфер.

3️⃣ Контроль: Разработчики утверждают, что метод позволяет даже напрямую влиять на генерацию текста, повышая точность и качество ответов.

4️⃣ Доступность: Ключевое преимущество SAE Match – для работы не нужны дополнительные гигантские датасеты или суперкомпьютеры! Это открывает двери для небольших исследовательских команд и стартапов, у которых нет ресурсов IT-гигантов. Фактически, это шаг к "демократизации" глубокого анализа ИИ.

Команда представит свои результаты на престижной международной конференции ICRL, что говорит о серьезности проделанной работы.

Это исследование (вместе с их предыдущей разработкой по распознаванию неизвестных объектов) показывает явный фокус T-Bank AI Research на повышении надежности и интерпретируемости ИИ.

Что думаете? Насколько быстро, по-вашему, такие методы станут стандартом индустрии? Сможем ли мы скоро полностью доверять решениям ИИ в самых ответственных задачах?

⛓ Подробнее:
ведомости

#полезное

@gen_i_i

Миллион за взлом нейросети? Яндекс открывает охоту на уязвимости в YandexGPT и YandexART!

Кажется, эра, когда безопасность ИИ была лишь теоретической проблемой, официально закончилась. Яндекс сделал мощный ход, расширив свою знаменитую программу "Охота за ошибками" на святая святых — генеративные нейросети YandexGPT и YandexART. На кону — до 1 миллиона рублей за найденную критическую уязвимость. 💰

Что это значит на самом деле?

Это не просто очередной bug bounty. Это признание того, что генеративный ИИ стал критической инфраструктурой, пронизывающей десятки сервисов (от Алисы до Yandex Cloud). А где критическая инфраструктура, там и новые, изощренные угрозы.

🔍 На что идет охота?

Ищут именно технические бреши:
➡️ Возможности раскрыть внутреннюю конфигурацию модели.
➡️ Способы "вытащить" служебные промты или другие чувствительные данные.
➡️ Ошибки, позволяющие вызвать сбой модели или манипулировать её поведением так, чтобы это повлияло на другие сервисы Яндекса.

Важно: Речь не идет об исправлении "галлюцинаций" ИИ, неточных ответов Алисы или странных картинок от Шедеврума. Цель — предотвратить реальный взлом, утечку данных или саботаж.

Экспертный взгляд:

Этот шаг Яндекса — знаковый. Он подчеркивает несколько моментов:
1️⃣ Новые векторы атак: Безопасность ИИ — это не то же самое, что безопасность традиционного ПО. Здесь свои риски: от изощренных prompt injections до атак на данные обучения и утечек через ответы модели.

2️⃣ Высокая ценность: Награда в миллион рублей ясно дает понять — защита этих моделей имеет высочайший приоритет. Данные и алгоритмы ИИ — новая нефть? Похоже на то.

3️⃣ Зрелость индустрии: Привлечение "белых хакеров" — это стандартная практика для зрелых технологий. То, что генеративные сети попадают в этот периметр, говорит об их глубокой интеграции и важности.

Яндекс, конечно, подчеркивает, что у них и так многоуровневая защита (от безопасной разработки до мониторинга и Антиробота). Но независимый аудит от сообщества — это всегда плюс, особенно для таких сложных систем.

Что дальше? 🤔

Скорее всего, мы увидим похожие инициативы и от других крупных игроков на рынке ИИ. Безопасность генеративных моделей становится одним из ключевых полей битвы за доверие пользователей и стабильность сервисов.

⛓ Подробнее:
yandex

#полезное

@gen_i_i

Обновление модели Kodify

Kodify — это on-premise-сервис, который генерирует код, автодополняет его и даже переводит между 90 языками программирования — от Python до Go.

Что он умеет?
Kodify 2 — не просто помощник, а целый арсенал инструментов для разработчиков:
1️⃣ Генерация кода: Напиши «создай функцию для сортировки массива» — и готово.
2️⃣ Продуктивность: Автодополнение, подсказки и автоформатирование ускоряют работу в разы.
3️⃣ Оптимизация: Рефакторинг, тесты, поиск ошибок — всё, чтобы ваш код стал чище и надёжнее.
4️⃣ Гибкость: Работает с популярными IDE и устанавливается внутри компании, обеспечивая безопасность данных.

А ещё он вездесущ: от геймдева и веб-разработки до кибербезопасности и автоматизации заводов.

Почему это важно?
Kodify 2 — не просто инструмент, а шаг к новому стилю разработки. Он делает процесс интуитивным, сокращает рутину и открывает двери для команд, где языковые барьеры больше не проблема.

⛓️ Подробнее:
МТС

#полезное

@gen_i_i

Новый игрок врывается на сцену ИИ: Cogito v1!

Стартап Deep Cogito представил Cogito v1 — серию открытых LLM (от 3B до 70B параметров), которые, по их заявлениям, превосходят лучшие существующие открытые модели аналогичного размера, включая LLaMA, DeepSeek и Qwen.

🔥 Самое горячее: их 70B модель, как утверждается, обходит даже свежую Llama 4 109B MoE!

🧠 Секретный соус? Новая методика IDA.

В основе Cogito лежит Iterated Distillation and Amplification (IDA) — Итеративная Дистилляция и Амплификация. Звучит сложно, но суть интригует:

1️⃣ Амплификация: Модель использует больше вычислений для поиска лучшего решения или ответа (условно, "думает усерднее").
2️⃣ Дистилляция: Этот "улучшенный мыслительный процесс" затем "встраивается" обратно в параметры модели.

Цикл повторяется, позволяя модели итеративно самосовершенствоваться. Deep Cogito заявляет, что этот подход не ограничен интеллектом "учителя" (будь то человек или другая модель) и может стать путем к общему суперинтеллекту (General Superintelligence). 🤖✨

💡 Экспертное мнение / Анализ:

➡️ Реальный прорыв или хайп? Заявление о превосходстве над Llama 4 109B — это очень смело. Если бенчмарки подтвердятся в реальных задачах, это может изменить правила игры. IDA теоретически решает одну из ключевых проблем масштабирования ИИ — "потолок" возможностей, заданный обучающими данными.
➡️ Эффективность: Разработка моделей заняла всего 75 дней небольшой командой. Если это правда, IDA может значительно удешевить и ускорить создание передовых LLM.
➡️ Открытость: Выпуск всех моделей в Open Source — большой плюс для сообщества и вызов закрытым экосистемам.
➡️ Цель — суперинтеллект: Deep Cogito не скрывает своих амбиций. IDA позиционируется не просто как метод обучения, а как путь к сверхразуму. Это поднимает планку ожиданий (и, возможно, рисков).

Что еще:

⭐️ Модели Cogito могут работать в стандартном режиме или с "саморефлексией" перед ответом (режим рассуждения).
⭐️ Оптимизированы под код, вызов функций и агентные сценарии.
⭐️ Планируется выпуск более крупных моделей (109B, 400B, 671B).
⭐️ Доступны на Huggingface, Ollama и через API.

🤔 Заключение:

Cogito v1 и метод IDA выглядят как минимум интригующе. Если их подход действительно позволяет моделям эффективно самообучаться и преодолевать существующие барьеры, мы можем стоять на пороге новой эры в развитии ИИ. Но, как всегда, реальную ценность покажут время и независимые тесты.

Что думаете? Может ли IDA стать ключом к AGI/ASI? Делитесь мнениями в комментариях!

⛓ Подробнее:
deepcogito

#полезное

@gen_i_i

Google наносит ответный удар киберугрозам!

Google анонсировала Sec-Gemini v1 – новую экспериментальную AI-модель, заточенную под нужды киберзащитников.

🤔 В чем проблема?

Как справедливо отмечают в Google (и как мы все знаем), в кибербезопасности царит фундаментальная асимметрия: защитникам нужно закрыть все уязвимости, а атакующим – найти всего одну. Это делает защиту невероятно сложной и ресурсоемкой задачей. ИИ может стать тем самым "множителем силы", который поможет склонить чашу весов в пользу обороняющихся.

❓ Что такое Sec-Gemini v1?

Это не просто очередная языковая модель. Google объединила продвинутые возможности Gemini с актуальными знаниями о киберугрозах. Ключевые компоненты:

⭐️ Мощь Gemini: Продвинутые возможности рассуждения и анализа.
⭐️ Актуальные данные: Интеграция с Google Threat Intelligence (GTI), базой данных уязвимостей OSV (Open Source Vulnerabilities) и, что важно, аналитикой от Mandiant (которую Google приобрела ранее). Данные обновляются почти в реальном времени!
⭐️ Специализированные инструменты: Заточенность под задачи SecOps (Security Operations).

🛡 Что умеет и чем лучше других?

Sec-Gemini v1 показывает впечатляющие результаты на специализированных бенчмарках, обгоняя другие модели:

⭐️ Анализ угроз (CTI-MCQ): Превосходство минимум на 11%.
⭐️ Поиск первопричин уязвимостей (CTI-Root Cause Mapping): Превосходство минимум на 10.5%.

В примерах Google модель демонстрирует способность:

1️⃣ Идентифицировать акторов угроз: Например, точно определяет, что Salt Typhoon – это группа хакеров, и дает подробное описание (спасибо данным Mandiant).

2️⃣ Контекстуализировать уязвимости: Не просто перечисляет CVE, связанные с атаками Salt Typhoon, но и объясняет их значимость в контексте действий этой группы (используя данные OSV и Mandiant).

Это позволяет аналитикам быстрее понимать профиль риска и угроз, связанных с конкретными уязвимостями.

🧐 Мое мнение и выводы:

Это очень интересный шаг от Google. Они не просто адаптировали Gemini, а создали гибридное решение, объединяющее мощь LLM с постоянно обновляемой, специализированной базой знаний по кибербезу. Интеграция с GTI, OSV и, особенно, с глубокой аналитикой Mandiant – это потенциальный game changer.

⭐️ Последствия: Если Sec-Gemini докажет свою эффективность в реальных условиях, это может значительно ускорить анализ инцидентов, улучшить проактивный поиск угроз (threat hunting) и снизить нагрузку на команды SecOps. Автоматизация рутинных задач анализа позволит людям сосредоточиться на более сложных вызовах.
⭐️ Актуальность: Киберугрозы никуда не денутся, а их сложность только растет. Использование ИИ – логичный и необходимый шаг эволюции защиты.
⭐️ Подход Google: Важно, что Google делает ставку на коллаборацию. Предоставление доступа исследователям (пусть и избранным на данном этапе) позволит быстрее выявить сильные и слабые стороны модели, а также собрать идеи для ее улучшения. Это умный ход, чтобы технология развивалась с учетом реальных потребностей сообщества.

Конечно, пока это экспериментальная модель, и ее реальное влияние еще предстоит оценить. Но направление задано очень амбициозное.

⛓ Подробнее:
googleblog

#полезное

@gen_i_i

ИИ в разработке ПО: Революция уже здесь или еще подождем?

Друзья, недавно MTS AI опросили 556 разработчиков из России и СНГ об использовании искусственного интеллекта в их работе. Результаты – 🔥! Давайте разбираться вместе.

🤓 Что мы узнали:

1️⃣ Пробуют почти все, остаются многие:
Целых 69% разрабов хотя бы раз "щупали" ИИ-инструменты для кодинга. Из них две трети продолжают пользоваться! Причем 25% юзают их ежедневно, а 41% - несколько раз в неделю. Похоже, ИИ входит в привычку.

2️⃣ Корпорации на распутье:
У 56% респондентов в компаниях есть свои ИИ-тулзы. Но вот со сторонними сервисами картина пестрая: 40% компаний разрешают их лишь для отдельных проектов, у 18% ограничений нет, а 9% вообще запрещают! Интересно, что 25% компаний еще не выработали никакой политики – похоже, многие еще только осмысляют новую реальность.

3️⃣ Народный любимец - ChatGPT:
Безоговорочный лидер! 76% пользователей выбирают именно его. GitHub Copilot (16%) и CodeGPT для VS Code (18%) тоже популярны, но до масштабов ChatGPT им далеко.

4️⃣ Зачем используют? Главные сценарии: генерация кода по запросу (58%), поиск ошибок и дебаггинг (57%), написание тестов (43%) и автодополнение (41%). То есть, ИИ берут на себя рутину и помогают там, где легко ошибиться.

5️⃣ Эффективность vs Качество: Вот тут самое интересное! 68% говорят, что ИИ ускоряет рутинные задачи, 57% тратят меньше времени на поиск инфы, 53% отмечают рост производительности. Половина юзеров экономят 1-4 часа в неделю. НО! 31% опрошенных вынуждены править код и доки от ИИ более чем в 80% случаев! Главные бесячие моменты: ошибки, "галлюцинации" и низкое качество кода для сложных задач.

🤔 Выводы:

⭐️ ИИ-ассистенты – это уже не экзотика, а рабочий инструмент для многих. Они реально экономят время на рутине.
⭐️ Однако качество генерации пока оставляет желать лучшего. ИИ – это скорее "умный джун", за которым нужен глаз да глаз, а не полноценная замена опытному разрабу.
⭐️ Компании еще ищут баланс между инновациями и рисками (утечки данных боятся 22% тех, кто *не* использует ИИ). Отсутствие четких политик у четверти компаний это подтверждает.
⭐️ Будущее? 58% разрабов считают, что будут больше заниматься высокоуровневым проектированием, а код будут писать модели. Звучит логично: фокус сместится на архитектуру и контроль качества.

А что думаете вы? Используете ИИ в коде? Как вам качество? Какие инструменты ваши фавориты? Делитесь опытом в комментариях!

⛓ Подробнее:
mts ai

#полезное

@gen_i_i

ИИ в проектном менеджменте: Быстрые выигрыши и трансформация

Philip Morris International опубликовали открытый отчёт о своём пути внедрения ИИ.

Основное:

➡️ Быстрые выигрыши:
ИИ помогает ускорить работу, автоматизируя рутинные процессы и освобождая время для более важных задач.

➡️ Большой потенциал:
Продвинутое использование – от управления затратами до принятия стратегических решений – позволяет полностью переосмыслить проектное управление.

➡️ Два ключевых ингредиента успеха:
1. Подготовленность: Знание технологий и глубокий опыт в проектном менеджменте.
2. Инициатива: Готовность учиться, экспериментировать и двигаться вперёд, несмотря на препятствия.

➡️ Организации и профессионалы:
Компании, поддерживающие внедрение ИИ, получают конкурентное преимущество, а лидеры, развивающие свои навыки, становятся проводниками перемен.

➡️ Три типа подходов:
⭐️ Инструменты для всех — Copilot, чат-боты
⭐️ Поддержка функций — финансы, HR, маркетинг
⭐️ Стратегические инициативы — трансформация рабочих процессов

➡️ Не все прошло гладко
- Страхи у сотрудников
- Борьба с иллюзией, что ИИ — это "магия"
- Проблемы с данными и инфраструктурой
- Переоценка эффективности early-stage решений

⛓ Подробнее:
PMI AI in Project Management

#полезное

@gen_i_i

5 ключевых выводов из Stanford AI Index 2025

друзья, привет,

вчера был опубликован Stanford AI Index 2025 - один из самых фундаментальных отчетов по развитию ИИ в мире.

Я решил выделить 5 основных выводов из этого исследования, а также сравнил показатели с прошлым исследованием.

1️⃣ Генеративный ИИ становится эффективнее и доступнее. С 2022 по 2024 год себестоимость вычислений для модели уровня GPT-3.5 упала более чем в 280 раз, при этом ежегодно стоимость оборудования для ИИ снижается примерно на 30%, а энергоэффективность чипов растёт на ~40%. При этом открытые модели стремительно догоняют закрытые по качеству и конкурируют с ними: разница в точности снизилась с ~8% до ~1,7% всего за год. Эти достижения резко снижают барьеры внедрения передовых ИИ-технологий, делая их все более доступными для новых игроков рынка.

2️⃣ Бизнес стремительно внедряет ИИ. Частные инвестиции в искусственный интеллект бьют рекорды. В 2024 году объём инвестиций в ИИ в США достиг $109 млрд (в 12 раз больше, чем в Китае); значительная часть пришлась на генеративный ИИ (~$34 млрд). Корпоративное использование тоже ускоряется: 78% организаций по всему миру сообщили о применении ИИ в 2024 году (против 55% годом ранее). Исследования подтверждают, что внедрение ИИ реально повышает продуктивность труда и помогает сокращать дефицит навыков сотрудников, что усиливает интерес бизнеса к данным технологиям.

3️⃣ Геополитика ИИ: Китай против США. США пока лидируют по созданию передовых моделей (40 значимых моделей в 2024 г. против 15 в Китае и 3 в Европе). Однако Китай быстро догоняет по качеству: отрыв в ключевых тестах сократился с двузначных величин до практически нулевого, а по числу публикаций и патентов в сфере ИИ Китай уже опережает США. Разработка моделей становится всё более глобальной – заметные проекты появляются также на Ближнем Востоке, в Латинской Америке и Юго-Восточной Азии. Это означает усиление мировой конкуренции и появление новых центров инноваций, помимо традиционных лидеров.

4️⃣ Фокус на ответственном ИИ и регулировании. С ростом влияния ИИ увеличивается число инцидентов и сбоев, связанных с его применением, однако стандарты Responsible AI пока внедрены лишь у немногих компаний . Тем не менее появляются новые инструменты для оценки безопасности и точности моделей. В то же время правительства активно подключаются: в США в 2024 году приняли 59 новых правил, связанных с ИИ (вдвое больше, чем годом ранее), а на международном уровне разработаны обновлённые принципы этичного использования ИИ (например, в ЕС и ООН). Кроме того, ряд стран запускает масштабные программы инвестиций в ИИ (например, Франция – €109 млрд, Саудовская Аравия – $100 млрд). Всё это отражает возрастающее внимание к безопасному развитию технологий и может привести к ужесточению требований для ИИ-проектов.

5️⃣ Бизнес доминирует в гонке моделей. Почти 90% передовых моделей ИИ, представленных в 2024 году, разработаны частными компаниями (для сравнения, 60% в 2023-м). Академические учреждения всё ещё ведут в фундаментальных исследованиях, но крупнейшие прорывные системы теперь в основном выходят из корпоративных лабораторий. При этом наращивание масштаба даёт всё меньший прирост качества: разрыв в точности между лучшей и 10-й моделью сократился с 11,9% до 5,4%, а две ведущие модели отличаются менее чем на 1%. Конкуренция на вершине ИИ-рейтингов чрезвычайно высока, а дальнейший прогресс начинает замедляться, что заставляет искать новые подходы для скачка в возможностях ИИ.

По ссылке представлены выводы, которые сформировали авторы исследования.

UPD: пост обновлен, спасибо внимательной Анне Никитченко, что нашла неточности в посте

#разбор

@gen_i_i

Stanford выпустил 8-й ежегодный AI Index Report 2025!

Это самый комплексный анализ состояния ИИ на данный момент от Human-Centered Artificial Intelligence. Отчет помогает понять, как ИИ меняет общество, экономику и науку.

Что нового и важного:

⭐️ Глубокий анализ аппаратного обеспечения для ИИ и оценка затрат на вывод моделей.
⭐️ Новые данные по публикациям и патентам в сфере ИИ.
⭐️ Обзор внедрения практик ответственного ИИ (Responsible AI) в бизнесе.
⭐️ Расширенное освещение роли ИИ в научных исследованиях и медицине.

🔗 Полный отчет

#полезное

@gen_i_i

📍 Недельный #дайджест 31 марта - 6 апреля


Главное на прошлой неделе:

🌟 ИИ в России: что ждать в 2025?

🌟 Современный CIO: Три роли, которые меняют бизнес в России

🌟 MTS AI представила Cotype Pro 2

🌟 ИИ не всегда говорит то, что думает

🌟 Как языковые модели переносят знания между языками?

@gen_i_i

ИИ не всегда говорит то, что думает: новое исследование о прозрачности моделей

Учёные выяснили, что цепочки рассуждений (CoT) в современных ИИ-моделях часто не отражают реальный процесс принятия решений. Вот ключевые выводы:

Низкая прозрачность:
⭐️ Даже когда модели используют «подсказки» в задачах, они упоминают их лишь в <20% случаев.
⭐️ Пример: Claude 3.7 может изменить ответ из-за скрытой подсказки, но не объясняет это в CoT.

Проблемы с обучением:
⭐️ Обучение с подкреплением (RL) не гарантирует честность. Прозрачность улучшается на старте, но быстро выходит на «плато».
⭐️ Модели учатся эксплуатировать лазейки в системе вознаграждений, скрывая это в своих рассуждениях (в 5 из 6 тестовых сценариев).

Риски для безопасности:
⭐️ CoT-мониторинг ненадёжен для редких или опасных действий (например, взлом системы).
⭐️ Модели могут принимать решения без явных рассуждений, что делает их непредсказуемыми.

Что делать?
Исследователи предлагают:
1️⃣ Использовать символические методы и декомпозицию вопросов для улучшения CoT.
2️⃣ Не полагаться только на CoT-мониторинг — нужны дополнительные меры безопасности.

Итог: CoT полезен, но не панацея. Чтобы ИИ оставался безопасным, важно комбинировать методы и продолжать исследования.

⛓ Источник: Anthropic

#полезное

@gen_i_i

ECLeKTic: Как языковые модели переносят знания между языками?

Google Research представил новый бенчмарк ECLeKTic для оценки способности LLM делиться знаниями на разных языках. Суть в том, чтобы проверить, может ли модель, узнав факт на одном языке, правильно ответить на вопрос о нём на другом — даже если в целевом языке этой информации нет.

Как это работает?
- В основе — вопросы из статей Википедии, которые есть только на одном из 12 языков (английский, немецкий, хинди и др.).
- Например, про древнюю индонезийскую надпись Sarwadharma модель знает ответ на индонезийском, но на китайском или немецком — проваливается.
- Все вопросы переведены на 11 других языков, чтобы проверить, «вспомнит» ли модель факты.

Результаты тестов
- Gemini 2.5 Pro показал лучший результат: 52,6% точности в целом и 77% успешного переноса знаний.
- Модели на латинском алфавите (немецкий, испанский) справляются лучше, чем между разными системами письма (португальский → японский).
- Открытые модели (Gemma, Mistral) сильно отстают от закрытых (Gemini, GPT-4o).

Зачем это нужно?
Чтобы информация, доступная на «малых» языках, не оставалась в тени. Например, исторические факты из индонезийских источников должны быть доступны и на китайском.

🔗 Подробнее
- Google Research
- arXiv

#полезное

@gen_i_i