Разъяснения по GPAIM: открыта публичная консультация

Еврокомиссия запустила эту консультацию для сбора экспертных мнений по будущим разъяснениям, касающимся ИИ-моделей общего назначения (GPAIM), в контексте Регламента ЕС по ИИ.

Срок: до 22 мая 2025 г.

В прилагаемом рабочем документе много интересного и иногда не очень понятного: например, Комиссия предполагает, что модели для генерации изображений тоже подпадают под понятие GPAIM.

Логики в этом я никакой не вижу. Если модель не мультимодальная, то есть не предназначена одновременно для генерации, в частности, текста, генерация только изображений — это довольно узкая задача. Соответственно, такие модели не пригодны для построения ИИ-систем иных, кроме предназначенных для этой узкой задачи.

Любопытно, что будет в итоговых разъяснениях.

Как разметка документов тегами экономит время при работе с чатботами

Недавно столкнулся с интересным кейсом применения разметки в промптах для ИИ-ассистентов.

Задача была классической для юридической работы — сравнить две версии документа и создать на их основе протокол изменений (разногласий).

Да, Ворд умеет и сам сравнивать две версии документа и создавать третью версию, с визуально выделенными изменениями (redline). Но мне нужен был именно протокол изменений, для подачи предложений в рамках наших процедур СЕН/СЕНЭЛЕК.

Сначала подумал, что бот справится на основе одного файла с выделенными правками - того самого redline. Загрузил один документ с активированными изменениями (track changes), предполагая, что современные ИИ-модели смогут распознать и интерпретировать эту стандартную разметку Word. Однако, несмотря на многочисленные попытки с разными моделями (разные топовые модели в платном Перплексити, а также бесплатные версии Джемини и ЧатГПТ), ни одна из них не смогла выдать корректный протокол на основе одного лишь redline.

Прочитал, что люди рекомендуют брать две версии документа, и предварительно разметить текст в них с помощью уникальных HTML-/XML-подобных тегов.

В теле документа "до" правок вначале поставил , в конце — , а документ "после" правок — разметил аналогично другими уникальными тегами. Для надёжности выбрал имена тегов, которые гарантированно не встречаются в тексте документов, чтобы помочь ИИ-модели избежать ошибок в интерпретации.

Затем оба документа загрузил в Перплексити, выбрал модель Claude 2.7 (без веб-поиска), и дал четкую инструкцию по формированию таблицы, с указанием её структуры, включая номера пунктов, текущей формулировки и предлагаемой формулировки, с выделением изменений и расшифровки их сути жирным шрифтом:

Attached are two Microsoft .docx, the original version (content enclosed between and and the version with proposed changes (content enclosed between and ). Output the proposed changes in a table format, first column - clause number, second column - current wording, third column - proposed wording. Reproduce the whole sentence where changes are introduced, but highlight the actual change proposed in bold. In each row of the third column, add a sentence in bold summarising the substance of proposed change.

Результат оказался впечатляющим — ИИ корректно идентифицировал и структурировал большинство изменений. Два изменения пропустил, но возможно с другой моделью или другим чатботом точность будет выше.

После получения первичного результата дополнительно дал инструкцию скорректировать мотивировки изменений, указав типовые причины единообразно:

amend the substance of some proposed changes in column 3 as follows:
- where I propose "level of automation (autonomy)" instead of "autonomy", this is for consistency with ISO/IEC 22989:2022 terminology.
- where I replace risks with hazards or foreseeable hazards, or risky with hazardous, or risk for level of risk, it is for consistency with EN AI RM
- where I expand the acronym, it is for clarity;
- where I add new requirement for biometrics, it is for consistency with the EU AI Act art 14(5) requirement.

Это позволило избежать многократной вставки вручную однотипных обоснований.

В целом — подход помог сэкономить много времени.

И более широко — теги помогают ИИ-системе с большей точностью понять, что и где брать в массиве данных и что с этим всем делать. Потому что иначе всё, что вы загрузите — превращается в один сплошной промт, в котором разобраться очень сложно.

Пользуйтесь, делитесь опытом!

Небольшой Пайпергейт вокруг Регламента ЕС по ИИ

Партнёр из DLA Piper разместил в Линкдине их руководство по ИИ Акту, полное ошибок. Я откомментировал - он стёр мои комментарии. Я сделал репост с теми же комментариями - он удалил пост, мой репост тоже удалился.

В чём суть — можно прочитать здесь.

Отличное введение в искусственный интеллект от Яна Лекуна

Одно из самых доступных видеообъяснений из всех, что я видел за последние годы, от одного из отцов-основателей современного ИИ.

Бонусом — о перспективах развития на ближайшие 10 лет и о том, какие стартапы могут быть перспективны, а также во что можно инвестировать.

Мета изменила политику и будет обучать свой ИИ на ваших данных по умолчанию

Начиная с конца мая компания будет использовать данные всех взрослых пользователей Фейсбука и Инстаграма из ЕС для обучения своих приложений искусственного интеллекта, включая чатбота Meta-AI в WhatsApp и языковые модели, такие как Llama.

Сюда входят все ранее опубликованные и публикуемые в будущем посты, комментарии, фотографии и подписи к ним.

Для жителей других стран такая политика уже действовала ранее.

Жителям стран ЕС предоставлено право отказаться от этой практики. Для реализации права необходимо авторизоваться на сайте и указать свой емейл в форме отказа (обосновывать своё желание не требуется):

Формы отказа от предоставления данных для обучения ИИ:
Фейсбук
Инстаграм

Официальный анонс.

Практическое руководство по управлению прайваси-рисками генеративного ИИ

Европейский совет по защите данных (EDPB) опубликовал документ, который заслуживает пристального внимания всех специалистов, работающих на стыке персональных данных и управления рисками ИИ. Руководство, разработанное моей коллегой по рабочим группам СЕН/СЕНЕЛЕК Изабель Барбера, предлагает структурированный подход к управлению рисками систем генеративного искусственного интеллекта в контексте персональных данных.

Документ основан на методологии управления рисками, продвигаемой существующими стандартами ИСО/МЭК, а также разрабатываемым нами в СЕН/СЕНЕЛЕК стандартом по управлению ИИ-рисками для целей Регламента ЕС по ИИ. Автор приводит конкретные примеры рисков, связанных с использованием ИИ, и предлагает меры по снижению этих рисков.

Методология, описанная в документе, позволяет организациям выстроить системный подход к выявлению потенциальных угроз при внедрении ИИ-решений и разработать эффективные стратегии минимизации рисков. Это особенно актуально в свете совершенствования требований к обработке персональных данных и повышенного внимания регуляторов к системам искусственного интеллекта.

Руководство включает разбор примеров использования ИИ в ряде сценариев.

Для специалистов по комплаенсу, разработчиков ИИ-систем и руководителей, принимающих решения о внедрении искусственного интеллекта, этот документ станет ценным инструментом, помогающим внедрять инновации, обеспечивая при этом соответствие нормативным требованиям.

Разбирать инсайты из документа будем на моём курсе — записаться на ближайшие новые даты в мае и июне можно здесь.

Деволд и его судебный дефолт

Перепутав зал судебного заседания с цирковой ареной, Джером Деволд, представляющий себя в деле самостоятельно, решил, что идеальной стратегией будет надипфейчить себе аватар адвоката, который, конечно же, убьёт суд наповал своей аргументацией, ведь живые юристы — это прошлый век.

Суд такие инновации не оценил.

Так в чём проблема с "демократизацией" дипфейков?

Записал видео для моего Линкдина с небольшим пояснением о последствиях.

Выкладываю и тут. Все упомянутые в видео ссылки — в комментарии к посту здесь.

⚡️⚡️OpenAI анонсировала выпуск новой open-source модели "в ближайшие месяцы"

Это произойдёт впервые за последние шесть лет — последней большой языковой моделью, выпущенной компанией с открытыми "весами" — в 2019 году — была GPT-2.

Анонс опубликовал Сэм Альтман несколько часов назад в X/Twitter.

Одновременно компания опубликовала форму обратной связи, где желающие могут сообщить о своих ожиданиях и пожеланиях по поводу возможностей и планируемых сценариях использования новой модели.

Для разработчиков будет проведена серия мероприятий: сначала в Сан-Франциско, а затем в Европе и Азиатско-Тихоокеанском регионе.

Ранее требование о том, чтобы OpenAI возобновила практику открытой публикации своих разработок, было предъявлено в иске к компании со стороны Илона Маска, одного из её основателей.

Индустрия стандартизирует подходы по подтверждению подлинности фото

Помните, я писал о том, как ключевые игроки рынка цифровых фотоаппаратов стали внедрять в них электронную цифровую подпись (ЭЦП)? Она может быть применена к фотографии и её метаданным автоматически самим фотоаппаратом в момент съёмки. Благодаря этому впоследствии можно доказать, что конкретное фото было сделано конкретным фотоаппаратом, в конкретной геолокации, в конкретное время, и так далее.

С момента анонса стали понятны технические детали. Для стандартизации метаданных и ЭЦП индустрия разработала и развивает техническую спецификацию C2PA. Её детали доступны здесь.

Хочется надеяться, что её вскоре поддержат и внедрят все без исключения производители фотоаппаратов и мобильных телефонов, чтобы не ограничивать сферу применения только дорогостоящей профессиональной техникой.

То, что уже сейчас новостные агентства и СМИ могут таким образом верифицировать происхождение материалов от своих источников — хорошо. Но с учётом "демократизации" создания дипфейков (нынче, например, можно наложить на фото вашей машины имитацию повреждений от ДТП прямо в ChatGPT), доказательства "нефейковости" фото — актуальный вопрос для всех, а не только для СМИ.

Самостоятельно проверить происхождение фотографии, при наличии в файле метаданных, можно через сервис Content Credentials.

ОРЗД и Регламент ЕС по ИИ конфликтуют... или нет?

В своей новой статье я рассматриваю, как два ключевых регламента ЕС — по ИИ и персональным данным — вопреки мнению некоторых комментаторов, не конфликтуют, а дополняют друг друга. Основной фокус на двух важных аспектах:

1️⃣ Гарантии при автоматизированном принятии решений
2️⃣ Обработка специальных категорий персональных данных для снижения предвзятости ИИ-систем

Анализируя конкретные требования обоих документов, я показываю, как они вместе обеспечивают комплексную защиту прав человека в цифровом контексте.

Читать

Кто такой Александр Тюльканов и почему он читает этот Регламент?

Если вы застали времена MS-DOS, вы можете вспомнить такой анекдотический вопрос анонимного пользователя — новичка в компьютерах — "Кто такой генерал Фейлор и почему он читает мой диск? — после прочтения на экране системной ошибки "General Failure reading drive C:".

Примерно в том же духе мы пообщались с замечательными Розалией Анной Д'Агостино и Джакомо Ди Грегорио, которые ведут подкаст Legal4Tech: Кто такой Александр Тюльканов и почему он консультирует и преподает курс по Регламенту ЕС об искусственном интеллекте?

Результатом стал небольшой рассказ о моем пути из бизнес-юриспруденции (с 2003 года) в регулирование ИИ и данных (академически с 2015 года и в практической части с 2017).

Запись прилагается - приятного прослушивания!

Если вам понравился подкаст Legal4Tech, подписаться можно здесь:
- Spotify
- Apple Music
- Amazon Music

Как отменить доплату за Copilot в подписке Microsoft 365?

Если вы пользуетесь этой подпиской, следующий платёж за неё может вас неприятно удивить. Например, для европейского региона она составит 129 евро в год вместо 99.

Всё потому, что компания включила в неё Copilot (ИИ-ассистента) по умолчанию.

Для возврата к прежнему тарифному плану, который теперь называется Classic:
1) Зайдите в свой аккаунт на сайте microsoft.com
2) Перейдите в раздел "Учётная запись" - "Подписки"
3) Нажмите "Отменить подписку"
4) На следующем экране выберите "Microsoft 365 Classic" (без ИИ).

Изменение произойдёт начиная со следующего цикла оплаты.

Отзывы о курсе по регламенту ЕС по ИИ

Осталось ещё немного времени до окончания записи на апрельский поток моего курса по Регламенту ЕС по ИИ.

В деталях рассказывал о его целевой аудитории и содержании ранее.

Для тех, кто всё ещё сомневается в уровне и полезности курса, приведу отзыв от Александры Орехович, к.ю.н., директора по правовым инициативам ФРИИ, прошедшей второй поток в феврале:

Курс очень чётко организован и — что ещё важнее — практически ориентирован. Раскрываются все «подводные камни» применения Регламента ЕС об искусственном интеллекте. Особенно хочется отметить интересные домашние задания, которые помогают глубже погрузиться в материал с практической точки зрения.

Ещё больше отзывов — на странице курса. Там же можно записаться, если оплачиваете в евро.

Если вы хотите оплатить в рублях — пишите через бот.

Немного о происходящем на конференции, которую анонсировал ранее

Если после кейса Авианки 2023 года и штрафов в 5 тысяч долларов юристы всё ещё почему-то продолжают нести в суды документы с ИИ-галлюцинациями, то видимо стоит повысить штрафы, тысяч до 150, чтобы уже точно все услышали и осознали? — задаётся вопросом судья Шлегель.

А я поделился с американскими коллегами своими соображениями о том, как обеспечить этичность и транспарентность со стороны ИИ-разработчиков.

А также рассказал о второй редакции рекомендаций Федерации адвокатских палат Европы (FBE) по использованию генеративного ИИ в юридической практике.

Не LLM'ом единым

Этот тред от Колина Фрейзера идеально адресует две частые ошибки в публичном дискурсе:

1) большие языковые модели — это следующее и наиболее продвинутое звено в эволюции искусственного интеллекта;

2) генеративный ИИ — единственный ИИ, который заслуживает внимания.

На самом деле нет, эволюция в ИИ нелинейна и генеративный ИИ всего лишь небольшое подмножество ИИ-технологий, которое может быть для чего-то и пригодно, но далеко не для всех задач, которые можно решить при помощи ИИ.

Источник

Право на посмертную безботность

Опечатки в заголовке нет. Примерно так можно обобщить новый концепт, предложенный британскими учёными для защиты посмертной приватности. Речь о цифровых аватарах, репликах, чатботах и иных подобных решениях, которые направлены на создание посмертных имитаций личности умершего ("ghostbots"). Всё это, конечно, интересно, но что делать, если конкретный человек не хочет реинкарнироваться в цифрового зомби после смерти?

Исследователи поднимают важные вопросы о приватности, репутации и достоинстве умерших. Сегодня лишь редкие нормативные акты прямо регулируют эту сферу. Например, в Нью-Йорке уже защищают интересы знаменитостей от несанкционированного использования их образов после смерти. Однако для большинства людей в других юрисдикциях возможность подобной правовой защиты пока под большим вопросом.

В связи с этим авторы статьи рассматривают концепцию института прижизненных волеизъявлений о запрете на создание посмертных реплик, которую коллега Марк Лейзер в шутку называет "the right not to be botten" (по аналогии с "the right to be forgotten", правом на забвение), а немецкие юристы, по моему мнению, могли бы в своём духе ёмко обозначить как Botungsverbotrecht.

Встреча с комиссаром ЕС: цифровое регулирование и отношения с США

Такова тема завтрашней беседы между Лаурой Кароли, исследователем Wadhwani AI Center, ранее работавшей в комитете IMCO Европарламента, и Майклом МакГрафом, комиссаром ЕС по вопросам демократии, юстиции, верховенства права и защиты потребителей.

Начало 13 марта 2025 г., в 13:15 EDT / 18:15 CET / 20:15 МСК.

Записаться на стрим и задать вопросы гостю можно здесь.

Со своей стороны оставил вопрос про то, что делает Еврокомиссия, если вообще что-то делает, в связи с утратой кворума PCLOB (американский орган, в числе прочего осуществляющий надзор за доступом спецслужб США к персональным данным при их передаче из ЕС в рамках механизма DPF).

Еврокомиссия обновила ЧаВо по ИИ-моделям общего назначения

Напомню, что Регламент ЕС по ИИ устанавливает отдельно (1) требования для разработчиков ИИ-моделей общего назначения и (2) требования для разработчиков и эксплуатантов ИИ-систем (в которых ИИ-модели могут использоваться в качестве компонентов). В данном посте речь о первой категории.

Ответы на часто задаваемые вопросы по ИИ-моделям общего назначения доступны здесь.

Одновременно опубликован третий проект Свода практик для разработчиков таких моделей. Свод конкретизирует порядок выполнения требований, которые устанавливает Регламент.

Завершить разработку Свода планируется в мае, после чего не позднее августа Еврокомиссия проверит его на адекватность и, возможно, придаст ему общеобязательную силу в ЕС, как это предусмотрено Регламентом.

Выступаю на Lawdroid AI Conference 2025

В среду 19 марта, в 9:00 PT / 17:00 CET / 19:00 МСК, в панели ИИ и этика.

Конференция идёт два дня, тем много — найдётся интересное каждому.

Программа и бесплатная регистрация здесь.

Дело Латомба (пока) живёт, передача персональных данных из ЕС в США — снова под вопросом

Суд ЕС наконец-то назначил к рассмотрению, на 1 апреля (кроме шуток), дело Латомба.

Напомню, французский депутат — конкурент Шремса — обратился в суд в 2023 году с жалобой на неадекватность свежеодобренного тогда механизма трансатлантической передачи персональных данных из ЕС в США (DPF). Об этом деле я писал ранее.

Пикантность ситуации придаёт тот факт, что нынешняя американская администрация обезглавила Privacy and Civil Liberties Oversight Board — орган по надзору за соблюдением этого механизма со своей стороны. Все, кроме одного, члены данного органа были демократами и в связи с этим были отправлены в отставку, ввиду чего PCLOB утратил кворум (минимум 3 голоса) для разрешения вопросов в его компетенции. Будет ли кворум восстановлен в ближайшее время благодаря новым назначениям — что вполне возможно — посмотрим.

Кому полезен мой курс по Регламенту ЕС по ИИ?

Наиболее очевидные кейсы:

1) Ваша компания или ваши клиенты планируют поставлять решение или продукт с ИИ на рынок ЕС и вам необходимо понять, как подготовиться к этому с наименьшей потерей денег и нервов;

2) Ваша компания или ваши клиенты планируют использовать на территории ЕС результаты автоматизированной обработки данных ИИ-системами, развёрнутыми вне ЕС (Регламент распространяется и на эти случаи);

3) Вы хотите разобраться в требованиях Регламента и в том, как он вписан в европейскую инфраструктуру качества (стандартизация, подтверждение соответствия, рыночный надзор).

Курс проходит на английском в течение четырёх недель и включает 4 зум-сессии и самоподготовку на образовательной платформе на основе материалов курса, а также тесты и письменные задания с упором на критическое мышление.

В подарок вы также получаете постатейный комментарий к Регламенту ЕС по ИИ.

Очередной, третий, поток курса — в апреле.

Узнать точные даты и время и записаться на специальных условиях можно до конца этой недели здесь.

Если вы хотите оплатить в рублях — пишите через бот.

Три правовых режима обработки ПДн взамен одного?

Депутат Европарламента Аксель Восс предложил трехуровневую реформу Общего регламента по защите данных (ОРЗД, GDPR).

Идея заключается в дифференциации требований для компаний в зависимости от их масштаба:
1) упрощенные требования для малого бизнеса,
2) текущие стандартные требования для средних компаний, и
3) дополнительные повышенные требования и обязательный независимый аудит для крупнейших игроков рынка.

Концептуально идею поддерживает и известный прайваси-активист Макс Шремс. Несмотря на это, между ним и евродепутатом сохраняются серьезные разногласия по деталям возможной реформы.

Шремс категорически не согласен с предложением Восса изменить базовые принципы ОРЗД, включая "право на забвение" и принцип минимизации обработки данных.

Также Шремс выступает против ослабления роли Европейского совета по защите данных (EDPB), который обеспечивает соблюдение регламента.

По мнению Шремса, главная проблема не в законе, а в недостаточно усердном правоприменении.

Другие критики предлагаемой реформы также предупреждают о рисках открытия «ящика Пандоры»: пересмотр ОРЗД может дать стае лоббистов (на фото) возможность по ходу реформы замылить все уже имеющиеся строгие требования к операторам персональных данных и тем самым снизить ранее достигнутый в ЕС высокий уровень защиты данных граждан.

Кроме того, ОРЗД стал мировым стандартом в области регулирования персональных данных, и радикальные изменения в нём могут подорвать правовую определенность для бизнеса на глобальном уровне.

ОРЗД вместе с Регламентом ЕС по ИИ вошел в перечень нормативных актов о цифровом рынке, в отношении которых Еврокомиссия планирует до конца года рассмотреть возможность пакета точечных поправок в рамках инициативы по упрощению регулирования — об этом писал ранее.

Как соотносятся правовые режимы автоматизации решений в отношении граждан по GDPR и Регламенту ЕС по ИИ?

Наглядный ответ — на схеме. Схема — из материалов моего курса по Регламенту ЕС по ИИ, третий поток которого начнётся в апреле.

Посмотреть детали и зарегистрироваться с оплатой в евро можно здесь.

Для тех, кто ранее был подписан на мой AI Governance курс в телеграме — специальные сверхвыгодные условия — пишите через бот (оплата в рублях — также через бот).

Вишер публикует обзор по будущему швейцарскому регулированию ИИ

Текущий статус исходя из отчёта этой юрфирмы вкратце:
- Швейцария планирует ратифицировать Конвенцию Совета Европы по ИИ,
- Регламент ЕС по ИИ за основу браться не будет,
- к концу 2026 года будет разработан и представлен для комментариев проект поправок в федеральное законодательство, в основном по отраслям,
- поправки в горизонтальное регулирование затронут только направления, значимые для прав человека, например, обработку персональных данных,
- при этом регулироваться будет и принятие "полуавтоматизированных" решений, то есть индивидуально значимых решений на основе автоматизированной обработки данных, а не только полностью автоматическая обработка,
- будет создан реестр ИИ-операторов в публичном секторе,
- будет введена маркировка некоторых видов ИИ-сгенерированного контента,
- будет внедрена оценка негативного воздействия ИИ на права человека,
- будут введены требования по технической документации,
- специальной процедуры подтверждения соответствия для вывода на рынок для ИИ-систем не планируется (сохранится существующая в тех секторах, где она уже есть, например, для медицинских изделий).

Еврокомиссия предложит сквозные поправки в цифровое регулирование

Для этого чиновники до конца 2025 года проводят анализ.

По итогам анализа будут предложены изменения — одним или несколькими тематическими пакетами (omnibus packages) — для улучшения связности различных актов ЕС по цифровому рынку.

В числе проверяемых оказался и Регламент ЕС по ИИ.

Руководитель ИИ-Офиса Еврокомиссии Л. Сиоли уточнила, что фундаментальных изменений в нём ожидать не стоит, скорее возможно, например, упрощение некоторых процедур и требований для предприятий малого и среднего бизнеса.

Майкрософт ужесточает требования для поставщиков, применяющих ИИ

Теперь все поставщики (субподрядчики), применяющие ИИ-системы, должны проходить оценку соответствия требованиям Microsoft DPR, раздел K, в рамках программы SSPA (Supplier Security and Privacy Assurance) с привлечением независимого органа по сертификации.

При этом для «чувствительных» применений ИИ обязательно получение сертификата на соответствие системы менеджмента ИИ-систем требованиям ИСО/МЭК 42001:2023.

Критерии компании для «чувствительных» применений шире, чем подход ЕС в Регламенте об ИИ:

- любое влияние на правовой статус или жизненные возможности (например, оценка кредитоспособности или приём в вуз),

- любой риск физического/психологического вреда (например, медицинская диагностика, управление оборудованием),

- любые угрозы правам человека (например, применение генеративного ИИ для дезинформации на выборах, системы социального скоринга).

Для поставщиков изменения означают необходимость инвестировать в независимые аудиты и сертификацию.

Однако это создаёт конкурентное преимущество для компаний, способных подтвердить соответствие международным стандартам.

Для рынка в целом — это шаг к системному управлению рисками ИИ на всех этапах цепочки поставок.

А для регуляторов такой подход ставит важный вопрос: стоит ли законодательно фиксировать закрытый перечень «высокорисковых» ИИ-систем, как в Регламенте ЕС, или применять гибкие критерии, где оценка риска привязана к любому потенциальному негативному воздействию на здоровье, безопасность или права человека.

Опубликован Кембриджский справочник по праву, этике и политике искусственного интеллекта

Под редакцией Натальи Смухи (KU Leuven), на условиях лицензии CC-BY 4.0.

Рассмотрены:
- философские, этические аспекты применения ИИ,
- политико-правовые аспекты, включая законодательство о персональных данных, о деликтной ответственности, антимонопольное, потребительское, об интеллектуальной собственности, Регламент ЕС по ИИ,
- отраслевые аспекты, включая применение ИИ в образовании, СМИ, здравоохранении, финансовом секторе, трудовых отношениях, правоохранительной деятельности, в госуправлении и вооружённых конфликтах.

Какие требования Регламента ЕС применимы конкретно к вашему ИИ-проекту?

На AI Governance платформе Modulos внедрён разработанный мной (де)скоупинг-опросник по Регламенту ЕС по ИИ.

Опросник позволяет отсеять не применимые к вашему проекту требования Регламента ЕС, сконцентрировавшись только на актуальных.

Платформа позволяет отчасти автоматизировать процесс подготовки к одновременному выполнению требований различных фреймворков, включая ISO/IEC 42001:2023 и Регламент ЕС по ИИ.

Разработчики предлагают бесплатный тариф с ограниченным функционалом. Интересно? Регистрируйтесь, пробуйте.

Если по итогам теста вам будет интересен полный функционал, но на льготных условиях, пишите мне в @robocounsel_bot.

Проект Директивы ЕС о гармонизации норм о деликтной ответственности применительно к ИИ — всё

Официально озвученная причина: согласия по тексту не предвидится, Комиссия оценит, необходим ли новый проект или иной подход к вопросу.

В сети, конечно, и другие мнения — от академиков и политиков (1),(2).

Означает ли это, что никакой внедоговорной ответственности в контексте ИИ в ЕС не будет? Конечно же нет.

В части ИИ-продуктов ненадлежащего качества к 2026 году актуальна будет имплементация обновлённой Директивы PLD (описывал ранее).

В части прочего — остаются стандартные нормы о деликтной ответственности каждого из 27 государств-членов ЕС и Директива о трансграничных коллективных исках, на основании которой уже предъявлены требования на миллиарды евро к Тиктоку в Германии.

Как понять, является ли ваш продукт ИИ-системой для целей применения Регламента ЕС по ИИ?

Еврокомиссия опубликовала проект своих разъяснений на эту тему. Они будут утверждены в ближайшее время вместе с разъяснениями по запрещённым ИИ-практикам, о которых писал на днях.

Первый коллективный иск за нарушение Регламента ЕС по ИИ

Предъявлен против Тиктока в Германии, цена иска исчисляется в миллиардах евро: по 500-2000 евро компенсации вреда на человека, для 20 млн. немецких пользователей платформы.

Вменяется помимо прочего нарушение ст. 5 Регламента ввиду манипулятивных ИИ-практик, подсаживающих пользователей на приложение.

Иск именно гражданский, о возмещении вреда и пресечении противоправного поведения.

Административные штрафы включатся только со 2 августа, но убытки в суде взыскивать можно уже со 2 февраля.

О реалистичности таких исков писал на днях.

Как избежать включения в ваш ИИ-продукт запрещённого в ЕС функционала?

Еврокомиссия опубликовала проект своих разъяснений по применению положений статьи 5 Регламента ЕС по ИИ. Ожидается, что в ближайшие дни этот проект будет утверждён.

Кому актуально — читаем очень внимательно.

И конечно же будем разбирать эту тему на моём курсе, второй поток которого начинается в эту пятницу.

Помни о Директиве № 4

Журналист Марти Суонт отмечает: после того, как Марк Цукерберг запостил в своей соцсети фото с инаугурации Трампа, в комментариях, естественно, было довольно много и позитива, и негатива.

Но интересное не в этом, а в том, как "суммирует" комментарии ИИ компании Цукерберга (для американских пользователей его соцсети недавно стал доступен такой функционал):

Бот пытается более-менее объективно суммировать все комментарии, но поскольку в них есть и негатив, тут же включаются какие-то жёсткие фильтры (по типу тех, которые у Дипсика вырезают всё про Тяньаньмэнь) и всё саммари пропадает с экрана.

Вспоминается фильм "Робокоп", где у робота-правоохранителя в основные директивы была зашита секретная четвёртая: никогда не противостоять должностному лицу ОКП (производитель робота).

А какова четвёртая директива у вашей любимой ИИ-системы?

Почему операторам на европейском рынке выгодно прекратить запрещённые ИИ-практики до введения штрафов?

Сегодня, 2 февраля 2025 года, вступили в силу первые положения Регламента ЕС по ИИ, запрещающие определённые ИИ-практики. При этом административные санкции начнут действовать только с августа 2025 года. Что же тогда должно мотивировать компании пошевелиться до этого момента?

Экономический стимул соблюдать запреты уже сейчас кроется не в самих положениях Регламента, а в том, как он вписан в общую правовую систему ЕС.

Регламенты ЕС имеют прямое действие на территории всех государств-членов ЕС. Поэтому с сегодняшнего дня:

📌 Запрещённые ИИ-практики (социальный скоринг, манипулятивные ИИ-чатботы типа "AI girlfriends", массовый парсинг фото для создания баз лицевой биометрии и др.) становятся прямо предусмотренной законом разновидностью противоправного поведения;

⚖️ Осуществление запрещённой ИИ-практики может образовывать состав гражданского правонарушения и влечь деликтную ответственность по национальному праву;

💼 Истцы смогут требовать возмещения вреда, причинённого деликтом, при доказанности вреда, противоправного поведения и причинной связи между ними (принцип генерального деликта: ст. 1240 ГК Франции, § 823 Германского гражданского уложения и др.)

Если вы планируете вывод на рынок ЕС своего ИИ-продукта или уже сделали это, но сомневаетесь, нет ли в нём запрещённого с сегодняшнего дня функционала - пишите, помогу разобраться.

Идентификация и управление рисками ИИ общего назначения (GPAI)

Такова тема нового отчёта, выпущенного британским Департаментом по инновациям, науке и технологиям.

Над отчётом в почти 300 страниц трудились 100 международных экспертов, и лишь небольшая его часть посвящена спекулятивным рискам потери контроля над ИИ-системами будущего.

97% отчёта — сугубо практические наблюдения об актуальных, часто уже задокументированных негативных последствиях применения ИИ-систем и о том, какими техническими мерами им можно противостоять.

Отчёт содержит более 1300 (!) ссылок на литературу и потому представляет собой по сути энциклопедию GPAI риск-менеджмента по состоянию на 2025 год. Читать - не перечитать.

Свои впечатления и инсайты высказал в видеоформе здесь.

Как работают аккредитация, сертификация и нотификация в ЕС?

Как известно, Регламент ЕС по искусственному интеллекту вводит требования к разработке и внедрению ИИ-систем повышенной опасности. Но эффективность нового Регламента напрямую зависит от существующей инфраструктуры качества ЕС.

Ключевой её элемент — Регламент 765/2008, которые устанавливает единые правила аккредитации органов по сертификации.

Именно эти органы по сертификации и будут по заказам ИИ-компаний участвовать в подтверждении соответствия их продуктов требованиям Регламента — в тех случаях, когда он требует не просто задекларировать соответствие, а проверить его — с участием независимой стороны.

Это требуется, например, для систем биометрической идентификации — они должны пройти оценку по процедуре, схожей в общих чертах с той, которая существует для медицинских изделий.

При этом право на участие в подтверждении соответствия ИИ-систем повышенной опасности будут иметь только организации, которые нотифицированы властями одной из стран ЕС — по результатам их проверки либо этими властями, либо национальным органом по аккредитации.

Особую роль здесь играет Многостороннее соглашение по еврокооперации в области аккредитации (EA MLA), гарантирующее взаимное признание аккредитаций между странами-членами. Это снижает издержки бизнеса, позволяя выбрать подходящий аккредитованный и нотифицированный орган, оценка которого признаётся в рамках всего ЕС.

Все взаимосвязи отражены на прилагаемой схеме.

Подробнее обо всём этом и не только рассказываю на своём курсе по Регламенту ЕС по ИИ в феврале — регистрация закрывается на этой неделе, поэтому если интересно — поторопитесь присоединиться. Для оплаты по российским картам — пишите через бот.

Хорошо забытое старое (в масштабах ИИ-новостей) китайское регулирование генеративного ИИ

Поскольку особенности китайской ИИ-этики и заодно ИИ-регулирования снова в тренде, я просто оставлю это здесь: Временные меры по управлению генеративным ИИ от 2023 г.

С тем самым объясняющим многое принципом: "При оказании и использовании услуг в области генеративного ИИ должны поддерживаться основополагающие социалистические ценности", ст. 4.

Rumination models

Меня спрашивают, а можно поподробнее про руминации? Почему OpenAI о1 и Deepseek r1 это модели-терминаторы руминаторы?

Вот, пожалуйста, фрагмент обсуждения, откуда всё пошло.

R1: аттракцион неслыханной транспарентности

Самое любопытное отличие r1 от американских ризонинг-моделей: она показывает пользователю промежуточные токены (CoT), которые генерируются моделью и добавляются к промту, чтобы повысить шансы найти более адекватный ответ.

То есть в отличие от OpenAI o1, в Deepseek r1 вы можете посмотреть на внутренние руминации модели, которые потом не входят в финальный ответ, но определяют его содержимое.

Естественно, я спросил про Тяньаньмэнь. На английском оказалось вообще бесполезно — как только система пытается вывести ответ с этим словом, включается какой-то жёсткий фильтр и весь ответ (и предшествующая ему руминация) удаляются из диалога и с экрана.

На русском модель зацензурирована слабее, и в окне руминации можно подсмотреть вот такие фантастические по транспарентности откровения. Серым шрифтом — промежуточные руминации, чёрным внизу — итоговый ответ.

Пол Маккартни стал бы одним из первых цифровых отказников

... если бы аналогичный задуманному в ЕС реестр появился бы в Великобритании.

Более того, артист выступает против самого появления на островах правового режима, который бы по умолчанию давал ИИ-разработчикам карт-бланш на свободное использование охраняемых произведений.

Это повредит прежде всего новым, молодым артистам, отмечает он.

R1: что внутри?

В сети очень большой, и заслуженно, интерес к новой китайской ИИ-модели Deepseek r1.

Она из так называемых ризонинг-моделей (хотя происходящее, по наблюдению Колина Фрейзера в соцсети X, скорее ближе к руминации, чем к консистентному мыслительному процессу, отсюда reasoning models -> rumination models).

Но работает лучше обычных ллм, и почти на одном уровне с OpenAI o1. При стоимости токенов в 21(!) раз дешевле, и при том, что r1 — опен-сорс продукт.

Поэтому многим интересно, как это так получилось, как китайские учёные и разработчики добились таких результатов.

Если вам тоже интересно – в этой статье занимательные инсайты.