В коллаборации с каналом AI & Право

Although only a few may originate a policy, we are all able to judge it.
– Pericles

Юридические аспекты внедрения AI — одна из самых интересных и острых тем. Я не говорю про Legal AI (роботов-ассистентов юристов), а о том, что мы, как общество, сейчас решаем, каким мы хотим видеть AI.

Помните неудачных запуск чат-бота Tay от Microsoft, который за сутки общения в Twitter превратился в токсичного радикала? У меня тоже есть пара персональных историй. Несите🍿

Во-первых, когда я отвечала за запуск платформы для разработчиков Алисы, мы провели далеко не один час в переговорках Яндекса, брейнштормя дистопичные сценарии и планы реагирования.

Например, если внешний разработчик научит Алису вымогать деньги у пользователей, то как мы их защитим, и кто несет риски?

Думаете, зря перестраховались? Ловили и казино, и провайдеров интимных услуг, и продажу запрещённых веществ. И даже довольно безобидные (и классные) сервисы, но не подходящие под политику безопасности, типа чат-бота, обученного на логах 2ch, который крыл матом и мемами направо и налево. 😳

На другом проекте, уже в Chatfuel, я столкнулась с репортом бизнес-клиента, который сделал AI-чат-бота для своего магазина. В процессе общения с покупателем бот отошел от сценария и продал товар по огромной скидке — практически за 1 рубль. Покупатель понял, что перед ним LLM-модель, и простыми техниками сломал сценарий. Кто несет ответственность? С одной стороны, клиент сам виноват, выбрав дешевую модель и плохо ее запромптив. С другой — платформа недостаточно четко объяснила риски.

Третья история. Несколько лет назад мы внедряли модели машинного обучения в банке. К большому сожалению айтишников, из выбора между интерпретируемостью модели и качеством предсказания приходилось выбирать первое: а значит простые логистические регрессии и деревья решений, никаких fancy deep learning моделек. Почему? Потому что банк (и клиент, и регулятор) хотят понимать, почему отказали в кредите, и быть уверенным, что это не дискриминация.

У меня еще есть сто миллионов историй и идей, ведь бизнес и PR риски это только малая часть темы. Но я тут остановлюсь. Надеюсь, что мне удалось показать важность и интересность темы, которую освещает в режиме реального времени Марина из канала AI & Право.

А пока я готовлю Часть 2 обзора AI-агентов. Stay turned 👋

AI Agents – очередной хайп или что-то полезное? Ч.1

В последнее время из каждого утюга слышно про AI-агентов. При этом в разных контекстах под этим термином понимают немного разные вещи. Давайте разберёмся, что к чему.

Агенты в коммуникациях бизнес-людей

Во-первых, надо различать, что понимают под агентами люди близкие к бизнесу и маркетингу. Здесь AI-агент – это AI, заменяющий человеческого “агента”. Например, HR AI agent, AI sales agent, AI агент поддержки, AI рецепшионист, AI бизнес аналитик и тд. Множество стартапов работают в этой нише, и я не буду называть имена, потому что выглядит так, что пока это “красный океан” небольших игроков, ищущих свой product market fit.

В стартап-индустрии любят этот термин, так как он понятен бизнесу - заменяешь человека на AI -> получаешь доступность 24/7, высокую скорость работы, масштабируемость, экономию. Но супер успешных внедрений пока не так много. Поделитесь в комментариях, если вы слышали о таких историях.

Под капотом у агента может быть все, что угодно - чатбот, голосовые модели, большая языковая модель (LLM) типа GPT, какой-то алгоритм с интеграциями (например, агент поддержки может получить у клиента номер заказа и загружать его в базу данных).

Основная идея – это достаточная автономность, то есть агент работает, скажем, как хороший junior-специалист. Ты нанял его для задачи, снабдил инструкциями, знаниями, и он пошел работать.

Технологически это может быть как и серьезный продукт, так и простая реализация на основе OpenAI Assistant API (то есть обычный Chat GPT с добавленной базой знаний). Надеюсь, что со временем рынок расставит все по местам.

Завтра в следующем посте расскажу, что под агентами понимают более технические люди и дам список основных технологических платформ. История похожая, но дьявол в деталях, мне кажется, в мире программирования агенты описаны более формально и явно дифференцированы от других AI приложений.

AI Notetakers. WTF?

По работе пришлось серьезно закопаться в этот тип AI приложений, и многое попробовать на своей шкуре. И я решила поделиться, что это такое, эти AI notetakers (или, как бывает говорят, суммаризаторы встреч), и в конце поделюсь парочкой своих мыслей об их/нашем будущем.

Примеры: otter.ai, fireflies.ai, read.ai, tldv.io, tactiq, и еще много много других.

Обычно работают они так:
- бот подключается на видео-встречу или звонок, как отдельный участник
- записывает видео
- преобразовывает видео в транскрипт (полный текст) встречи
- из транскрипта (в меру своих возможностей) собирает краткое содержание, о чем общались, до чего договорились, и присылает пользователю.

Эта функция - центральная. Есть у всех (правда разного качества), но дополнительными возможностями они уже отличаются. Я не буду делать полное сопоставление, и советовать, кому что выбрать, так как спектр очень большой.

Есть опенсорсные и закрытые, есть бесплатные / платные, есть заточенные под образование / собеседования / продажи, есть - общего назначения. На вкус и цвет каждому.

Что запомнилось или откликнулось лично мне - в read.ai есть фунция коучинга спикера. После встречи он показывает отчет - какой у тебя был темп речи, количество слов-паразитов, и как визуально реагировали другие участники на тебя. Они называют это “харизмой”. Честно скажу, качество на моих примерах было не очень, возможно, они не тестировали на русском языке. Но это та функция, за которую я бы платила $$$.

В tldv мне понравилось, что удобно доставать из транскрипта нужные данные, например, “покажи список задач, которые обсуждали” или “создай список основных идей”. Но при этом остальной UX 👎, особенно регистрация и начало работы.


—

Пообщавшись с другими людьми про ноут тейкеры я поняла, что как и с другими технологиями, они могут использоваться во благо, и во вред.

Например, когда за тебя ведет заметки бот, ты чаще даешь себе разрешение отвлекаться от звонка и терять фокус. Когда ты от руки собираешь итоги встречи, то это дает тебе возможность подумать и хорошо укомплектовать мысли, а когда делает это AI - ты остаешься с хаосом в голове. Все это может прийти к такому, что мы по сути станем генераторами контента для AI.

Но не страшно в том плане, что мы уже это видели. Автомобили, медиа, смартфоны, интернет, соцсети, всеми технологиями надо пользоваться осознанно, либо они будут пользоваться тобой. На этой позитивной ноте я заканчиваю свой первый пост.

Обо мне

Привет. Меня зовут Вера. Мне нравится думать о развитии технологий во времени, о том, как создавать этичные технологии, и как использовать технологии этично для себя.

Я работала во многих технологических компаниях над AI продуктами. Например, над Яндекс.Алисой. Потом была кофаундером сообщества VoiceLunch, где мы обсуждали, как создавать крутой AI еще до хайпа с ChatGPT. Сейчас я работаю в AI стартапах, что дает мне постоянный инпут для размышлений о высоком обществе и научно-техническом прогрессе.

Как хобби я увлекаюсь историей фототехники и историческими фото процессами. У меня есть большая коллекция старых камер, темная комната, где я печатаю на фотобумаге из прошлого века, ну вы все поняли. О хобби я веду другой канал.

Мои отзывы
- AI Notetakers
- Perplexity
- AI Agents Ч.1

Забронировать звонок со мной, чтобы обсудить сотрудничество можно тут

Stay tuned.