Исследование (часть 3)
О сложностях и препятствиях в использовании предупреждает Евгения Уткина, заместитель генерального директора АБК:
🔹 Для получения корректного ответа ИИ необходимо разбираться в промпт-инжиниринге (знать логику составления запросов). Без знаний о написании промптов, пользоваться нейросетью с целью поиска достоверного ответа на сложные и комплексные запросы практически невозможно.
🔹Для использования в юридической работе необходимы специализированные LLM, обученные конкретно под юридические задачи.
При этом именно АБК непосредственно является соучастником создания больших языковых моделей, размечает данные и обучает AI. Компания уже использует большие языковые модели в своих процессах взыскания (робот-оператор). Например, Giga Chat помогает в нормализации всех данных (от систематизации данных по договорам до выдачи рекомендаций для робота в его обучении). Евгения Уткина считает, что внедрение AI-агентов в рабочие процессы - одна из ключевых целей и задач на будущий год, за этим и LLM будущее.
От себя хочу добавить, что ИИ часто немного отстает от быстро меняющегося законодательства и не в курсе актуальных изменений и к закрытым судебным делам и практике даже LLM не имеет доступа.
Я попросила партнер
а CHERVETS.PARTNERS (IT/IP-практика) Юлию Синицыну (она с 2009 года сопровождает ИТ-компании, в том числе разработчиков продуктов с использованием ИИ, ex-CLO компании red_mad_robot, члена Ассоциации разработчиков и пользователей искусственного интеллекта в медицине) дать сжатые и полезные советы по внедрению AI в вашу работу.
И первый совет, конечно, это оценка рисков:
💙Соответствие законодательству (GDPR, закон о персональных данных, EU AI Act).
💙Этические вопросы (необоснованное влияние AI на принятие решений).
💙Защиту данных (шифрование, контроль доступа, комплаенс. Если AI обрабатывает персональные данные клиентов, нужно убедиться, что он соответствует требованиям GDPR).
💙Ответственность (если AI допустил ошибку, кто несет ответственность?).
Итак, совет по выбору технологий и AI-решений для юристов:
💙RAG (Retrieval-Augmented Generation) — для более точных ответов.
💙NLP (Natural Language Processing) — анализ и обработка юридических текстов.
💙Chatbots — автоматизированные юристы для первичных консультаций.
💙Predictive Analytics — прогнозирование исходов дел.
Готовые решения или кастомная разработка?
💙SaaS-решения (Casetext, Noroots, Kira Systems, Ross Intelligence).
💙Кастомные AI-модели (GPT/гигачат и т. д. + базы данных компании).
💙Не чисто юридические готовые SaaS-решения, но которые также можно использовать для систематизации и упрощения работы [например, Daisy (работа с документами), Silero (перевод голоса в текст), Perplexity, Gamma (для презентаций и сайтов)].
Еще Юлия советует обратить внимание на RAG (Retrieval-Augmented Generation) — это концепция работы с большими языковыми моделями (которая улучшает предыдущие системы поиска более современным подходом, по сути, дополняет классический поиск, например, RAG дополняет FTS векторным поиском на основе векторов и семантической близости), когда пользователь пишет свой вопрос и к этому вопросу программно «подмешивается» дополнительная информация из каких‑то внешних источников (например, базы знаний юрдепа или юрфирмы), и все подается целиком на вход языковой модели. Другими словами, в контекст запроса к языковой модели добавляется дополнительная информация, на основе которой языковая модель может дать пользователю более полный, точный и обоснованный ответ.
Этап настройки RAG в своей компании:
1️⃣Сбор базы знаний — законы, судебные решения, внутренние документы.
2️⃣Настройка поискового механизма — использование NLP (Natural Language Processing) для поиска ключевой информации.
3️⃣Интеграция с AI-генерацией — подключение GPT-моделей для генерации ответов.
4️⃣Обучение и тестирование — проверка точности и корректности ответов.
5️⃣Мониторинг и обновление — добавление новых правовых данных.
(продолжение ниже)