01 — Кейс · ML Нейросети

Локальный ИИ для обработки юридических документов: Qwen 2.5 72B на серверах юрфирмы

Мы разработали для международной юридической фирмы систему обработки документов, которая полностью работает на её собственном оборудовании. Модель Qwen 2.5 на 72 млрд параметров распознаёт сканы, расшифровывает показания свидетелей, готовит краткие изложения, строит хронологию дела и отвечает на вопросы юристов со ссылками на источники. Материалы дел не покидают сеть фирмы, а ревью документов по делу сократилось с 4–6 до 1–2 недель.

6 месяцевNDA

Обновлено: 22 октября 2026 г.

Смотреть кейс

срок проекта: 6 месяцев
функциональных модулей: 8
этапов разработки: 3
ключевых технологий: 6

Локальный ИИ для обработки юридических документов: Qwen 2.5 72B на серверах юрфирмы

02 — Контекст

Задача проекта

Исходная ситуация, ограничения и проблемы, которые должна была решить новая система.

В начале 2024 года к нам обратилась крупная международная юридическая фирма: ей нужна была ИИ-система, которая ускорит работу с документами. Большую часть времени юристы вручную читали показания свидетелей, материалы раскрытия доказательств и документы по делу. По типичному делу приходили сотни и тысячи страниц, которые нужно было просмотреть, разметить и кратко изложить, и на это уходило 4–6 недель.

Коммерческие ИИ-сервисы фирма рассматривала, но использовать их не могла. Облачные модели вроде ChatGPT и Claude исключались: адвокатская тайна запрещает отправлять конфиденциальные материалы дел на внешние серверы. Всё должно было работать на собственной инфраструктуре фирмы, и ни один документ не мог выйти за пределы её сети.

Недели на ревью одного дела
Сотни и тысячи страниц по каждому делу юристы читали, размечали и пересказывали вручную. На одно дело уходило 4–6 недель, и это время не оставалось на правовую стратегию.
Облачный ИИ под запретом
Адвокатская тайна не позволяет передавать материалы дел внешним сервисам. Готовые облачные решения отпадали сразу, а работать без ИИ значило оставаться на ручном ревью.
Разнородные материалы
Часть документов приходила сканами, часть — аудиозаписями показаний, часть — цифровыми файлами. Даты, стороны и суммы в таком массиве юристы находили и размечали вручную.

03 — Возможности

Что делает система

Ключевые сценарии и рабочие модули, собранные в единую систему.

Изолированный ИИ-контур на H100
Модель Qwen 2.5 на 72 млрд параметров работает на сервере фирмы с четырьмя видеокартами NVIDIA H100. У ИИ-компонентов нет подключения к интернету, сеть изолирована, хранилище зашифровано. Все документы, запросы и ответы остаются внутри периметра фирмы, поэтому адвокатская тайна соблюдается на уровне архитектуры, а не только регламентов.
Конвейер приёма документов
Система принимает документы разных типов. Сканированные PDF сначала проходят распознавание текста, аудиозаписи показаний — перевод речи в текст, цифровые документы обрабатываются сразу. Автоматические конвейеры разбирают новые поступления ночью, и к утру у юристов уже готовы результаты по всем загруженным материалам.
Расшифровка показаний свидетелей
Для депозиций — показаний свидетелей под присягой — система расшифровывает аудиозаписи и размечает текст: кто говорит, где вопрос, где ответ. Модель понимает юридическую терминологию и контекст судебных материалов, поэтому расшифровку можно сразу использовать в поиске, хронологии и ответах на вопросы.
Классификация и краткое изложение
Юристы загружают документы через веб-интерфейс. Система определяет тип каждого документа — показания, договор, ходатайство, материалы раскрытия доказательств и другие, — извлекает ключевые даты и стороны и готовит краткое изложение. Все документы попадают в поисковый индекс и становятся доступны для вопросов.
Хронология дела
Система сама извлекает даты и события из множества документов и собирает их в хронологию. Для дела с 50 депозициями и сотнями приложений-доказательств она строит единую картину того, что и когда произошло, и юристу не нужно сводить события из разных документов вручную.
Извлечение фактов
Из каждого документа система выделяет ключевые факты, имена, даты, места и денежные суммы. Раньше юристы вручную подсвечивали и размечали эти элементы в каждом документе, теперь они собраны автоматически и сразу доступны для поиска, хронологии и ответов на вопросы.
Поиск ссылок на право
Система находит в документах ссылки на судебную практику, законы и другие правовые прецеденты. Юрист сразу видит, на какие правовые источники опираются материалы дела, и не перечитывает ради этого каждый документ целиком.
Вопросы к материалам дела
Юрист пишет вопрос обычными словами, например «Что свидетель X говорил о договоре?», и система ищет ответ по всем документам дела. В ответ приходят подходящие фрагменты со ссылками на источник, поэтому любое утверждение можно открыть и проверить в оригинале.

04 — Архитектура

Технологический стек

Технологии выбраны под нагрузку, интеграции и дальнейшее развитие продукта.

Зачем в проекте · 01 / 06

Qwen 2.5 (72B)

Открытая языковая модель на 72 млрд параметров, которую можно запустить полностью на своём оборудовании. Она понимает содержание и структуру юридических документов и терминологию, поэтому подходит для изложений, извлечения фактов и ответов на вопросы, а фирме не приходится отправлять данные во внешний сервис.

Зачем в проекте · 02 / 06

NVIDIA H100

Сервер с четырьмя видеокартами H100 даёт мощность, достаточную для модели на 72 млрд параметров в собственном контуре фирмы. Это позволяет обрабатывать около 2 000 документов в день без облачных вычислений.

Зачем в проекте · 03 / 06

Tesseract OCR

Значительная часть материалов приходит сканами. Распознавание текста превращает их в данные, с которыми может работать модель: точность составляет около 98 % на печатных документах и около 95 % на рукописных заметках.

Зачем в проекте · 05 / 06

Python + LangChain + FastAPI

Python объединяет весь конвейер — от распознавания до анализа. LangChain связывает модель с документами и цепочками обработки, а FastAPI обслуживает веб-интерфейс, через который юристы загружают материалы и задают вопросы.

Зачем в проекте · 06 / 06

PyTorch + Docker

PyTorch служит средой исполнения моделей, а Docker упаковывает компоненты системы — модель, конвейеры обработки и веб-интерфейс — для развёртывания на сервере фирмы внутри её изолированной сети.

05 — Процесс

Как шла разработка

Последовательность работ от исследования задачи до запуска и проверки результата.

Инфраструктура
Установили сервер с NVIDIA H100, развернули модель Qwen 2.5, настроили безопасность, изолировали сеть и включили шифрование хранилища. С этого этапа ни один компонент ИИ не имеет выхода в интернет.
Обработка документов
Собрали конвейер: распознавание сканов, извлечение текста, расшифровка показаний, классификация документов и поисковый индекс. Каждый новый документ проходит этот путь автоматически.
Инструменты ИИ-анализа
Добавили краткие изложения, извлечение ключевых фактов, построение хронологии, поиск ссылок на право и интерфейс вопросов и ответов. Каждый этап опирался на предыдущий, и весь путь от установки сервера до готовой системы занял шесть месяцев.

06 — Итог

Результаты

Что создано в рамках проекта: рабочий контур, реализованные возможности и подтверждённые факты.

на ревью документов по делу вместо 4–6 недель: 1–2 недели
документов в день обрабатывает система: ≈2 000
точность распознавания печатных документов (95 % — рукописных): 98 %
Qwen 2.5 72B на сервере фирмы, данные не покидают сеть: 4 × H100

Ревью документов по делу сократилось с 4–6 до 1–2 недель. Юристы тратят меньше времени на поиск информации и больше — на правовую стратегию, а фирма ведёт больше дел тем же составом. Система обрабатывает около 2 000 документов в день, а краткие изложения настолько точны, что юристы начинают работу с них, а не перечитывают каждый документ с нуля.

Распознавание текста даёт около 98 % точности на печатных документах и около 95 % на рукописных заметках. Поскольку всё работает на серверах фирмы, она полностью контролирует конфиденциальную информацию. Фирма прошла аудиты безопасности коллегии адвокатов штата и крупных клиентов, которых беспокоило обращение с их данными.

Детали проекта

Почему кейс без имени клиента

Имя клиента мы не раскрываем. Для юридической фирмы конфиденциальность — основа работы: материалы дел защищены адвокатской тайной, поэтому закрытыми остаются название фирмы, её клиенты, дела и всё, что позволяет их вычислить. Открыто можно сказать одно: это международная юридическая фирма, и проект сдан в 2024 году.

При этом мы свободно рассказываем, как устроена система: Qwen 2.5 на 72 млрд параметров на сервере с четырьмя H100, конвейеры распознавания сканов и расшифровки показаний, три этапа внедрения за шесть месяцев. Отзыв клиента можем предоставить по запросу под NDA.

FAQ

Вопросы о проекте

Из-за адвокатской тайны. Материалы дел конфиденциальны, и фирма не вправе отправлять их на внешние серверы, а облачные сервисы вроде ChatGPT и Claude работают именно так. Поэтому вся система — модель, распознавание, поиск и хранилище — развёрнута на собственном оборудовании фирмы, а у ИИ-компонентов нет подключения к интернету. Данные не покидают сеть ни на одном шаге обработки.

В этом проекте Qwen 2.5 (72B) работает на одном сервере с четырьмя видеокартами NVIDIA H100. Этого хватает, чтобы система обрабатывала около 2 000 документов в день. Новые документы разбираются ночью автоматическими конвейерами, и к началу рабочего дня у юристов уже готовы результаты. Вся обработка идёт на этом сервере, без обращения к внешним вычислительным ресурсам.

Показания свидетелей, договоры, ходатайства, процессуальные документы, материалы раскрытия доказательств и другие документы по делу. Сканированные PDF проходят распознавание текста, аудиозаписи показаний переводятся в текст, цифровые документы обрабатываются сразу. Каждый документ система относит к своему типу, извлекает из него ключевые даты и стороны и готовит краткое изложение.

Точность распознавания — около 98 % на печатных документах и около 95 % на рукописных заметках. Краткие изложения, которые готовит модель, юристы используют как отправную точку: они достаточно точны, чтобы не перечитывать каждый документ с нуля. Ответы на вопросы система даёт фрагментами документов со ссылками на источник, поэтому их легко проверить.

Документы загружаются через веб-интерфейс, ночью система их обрабатывает, и утром юрист видит готовые изложения, извлечённые факты, ссылки на право и обновлённую хронологию дела. Вопросы задаются обычными словами, например «Что свидетель X говорил о договоре?», — в ответ приходят фрагменты из всех документов дела со ссылками на источник.

Внедрение шло в три этапа и заняло шесть месяцев: инфраструктура, конвейер обработки документов, затем инструменты ИИ-анализа. Каждый этап опирался на предыдущий. В результате ревью документов по делу сократилось с 4–6 до 1–2 недель, а фирма ведёт больше дел тем же составом юристов.

Система изолирована от интернета, хранилище зашифровано, а все данные остаются внутри сети фирмы. Фирма прошла аудиты безопасности коллегии адвокатов штата и крупных клиентов, которых беспокоило, как обращаются с их данными. Полный контроль над конфиденциальной информацией остаётся у самой фирмы.

Далее