Использование локальных LLM юристами

Зачем юристу модель, которая работает на его компьютере, с какими задачами она справится, а с какими нет, и как локальные модели используют участники сообщества.

Дата составления: 2026-10-24
Статус: 💡 Актуально

Зачем это юристу

Тайна и персональные данные. Это главная причина. Загрузка документа в зарубежный ИИ-сервис с высокой вероятностью квалифицируется как передача информации третьему лицу, а для персональных данных — еще и как трансграничная передача. Для адвокатской и коммерческой тайны, сведений под NDA это может означать нарушение режима; подробный разбор — в статье Зачем и когда анонимизировать.

С локальной моделью данные не передаются третьим лицам, и обезличивать документ ради работы с ней не нужно — если программа действительно работает локально (см. Подводные камни).

В профессиональном сообществе эту логику проговаривают все чаще:

  • Вице-президент Федеральной палаты адвокатов (ФПА) предупреждал, что, передавая нейросети чувствительную информацию, адвокат рискует раскрыть адвокатскую тайну. Ограничений на использование нейросетей адвокатами, по его словам, нет, но доверителя нужно предупреждать о работе с ИИ, а если в нейросеть попадут его материалы, — «получить одобрение на использование искусственного интеллекта». ФПА создала рабочую группу, которая изучает применение ИИ адвокатами (декабрь 2025).

  • Озвучено предложение строить «адвокатский ИИ-контур» — защищенную среду, которая работает с внутренней профессиональной базой, а не с открытым интернетом. Формула авторов: «рутину — алгоритму, стратегию — адвокату, адвокатскую тайну — защищенному контуру» (сентябрь 2026).

  • По концепции Верховного суда (утверждена 3 сентября 2026 года) ИИ-сервисы для судей разместят в закрытом контуре судебной системы, без передачи данных в публичные облака, а к 2030 году ими должны регулярно пользоваться более 95% судей.

Независимость от зарубежных сервисов. Локальной модели не нужны средства маскировки IP-адреса и иностранная карта, ее не заблокируют вместе с аккаунтом, а провайдер не заменит ее без предупреждения. Последнее важно для повторяемых процессов: если вы отладили промпт под конкретную модель — например, для извлечения реквизитов из типовых договоров, — результат не изменится от обновления у провайдера.

Объем без лимитов и работа без сети. Подписки ограничивают число запросов, доступ через API оплачивается за каждый токен, а локальная модель ограничена только железом: за ночь она может без лимитов распознать сотни страниц сканов (см. кейс Семена Мошкина ниже). И она работает там, где нет связи или выходить в сеть нельзя.

Локальность не отменяет проверку. Модель на вашем компьютере галлюцинирует так же, как облачная, а маленькие модели — даже чаще.

Когда локальная модель справится, а когда нет

Ориентир дан для моделей, которые помещаются в обычный компьютер (до 30—35 млрд параметров). Он опирается на опыт участников сообщества и атлас локальных моделей Яна Стригова, где модели для видеокарты на 16 ГБ проверены на коде, логике, следовании инструкциям, русском языке и длинном контексте. Чем мощнее железо, тем шире круг задач, но до уровня облачных флагманов домашние конфигурации не дотягивают.

Задача

Чего ожидать

Обезличивание перед отправкой в облако

Хорошо, но только как второй слой после правил-шаблонов и при условии финальной вычитки: локальная модель находит имена, реквизиты и другие сущности, которые шаблоны пропускают, — так устроены, например, LexAnon и OpenAI Privacy Filter из Готовых решений. Обезличенный текст потом можно отдать сильной облачной модели.

Извлечение реквизитов и данных по шаблону

Хорошо: стороны, даты, суммы и сроки из договоров и писем — в таблицу. Помогает строгий формат ответа.

Сортировка и переименование файлов по содержанию

Хорошо. Модели достаточно прочитать начало документа, чтобы определить его вид, стороны и дату и предложить имя файла по вашему шаблону, — с этим справляются даже небольшие модели. Так удобно разбирать входящие документы и архивы дел.

Распознавание сканов и фотографий документов (OCR, Optical Character Recognition)

Хорошо: специализированные модели справляются даже с фотографиями, но работают довольно медленно. Осенью 2026 года разработчик модели Chandra выпустил Indra — небольшую модель (около 1 млн параметров), которая, по данным разработчика, распознает страницу за доли секунды на обычном процессоре и поддерживает русский. Она рассчитана на чистую печать: для рукописного текста, сложных таблиц и плохих сканов разработчик сам советует Chandra.

Краткие выжимки, черновики писем, перевод фрагментов

Нормально для документов в несколько страниц.

Ответы по своим документам (RAG)

Нормально, но качество зависит от того, насколько точно приложение находит нужные фрагменты документов: проверяйте, на какие места опирается ответ. Подробнее — в статье Технология RAG.

Расшифровка аудио

Хорошо, но для этого нужны отдельные модели распознавания речи — см. Локальные решения для расшифровки.

Правовой анализ, поиск норм и практики «по памяти»

Плохо. Знания модели ограничены датой обучения, а маленькие модели уверенно выдумывают нормы и реквизиты судебных актов.

Длинный документ целиком

С оговорками: нужно увеличить контекстное окно и иметь запас памяти (см. Подводные камни). Результат сильно зависит от модели: в атласе Стригова на вопросах по русским расшифровкам длиной до 32 тыс. токенов одна из моделей на 9B ответила на все вопросы, а у остальных проверенных — от половины до нуля.

Многошаговая работа агента

Как у облачных: короткие цепочки надежны, длинные ненадежны у всех. По данным обзора кейсов внедрения ИИ в России, локальная модель на 9B справилась со сценариями из двух-трех шагов не хуже облачных.

Если задача сложная, а данные чувствительные, есть два промежуточных варианта:

  • Обезличить документ и работать с облачной моделью. Подходы описаны в статье Методы анонимизации.

  • Взять открытую модель в российском облаке — такие модели предлагают Yandex AI Studio, MWS Cloud и Cloud.ru. Имейте в виду, что данные в этом случае остаются в России, но передаются третьему лицу.

Кейсы из практики сообщества

Ночное распознавание сканов на домашнем компьютере

Кейс Семена Мошкина, спикера курса «Нейросети для юриста: от основ к системе». Описан 26 апреля 2026

Семен выбирал модель для локального распознавания (OCR) фотографий и сканов документов. Обе модели-кандидаты он запускал на Mac mini — компактном компьютере, который держит включенным дома, — в 8-битной версии для MLX — фреймворка Apple для запуска моделей на чипах серии M.

Выбор модели. Сначала Семен сделал ставку на DeepSeek-OCR-2, но на первом же тесте — фотографии исполнительного листа — модель ушла в бесконечные повторы. Тогда он поставил Chandra 2. Результаты на одних и тех же документах сверял с Claude Opus 4.6 и Gemini 2.5 Pro. Chandra 2 оказалась самой медленной, но заметно точнее DeepSeek-OCR-2. 12-страничный .pdf с фотографиями документов модель распознает за 11,5 минуты и занимает в среднем около 6 ГБ памяти. Чтобы она работала нормально, приходится закрывать браузер, мессенджер и редактор кода.

Решение — ночной конвейер. Днем документы складываются в папку «входящие». В час ночи фоновая программа закрывает тяжелые приложения, загружает модель, обрабатывает файлы и кладет результаты в «исходящие». Если пять минут новых файлов нет, модель выгружается из памяти. Срочные документы можно положить в отдельную папку — они обрабатываются сразу.

Тот же подход — локальная модель плюс код вокруг нее — Семен применяет и для расшифровки судебных заседаний, см. Локальные решения для расшифровки.

Какую модель поставить на домашнюю видеокарту

Кейс Яна Стригова, участника сообщества Нейросети | ilovedocs. Описан 21 июля 2026

Ян выбирал локальную модель для агента, которому можно поручать задачи «на подхвате», а в распоряжении была обычная домашняя видеокарта с 16 ГБ видеопамяти. Он сравнивал не модели как таковые, а профили запуска: одни и те же веса с разной степенью сжатия, длиной контекстного окна и распределением между видеокартой и оперативной памятью.

Как проверял. 14 конфигураций семейств Qwen и Gemma, в том числе дообученных версий. Каждая решала 42 задания на код, логику, вызов инструментов, следование инструкциям и русский язык, и весь набор повторялся 10 раз. Отдельно проверялись длинный контекст и распознавание изображений.

Главные выводы.

  • Явного победителя нет. В группу лидеров вошли Gemma 4 на 26B и две дообученные версии Qwen — на 9B и на 35B, но их места внутри группы меняются от прогона к прогону.

  • Небольшая модель может не уступать крупной. Лучшим балансом автор считает модель на 9B: она в группе лидеров, справилась со всеми заданиями на длинный контекст и выдает около 107 токенов в секунду.

  • Русский язык — слабое место: типичный результат — от 1 до 3 заданий из 6, лучший — 5 из 6.

  • Одного прогона мало. При повторах нестабильными оказались от 6 до 21 задания из 42, поэтому сравнивать модели по одному запуску нельзя.

Если у вас видеокарта на 16 ГБ, начните с моделей, которые рекомендует автор, и прогоните на них свои типовые задачи несколько раз. Полные результаты — на сайте атласа, методика — в разделе Исследования.

Связанные статьи

Дополнительные материалы

Теги: #инструменты #локальные-модели #конфиденциальность #кейсы