Договор с поставщиком искусственного интеллекта: что проверять до подписания

Договоры на внедрение решений с искусственным интеллектом чаще всего собираются из шаблона на разработку программного обеспечения. Шаблон не учитывает того, что предмет поставки ведёт себя вероятностно, обучается на чьих-то данных и меняется после подписания акта.

Права на модель и на результат

Первый вопрос: что именно передаётся. Доступ к сервису, лицензия на модель, дообученная версия или права на результат генерации. От ответа зависит, что произойдёт при смене поставщика. Формулировка «исключительные права на программу для ЭВМ» ничего не говорит о весах дообученной модели, и на практике они нередко остаются у поставщика.

Данные

• Какие данные заказчика используются для дообучения и на каком основании.
• Вправе ли поставщик использовать их для других клиентов, в том числе в обезличенном виде.
• Что происходит с данными и с дообученной моделью при расторжении.
• Где физически происходит обработка и через какие сервисы проходят запросы.

Последний пункт особенно важен для организаций, у которых есть ограничения по составу используемых решений: цепочка субпоставщиков модели часто не раскрывается по умолчанию.

Как описывается качество

Вероятностный результат нельзя принимать по принципу «работает или нет». В договоре должны быть метрика, способ её измерения, выборка для замера и порядок действий при снижении качества. Отдельно описывается деградация: модель, показавшая нужный результат при приёмке, через полгода может работать хуже без единого изменения в коде.

Что происходит при обновлении модели

Поставщик обновляет модель по своему графику, и поведение решения меняется без участия заказчика. В договоре это должно быть описано: уведомление заранее, возможность отложить переход, повторный замер качества после обновления и право вернуться на предыдущую версию в течение согласованного срока. Без этих условий приёмка теряет смысл через первое же обновление.

Ответственность за ошибки

Стандартные оговорки об ограничении ответственности размером вознаграждения делают неработающими требования к качеству. Если решение принимает автоматическое действие, последствия ошибки могут превышать стоимость договора многократно, и это надо обсуждать до подписания, а не после инцидента.

Что дальше после подписания

Договор задаёт рамку, но не снимает операционный риск. Мониторинг качества, порядок обновления и разбор инцидентов выстраиваются отдельно, в рамках поддержки и мониторинга ИИ-систем.

Что делаем мы

Разбираем проект договора по перечисленным блокам и даём формулировки, которые можно вносить в переговоры. Услуга описана на странице экспертизы договора с ИИ-вендором. Для ИТ-контрактов вне тематики искусственного интеллекта та же работа идёт через независимую экспертизу ИТ-контрактов.