Как внедрить ИИ без проблем с законом: руководство для бизнеса

Автор: Сергей Спиренков, евангелист KODE

Чтобы внедрить ИИ без лишних правовых рисков, компании нужно определить назначение системы, проверить данные и применимые законы, оценить влияние на людей, ограничить автономность и сохранить человеческий контроль. Пользователя следует предупреждать о взаимодействии с алгоритмом, а решения и инциденты — фиксировать. Конкретный набор требований зависит от страны, отрасли и уровня риска.

Генеративный ИИ помогает автоматизировать поддержку, анализ документов, создание контента и внутренние операции. Но вместе с производительностью бизнес получает новую ответственность. Модель может выдать ложный факт, раскрыть персональные данные, воспроизвести дискриминацию из обучающей выборки или предложить опасное действие.

Поэтому ИИ-проект нельзя оценивать только по качеству ответов и экономии времени. До запуска необходимо понять, какие права людей он затрагивает, кто отвечает за результат и как остановить систему при отклонении. Материал носит обзорный характер: для конкретного продукта и юрисдикции требования стоит уточнять с юристами и специалистами по информационной безопасности.

Какие риски уже проявились на практике

Галлюцинации и ущерб репутации

Генеративная модель не проверяет факты так, как это делает редактор или юрист. Она строит наиболее вероятный ответ и может уверенно соединить достоверную информацию с вымыслом.

Норвежец Арве Хьялмар Хольмен обнаружил, что ChatGPT приписал ему убийство двух сыновей и тюремный срок. Австралийский политик из Хепберна столкнулся с вымышленным рассказом об участии в коррупционном скандале. Подобные ответы создаёт не злоумышленник, однако последствия для человека и владельца сервиса могут быть такими же реальными, как у намеренной дезинформации.

Для бизнеса вывод простой: модель нельзя использовать как единственный источник фактов о людях. Особенно опасно автоматически публиковать её ответы или принимать на их основе кадровые, кредитные и иные значимые решения.

Опасные и неэтичные советы

В исках против Character.AI семьи из Техаса утверждали, что персонажи чат-бота выдавали детям опасные советы и оправдывали насилие. Ранее другая семья связала общение подростка с сервисом с его самоубийством.

Компания добавила предупреждения и переход к кризисной помощи, усилила команды безопасности, доверия и контентной политики. Этот пример показывает, что одного общего запрета в пользовательском соглашении недостаточно. Если сервис доступен детям или затрагивает здоровье и безопасность, нужны возрастные ограничения, фильтры, сценарии эскалации и постоянное тестирование поведения.

Утечки персональных данных

В марте 2023 года OpenAI временно отключила ChatGPT после ошибки, из-за которой некоторые пользователи видели заголовки чужих диалогов. У части подписчиков могли отображаться имя, email, платёжный адрес, последние четыре цифры и срок действия карты другого пользователя.

Риск возникает не только при техническом сбое. Сотрудники сами могут отправить в публичную модель клиентскую базу, договор или коммерческую тайну. Поэтому компании важно определить, какие данные разрешено обрабатывать, использовать корпоративный контур и не передавать модели больше информации, чем необходимо для задачи.

Дискриминация в автоматизированных решениях

Чат-бот Tay, запущенный Microsoft в Twitter в 2016 году, быстро начал воспроизводить расистские и оскорбительные сообщения пользователей. Amazon отказалась от экспериментальной системы отбора резюме после того, как обнаружила занижение оценок кандидатам-женщинам. Модель обучалась на исторических данных, где среди соискателей преобладали мужчины.

ИИ не создаёт нейтральность автоматически. Он может закреплять перекос исходных данных и правил оценки. Поэтому системы найма, кредитования, образования и медицины требуют проверки выборки, метрик справедливости, объяснимости и возможности оспорить результат.

Как регулируют ИИ в разных странах

Европейский союз: AI Act и GDPR

AI Act использует риск-ориентированный подход. Запрещённые практики, включая отдельные формы социального скоринга и манипуляции, относятся к неприемлемому риску. Для высокорисковых систем — например, в найме, образовании и отдельных медицинских сценариях — установлены требования к данным, документации, управлению рисками, журналированию и человеческому надзору. Для ряда чат-ботов и генеративных материалов действуют требования прозрачности.

Максимальная санкция за запрещённые практики может достигать €35 млн или 7% мирового годового оборота компании — применяется более высокий предел. За другие нарушения предусмотрены отдельные уровни штрафов. Положения акта вводятся поэтапно, поэтому бизнесу важно проверять не только категорию системы, но и дату начала конкретной обязанности.

Параллельно действует GDPR. Если ИИ обрабатывает персональные данные жителей ЕС, компании нужно определить законное основание, соблюдать минимизацию и сроки хранения, обеспечивать права человека на доступ, исправление и в предусмотренных случаях удаление данных. В 2023 году итальянский регулятор временно ограничил ChatGPT; для возобновления работы OpenAI добавила уведомления, инструменты управления данными и возрастные меры.

США: отраслевые нормы и правила штатов

Единого всеобъемлющего федерального закона об ИИ в США нет. Но это не означает отсутствия ответственности. FTC применяет нормы о защите потребителей и пресекает вводящие в заблуждение заявления об ИИ. NIST AI Risk Management Framework предлагает добровольную систему управления рисками.

Дополнительные требования действуют на уровне штатов и городов. Например, правила Нью-Йорка предусматривают аудит автоматизированных инструментов найма на предвзятость. Конкретные обязанности нужно проверять по месту работы компании и пользователей.

Китай: регистрация и контроль контента

В Китае действуют специальные правила для рекомендательных алгоритмов, синтетического контента и общедоступных генеративных сервисов. Провайдеры должны соблюдать требования к безопасности данных, идентификации пользователей, маркировке контента и обработке запрещённой информации. Для сервисов, способных влиять на общественное мнение, могут потребоваться оценка безопасности и регистрационные процедуры.

Поэтому вывод продукта на китайский рынок требует отдельной юридической и технической модели, а не простого перевода интерфейса.

Россия: общие законы и отраслевые ориентиры

В России развитие ИИ закреплено в национальной стратегии, а отдельные решения могут тестироваться в экспериментальных правовых режимах. При этом общего закона, аналогичного AI Act, пока нет.

Это не освобождает компанию от действующих требований: к персональным данным, защите потребителей, рекламе, интеллектуальной собственности, банковской, медицинской и иной регулируемой деятельности. В июле 2025 года Банк России опубликовал Кодекс этики ИИ для финансового рынка. Он носит рекомендательный характер и закрепляет принципы человекоцентричности, справедливости, прозрачности, безопасности, надёжности и ответственного управления рисками.

О том, как эти принципы влияют на архитектуру финансового продукта, читайте в статье «Как внедрить ИИ в финтехе».

Международные ориентиры

Принципы ОЭСР и рекомендации ЮНЕСКО по этике ИИ не заменяют национальное законодательство, но формируют общие ориентиры: прозрачность, безопасность, подотчётность и уважение прав человека.

Рамочная конвенция Совета Европы об ИИ была открыта для подписания 5 сентября 2024 года. Это первый международный юридически обязательный договор в этой области; его цель — согласовать применение ИИ с правами человека, демократией и верховенством права.

Персональные данные: что меняется при использовании ИИ

Подключение модели не отменяет обычные принципы обработки данных. Компания должна понимать, какие сведения попадают в запрос, где они хранятся, использует ли провайдер их для обучения и передаются ли они в другие страны или субподрядчикам.

Собирать данные «на всякий случай» опасно. Чем больше информации получает система, тем выше последствия ошибки или утечки. Для большинства сценариев полезно удалять прямые идентификаторы, сокращать содержимое запросов и разделять доступы сотрудников. Конфиденциальные документы нельзя отправлять в потребительский сервис только потому, что он удобнее корпоративного инструмента.

Отдельно проверьте договор с поставщиком модели: роли сторон, место обработки, сроки удаления, порядок уведомления об инцидентах и возможность запретить использование запросов для дообучения. Если решение строится на собственной базе знаний, необходимо управлять правами доступа и к исходным документам, и к сформированным ответам.

Пользовательские запросы, ответы модели и журналы проверки тоже могут содержать персональные данные. Для них нужны обоснованные сроки хранения. Бессрочное накопление истории ради возможной аналитики противоречит принципу минимизации и увеличивает стоимость будущего инцидента.

Что проверить компании до запуска ИИ

1. Опишите назначение и границы. Зафиксируйте задачу, пользователей, запрещённые действия и решения, которые нельзя передавать модели.
2. Составьте карту данных. Определите источники, правовые основания, сроки хранения, получателей и возможность удалить или исправить информацию.
3. Классифицируйте риск. Оцените влияние ошибки на права, здоровье, деньги, работу и репутацию человека.
4. Проверьте модель. Тестируйте точность, утечки, дискриминацию, опасный контент и устойчивость к манипуляциям до запуска и после обновлений.
5. Оставьте человеческий контроль. Значимые решения должен подтверждать компетентный сотрудник, а пользователь — иметь понятный способ обжалования.
6. Обеспечьте прозрачность. Сообщайте о взаимодействии с ИИ, объясняйте роль алгоритма и маркируйте контент, когда этого требует закон.
7. Ведите документацию и мониторинг. Сохраняйте версии модели, результаты тестов, журналы решений и порядок реакции на инциденты.

Подобный запуск удобно начинать с ограниченного пилота. Как задать автономии безопасные границы и аварийную остановку, рассказали в материале «Как внедрить Agentic AI без риска».

ИИ становится юридически управляемым не после добавления дисклеймера, а когда контроль встроен во весь жизненный цикл: от выбора данных и поставщика до проверки результата и разбора инцидентов. Такой подход не устраняет все ошибки, но позволяет заранее ограничить их последствия и доказать, что компания управляла риском осознанно.

Планируете внедрение ИИ? KODE поможет определить безопасный сценарий, провести аудит данных и архитектуры и подготовить план пилота с учётом отраслевых ограничений. Обсудить проект.

FAQ

Можно ли передавать клиентские данные публичной ИИ-модели?

Только при наличии законного основания, подходящих договорных условий и подтверждённых мер защиты. Во многих корпоративных сценариях безопаснее исключить персональные и конфиденциальные сведения либо использовать закрытый контур.

Кто отвечает за ошибку ИИ?

Ответственность зависит от роли компании, договора, юрисдикции и последствий. Сам факт использования сторонней модели обычно не снимает обязанности контролировать продукт и данные.

Нужен ли человеку способ оспорить решение?

Для решений, существенно влияющих на права и возможности, такой механизм — одна из ключевых мер контроля, а в отдельных юрисдикциях и сценариях он обязателен.