Начинаем с минимального доступа
Вопрос «безопасен ли AI-агент?» правильный. Но на него нет честного ответа «да, он безопасен сам по себе». Безопасность зависит от задачи и от границ, которые задали до запуска.
Агенту не нужен доступ ко всем файлам и системам, чтобы подготовить сводку или отчёт. Мы определяем только то, что требуется для конкретного процесса, и не расширяем доступы без причины.
Для ежедневной сводки агенту нужны выбранные источники и чат, куда её отправлять. Для черновика отчёта — согласованные данные и шаблон. Ему не нужен доступ к остальным системам компании только потому, что он работает в вашей инфраструктуре.
Такой подход удобен и для личной работы: агент получает ровно те папки, источники и действия, которые вы ему поручили.
Какие действия остаются за человеком
Агент может собрать данные, сравнить информацию, подготовить документ и прислать уведомление. Действия, которые меняют данные, затрагивают клиентов, деньги, права доступа или публичные публикации, можно выполнять только после подтверждения человека.
Перед запуском мы отдельно фиксируем эти правила. Вы понимаете, что агент делает сам, а в какой момент ждёт решения.
Кто имеет доступ к агенту
Заранее определяем разрешённых пользователей, рабочие чаты и получателей результата. Нет необходимости подключать всех сотрудников или давать общий доступ к уведомлениям. Если агент работает только для вас, его можно ограничить личным каналом.
Что происходит после запуска
Доступы не должны жить своей жизнью. Если появляется новый сценарий, сначала оцениваем, какие данные и действия ему действительно нужны. Также заранее определяем порядок поддержки, обновлений и резервного копирования.
Что спросить перед внедрением
- Какую задачу решает агент?
- Какие данные ему действительно нужны?
- Кто может ставить задачи и видеть результат?
- Что агент делает сам, а что только после подтверждения?
- Что изменится, если сценарий расширится?