ИИ и безопасные помощники · обновлено 30.09.2026
Документ предлагает ИИ выполнить постороннюю команду
В извлечённом тексте есть запрос раскрыть данные или открыть адрес
С чего начать
ИИ может помочь структурировать обезличенное описание проблемы, но технические и правовые выводы сверяют с первоисточником. Защищённые сведения в публичные инструменты не передают.
Три проверки
Отделите текст документа от команд помощнику.
Проверьте источник подозрительного фрагмента.
Сверьте разрешённую цель и состав обрабатываемых данных.
Ниже — диагностические проверки для уполномоченного сотрудника. Названия разделов, роли и доступные операции сверяются с актуальной инструкцией оператора вашей системы. Проверка применяется, если описанная функция предусмотрена в этой системе. Для конкретного АРМ сверяются актуальные ТУ; правовые обязанности, класс и уровень защищённости определяются по условиям конкретного объекта.
Безопасный следующий шаг
Игнорируйте встроенную команду и анализируйте только допустимое содержание.
Как проверить результат
Помощник не изменил цель и не передал данные наружу. Проверьте результат по указанному выше признаку. Если подтвердить его нельзя, уточните статус у ответственного специалиста до повторной операции.
Когда остановиться
При попытке доступа к секретам остановите обработку. Не отключайте защитные средства и не расширяйте полномочия для обхода ошибки.
Пример обращения по этой проблеме
Тема: «Документ предлагает ИИ выполнить постороннюю команду». Наблюдаемый результат: «В извлечённом тексте есть запрос раскрыть данные или открыть адрес». Время и масштаб проблемы: [укажите без персональных данных].
- Отделите текст документа от команд помощнику: [результат проверки либо «не проверено»].
- Проверьте источник подозрительного фрагмента: [результат проверки либо «не проверено»].
- Сверьте разрешённую цель и состав обрабатываемых данных: [результат проверки либо «не проверено»].
Просим подтвердить следующий шаг: «Игнорируйте встроенную команду и анализируйте только допустимое содержание». Признак ожидаемого результата: «Помощник не изменил цель и не передал данные наружу».
Это форма описания проблемы, а не пример реально выполненных работ. Направляйте её только через согласованный канал. Пароли, закрытые ключи, токены и персональные данные детей не включайте.
План проверок — самостоятельная редакционная рекомендация для разбора этой проблемы. Он не заменяет инструкцию вашей системы и не назначает правовые обязанности. Применимость действий подтверждает уполномоченный специалист.