Безопасность при работе с ИИ — чек-лист
Загрузка вопросов…
Чек-лист самопроверки
| № | Вопрос | Подсказка (глава) |
|---|---|---|
| 1 | Назовите три риска из OWASP LLM Top 10 2025, критичных для чат-бота с RAG. | OWASP LLM Top 10 для разработчика |
| 2 | Чем прямая промпт-инъекция отличается от косвенной? | Безопасность при работе с ИИ, Безопасность RAG и MCP |
| 3 | Что такое ZDR и когда он обязателен? | Политика данных и выбор LLM-провайдера |
| 4 | Почему free ChatGPT нельзя использовать для .env? | Безопасность при работе с ИИ, Политика данных и выбор LLM-провайдера |
| 5 | Какие данные категорически нельзя отправлять в IDE-агент? | Безопасность при работе с ИИ, Политика данных и выбор LLM-провайдера |
| 6 | Что такое slopsquatting? | Slopsquatting и supply chain для ИИ |
| 7 | Почему .pkl опаснее .safetensors? | Slopsquatting и supply chain для ИИ |
| 8 | Как атакующие обходят ИИ-сканеры в PyPI? | Slopsquatting и supply chain для ИИ, Безопасность при работе с ИИ |
| 9 | Зачем ACL на векторном индексе? | Безопасность RAG и MCP |
| 10 | Какие права дать MCP-tool для SQL в prod? | Безопасность RAG и MCP |
| 11 | Почему агенту нельзя root на рабочем ноутбуке? | Песочница и права ИИ-агента |
| 12 | Назовите три уровня песочницы для агента. | Песочница и права ИИ-агента |
| 13 | Что такое HITL для деструктивных tool calls? | Песочница и права ИИ-агента, Безопасность RAG и MCP |
| 14 | Что входит в golden set security-тестов? | Red team и тестирование LLM-приложений |
| 15 | Зачем прогонять security eval при смене модели? | Red team и тестирование LLM-приложений |
| 16 | Как LLM06 Excessive Agency проявляется в prod? | OWASP LLM Top 10 для разработчика, Песочница и права ИИ-агента |
| 17 | Что такое LLM08 Vector Weaknesses? | OWASP LLM Top 10 для разработчика, Безопасность RAG и MCP |
| 18 | Как дипфейк обходит слабый liveness? | Дипфейки, голос и биометрия |
| 19 | Почему 2FA не спасает при слабом recovery? | Дипфейки, голос и биометрия |
| 20 | Можно ли вставлять сырые SIEM-логи в публичный LLM? | ИИ в SOC и на стороне защитника, Политика данных и выбор LLM-провайдера |
| 21 | Почему SOC-бот не должен сам блокировать хосты? | ИИ в SOC и на стороне защитника |
| 22 | Какие контрмеры для output LLM перед innerHTML? | OWASP LLM Top 10 для разработчика |
| 23 | Что проверить в mcp.json перед merge? | Безопасность RAG и MCP |
| 24 | Где взять официальный список OWASP LLM 2025? | OWASP LLM Top 10 для разработчика |
| 25 | С чего начать чтение раздела 6.10? | Безопасность при работе с ИИ, intro |
Итоги раздела — Безопасность при работе с ИИ — итоги.