Ваши задачи будут включать:
- Участие в DevSecOps-процессах AI-платформы: безопасный CI/CD, сканирование артефактов (prompt, AI-pipeline, tool);
- Интеграция контролей безопасности в инфраструктуру AI-платформы (inference, RAG, AI-агенты);
- Участвовать в разработке и внедрении метрик безопасности LLM, контролей галлюцинаций и качества ответов моделей;
- Внедрять и настраивать guardrails (input/output): контроль ПДн и конфиденциальных данных, защита от Prompt Injection, Jailbreak, NSFW и токсичного контента, обеспечение безопасности в сценариях RAG (poisoning, контроль vector DB, retrieval, indexing);
- Интегрировать AI Sec‑контроллинг с инфраструктурой банка: SIEM, DLP, системы версионирования артефактов, сканирование LLM‑моделей и исходников на вредоносное или нежелательное поведение (логирование prompt/response, трассировка AI-агентов/RAG, аномальное поведение, попытки атак, утечки данных);
- Участвовать в инцидент‑менеджменте безопасности LLM‑платформы: разбор инцидентов, пост‑морты, улучшение контролей и плейбуков реагирования;
- Участвовать в построении процессов безопасного тестирования LLM;
- Построение защиты цепочки поставки моделей (tool, agent execution);
- Внедрять контроль доступа к LLM и данным (RBAC/ABAC моделей, tool, изоляция пользовательских контекстов).
Что мы ждём:
- Опыт в области информационной безопасности (от 3 лет), DevSecOps, AppSec;
- Понимание архитектуры современных AI/LLM‑систем: RAG, векторные БД, агентские фреймворки, особенности LLM в части угроз;
- Практический опыт с инструментами и практиками:
- CI/CD, security‑scan, SAST/DAST, secret-scan
- системы логирования и мониторинга, SIEM/SOAR на уровне интеграции
- RBAC/ABAC‑подходы, OAuth/OpenID, сервис‑аккаунты
- Понимание уязвимостей из OWASP Top 10 for LLM;
- Навыки анализа архитектуры и написания технической документации: модели угроз, схемы взаимодействия сервисов, регламенты и плейбуки;
- Владение Python для написания скриптов автоматизации тестирования и анализа;
- Готовность разбираться в новых AI‑инструментах, LLM‑фреймворках и участвовать в разработке внутренних стандартов и методологий по AI Sec.
Будет плюсом:
- Опыт проектирования или эксплуатации LLM‑платформ, RAG‑сервисов, чат‑ботов или агентных систем;
- Опыт внедрения guardrails и AI Security решений;
- Опыт интеграции security‑контролей с DLP/SIEM, построения корреляционных правил и дашбордов под AI‑сценарии;
- Опыт работы в крупном банке, финтехе или другой высокорегулируемой отрасли.