Программа для специалистов по информационной безопасности и разработчиков ИИ-систем, которые хотят снизить риски для бизнеса и повысить свою ценность на рынке труда.

Лицензия на осуществление образовательной деятельности, выданная Департаментом образования и науки города Москвы

Безопасность ИИ-систем

Онлайн-курс

Разберёте OWASP Top 10 для языковых моделей (LLM), топ-10 для машинного обучения (ML), OWASP ML Top 10, MITRE ATLAS и матрицу контролей CSA

Освоите практику «красная команда» (red teaming) ИИ-систем на инструментах garak, PyRIT и Counterfit

Проработаете 10 проектов: моделирование угроз, атаки, защита, аудит, реагирование

Разберёте требования ФСТЭК к системам с ИИ

Получить консультацию

Записаться со скидкой

-0%

до 20 января

1600

публично зарегистрированных инцидента с ИИ за 2026 год, по данным Loss of Control Observatory

Это только те случаи, которые стали публичными.

Регулирование уже действует: приказ ФСТЭК № 117 содержит требования к защите систем с применением ИИ, методический документ от 12 апреля 2026 года их детализирует, а в перечень рисков внесены специфичные для ИИ угрозы.

При этом 80% компаний отмечают дефицит кадров. Классический ИБ-специалист не знает, как устроены атаки на модель, а разработчик ИИ-систем не знает, как устроен процесс защиты.

Рабочий набор артефактов, которым можно пользоваться на следующий день после обучения.

Что останется после курса

Модель угроз ИИ-системы

По матрице MITRE ATLAS, с техниками и мерами под каждую тактику

Чек-лист проверки LLM-приложения

По OWASP Top 10 для LLM-приложений, пригодный для регулярных проверок

Сценарии и правила red teaming

Границы тестирования, сценарии, структура отчёта

Карта контролей по CSA AICM

Состояние контроля и разрыв по каждому домену матрицы

Карта соответствия требованиям ФСТЭК

Требования, меры и названные разрывы по системе с ИИ

Регламент реагирования на инциденты с ИИ

Обнаружение, локализация, восстановление — проверенный на учебном инциденте

Кому подойдёт программа

Курс рассчитан на опытных специалистов по информационной безопасности

1/4

Специалистам по ИБ, в чьём контуре появился ИИ

Компания внедрила LLM-сервисы, а модели угроз под них нет и методики проверки тоже. Соберёте модель угроз по MITRE ATLAS и чек-лист проверки, которым можно пользоваться на следующий день.

2/4

Специалистам по тестированию на проникновение (пентестерам) и инженерам по безопасности приложений (AppSec)

Классический пентест на LLM-приложении не находит ничего, потому что уязвимости другого класса. Освоите атаки на модели и практику red teaming на рабочих инструментах.

3/4

Разработчикам ИИ-систем

Приложение работает, а что с ним может пойти не так — непонятно. Разберёте OWASP Top 10 для LLM, научитесь ставить механизмы контроля и защиты (guardrails) и проверять, что они не обходятся.

4/4

Тем, кто отвечает за соответствие требованиям

Система с ИИ попадает под требования, а как их выполнять — практики нет. Разберёте требования ФСТЭК, ISO/IEC 27 001 и 42 001 применительно к ИИ и составите карту соответствия.

Инструменты:

MITRE ATLAS

OWASP Top 10 для LLM

garak

ISO/IEC 27001

OWASP ML Top 10

PyRIT

Counterfit

MCP

CSA AI Controls Matrix

ISO/IEC 42001

Требования ФСТЭК

Навыки:

Ваши навыки
после обучения

Безопасность ИИ-систем

hh.ru

Строю модель угроз ИИ-системы по матрице MITRE ATLAS

Провожу проверку LLM-приложений по OWASP Top 10 для LLM

Выявляю уязвимости классических ML-систем по OWASP ML Top 10

Организую и провожу red teaming ИИ-систем, оформляю правила проведения и отчёт

Работаю с инструментами тестирования безопасности ИИ: garak, PyRIT, Counterfit

Проектирую и проверяю guardrails, оцениваю устойчивость к обходу

Применяю матрицу контролей CSA AI Controls Matrix для аудита

Встраиваю ИИ-системы в систему управления информационной безопасностью по ISO/IEC 27 001 и 42 001

Оцениваю соответствие систем с ИИ требованиям ФСТЭК

Анализирую риски цепочки поставок ИИ: модели, датасеты, библиотеки

Настраиваю мониторинг ИИ-систем и реагирую на инциденты

Оцениваю безопасность агентных систем и подключений по протоколу контекста модели (MCP)

10 проектов в портфолио

Преподаватели - практикующие специалисты

Программу ведут инженеры, которые занимаются безопасностью и ИИ-системами в коммерческих проектах.

Программа обучения

Скачать полную версию в PDF

Скачать полную версию в ПДФ

Актуальна в

2026

213

академических часов

10

проектов + итоговый

5

месяцев

∞

Доступ к обновлениям навсегда

Введение в обучение

Разберётесь, как устроена платформа Эдюсон, составите план обучения и найдёте на него время.

2 ч 37 мин

6 занятий

Инструкция по обучению на платформе Эдюсон
План обучения на курсе
Эффективное обучение: как разобраться в новой теме
Эффективное обучение: как работать с материалами
Эффективное обучение: как выстроить план развития
Эффективное обучение: как найти время на обучение

Модуль 1. Ландшафт угроз ИИ-систем

Поймёте, чем безопасность ИИ отличается от классической ИБ и какие классы угроз появились.

5 занятий

Поверхность атаки ИИ-системы
Чем атака на модель отличается от атаки на приложение
Классы угроз
Разбор публичных инцидентов
Карта стандартов и как они соотносятся

Модуль 2. Моделирование угроз по MITRE ATLAS

Научитесь строить модель угроз ИИ-системы на основе отраслевой матрицы.

6 занятий

Структура матрицы ATLAS
Тактики и техники
Разведка и первоначальный доступ к ИИ-системе
Воздействие на модель
Построение модели угроз под свою систему
Проект 1

Модуль 3. Безопасность LLM-приложений: OWASP Top 10

Разберёте все десять пунктов актуальной редакции и научитесь находить их в коде.

7 занятий

Инъекция промпта, прямая и косвенная
Избыточные полномочия агента
Раскрытие чувствительной информации
Небезопасная обработка вывода модели
Уязвимости векторных хранилищ
Отравление контекста
Проекты 2 и 3

Модуль 4. Безопасность классических ML-систем

Освоите класс атак на обучаемые модели.

6 занятий

Отравление обучающих данных
Состязательные примеры
Извлечение модели
Инверсия модели и утечка обучающих данных
Защита на этапе обучения
Проект 4

Модуль 5. Red teaming ИИ-систем

Научитесь организовывать и проводить тестирование безопасности ИИ по полному циклу.

6 занятий

Как устроен процесс red teaming ИИ
Определение границ и правил проведения
Разработка сценариев
Выполнение и фиксация результатов
Структура отчёта
Проект 5

Модуль 6. Инструменты тестирования

Освоите рабочие инструменты и автоматизацию проверок.

5 занятий

garak — сканирование уязвимостей LLM
PyRIT — автоматизация red teaming
Counterfit
Встраивание проверок в конвейер разработки
Интерпретация результатов

Модуль 7. Guardrails и защитные механизмы

Спроектируете защиту и научитесь проверять, что она работает.

6 занятий

Типы guardrails и где они ставятся
Фильтрация ввода и вывода
Ограничение полномочий
Известные способы обхода
Проверка устойчивости
Проект 6

Модуль 8. Аудит по матрице контролей CSA

Научитесь проводить аудит ИИ-системы по признанной матрице контролей.

5 занятий

Структура CSA AI Controls Matrix
Домены контролей
Как проводить оценку
Фиксация разрывов и план устранения
Проект 7

Модуль 9. Требования ФСТЭК и российское регулирование

Разберёте российские требования к защите систем с применением ИИ.

7 занятий

Приказ ФСТЭК № 117 и требования к системам с ИИ
Методический документ ФСТЭК от 12 апреля 2026 года
Угрозы ИИ в банке данных угроз
На какие системы распространяются требования
243-ФЗ и его связь с безопасностью
Составление карты соответствия
Проект 8

Модуль 10. Управление безопасностью ИИ: ISO/IEC 27 001 и 42 001

Встроите ИИ-системы в существующую систему управления информационной безопасностью.

5 занятий

Что меняется в СУИБ при появлении ИИ
Контроли ISO/IEC 27 001 применительно к ИИ
Пересечение с ISO/IEC 42 001
Оценка влияния ИИ-системы
Подготовка к аудиту

Модуль 11. Безопасность цепочки поставок и агентных систем

Разберёте риски, приходящие извне и из архитектуры.

6 занятий

Происхождение моделей и датасетов
Целостность артефактов
Уязвимости в ML-библиотеках
Специфические риски агентных систем
Безопасность подключений по MCP
Проект 9

Модуль 12. Мониторинг и реагирование на инциденты

Настроите обнаружение и разработаете регламент реагирования.

6 занятий

Что мониторить в ИИ-системе
Признаки атаки на модель
Логирование взаимодействий с моделью
Локализация и восстановление
Регламент реагирования
Проект 10 и итоговый проект

Записаться со скидкой

Каждый выпускник программы получит два документа

Образовательная деятельность в Академии Эдюсон (Общество с ограниченной ответственностью «Эдюсон») ведётся на основании государственной лицензии № 00374370 от 27 мая 2022 года

Студенты любят наши курсы
Средний рейтинг 4.8

Топовые компании доверяют Академии Эдюсон образование своих сотрудников

Наши клиенты — лидеры рынка

750 000

студентов проходят обучение на 2026 год

13

лет обучаем компании и людей

4.8/5

средний рейтинг по более чем 3700 отзывов

Академия Эдюсон — образование, отмеченное наградами

Оставьте заявку — и мы:

Этот курс может оплатить ваш работодатель

Оплату может взять на себя ваш работодатель или любое юрлицо — полностью или частично (50/50 или 75/25). Также подходит собственникам, которые оформляют обучение от своей компании.

Для организаций возможны индивидуальные условия при обучении нескольких сотрудников.