💻 Программирование [HTB Academy] AI Red Teamer: редтиминг систем на базе ИИ. Часть 1 (2025)

[Calvin Candie]

Автор: HTB Academy
Название: AI Red Teamer: редтиминг систем на базе ИИ. Часть 1 (2025)



Программа подготовки на позицию AI Red Teamer, созданная в сотрудничестве с Google, обучает специалистов по кибербезопасности оценивать, эксплуатировать и защищать системы на базе искусственного интеллекта.
Курс охватывает внедрение промптов (prompt injection), атаки на конфиденциальность моделей, использование ИИ в злонамеренных целях (adversarial AI),
риски цепочки поставок и угрозы на этапе развертывания, сочетая теорию с практическими упражнениями.
Курс разработан в соответствии с фреймворком для создания безопасного ИИ (Secure AI Framework/SAIF) от Google, что обеспечивает его релевантность для реальных задач, связанных с безопасностью ИИ.
Вы приобретете следующие навыки: манипулирование поведением моделей, разработка стратегий red teaming, заточенных под ИИ, и проведение наступательного тестирования безопасности в отношении приложений, основанных на ИИ.

Ключевые темы курса:

• Основы ИИ
• Варианты использования ИИ в информационной безопасности
• Введение в red teaming ИИ
• Атаки с внедрением промптов
• Атаки на вывод LLM
• Атаки на данные ИИ
• Атаки на прикладные и системные компоненты развертываний ИИ
• Атаки на модели ИИ с уклонением - основы
• Атаки на модели ИИ с уклонением - First-Order атаки
• Атаки на модели ИИ с уклонением - атаки на разреженность данных
• Атаки на конфиденциальность ИИ
• Защита ИИ

Содержание первой части:

Модуль 01: Основы ИИ
В этом модуле представлено руководство по теоретическим основам искусственного интеллекта (ИИ).
Будут рассмотрены различные парадигмы обучения, включая обучение с учителем, без учителя и обучение с подкреплением.
Это обеспечит глубокое понимание ключевых алгоритмов и концепций.

Ключевые темы модуля:

• Введение в машинное обучение
• Математические концепции в основе алгоритмов и процессов
• Алгоритмы обучения с учителем
• Линейная регрессия
• Логистическая регрессия
• Деревья решений
• Наивный байесовский классификатор
• Машины опорных векторов (SVM)
• Алгоритмы обучения без учителя
• Кластеризация по методу k-средних
• Метод главных компонент (PCA)
• Обнаружение аномалий
• Алгоритмы обучения с подкреплением
• Q-обучение
• SARSA (State-Action-Reward-State-Action)
• Введение в глубокое обучение
• Перцептроны
• Нейронные сети
• Сверточные нейронные сети
• Рекуррентные нейронные сети
• Введение в генеративный ИИ
• Большие языковые модели
• Диффузионные модели

Дата релиза: 2025-2026
Тип перевода: перевод с английского языка на русский
Формат: PDF
Объем оригинала: 12 модулей
Объем перевода первой части: Модуль 01: Основы ИИ (~114 стр.)
Дата выдачи: 31.05.26г.
Сэмпл перевода: во вложении
Подробнее:

Скачать:

Для просмотра скрытого содержимого вы должны войти или зарегистрироваться.