Серия «Безопасность ИИ на практике». Первый вебинар

Внедрение ИИ меняет задачи информационной безопасности. Теперь нужно контролировать не только код и инфраструктуру, но и инструкции, контекст, а также действия ассистентов. Подключение к корпоративным данным и бизнес-системам создаёт новые риски: от подмены инструкций и утечки информации до выполнения нежелательных действий.

Командам ИБ важно учитывать эти угрозы ещё на этапе проектирования, быстрее выявлять уязвимости и непрерывно контролировать риски работающих приложений. Для этого нужны подходы, которые учитывают особенности ИИ и позволяют автоматизировать проверки.

19 ноября открываем серию «Безопасность ИИ на практике». На первом вебинаре эксперты Yandex Security разберут защиту на примере банка с текстовым ассистентом: от определения угроз и требований до поиска уязвимостей и контроля рисков при эксплуатации. Также покажем, как проверять ИИ-инфраструктуру в Yandex AI Studio и предотвращать утечки данных, когда сотрудники используют ИИ-ассистентов.

Первый вебинар поможет связать эти задачи в общий подход к защите. На следующих встречах команда Yandex Security подробнее разберёт отдельные задачи и инструменты.

На вступительном вебинаре обсудим:

• Как меняются угрозы при внедрении ИИ. Разберём риски, которые возникают, когда ассистент получает доступ к корпоративным данным и инструментам, и как они влияют на подход к защите.

• Как определить, что защищать и как проверять результат. Познакомим с фреймворком AI-SAFE 2.0 и атласом угроз. На примере свяжем компоненты приложения и их уязвимости с возможными последствиями и мерами защиты. {green}(Расскажем,) как сформулировать требования, проверки и критерии приёмки, а также расскажем, как применяем методологию в собственных решениях.

• Как обнаружить уязвимости в ИИ-приложении. Покажем, как сканер SolidPoint автоматически анализирует защищённость приложения, и разберём, как использовать результаты для устранения найденных уязвимостей.

• Как противодействовать промпт-инъекциям и утечкам данных. Продемонстрируем, как SolidWall AI Security Gateway контролирует запросы и ответы в подключённых потоках — при атаках на приложение и передаче сотрудниками чувствительной информации ИИ-ассистентам.

• Как выявлять опасные настройки инфраструктуры. Покажем, как модуль AI-SPM в Security Deck проверяет настройки ИИ-инфраструктуры в Yandex AI Studio и дополняет контроль ИИ-трафика с помощью {green}(SolidWall) AI Security Gateway.

• Как дополнить автоматические проверки экспертной оценкой. Расскажем, когда нужны пентест ИИ-приложения и консалтинг по защищённой разработке и как внедрять результаты в рабочие процессы команды.