Поделиться
Инженерно-математическая школа ВШЭ и VK открывает направление безопасности машинного обучения и ИИ
Инженерно-математическая школа (ИМШ) расширяет подготовку специалистов в сфере информационной безопасности. Благодаря высокому спросу на профильных специалистов, мастерская по высоконагруженным системам расширяет направления работы и трансформируется в Мастерскую безопасной разработки и эксплуатации высоконагруженных систем. Это стратегически важное направление, в котором у МИЭМ НИУ ВШЭ накоплена значительная экспертиза. Об этом CNews сообщили представители НИУ ВШЭ.
В мастерской откроется новое подразделение, посвященное безопасности машинного обучения (ML Security). Оно сфокусировано на защите моделей искусственного интеллекта и их датасетов от различных типов атак: кражи, вредоносных данных и подмены результатов.
Студенты, работающие в этом направлении, получат практический опыт в области автоматизации процессов машинного обучения (MLOps) и обеспечения их безопасности (MLSecOps). В командах под руководством экспертов они займутся: разработкой R&D-инструментов MLSecOps — исследованием атак на ML-модели и созданием реестра решений по их защите; созданием инструментов контроля безопасности ML-моделей и датасетов — утилит для анализа устойчивости моделей к угрозам и автоматизации проверки их безопасности.
Запуск нового направления осуществляется при поддержке индустриального партнера — VK. Руководителями проектов выступают эксперты Центра программных разработок и цифровых сервисов МИЭМ ВШЭ: Виктор Минченков и Михаил Шульгин.
«Открытие нового направления в ИМШ — это важный шаг для МИЭМ. В рамках мастерских наши студенты получают практические навыки и уверенное владение инструментами. Благодаря участию экспертов и работе над реальными проектами от индустриального партнера — VK, мы помогаем студентам получить необходимый импульс для старта успешной карьеры в технологических компаниях», – сказал Дмитрий Коваленко, проректор ВШЭ, директор МИЭМ.
Новое направление открывает перед студентами возможности для участия в актуальных исследованиях и разработки решений, которые определят будущее защиты данных и машинного обучения.
«Работа над проектами Инженерно-математической школы — это вызов. Но процесс точно будет увлекательным, а результаты — полезными», – отметил Дмитрий Куколев, руководитель SOC VK.
Инженерно-математическая школа НИУ ВШЭ и VK была создана на базе МИЭМ как проект, объединяющий студентов разных факультетов и кампусов НИУ ВШЭ, заинтересованных в программировании, анализе данных и информационной безопасности. Здесь студенты получают доступ к индустриальным кейсам, работают с ведущими экспертами-практиками и осваивают методы решения актуальных технологических задач от бизнес-юнитов компании VK.
Короткая ссылка
