Security Researcher (AI/ML Security)

Banks Soft Systems - системно значимая российская ИТ-компания, специализирующаяся на разработке, внедрении и поддержке решений по цифровизации клиентского обслуживания для банков, финтех-компаний, госсектора, телекома, ритейла, медицины, сферы ЖКХ в России и СНГ. Мы разрабатываем системы речевой аналитики, развиваем платформы дистанционного банковского обслуживания, а также оказываем услуги по заказной и аутсорс разработке. Мы практикуем наиболее востребованные рынком технологические решения: от машинного обучения до разработки 1С. Чем нужно будет заниматься : Анализ защищённости web приложений и ПО, используемых технологии больших языковых моделей (LLM); Анализ защищенности и выявление уязвимостей web ресурсов; Моделирование угроз информационной безопасности с учетом контекста информационной системы, используемой технологии больших языковых моделей (LLM); Идентификация и анализ выявленных по итогам работ недостатков; Детализация требований по устранению уязвимостей и/или внедрению компенсирующих мер; Проведение контрольных мероприятий выполнения требований информационной безопасности в рамках процессов управления уязвимостями; Участие в разработке автоматизированных тест-контролей требований информационной безопасности относящихся к разработке систем, используемых технологии больших языковых моделей (LLM); Подготовка отчетов по итогам проведения работ; Взаимодействие с командами ИТ и командами разработки ПО; Формирование требований по обеспечению информационной безопасности для разрабатываемых информационных систем. Что мы ждём от кандидата: Опыт работы в сфере кибербезопасности от 2 лет, включая практическое проведение пентестов (Web, Mobile, Network); Знание архитектур и моделей ИИ (нейросети, машинное обучение, NLP и т.д.) на уровне понимания уязвимостей (например, prompt injection, adversarial attacks, data poisoning, model inversion и т.д.); Владение инструментами: Burp Suite, OWASP ZAP, Metasploit, а также специализированными фреймворками для ИИ-атак (Adversarial Robustness Toolbox, IBM Adversarial Robustness 360); Знание основных языков программирования (С, С++, С#, php, Java, JavaScript, Python) на уровне исследования исходного кода. Умение программировать на Python, включая библиотеки: TensorFlow, PyTorch, Scikit-learn, для анализа и взлома моделей, написания эксплойтов под конкретные уязвимости; Понимание методов защиты ИИ-систем (например, дифференциальная приватность, федеративное обучение) и способов их обхода; Понимание основных техник и тактик MITRE ATLAS при атаке на большие языковые модели (LLM); Знание основного инструментария для проведения анализа защищенности и тестирования на проникновение, а также специализированного инструментария для тестирования безопасности больших языковых моделей; Продвинутое владение навыками промпт инженерии, с целью написания эксплойтов для ручного тестирования LLM-моделей; Понимание базовых техник проведения анализа защищенности и тестирования на проникновение; Понимание построения векторов атак на целевые системы и формирования поверхности атаки; Опыт написания фаззинг-тестов или постановки задач на разработку таких тестов для тестирования безопасности LLM-моделей; Понимание принципов построения защиты приложений и WEB-приложений с использование технологий больших языковых моделей, в частности; Опыт разработки функциональных и технических заданий на реализацию требований по информационной безопасности; Знание ОС Windows и Linux на уровне администратора; Понимание сетевых технологий. Что мы предлагаем: Срок проекта 9 месяцев (с возможной пролонгацией) ; Аккредитованная IT-компания; Трудоустройство по ТК РФ/ГПХ/ИП; Удалённый формат работы по РФ; Расширенный ДМС со стоматологией; Бесплатное обучение английскому языку вам и вашим детям; Скидки в фитнес-клубы; Предоставляем всю необходимую технику для работы. Откликайтесь и присоединяйтесь к нашей дружной команде!