Цифровая экономика

Цифровые решения: сессия «Безопасность ИИ моделей: угрозы, методы защиты и подходы к регулированию» Финальный блиц: участники дискуссии ответили на вопрос, что делать, если сотрудник обращается к доступным онлайн-моделям ИИ. 🙂 Telegram | ВК | «Макс»

Цифровые решения: сессия «Безопасность ИИ‑моделей: угрозы, методы защиты и подходы к регулированию»   Андрей Белеванцев, ведущий научный сотрудник ИСП РАН, член-корреспондент РАН, рассказал, как разрабатывался новый ГОСТ по безопасности систем искусственного интеллекта, и объяснил, чем он отличается от классических стандартов по кибербезопасности.   По его словам, авторы искали золотую середину между американским подходом, где разрешено почти все, и европейским, где правила настолько жесткие, что бизнес и потребители почти ничего не могут сделать. Поэтому в стандарт включили только то, что можно обосновать технологически.   Главная идея в том, что защищать одну лишь модель бессмысленно: веса сами по себе мало что значат, а угрозы чаще приходят через сопутствующее ПО, агентов, фреймворки и привычную инфраструктуру, так что защита должна охватывать все окружение и весь жизненный цикл системы.   Кроме того, ГОСТ не требует конкретных методов, а лишь задает минимальную планку, чтобы разработчик сам выбирал подходящий способ, например более безопасную архитектуру модели или защищенные методы обучения.   Для практической работы по стандарту, добавил спикер, создается консорциум с каталогом инструментов и готовых решений, потому что в одиночку такую задачу не решить.   🙂 Telegram | ВК | «Макс»

Цифровые решения: сессия «Безопасность ИИ‑моделей: угрозы, методы защиты и подходы к регулированию»   Дмитрий Служеникин, секретарь Консорциума исследований безопасности технологий ИИ, рассказал о результатах эксперимента по оценке защищенности информационных систем с ИИ в 13 регионах России.   Основная проблема — не отсутствие технологий или моделей, а неправильная настройка и использование уже закупленных средств защиты.   Он подчеркнул: грамотное проектирование, жесткий контроль подрядчиков и реализация требований регуляторов гораздо важнее выбора конкретной модели ИИ. 🙂 Telegram | ВК | «Макс»

Цифровые решения: сессия «Безопасность ИИ‑моделей: угрозы, методы защиты и подходы к регулированию»   Лидия Виткова, начальник Аналитического центра кибербезопасности ООО «Газинформсервис», рассказала о новых рисках для кибербезопасности, связанных с внедрением искусственного интеллекта на объектах критической инфраструктуры и в банковском секторе.   Она отметила, что появление генеративного ИИ резко увеличило возможности атакующих: теперь даже неподготовленные пользователи могут быстро создавать угрозы.   В зарубежной практике внедрение промышленных систем ИИ (IoT, Edge) создает новые поверхности атаки — злоумышленники получают доступ к данным через открытые протоколы обмена между агентами и моделями. По ее мнению, Россия пока менее уязвима из-за отставания по темпам внедрения подобных технологий, но со временем ситуация изменится. 🙂 Telegram | ВК | «Макс»

Цифровые решения: сессия «Безопасность ИИ‑моделей: угрозы, методы защиты и подходы к регулированию»   Анна Кулашова, вице-президент по развитию бизнеса в России и странах СНГ АО «Лаборатория Касперского», рассказала, как искусственный интеллект влияет на современные кибератаки.   По ее мнению, ИИ не создает принципиально новых тактик и техник взлома — все остается прежним, но атаки становятся быстрее и эффективнее благодаря автоматическому поиску уязвимостей. Для защиты рекомендуется опираться на принцип «нулевого доверия»: исходить из того, что система уже взломана, и сосредоточиться на скорости обнаружения угроз, их локализации и восстановлении работы бизнеса. 🙂 Telegram | ВК | «Макс»

Цифровые решения: сессия «Безопасность ИИ‑моделей: угрозы, методы защиты и подходы к регулированию»   Лидия Виткова, начальник Аналитического центра кибербезопасности ООО «Газинформсервис», сравнила роль стандартов по информационной безопасности в России и за рубежом.   В США стандарты помогают компаниям защититься от судебных исков, если они следуют рекомендациям — это снижает финансовые риски.   В России же наличие стандарта не поможет в суде: здесь компании опасаются прежде всего регуляторов, а не пользователей или судов; оценка рисков ведётся через призму ущерба для информационной безопасности. 🙂 Telegram | ВК | «Макс»

Цифровые решения: сессия «Безопасность ИИ‑моделей: угрозы, методы защиты и подходы к регулированию»   Анна Кулашова, вице-президент по развитию бизнеса в России и странах СНГ АО «Лаборатория Касперского», рассказала, как разные страны выстраивают регулирование технологий искусственного интеллекта: США и Китай выбирают гибкие подходы с акцентом на национальные интересы, а Европа отстает из-за избыточной бюрократии.   Для России важно ориентироваться именно на мягкие, рамочные нормы — жесткие запреты приводят к появлению теневых практик использования ИИ. По мнению спикера, Россия не отстает в этой сфере и движется в правильном направлении. 🙂 Telegram | ВК | «Макс»

Цифровые решения: сессия «Безопасность ИИ‑моделей: угрозы, методы защиты и подходы к регулированию»   Петр Ганелин, руководитель направления «Информационная безопасность» АНО «Цифровая экономика», и Дмитрий Служеникин, секретарь Консорциума исследований безопасности технологий ИИ, обсудили новый федеральный закон о развитии ИИ-технологий, подготовленный при участии АНО ЦЭ: он задает базовые рамки регулирования, а конкретные нормы формируются совместно с бизнесом и технологическими лидерами. Подчеркивается важность активного участия профессионалов отрасли в доработке нормативных актов — только так можно обеспечить их актуальность и эффективность для рынка ИИ и кибербезопасности. 🙂 Telegram | ВК | «Макс»

Цифровые решения: сессия «Профессия специалиста по информационной безопасности: содержание, навыки и карьерные перспективы до 2030 года»   Алексей Катусов, начальник управления информационной безопасности ДИТ г. Москвы, рассказал о кадровом голоде в сфере ИБ.   Рост профессии и нехватка кадров В сфере информационной безопасности становится больше специалистов, но задач для них появляется еще больше: появляются новые атаки, средства защиты и требования регуляторов.   Проблема опыта Работодатели ищут сотрудников с опытом работы не менее трех лет — это требование закреплено в нормативных документах. Однако нигде не прописано, как получить этот опыт новичкам после вуза.   Фрагментация специализаций Если раньше ИБ была единой сферой, то сейчас она разделилась на множество узких направлений: комплаенс (ПДн, КИИ), технические специалисты по разным системам, эксперты по искусственному интеллекту и др. Студенты часто не понимают, какую именно специализацию выбрать.   Решение через стажировки Рабочий механизм подготовки молодых специалистов — оплачиваемые стажировки (например, программа «ИТ-город»). Через такие программы студенты получают реальный опыт, а компании — подготовленных сотрудников.   Отраслевая безопасность до 2030 года Цель — чтобы профессия ИБ охватывала все сферы жизни города Москвы, а специалисты глубоко разбирались в отраслевой специфике (медицина, образование, видеонаблюдение). Это позволит Москве оставаться самым неудобным городом для хакеров. 🙂 Telegram | ВК | «Макс»

Цифровые решения: сессия «Профессия специалиста по информационной безопасности: содержание, навыки и карьерные перспективы до 2030 года»   Анна Павлова, руководитель отдела compliance и безопасности данных Ozon, рассказала кадровой проблеме в сфере информационной безопасности и путях ее решения.   Кадровый голод в сфере ИБ 🔵В отрасли ощущается острая нехватка специалистов по информационной безопасности. 🔵Компании готовы инвестировать в образование студентов для решения реальных задач.   Роль государства и вузов 🔵Государство должно выступать регулятором и стимулятором взаимодействия бизнеса с образовательными учреждениями. 🔵Важна подготовка универсальной базы: понимание работы сетей, операционных систем, уязвимостей и видов атак — это ключевые ожидания работодателей от выпускников.   Практика стажировок 🔵Компания активно проводит крупные оплачиваемые стажировки, где студенты обучаются на реальных задачах. 🔵Стажировка помогает понять специфику профессии и выбрать направление специализации.   Многообразие направлений в ИБ 🔵Профессия «специалист по ИБ» не едина: расследование инцидентов, настройка безопасности инфраструктуры (сетей, баз данных), мониторинг событий безопасности (часто начальный этап карьеры), комплаенс и защита персональных данных. 🔵Сейчас особенно востребованы специалисты по защите данных («новая нефть»), которые понимают бизнес-смысл обработки информации.   Ключевые компетенции для работодателя 🔵Базовые знания: устройство инфраструктуры, угрозы, способы атак. 🔵Мышление исследователя и тестировщика — способность понимать логику злоумышленника и методы взлома. 🔵На собеседованиях оценивается именно mindset, а не только технические навыки: важно видеть аналитический подход и интерес к предмету. 🙂 Telegram | ВК | «Макс»