Ученые МТУСИ защищают искусственный интеллект от хакерских атак

Erid:2VtzqwGqV8W

В Московском техническом университете связи и информатики появилась новая лаборатория, которая занимается очень актуальной проблемой — как сделать так, чтобы искусственный интеллект нельзя было обмануть или взломать. Совместно с Институтом искусственного интеллекта AIRI здесь разрабатывают методы, которые помогут защитить ИИ-системы от злоумышленников.

Главная беда современного искусственного интеллекта в том, что его довольно легко обмануть. Хакеры научились создавать специальные «помехи» — они вносят в картинку или другие данные такие изменения, которые человек даже не замечает, а компьютер из-за них начинает ошибаться. Например, может принять стоп-знак за знак ограничения скорости.

«Мы придумали способы, как компьютер может в режиме реального времени понять, что его пытаются обмануть», — поясняет сотрудник лаборатории. Ученые создали особые нейронные сети, которые умеют сами себя проверять и сомневаться в собственных выводах, когда что-то идет не так. Пока такая система ловит 94% попыток обмана, при этом работает не хуже обычных программ.

Особенно важны эти разработки для телекоммуникаций. В МТУСИ работают над тем, как защитить сети 5G от кибератак и научить их автоматически справляться с перегрузками. Новые алгоритмы уже испытывают на экспериментальной сети университета. Система сама находит подозрительный трафик — например, когда хакеры пытаются обрушить сервер массовыми запросами. При этом ошибается она крайне редко — менее чем в одном случае из тысячи.

В университете открыли новую кафедру «Прикладной искусственный интеллект», где будущих инженеров учат не только создавать умные программы, но и делать их защищенными. За прошлый год 15 студентов написали дипломы по этой тематике, троих лучших взяли в аспирантуру.

На прошедшей в МТУСИ конференции «Индустрия 4.0» ученые показали, как их разработки можно применить на реальных заводах. Они предложили создать «доверенные цифровые фабрики», где все программы с искусственным интеллектом обязательно проходят проверку на безопасность. Идея заинтересовала крупные компании — уже договорились о пробном внедрении с предприятиями оборонки и энергетики.

«Безопасность искусственного интеллекта — это не только техническая задача», — отмечает руководитель направления. — «Нам нужно продумать, как люди будут работать с такими системами, какие тут возникают этические вопросы».

Работа лаборатории напрямую связана с государственной стратегией развития ИИ до 2030 года. Если разработки окажутся успешными, их смогут использовать в самых ответственных областях — от управления атомными станциями до беспилотных автомобилей. Это даст России серьезные преимущества в сфере высоких технологий.

ФГБОУ ВО «Московский технический университет связи и информатики»                            ИНН 7722000820

Реклама