23
августа 2023

Проректор Московского Политеха рассказал о безопасности беспилотного транспорта и проблемах искусственного интеллекта на форуме «ТЕХНОПРОМ–2023»

Обсуждение состоялось 23 августа на круглом столе форума технологического развития «ТЕХНОПРОМ–2023» в Новосибирске.

Опыт Московского Политеха основан на работе с наземными транспортными средствами. В последние годы в университете разрабатывается несколько проектов в области беспилотного транспорта — это предсерийные образцы микроавтобуса для парковых зон Smart шаттл, беспилотная ЖКХ-платформа, а также малотоннажная платформа автономных систем.

Все разработки Московского Политеха оснащены интеллектуальными системами управления, которые используют нейросетевые системы для обработки информации с сенсоров. Однако вместе с прогрессом и инновациями возникают и новые вызовы. В процессе планирования работ много внимания уделялось вопросу уязвимости самого искусственного интеллекта. В частности, возможны ситуации неправильного машинного обучения, когда в набор данных подмешиваются неверные изображения. Это может привести к тому, что система будет неправильно интерпретировать дорожные знаки или даже потерять контроль над полосой движения.

Выявление такой подмены при обучении достаточно трудно реализовать, в также достаточно непросто выявить. Отсюда возникают критические уязвимости высокоавтоматизированных транспортных средств, такие как неправильное распознавание дорожных знаков, потеря контроля над полосой, неправильное обнаружение объектов.

«При разговоре о безопасности беспилотного транспорта всегда необходимо поднимать фундаментальный вопрос надёжности, безопасности и безотказности систем искусственного интеллекта. Именно по этим алгоритмам беспилотный транспорт взаимодействует с окружающим миром», — отметил Антон Наливайко.

IMG_7598.jpeg

Валентин Селифанов, заместитель руководителя обособленного подразделения в Новосибирске акционерного общества «ИнфоТеКС» в своем докладе «Защита каналов управления и передачи данных БАС» подкрепил тезисы ученого на примере защиты Iot беспилотного транспорта: 

«Основной угрозой является угроза информационной безопасности. Ее необходимо обеспечить уже на этапе производства беспилотный устройств, включая внедрение, разграничение прав доступа с авторизацией, доверенная загрузка, доверенное хранение данных».

Проректор Московского Политеха заключил, что самой очевидной и эффективной мерой охраны безопасности беспилотного транспорта является нормативно-правовое регулирование отрасли технологии разработки искусственного интеллекта. Также в числе действенных мер — экспертиза и независимая оценка, валидация и верификация объектов данных, по которым обучаются системы.

Читайте также

Версия для слабовидящих
Размер шрифта:
Аб
Цветовая схема:
Изображения:
Оставить заявку
Заполните форму, и сотрудник университета свяжется с Вами
!
!
!
!
Приемная комиссия +7 (495) 223-05-23
Задать вопрос