Проректор Московского Политеха рассказал о безопасности беспилотного транспорта и проблемах искусственного интеллекта на форуме «ТЕХНОПРОМ–2023»
Обсуждение состоялось 23 августа на круглом столе форума технологического развития «ТЕХНОПРОМ–2023» в Новосибирске.
Опыт Московского Политеха основан на работе с наземными транспортными средствами. В последние годы в университете разрабатывается несколько проектов в области беспилотного транспорта — это предсерийные образцы микроавтобуса для парковых зон Smart шаттл, беспилотная ЖКХ-платформа, а также малотоннажная платформа автономных систем.
Все разработки Московского Политеха оснащены интеллектуальными системами управления, которые используют нейросетевые системы для обработки информации с сенсоров. Однако вместе с прогрессом и инновациями возникают и новые вызовы. В процессе планирования работ много внимания уделялось вопросу уязвимости самого искусственного интеллекта. В частности, возможны ситуации неправильного машинного обучения, когда в набор данных подмешиваются неверные изображения. Это может привести к тому, что система будет неправильно интерпретировать дорожные знаки или даже потерять контроль над полосой движения.
Выявление такой подмены при обучении достаточно трудно реализовать, в также достаточно непросто выявить. Отсюда возникают критические уязвимости высокоавтоматизированных транспортных средств, такие как неправильное распознавание дорожных знаков, потеря контроля над полосой, неправильное обнаружение объектов.
«При разговоре о безопасности беспилотного транспорта всегда необходимо поднимать фундаментальный вопрос надёжности, безопасности и безотказности систем искусственного интеллекта. Именно по этим алгоритмам беспилотный транспорт взаимодействует с окружающим миром», — отметил Антон Наливайко.
Валентин Селифанов, заместитель руководителя обособленного подразделения в Новосибирске акционерного общества «ИнфоТеКС» в своем докладе «Защита каналов управления и передачи данных БАС» подкрепил тезисы ученого на примере защиты Iot беспилотного транспорта:
«Основной угрозой является угроза информационной безопасности. Ее необходимо обеспечить уже на этапе производства беспилотный устройств, включая внедрение, разграничение прав доступа с авторизацией, доверенная загрузка, доверенное хранение данных».
Проректор Московского Политеха заключил, что самой очевидной и эффективной мерой охраны безопасности беспилотного транспорта является нормативно-правовое регулирование отрасли технологии разработки искусственного интеллекта. Также в числе действенных мер — экспертиза и независимая оценка, валидация и верификация объектов данных, по которым обучаются системы.
