| Послушайте эту статью |
Исследователи из университета разработали подход, позволяющий сделать роботов более надежными за счет адаптации к различным уровням уязвимостей. | Источник: Adobe Stock.
Исследователи из Рочестерского университета, Технологического института Джорджии и Шэньзенского института искусственного интеллекта и робототехники для общества предложили новый подход к защите робототехники от уязвимостей при сохранении низких накладных расходов.
По прогнозам, к 2025 году на дорогах появятся миллионы беспилотных автомобилей, а годовой объем продаж автономных дронов в настоящее время составляет миллиарды долларов. При всем этом безопасность и надежность являются важными факторами для потребителей, производителей и регулирующих органов.
Однако системы защиты аппаратного и программного обеспечения автономных машин от сбоев, атак и других сбоев также увеличивают затраты. Эти затраты возникают из-за характеристик производительности, энергопотребления, веса и использования полупроводниковых чипов.
Исследователи заявили, что существующий компромисс между накладными расходами и защитой от уязвимостей обусловлен «универсальным» подходом к защите. В бумага опубликовано в Коммуникации ACMавторы предложили новый подход, который адаптируется к различным уровням уязвимостей в автономных системах, чтобы сделать их более надежными и контролировать затраты.
Юхао Чжу, доцент Университет Рочестера's Департамент компьютерных наукОдним из примеров является использование Tesla двух чипов полного самоуправления (FSD) в каждом автомобиле. Такая избыточность обеспечивает защиту в случае выхода из строя первого чипа, но удваивает стоимость чипов для автомобиля.
Напротив, Чжу сказал, что он и его студенты применяют более комплексный подход к защите как от аппаратных, так и программных уязвимостей и более разумно распределяют защиту.
Исследователи создают индивидуальный подход к защите автоматизации
Ландшафт проектирования различных программных и аппаратных методов защиты для отказоустойчивых автономных машин. | Источник: Сообщения ACM.
«Основная идея заключается в том, что вы применяете разные стратегии защиты к разным частям системы», — объяснил Чжу. «Вы можете усовершенствовать подход, исходя из присущих характеристик программного и аппаратного обеспечения. Нам необходимо разработать разные стратегии защиты для внешней и внутренней частей стека программного обеспечения».
Например, он сказал, что передняя часть стека программного обеспечения автономного транспортного средства ориентирована на измерение окружающей среды с помощью таких устройств, как камеры и лидар, в то время как внутренняя часть обрабатывает эту информацию, планирует маршрут и отправляет команды исполнительному механизму.
«Вам не придется тратить много средств на защиту внешнего интерфейса, поскольку он изначально отказоустойчив», — сказал Чжу. «Между тем, задняя часть имеет мало встроенных стратегий защиты, но ее крайне важно обеспечить, поскольку она напрямую взаимодействует с механическими компонентами автомобиля».
Чжу сказал, что примеры недорогих мер защиты на стороне клиента включают программные решения, такие как фильтрация аномалий в данных. Для более мощных схем защиты на внутренней стороне он рекомендовал такие методы, как контрольные точки для периодического сохранения состояния всей машины или выборочное создание дубликатов критически важных модулей на кристалле.
Далее Чжу сказал, что исследователи надеются преодолеть уязвимости в новейших стеках программного обеспечения для автономных устройств, которые в большей степени основаны на искусственном интеллекте нейронных сетей, часто от начала до конца.
«Некоторые из последних примеров — это одна гигантская модель глубокого обучения нейронной сети, которая принимает сенсорные входные данные, выполняет кучу вычислений, которые никто до конца не понимает, и генерирует команды для привода», — сказал Чжу. «Преимущество в том, что это значительно повышает среднюю производительность, но в случае сбоя вы не можете точно определить сбой конкретного модуля. Это делает общий случай лучше, но худший — хуже, и мы хотим смягчить эту ситуацию».
Исследование было частично поддержано Semiconductor Research Corp.
