А если камеры врут?

Одной из наиболее востребованных и перспективных сфер применения искусственного интеллекта является разработка программных платформ для самоуправляемого транспорта. Машины с «автопилотом» показывают отличные результаты на тестовых полигонах, но выезжать на дороги общего назначения они, похоже, еще не готовы, особенно, если речь идет о городах с интенсивным трафиком. Ориентация в реальном мире — очень сложная задача для автомобиля с ИИ.

Ключевым моментом здесь является вопрос достоверности информации, поступающей с датчиков. Иными словами — может ли компьютер полностью доверять, скажем, картинке с бортовых видеокамер. Как показывают опыты, в реальных условиях эксплуатации, есть относительно большая вероятность того, что видеоизображение, поступающее в систему обработки, может оказаться немного искаженным по сравнению с реальной ситуацией на дороге. Речь может идти о ложном смещении всего на несколько пикселей, но в условиях, когда решение надо принимать за доли секунды (скажем, при движении на большой скорости) даже минимальное искажение может стать причиной фатальной ошибки.

Новый алгоритм глубокого обучения, разработанный исследователями Массачусетского технологического института, призван помочь машинам ориентироваться в реальном мире путем формирования здорового «скептицизма» в отношении получаемых ими измерений и входных данных. Команда исследователей объединила алгоритм обучения с подкреплением и возможности глубокого машинного обучения нейронной сети (метод, который используется для создания искусственного интеллекта в видеоиграх), чтобы создать новый подход, который получил название CARRL (Certified Adversarial Robustness for Deep Reinforcement Learning — сертифицированная состязательная устойчивость для глубокого обучения с подкреплением).

Игры и оценка вероятностей

Исследователи протестировали этот подход в нескольких сценариях. Основными тестами были имитационный тест предотвращения столкновений и видеоигра Pong. В результате, обнаружили, что CARRL работает лучше — избегая столкновений и выигрывая больше игр Pong — по сравнению со стандартными методами машинного обучения, даже в условиях неопределенности.

В общих чертах, суть технологии CARRL сводится к тому, что для принятия решения, ИИ учитывает не только все точки изображения, но и некоторую область вокруг него. Исходы различных действий в зоне вероятностей оцениваются с присвоением весовых коэффициентов, на основании анализа которых выбирается путь с максимально выигрышным исходом. При этом, как отмечают исследователи, модель можно запрограммировать на различные уровни консервативности в принятии решений, что позволит использовать ее в различных условиях. Скажем, в условиях городского трафика, система будет максимально перестраховываться в своих действиях, а на безлюдных участках позволит относительно рискованные маневры. Исследование уже вызывает интерес у крупных автопроизводителей, в частности, оно было частично поддержано Ford Motor Company в рамках альянса Ford-MIT.

«Научить автономный транспорт ориентироваться в пространстве — это вопрос безопасности и весьма нетривиальная задача. Здесь, пожалуй, мы как никогда близко подходим к идее искусственного интеллекта, какой ее представляют фантасты и большинство людей. Машине предстоит не просто распознавать скорость движущихся объектов, но и в моменте принимать решение и действовать. Система различных датчиков, передачи и обработки данных, принятия решений постепенно должна стать технологичным аналогом нервной системы. И модели углубленной аналитики в этой связке технологий будут играть определяющую роль», — считает Александр Тихонов, генеральный директор SAS Россия/СНГ.