Опыт нельзя сбрасывать со счетов, особенно там, где от этого зависит безопасность

Пришло время детально обсудить вопросы безопасности беспилотных автомобилей

Автор: профессор Амнон Шашуа

Общество рассчитывает, что беспилотные автомобили будут обеспечивать более высокий уровень безопасности, чем управляемые «живыми» водителями. После трагической смерти Элейн Херцберг, которая была сбита на прошлой неделе в Аризоне беспилотным автомобилем Uber, работавшим в момент аварии в автономном режиме, сейчас весьма уместно сделать несколько наблюдений о понятии безопасности в отношении сбора данных и принятия решений.

Во-первых, следует обратить внимание на проблему интерпретации информации, получаемой с датчиков и камер. Видео, опубликованное полицией Аризоны, похоже, наглядно демонстрирует, что даже самый базовый элемент системы беспилотного автомобиля – способность обнаруживать и классифицировать объекты – представляет собой весьма непростую задачу. Тем не менее, эта способность лежит в основе сегодняшних активных систем содействия водителю (ADAS), к которым относятся в том числе такие функции как автоматическое экстренное торможение (AEB) и системы помощи для движения по полосе.  Именно высокоточные технологии сбора данных, используемые в ADAS системах, спасают сегодня жизни, что подтверждается миллиардами километров общего пробега. Обнаружение и классификация объектов – это как раз та технология, которую необходимо освоить, прежде чем приниматься за решение еще более сложных задач – по сути она является основополагающим элементом для полностью автономных автомобилей будущего.

Чтобы продемонстрировать всю мощь и интеллектуальную проработанность современных ADAS технологий, мы решили воспользоваться нашим программным обеспечением. Как входные данные использовался видеопоток, записанный с экрана телевизора, по которому показывали видеозапись момента аварии из полицейских материалов. Несмотря на то, что условия были далекими от оптимальных – ведь значительная часть того широкого динамического диапазона, которая была бы доступна в реальных условиях, в записи скорее всего была потеряна – четкое обнаружение препятствия было зафиксировано приблизительно за одну секунду до столкновения. Ниже представлено три кадра, на которых линиями отображены зафиксированные системой контуры велосипеда и самой мисс Херцберг. Детектирование осуществлялось с помощью данных из двух независимых источников: системы распознавания образов, которая создает вокруг зафиксированных объектов прямоугольные контуры, и модуля распознавания «свободного пространства», который рисует горизонтальный линию, красным цветом отображая участки, выше которых система заметила других «участников дорожного движения». Третий модуль служит для того, чтобы отделить объекты от дороги, для чего используется технология определения структуры объекта по отображению движения. Технически это реализовано калькуляциями смещения относительно плоскости. Все это позволяет подтвердить присутствие 3D объектов, в отношении которых могли быть сомнения, – на кадре о наличии таких объектов свидетельствует надпись fcvValid: Low в верхнем левом углу экрана. Эта низкая достоверность обусловлена отсутствием информации, которая обычно доступна в системе, если бы она была установлена непосредственно в автомобиле, а также низким качеством видеопотока в результате съемки экранного видео, записанного с видеорегистратора – то есть фактически со снижением качества изображения.

Кадры видеопотока, записанного с телевизионного монитора, на котором воспроизводилась опубликованная полицией видеозапись с видеорегистратора. На изображения наложена служебная информация системы Mobileye ADAS. Прямоугольниками зеленого и белого цветов отмечены зафиксированные системой контуры пешехода и велосипеда. Горизонтальная линия внизу отображает границу между дорожным полотном и обнаруженными физическими препятствиями, которую мы называем «свободным пространством». » Просмотреть изображение в полном размере

В этом эксперименте использовалось то же программное обеспечение, которое устанавливается в современных автомобилях, оснащенных ADAS системами, эффективность которых подтверждается совокупным пробегом миллиардов километров в автомобилях потребителей.

Последние достижения в области искусственного интеллекта, в том числе развитие глубоких нейронных сетей, приводят к весьма распространенному заблуждению, что сегодня не составляет особого труда создать высокоточную систему обнаружения объектов, и что можно не принимать во внимание более чем десятилетний опыт уважаемых экспертов в области машинного зрения. Эта тенденция приводит к появлению на этом рынке множества новых, начинающих компаний. Хотя подобные приемы и технологии действительно полезны, нельзя сбрасывать со счетов богатые наработки в области выявления и решения сотен тупиковых ситуаций, толкование и аннотации наборов данных десятков миллионов километров, а также осуществление экспериментальных контрольных испытаний на десятках серийных ADAS программ. Нельзя недооценивать этот опыт, особенно там, где от этого зависит безопасность.

Второе наблюдение касается информационной открытости и прозрачности. Все  говорят, что «безопасность для нас самое главное», но на наш взгляд, чтобы заручиться доверием общественности, мы должны быть более точными в отношении значения этого заявления. Как я уже говорил в октябре, когда Mobileye опубликовала формальную модель определения ответственности Responsible Sensitive Safety (RSS), принятие решений должно осуществляться в соответствии со «здравым смыслом» человеческих суждений. Мы с помощью математики формализовали понятия «опасной ситуации» и «надлежащей реакции» с точки зрения здравого смысла и построили систему, которая математически гарантирует соответствие этим определениям.

Третье наблюдение касается избыточности и резервирования систем. Реальное резервирование системы восприятия возможно только при наличии нескольких независимых источников информации: камеры, радара и лидара.  Объединение их в одной системе благоприятно сказывается на комфорте вождения, но негативно – на безопасности. В Mobileye, чтобы действительно показать наличие полноценного резервирования, мы построили отдельную комплексную систему, в которой используются только камеры, и отдельную систему с использованием только лидара и радара.

Новые аварии, подобные той, что произошла на прошлой неделе, способны еще больше навредить и без того хрупкому доверию потребителей и привести к регуляторным запретам, которые могут попросту остановить эту важную работу.  Как я уже говорил при публикации модели RSS, я твердо убежден, что пора начать значимую, содержательную дискуссию о платформах для проверки и оценки безопасности для полностью автономных автомобилей. Мы приглашаем автопроизводителей, технологические компании и этой отрасли, регуляторные инстанции и другие заинтересованные стороны к обсуждению того, как общими усилиями решить эти сложные проблемы.

Профессор Амнон Шашуа является старшим вице-президентом корпорации Intel и главным исполнительным директором и директором по технологиям в Mobileye, подразделении корпорации Intel.

О корпорации Intel

Intel (NASDAQ: INTC) раздвигает границы технологий, чтобы сделать возможными самые удивительные впечатления. Более подробная информация об Intel и о результатах работы более 100 тысяч сотрудников компании представлена на сайтах newsroom.intel.ru и www.intel.com.

Intel и логотип Intel являются торговыми марками корпорации Intel в США и в других странах.

*Прочие наименования и торговые марки могут быть собственностью соответствующих владельцев.