?

Log in

No account? Create an account

proboknet


блог о транспорте и жизни

Александр Шумский, руководитель проекта «Пробок.нет»


Previous Entry Share Next Entry
Машина с автопилотом впервые насмерть сбила человека
proboknet
Случилось то, чего боялись и о чем предупреждали эксперты. Автомобиль под управлением автопилота задавил женщину.



Есть даже видеозапись с регистратора беспилотного автомобиля, которая тактично прерывается в момент удара:


Полиции еще предстоит разобраться во всех деталях происшествия. Важен сам факт гибели человека от "руки" компьютера. Точнее вопрос, кто ответит за его смерть: производитель автопилота, компания-эксплуатант, или виновной окажется погибшая (что скорее всего, ведь переходила она дорогу в неположенном месте). Но даже если она виновата, почему автопилот не предотвратил аварию?


К сожалению или к счастью, но прогресс не остановить. Уже сейчас системы удержания автомобилем полосы движения, активного торможения, автопарковки (параллельной и перпендикулярной) доступны любому желающему. А в ближайшие пару лет мировые автопроизводители обещают представить серийные автомобили, которые смогут ездить без участия человека. Еще немного (5-10 лет) и водителей начнут массово заменять автопилоты. Профессия шофера навсегда уйдет в прошлое. Первые на очереди - таксисты. Это касается не только американского Убера. Совсем недавно прошло тестирование беспилотного Яндекс-мобиля в условиях заснеженной Москвы.



Пока автопилот в обязательном порядке страхуется водителем-человеком. Но, очевидно, Яндекс обкатывает такие автомобили не просто так. Скоро мы увидим такси без водителя не только в новостях из-за океана, а на улицах наших городов. Готовы ли мы к этому?

Машины находящиеся под управлением искусственного интеллекта полностью изменят нынешние представления об автомобилепользовании:
- минимизация аварий и практически полное исключение человеческих жертв (теоретически);
- снижение стоимости грузо- и пассажирских перевозок за счёт экономии на зарплате водителей;
- повышение эффективности использования дорог за счёт централизованного управления транспортными потоками;
- стирание грани между личным автомобилем и каршеринговым. Пока человеку не нужна его машина (а это большая часть времени), автопилот подрабатывает таксистом. В перспективе это приведет к практически полному отказу от личного автомобиля. Разве что коллекционеры и большие любители машин будут собственниками авто.

Однако все не так безоблачно, как может показаться. У миллионов автомобилей под управлением автопилота есть и недостатки: лишение работы миллионов водителей. Куда податься всем этим людям, которые, кроме управления автомобилем, и делать-то толком ничего не могут.

Спаситель жизней или убийца?


Главная проблема машин с автопилотами - ответственность в случае аварии. Ремонт автомобиля покроет страховая компания. Кто ответит в случае человеческих жертв? Древний принцип "око за око" никто не отменял. В случае водителя-человека - ясно, кто будет нести ответственность. А если машиной, сбившей человека, управлял автопилот, то бортовой компьютер будут в тюрьму сажать, отключать от питания? С другой стороны, люди гибнут на дорогах в большом количестве и сейчас. Если автопилоты заметно снизят смертность на дорогах, то не будет ли гибель нескольких человек приемлемой ценой спасения жизни десяткам или даже сотням тысяч людей?

Не стоит также сбрасывать со счетов возможность выхода из строя искусственного интеллекта автомобиля в случае случайного вируса или спланированной хакерской атаки. Думаете, это фантастика? Пару лет назад два айтишника взяли под контроль движущийся Jeep Cherokee через систему беспроводного подключения автомобиля к интернету. В даркнете при желании можно найти коды доступа к машинам, напичканным электроникой.

Между прочим, самым эффективным способом управления машиной без водителя является не автономная система, независимая от других участников движения, а некая сеть, в которой автомобиль будет активно "общаться" с другими машинами, светофорами, знаками и прочей дорожной инфраструктурой. Представьте себе, что все машины на дороге, а также светофоры, пешеходные переходы и пешеходы получат специальные датчики, которые будут оперативно обмениваться сведениями. В зависимости от этого автомобиль будет сам решать притормозить ему или, наоборот, слегка ускорит движение. Здорово, конечно, только в случае компьютерного вируса мы можем получить на улицах городов миллионы неуправляемых автомобилей.

Восстание машин - это пока сюжет для блокбастеров


Но, кто знает, возможно через пару десятков лет главными законами станет не конституция, а "Три закона роботехники", Айзека Азимова:
- Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
- Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
- Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.


А если столкнутся две машины под управлением искусственного интеллекта, как два компьютера-автопилота будут выяснять между собой, кто из них был прав? Станут ли они в обязательном порядке вызывать робота-ГАИшника?



К сожалению, мир не идеален. А искусственный интеллект пока не готов к столкновению с реальностью. Но в будущем все обязательно изменится. Вы готовы доверить свою поездку машине под управлением ИИ? Не пугает ли вас перспектива погибнуть под колесами беспилотного автомобиля?



Велосипедистка? И почему я не удивлён.

но ведь переходила,спешилась


Переход в неположенном месте в темное время суток...и даже не пропустила машину.
О чем тут говорить? Тут никакой электронный интеллект не справится.

Интеллект видимо плохой, техника несовершенная, недостаточный угол обзора видеокамер и плохое разрешение в темноте, несовершенный алгоритм предсказания движения пешехода-велосипедиста.

вопрос не стоит выеденного яйца. кто ответит в случае аварии по причине всемзеленый на светофоре? вот тот же.

Сотрудник организации, ответственный за работу этого Светофора
А вот с машиной как раз не понятно

помимо сети должен быть автономный автопилот на случай такой ситуации

Да даже проще, пропала сеть - пущай на аварийках на обочину медлено съезжает. А те кому действительно сильно надо, скорые, пожарные и прочие менты и в ручном режиме доедут.

Нет ничего приятнее, чем самому управлять автомобилем! Вот всера просто катился в правом со скоростью 50 км/ч и кайфовал... На автопилоте нет этого ощущения... А дальше вопрос, если в потоке 50машин на автопилоте и я, как они будут понимать мои действия? Допустим я на ГАЗ24 после реставрации. Т.е. без всякой электроники.


до этого еще далеко, а пока прийдем ситуация будет отработана миллиард раз.

можно будет грабить фуры удалённо, угоняя их куда нужно. прекрасно!

Edited at 2018-03-22 08:33 am (UTC)

необязательно

баба на велосипеде в неположенном месте? да сама судьба покарала её. больше так не будет.
водителей можно переучить в автомехаников, ремонтировать всё равно люди будут

За рулём кстати тоже баба, тупит в телефон.

фигня-съ, сэр.
Программисты не способны создать ИИ в ближайшие 30-40лет. А там уже и авто не будет.

Откуда прогноз на столько лет?

Наследники велосипедистки или ее страховая компания оплатит ремонт автомобиля и все довольны.

Велосипедистка грубо нарушила ПДД и поплатилась за это. В чем вообще проблема?

1) Вы чересчур мифологизируете возможности хаккеров. Платёжные системы, например, никто так и не сломал, а там профита всяко больше чем машынки друг с другом посталкивать.

2) Хрен с ними с таксистами. Кто поумнее пойдёт в диспетчеры тех самых автономных машинок, ибо следить за ними всё равно придётся. А остальные - тупо на пенсию. Сегодняшнее поколение доработает, а новое не придёт, на его место придут роботы.

Платёжные системы ломаются элементарно. Очень достоверный источник говорил мне, что стоимость данных любой кредитки на чёрном рынке составляет $2.
Проблема не с кражей денег, а с их выводом. Вывести средства со взломанной карты и не запалиться практически невозможно.

оперативный пост.
уже три дня, как все забыли эту новость.
овцу даже похоронить успели, а ты только проснулся.

Ждал твоего совета

Вряд ли тут чтото можно было сделать даже человеку, существо непонятного пола, которое сидело у руля, тоже только в последний момент увидело велосипедистку

Человек умнее

Если человек не видит, то он снижает скорость или даже останавливается, может и дальний включить ненадолго. А здесь, похоже, видеокамера в темноте подслеповата, а в алгоритме не заложено даже снижение скорости до относительно безопасной величины на случай куриной слепоты.

Таксисты, очевидно, пойдут в блогеры. Вот тогда заживём!
А у этого электрического водителя будут неплохие юристы.

Данный случай это большой шаг назад в процесс внедрения автопилотов, но бизнес готов оплачивать и эти ошибки родственникам.

Вряд ли шаг назад, скорее, просто случившиеся риски

ИМХО, обсуждать стоит случаи, когда автопилот попадает в ДТП по собственной вине. Но таких вроде ещё не было.

В 2016 году тесла на автопилоте въехала в прицеп трактора, погиб водитель.