Русский форум Канады

Antoxa писал(а):Что то я совсем запутался. Вам греет душу, что это самое "лицо" не сможет доказать, что авария произошла по технической причине и таки понесет наказание, удовлетворив вашу тягу к справедливости?

Потому как если сможет, то "лицо" уже будет не виновником, а таким же пострадавшим.

А если остранить "лицо" от управления совсем, то и вопросов не возникнет: любое ДТП - вина робота. Смотрим логи, понимаем в чем проблема, предъявляем претензии производителю, который несет ответственность: административную, уголовную и репутационную в зависимости от обстоятельств.

Да ничего мне не греет, как вы выразились. Я лишь пытаюсь разобраться в вопросе. Каким образом и кто будет нести ответственность за тонны металла, ездящие под управлением компьютера рядом со мной. И лишь указываю, что сейчас, несмотря на всю автоматизацию, такой ответственный всегда имеется (водитель).

Antoxa писал(а):Вместо того, чтобы пытаться получить возмещение ущерба от лица-алкоголика без страховки, я получу его платежеспособной и застрахованной на все случаи жизни корпорации.

Ну то есть вы не против такого сценария, когда за каждую травму или смерть от действий автопилота, компания производитель отстегнет родственникам сумму по прайсу, пообещает исправить баг и ее машины дальше будут ездить по улицам вашего города?

Mishka писал(а):Пока только один пример, притом не понятно это всё же автопилот накосячил или водитель недосмотрел.

Ну так вроде и то и другое. Автопилот незаметил а водитель расслаблялся и наслаждался прогрессом техники

Тесла не виновата здесь только потому, что водитель не имел права расслабляться и наслаждаться, а должен был мониторить и исправлять ошибки автопилота.

Ivan.Galv писал(а):Большинство ДТП "по вине разработчика" будет на самом деле созданием аварийной ситуации потерпевшим с последующим летальным исходом для него. Вам немало придется порасследовать чтобы вообще определить, было ли проишествие по вине алгоритма вообще или по вине человека.

Да, разбор дтп никогда не будет прежним Такие вердикты будут например: автопилот 80% вины, человек 20%. Или суды, чтобы перекинуть побольше вины на автопилот.

Ivan.Galv писал(а):Тут есть интересные моральные дилеммы и выбор оптимального алгоритма.
Например, трое людей грубо нарушили правила ПДД и создали аварийную ситуацию. Избежать ситуацию можно если алгоритм свернет с дороги и задавит человека, который на тротуаре ничего не нарушал. Прикол здесь в том, что несмотря на повышенное число жертв, давить надо именно трех нарушителей, а не невиновного на тротуаре.

Сомневаюсь насчет диллем. Автопилот обязан будет ехать по ПДД, иначе производителя накажут. И даже если на дороге будет 3 человека, а на тротуаре никого, если правила говорят применить торможение и никуда не сворачивать, то будут 3 жертвы (если не успеет остановиться), хотя человек мог бы их спасти, свернув на тротуар.

Сомневаюсь насчет диллем. Автопилот обязан будет ехать по ПДД, иначе производителя накажут. И даже если на дороге будет 3 человека, а на тротуаре никого, если правила говорят применить торможение и никуда не сворачивать, то будут 3 жертвы (если не успеет остановиться), хотя человек мог бы их спасти, свернув на тротуар.

Вы не можете одновременно сомневаться в моем объяснении дилеммы и говорить что надо дальше ехать по ПДД никуда не сворачивая. Это взаимоисключающее

А так - никого не волнует что жертв могло бы быть меньше, если бы человек додумался на месте робота аварийно свернуть на пустой тротуар. Три человека оказались слишком тупы чтобы не нарушать правила ПДД и поплатились жизнью. Точка. Нет ни слез ни сожалений.
Это как сожаления по дураку, который сам полез в гигантскую мясорубку и умер, обвинения мясорубки что она не засекла и не остановилась.
Как только Вы даете волю машине свернуть на тротуар - люди начинают бояться что ничего не нарушившие обитатели тротуара могут потенциально пострадать, разгорается шумиха в СМИ и все выносят друг другу мозг. Не стоит овчинка выделки на первое время.


А когда полностью оттестируют базовые сценарии - тогда начнется период бонусов и соплей в том, чтобы робот лучше действовал в ситуациях, в которых человек-жертва сам виноват.

А если на дороге застряли в пробке на гололеде мусоровоз и школьный автобус с детьми, в кого врезаться выберет робот? А олень или велосипедист? Мечеть или синагога?))) А вы говорите киборги!

Ivan.Galv писал(а):У Вас есть какие то сомнения насчет применения/неприменения наказания к разработчику, чье ПО не смогло распознать белый трак на фоне яркого неба?

Максимум лишить премиии. Даже увольнять за такое рука не поднимется. Он никому не обещал и не обязывался выпустить self-driving машину.

Ivan.Galv писал(а):Вы не можете одновременно сомневаться в моем объяснении дилеммы и говорить что надо дальше ехать по ПДД никуда не сворачивая. Это взаимоисключающее

Я усомнился в наличии дилеммы, а не в ее объяснении Если автопилот действует в строгом соответствии с пдд, то какие могут быть дилеммы.

bukhtoyarov писал(а): Да ничего мне не греет, как вы выразились. Я лишь пытаюсь разобраться в вопросе. Каким образом и кто будет нести ответственность за тонны металла, ездящие под управлением компьютера рядом со мной. И лишь указываю, что сейчас, несмотря на всю автоматизацию, такой ответственный всегда имеется (водитель).

Ну так мы же вроде выяснили, что это не так. Если авария произошла по вине производителя авто, то виноват он, а не водитель. С роботами еще проще. Водителя нет, значит виновата машина. Читаем логи, выясняем почему, наказываем (или нет) кого требуется.

Antoxa писал(а): Ну то есть вы не против такого сценария, когда за каждую травму или смерть от действий автопилота, компания производитель отстегнет родственникам сумму по прайсу, пообещает исправить баг и ее машины дальше будут ездить по улицам вашего города?

Конечно. А если пообещает и не исправит - это уже уголовная отвественность и отвественные люди сядут. И вряд ли кто то будет покупать их продукт после этого ибо жить хочется и есть альтернативы.

А вам приятнее, чтобы был виновный водитель обязательно, которого бы мы посадили, и так каждый день нового с новой жертвой, потому что людей не "пофиксишь"?

Ivan.Galv писал(а):Большинство ДТП "по вине разработчика" будет на самом деле созданием аварийной ситуации потерпевшим с последующим летальным исходом для него. Вам немало придется порасследовать чтобы вообще определить, было ли проишествие по вине алгоритма вообще или по вине человека.

Selfdriving - это когда нет водителя. Тут не может быть никакой вины водителя.
Если речь о том с кем произошло ДТП у автопилота, то какая принципиальная разница с ДТП между двумя авто с водителями?

bukhtoyarov писал(а):Но есть и другие страны, с более адекватным правосудием.

Более адекватное - это посадить мать двоих детей лет на 10, как я понимаю?

Eugene. K писал(а): А олень или велосипедист?

олень-велосипедист

Antoxa писал(а):Конечно. А если пообещает и не исправит - это уже уголовная отвественность и отвественные люди сядут. И вряд ли кто то будет покупать их продукт после этого ибо жить хочется и есть альтернативы.

Кто из Тойоты сел за смертельные исходы (и многочисленные травмы) в следствие "unintended acceleration" из-за компьютеризованной педали газа? В 2005 году была выпущена первая машина с багом в коде этой компьютеризованной педали. Только в 2013!!! году закончилась эта эпопея когда внешние эксперты нашли баги у Тойоты. Как вам эти факты?

Это вообще уму непостижимо, что такая мелочь, как роботизация педали газа обернулась в такую многолетнюю сагу. Сотни пострадавших, несколько погибших, 1 человек даже отсидел в тюрьме за свое dangerous driving пока его не оправдали. А вы говорите о роботизации водителя.

Вот ссылки по теме:

https://en.wikipedia.org/wiki/2009%E2%8 ... le_recalls

http://www.sddt.com/Commentary/article. ... th#Article

Toyota Case: Single Bit Flip That Killed

https://www.eetimes.com/document.asp?do ... e_number=3

Antoxa писал(а):А вам приятнее, чтобы был виновный водитель обязательно, которого бы мы посадили, и так каждый день нового с новой жертвой, потому что людей не "пофиксишь"?

А вам приятнее, чтобы была виновна "педаль газа" под управлением глючного софта?

Antoxa писал(а):
Более адекватное - это посадить мать двоих детей лет на 10, как я понимаю?

Запросто. Например, если эта мать любит быструю езду, имеет кучу тикетов за свою водительскую карьеру и как итог этой карьеры погубила другую мать двоих детей. То не вижу причин этого не делать.

bukhtoyarov писал(а):
Я не знаю зачем вы о какой-то подделке документов говорите. Все последние страницы мы обсуждаем ошибки автопилота и кто за них будет отвечать, если они приведут к серьезным последствиям. Чьи то умышленные действия и явный криминал, направленные на поставку на рынок автопилота с багами мы не рассматриваем. Пример такой ошибки - это смертельное дтп с автопилотом теслы.

это именно ошибка, а за ошибки в тюрьму не идут. Или у вас кто-то сел в тюрьму из-за того что производитель напортачил с подушками безопасности. От ошибок никто не застрахован, но я пока не слышу от вас предложения, чтобы водитель с пассажиром сами в случае аварии себе подушку надували. Вполне себе ничего идея. А то ведь производитель и ошибиться может, и не сесть за это. Непорядок.

bukhtoyarov писал(а):
Я не знаю зачем вы о какой-то подделке документов говорите.

в этом и дело, что не понимаете. Понимали бы, не спорили бы о разнице между преступлением и ошибкой