shakkar (shakkar) wrote,
shakkar
shakkar

Categories:

Кого должен спасать робот в случае ДТП: себя, владельца или случайного прохожего?



Этим летом произошло то, что было лишь вопросом времени: автомобиль Тесла с нашумевшим модным автопилотом убил человека. Много лет назад все мы смотрели фильмы про Терминатора и Матрицу и думали: пффф… роботы, искусственный интеллект, войны миров - такого с нами точно не произойдет, это фантастика. Но фантастика становится не просто реальностью, а наступает уже в обозримом будущем.

Собственно как было дело - водитель Tesla Model S на высокой скорости двигался по шоссе, расслабившись и доверившись автопилоту. Но автоматика почему-то не отреагировала на внезапное появление фуры. Машина не снижая скорости нырнула под нее и … водитель погиб. Якобы светило солнце и система не распознала белый трейлер, появившийся впереди. Ну и сам водитель провтыкал (или его тоже ослепило солнце), ведь Тесла советует держать руки на руле и быть в полной боевой готовности даже на автопилоте.

Если вы подумали, что сейчас от автопилотов откажутся как дорогой, не очень практичной и даже опасной штуки, то я очень сомневаюсь. Во-первых, та же Тесла утверждает, что это первое смертельное ДТП за 200 млн километров на автопилоте (в среднем 1 смертельное ДТП в Штатах случается через каждые 150 млн километров). И я им почему-то верю, ведь человеческие ошибки (не говоря о глупостях, разгильдяйстве и безответственности) случаются гораздо чаще, чем технические. Во-вторых, назад дороги нет - мы шагнули в новый мир и с этим надо смириться. Думаю, вскоре отпадет потребность в услуге “трезвый водитель”.

Но в смертельном ДТП меня заинтересовало другое.

Через несколько лет автопилот станет неотъемлемой частью всех автомобилей и по дороге будут колесить машины без водителей (только с пассажирами). Или с “водителями” спящими за рулем. И представьте, например, что по каким-то причинам робот не справился с управлением. Ну мало ли, ослепило, какой-то мудак подрезал машину и автопилот пытался увернуться от удара, технически что-то подвело… В общем, авария неизбежна… И есть два варианта: либо спасти себя и своего пассажира, либо спасти ни в чем не повинную бабулю (мать с ребенком, соседа-собутыльника, просто прохожего). То есть вариантов других нет - либо ты либо они.

Как надо запрограммировать робота в таком случае: в первую очередь спасать себя? Но почему ни в чем неповинная бабушка должна страдать? Спасти бабушку? А как же инстинкт самосохранения?

Что такое по сути этот автопилот? Это робот с искусственным интеллектом, способным оценивать происходящие изменения на дороге и принимать решения на их основании.
Много лет назад, были американским писателем-фантастом Айзеком Азимовым были  сформулированы три закона робототехники:

  • Робот не должен причинять вред человеку

  • Робот должен повиноваться человеку

  • Робот должен думать о своей безопасности (сразу после безопасности человека, ясное дело)


Мне кажется уже надо сформулировать четвертый закон робототехники, и он должен звучать в одном из нижеприведенных вариантов:

  • Робот должен, в первую очередь, "беспокоиться" о безопасности своего хозяина (человека, который им пользуется). Это такой эгоистический вариант. Аргументация такая: каждый человек любит в первую очередь себя, поэтому если я пользуюсь какой-то техникой, будь то с интеллектом или нет, то она должна сначала меня защищать.

  • Робот должен в первую очередь "беспокоиться" о безопасности окружающих и только затем своего Хозяина. Это такой гуманистический вариант. Аргументация такая: ни в чем неповинный человек не должен пострадать из-за твоего желания пользоваться техникой.


Как должен поступать робот в случае неизбежного ДТП?!

Tags: будущее, общество, опрос, техника
Subscribe

Recent Posts from This Journal

promo shakkar november 7, 2016 11:04 250
Buy for 10 000 tokens
21 августа 2015 года мой блог вошел в сотню самых рейтинговых блогов "Живого Журнала". Спустя год, 21 августа 2016 года, я остановил проект, полностью переключившись на другие занятия. Вижу, что пару дней назад закончились отложенные записи, поэтому решил написать итоговый пост о…
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

  • 429 comments
Previous
← Ctrl ← Alt
Next
Ctrl → Alt →
Previous
← Ctrl ← Alt
Next
Ctrl → Alt →