Ποιος θα σκοτωθεί από αυτοοδηγούμενο αυτοκίνητο; Μηχανή, σώσε όσους περισσότερους ανθρώπους μπορείς, αλλά κυρίως σώσε με!

Εάν προκύψει μια κατάσταση όπου το αυτόνομο σύστημα ενός αυτοκινήτου πρέπει να επιλέξει γρήγορα ποιον θα θυσιάσει σε περίπτωση επικείμενου ατυχήματος, πώς πρέπει να αντιδράσει; Θυσία επιβατών για να σωθούν οι πεζοί; Εάν είναι απαραίτητο, να σκοτώσετε έναν πεζό για να γλιτώσετε, για παράδειγμα, μια τετραμελή οικογένεια που ταξιδεύει με αυτοκίνητο; Ή μήπως πρέπει πάντα να προστατεύει τον εαυτό του πρώτα;

Ενώ περισσότερες από εξήντα εταιρείες έχουν ήδη λάβει προσωπικές άδειες δοκιμών μόνο στην Καλιφόρνια, είναι δύσκολο να πούμε ότι η βιομηχανία είναι έτοιμη να αντιμετωπίσει ηθικά διλήμματα. Αυτή τη στιγμή, παλεύει με πιο βασικά προβλήματα - τη λειτουργία και την αποτελεσματικότητα της πλοήγησης των συστημάτων και απλώς την αποφυγή συγκρούσεων και απρόβλεπτων συμβάντων. Σε καταστάσεις όπως η πρόσφατη δολοφονία ενός πεζού στην Αριζόνα ή τα επακόλουθα ατυχήματα (1), μέχρι στιγμής ήταν μόνο για βλάβες του συστήματος και όχι για κάποιο είδος «ηθικής επιλογής» του αυτοκινήτου.

Σώστε πλούσιους και νέους

Τα θέματα λήψης αυτού του είδους αποφάσεων δεν είναι αφηρημένα προβλήματα. Οποιοσδήποτε έμπειρος οδηγός μπορεί να το πιστοποιήσει. Πέρυσι, ερευνητές από το MIT Media Lab ανέλυσαν πάνω από σαράντα εκατομμύρια απαντήσεις από ερωτηθέντες από όλο τον κόσμο που συλλέχθηκαν κατά τη διάρκεια της έρευνας που ξεκίνησε το 2014. Το σύστημα δημοσκοπήσεων που αποκαλούν «Ηθική Μηχανή», έδειξε ότι σε διάφορα μέρη της κόσμο, παρόμοιες ερωτήσεις τίθενται διαφορετικές απαντήσεις.

Τα πιο γενικά συμπεράσματα είναι προβλέψιμα. Σε ακραίες καταστάσεις Οι άνθρωποι προτιμούν τη σωτηρία ανθρώπων από τη φροντίδα των ζώων, με στόχο να σώσουν όσο το δυνατόν περισσότερες ζωές και τείνουν να είναι νεότεροι από τους ηλικιωμένους (2). Υπάρχουν επίσης ορισμένες, αλλά λιγότερο προφανείς, προτιμήσεις όταν πρόκειται για τη διάσωση γυναικών έναντι των ανδρών, των ατόμων υψηλότερης θέσης έναντι των φτωχότερων ανθρώπων και των πεζών έναντι των επιβατών αυτοκινήτων..

2. Ποιον πρέπει να σώσει το αυτοκίνητο;

Δεδομένου ότι σχεδόν μισό εκατομμύριο ερωτηθέντες συμπλήρωσαν δημογραφικά ερωτηματολόγια, ήταν δυνατό να συσχετιστούν οι προτιμήσεις τους με την ηλικία, το φύλο και τις θρησκευτικές πεποιθήσεις. Οι ερευνητές κατέληξαν στο συμπέρασμα ότι αυτές οι διαφορές δεν «επηρέαζαν σημαντικά» τις αποφάσεις των ανθρώπων, αλλά σημείωσαν ορισμένες πολιτισμικές επιρροές. Οι Γάλλοι, για παράδειγμα, έτειναν να σταθμίζουν τις αποφάσεις με βάση τον εκτιμώμενο αριθμό θανάτων, ενώ στην Ιαπωνία η έμφαση ήταν η μικρότερη. Ωστόσο, στη Χώρα του Ανατέλλοντος Ηλίου, η ζωή των ηλικιωμένων εκτιμάται πολύ περισσότερο από ό,τι στη Δύση.

«Προτού επιτρέψουμε στα αυτοκίνητά μας να λαμβάνουν τις δικές τους ηθικές αποφάσεις, πρέπει να κάνουμε μια παγκόσμια συζήτηση σχετικά με αυτό. Όταν οι εταιρείες που εργάζονται σε αυτόνομα συστήματα μάθουν για τις προτιμήσεις μας, τότε θα αναπτύξουν ηθικούς αλγόριθμους σε μηχανές που βασίζονται σε αυτές και οι πολιτικοί μπορούν να αρχίσουν να εισάγουν επαρκείς νομικές διατάξεις », έγραψαν οι επιστήμονες τον Οκτώβριο του 2018 στο Nature.

Ένας από τους ερευνητές που συμμετείχαν στο πείραμα της Ηθικής Μηχανής, ο Jean-Francois Bonnefont, βρήκε ανησυχητική την προτίμηση για διάσωση ανθρώπων υψηλότερης θέσης (όπως στελέχη έναντι των αστέγων). Κατά τη γνώμη του, αυτό σχετίζεται πολύ με το επίπεδο της οικονομικής ανισότητας σε μια δεδομένη χώρα. Όπου οι ανισότητες ήταν μεγαλύτερες, προτιμήθηκε να θυσιαστούν οι φτωχοί και οι άστεγοι.

Μία από τις προηγούμενες μελέτες έδειξε, ειδικότερα, ότι, σύμφωνα με τους ερωτηθέντες, ένα αυτόνομο αυτοκίνητο θα πρέπει να προστατεύει όσο το δυνατόν περισσότερους ανθρώπους, ακόμη και αν αυτό σημαίνει απώλεια επιβατών. Ταυτόχρονα, όμως, οι ερωτηθέντες δήλωσαν ότι δεν θα αγόραζαν αυτοκίνητο προγραμματισμένο με αυτόν τον τρόπο. Οι ερευνητές εξήγησαν αυτό Ενώ οι άνθρωποι θεωρούν πιο ηθικό να σώσουν περισσότερους ανθρώπους, έχουν επίσης συμφέροντα, κάτι που θα μπορούσε να είναι ένα μήνυμα προς τους κατασκευαστές ότι οι πελάτες θα είναι απρόθυμοι να αγοράσουν αυτοκίνητα εξοπλισμένα με αλτρουιστικά συστήματα.. Πριν από λίγο καιρό, εκπρόσωποι της εταιρείας Mercedes-Benz είπαν ότι αν το σύστημά τους έσωζε μόνο ένα άτομο, θα διάλεγαν τον οδηγό και όχι τον πεζό. Ένα κύμα δημόσιας κατακραυγής ανάγκασε την εταιρεία να αποσύρει τη δήλωσή της. Όμως η έρευνα δείχνει ξεκάθαρα ότι υπήρχε πολλή υποκρισία σε αυτή την ιερή αγανάκτηση.

Αυτό συμβαίνει ήδη σε ορισμένες χώρες. πρώτες προσπάθειες για νομική ρύθμιση στο χωράφι. Η Γερμανία ψήφισε νόμο που απαιτεί από τα αυτοκίνητα χωρίς οδηγό να αποφεύγουν πάση θυσία τραυματισμό ή θάνατο. Ο νόμος ορίζει επίσης ότι οι αλγόριθμοι δεν μπορούν ποτέ να λαμβάνουν αποφάσεις με βάση χαρακτηριστικά όπως η ηλικία, το φύλο, η υγεία ή οι πεζοί.

Η Audi αναλαμβάνει την ευθύνη

Ο σχεδιαστής δεν είναι σε θέση να προβλέψει όλες τις συνέπειες της λειτουργίας του αυτοκινήτου. Η πραγματικότητα μπορεί πάντα να παρέχει έναν συνδυασμό μεταβλητών που δεν έχουν δοκιμαστεί ποτέ πριν. Αυτό υπονομεύει την πεποίθησή μας στη δυνατότητα «δεοντολογικού προγραμματισμού» μιας μηχανής. Μας φαίνεται ότι σε περιπτώσεις όπου συμβαίνει ένα σφάλμα και συμβαίνει μια τραγωδία "λόγω υπαιτιότητας του αυτοκινήτου", την ευθύνη θα πρέπει να φέρει ο κατασκευαστής και ο κατασκευαστής του συστήματος.

Ίσως αυτός ο συλλογισμός να είναι σωστός, αλλά ίσως όχι επειδή ήταν λάθος. Μάλλον, επειδή επιτράπηκε ένα κίνημα που δεν ήταν 2019% απαλλαγμένο από τη δυνατότητα να το πραγματοποιήσει. Αυτός φαίνεται να είναι ο λόγος και η κοινή ευθύνη δεν αποφεύγεται από την εταιρεία, η οποία πρόσφατα ανακοίνωσε ότι θα αναλάβει την ευθύνη για ατυχήματα στα οποία εμπλέκεται ένα 8χρονο A3 ενώ χρησιμοποιεί ένα αυτόματο σύστημα Traffic Jam Pilot (XNUMX) σε αυτό.

3. Audi Traffic Jam Pilot Interface

Από την άλλη πλευρά, υπάρχουν εκατομμύρια άνθρωποι που οδηγούν αυτοκίνητα και επίσης κάνουν λάθη. Γιατί λοιπόν οι μηχανές, που στατιστικά κάνουν πολύ λιγότερα λάθη από τους ανθρώπους, όπως αποδεικνύεται από πολυάριθμα λάθη, να υφίστανται διακρίσεις από αυτή την άποψη;

Αν κάποιος πιστεύει ότι τα διλήμματα ηθικής και ευθύνης στον κόσμο των αυτόνομων οχημάτων είναι απλά, συνέχισε να σκέφτεται...