moral machine

La morale delle auto a guida autonoma: ecco come potrete insegnare loro chi uccidere (foto e video)

Leonardo Banchi

Le auto a guida autonoma dovranno, prima di arrivare sul mercato, imparare anche ad uccidere: rotture, imprevisti e problematiche non gestibili dal sistema potranno infatti metterle davanti a situazioni, purtroppo non nuove per gli utenti della strada, dalle quali non sia possibile uscire senza causare qualche perdita di vite umane.

In casi del genere, però, come dovrebbe comportarsi un’automobile? Dovrebbe salvaguardare in primis la vita dei propri occupanti, proteggere chi è rimasto più ligio al codice della strada, o addirittura valutare se dare la precedenza a bambini, donne incinte, o altre categorie “sensibili”?

LEGGI ANCHE: Le auto a guida autonoma e i ciclisti

Per cercare di dare una risposta a questi dilemmi, il MIT ha creato Moral Machine, un sito web nel quale agli utenti vengono presentati vari scenari, e chiesto di scegliere “il male minore” fra due possibili soluzioni. In seguito a una rottura dei freni, ad esempio, potrete valutare se un’auto a guida autonoma debba salvare i due passeggeri al proprio interno, oppure preferire i cinque pedoni che stanno incoscientemente attraversando con il semaforo rosso.

Sul sito è inoltre possibile commentare i vari scenari motivando le ragioni della propria scelta, e aggiungere nuove situazioni sulle quali gli utenti possano rispondere, discutere e presentare le proprie opinioni.

L’obiettivo finale è quello di creare una “coscienza collettiva”, sulla quale i produttori di auto a guida autonoma possano basarsi per realizzare software non solo sicuri ma moralmente accettabili, con la speranza ovviamente che sempre più raramente le auto debbano ricorrere a decisioni che mettono a rischio esseri viventi.

  • Luca Pulpo

    Ho provato il test e mi sono fermato alla prima domanda. Su che base si può scegliere il male minore?

    • In base a come ognuno pensa che sia meglio in cuor suo.

    • Certo, se la risposta fosse semplice non esisterebbe neanche il test.

  • Davide Nobili

    In alcuni casi scegliere è quasi impossibile e si sbaglierebbe in ogni caso.
    A mio avviso però, in caso di pedoni che attraversano con il rosso, che siano bambini o anziani, uomini o animali, la precedenza deve andare all’incolumità dei passeggeri dell’automobile.
    Chi attraversa con il rosso si prende il rischio e la responsabilità di evitare i pericoli.

  • Matteo Bottin

    In ogni caso non è possibile scegliere “il male minore”. Secondo me ha senso, a questo punto, dare la precedenza a chi rispetta la legge. Almeno si ha un criterio relativamente fisso per la scelta

  • Io alla fine ho optato principalmente per il rispetto per la legge e successivamente a salvare le persone più giovani in proporzione.

    • talme94

      Io per il rispetto della legge e a salvare i pedoni piuttosto che i passeggeri

  • Cristian

    l’idea è interessante…. però mi lascia qualche dubbio sull’efficacia.
    credo sia troppo suscettibile delle decisioni d’impeto delle persone (tanto sono davanti ad un PC, quanto peso realmente danno alla scelta?) e soprattutto della stupidaggine delle persone (immaginate quanti risponderanno a cavolo).

    sarebbe più oggettivo fare statistica con casi reali per scoprire qual è la morale reale alla quale come comunità ci conformiamo realmente piuttosto che a quella ipotetica di cui ci riempiamo la bocca a priori o a posteriori.

    comunque ora provo a fare lo scenario con tanti ciclisti che vanno un po’ come gli pare in mezzo alla strada 😀
    edit: peccato, non c’è l’opzione ciclista. sarei stato curioso di sapere quale sarebbe stata la decisione in diversi scenari.

    • Psyco98

      Ma i ciclisti non contano come persone!

      • Cristian

        Dici che sono assimilati ai gatti?

        • Psyco98

          Con la differenza che un gatto, se gli va, può tenerti compagnia in cambio di cibo ed ha un passo mistico e leggero, mentre un ciclista pedalerebbe dalla cucina alla sala facendo un disastro per poi piazzarsi in garage dietro la tua auto insieme ad altri 4 spuntati dal nulla

  • Psyco98

    Tendenza a non salvare chi passa col rosso: com’è già stato detto non dovresti trovarti lì e così viene dato un criterio fisso. A meno che non siano animali, in quel caso mi pare uno spreco di vite.
    Dopo di questo si salvano più vite, e a parità di vite si va verso i pedoni piuttosto che contro la bariera in cemento, siccome con un po’ di fortuna possono sempre salvarsi saltando via, cosa molto più difficile da dentro una macchina

  • nereus

    ma lo volete capire che il problema non si pone, ma siete veramente idioti. Questa stronzata è a livello di tutte le seghe mentali che la gente che non ha un vero lavoro si fa tutti i giorni per provare di dedicarsi a qualcosa di utile. L’auto ha solo la proprità di frenare e schivare eventuali pericoli, non è in grado di calcolare cosa succederà a seguito delle decisioni date di default.

    • simone

      si vede che non sai cos’e la tesla ( gia venduta in italia e circolante!) altro che decisioni di default

    • A che anno sei rimasto? Dai cambia il calendario appeso alla parete altrimenti ti confondi xD

  • Se volessimo emulare quel che farebbe un umano, non servirebbe un test scritto ma una valutazione basata sull’istinto.
    Secondo me prevarrebbe l’istinto di sopravvivenza.
    Se poi vogliamo fare delle auto “migliori” dell’animale-uomo, dobbiamo iniziare ad accettare il SUICIDIO come una normale e civilissima pratica, quando si è sulla strada.
    Scusate ma non fa per me.

  • GattoMorbido

    Vedi: I robot di Asimov