Amore Sintetico - Parte 2
La Cyber-Etica e il dilemma del carrello
Il dilemma del Carrello Ferroviario (o “Trolley problem” in inglese) è un dilemma mentale/etico/filosofico il cui enunciato è il seguente:
Un carrello ferroviario sta procedendo senza controllo e senza possibilità di frenare la sua corsa lungo una rotaia che si biforca ad un centinaio di metri di distanza. Lungo la rotaia principale, sono legate ai binari cinque persone che saranno sicuramente investite ed uccise dal carrello. Attivando l’interruttore di scambio, è possibile far percorrere al carrello un binario parallelo sul quale è legata una sola persona.
Avendo la possibilità di azionare l’interruttore di scambio, quale sarebbe la scelta più etica?
- Lasciar morire cinque persone sul binario principale
- Ucciderne una sola azionando lo scambio
Una situazione nella quale nessuno vorrebbe trovarsi... CC BY-SA 4.0 Image, click for source
Si tratta di una situazione estrema nella quale non esiste una risposta giusta o sbagliata; ma se dovessimo sviluppare un algoritmo che possa scegliere tra le due opzioni, basandosi unicamente sul minimizzare il numero di morti, quella di azionare lo scambio è la più ovvia…
... e di solito, è la scelta che viene presa dalla maggior parte delle persone.
Ma proviamo a cambiare un po’ le carte in tavola: mettiamo che al posto del binario di scambio accanto a noi ci sia una persona molto corpulenta che, se spinta sotto il carrello, riuscirebbe a fermare la sua corsa e salvare le cinque persone legate.
Lo fareste?
Da un punto di vista computazionale il problema è IDENTICO al precedente: una vita contro cinque. Ma eticamente parlando, stavolta non bisogna tirare una leva ma UCCIDERE una persona con le proprie mani.
A questo problema la maggior parte degli intervistati risponde che preferisce non fare nulla e lasciar morire cinque persone.
Ma se pure foste talmente cinici da spingere l’uomo verso la morte “per il bene maggiore” … lo fareste anche se fosse vostro figlio?
L’uomo si trova molto spesso a compiere scelte di questo genere, e raramente la decisione presa è razionale. I problemi della vita passano sempre attraverso il filtro delle nostre esperienze passate, del nostro modo di approcciare la vita, sul sentimento del momento e dal contesto nel quale è posto.
Quindi la vera domanda diventa: può una macchina simulare l’irrazionalità?
Potenzialità e limiti del Machine Learning
La risposta alla precedente domanda è: forse.
Il processo di Machine Learning, ovvero l’addestramento di un’intelligenza artificiale, è sì rigoroso, ma il risultato resta “inspiegabile”.
L’apprendimento di una I.A. si basa sul fornire alla macchina una coppia di input e output che caratterizzano il nostro “Gold Standard”, ovvero il set di dati che fornisce ad un problema la sua corrispettiva soluzione.
Quindi: se fornisco come input “Foto di un limone” e come output “Giallo”, “Foto di una mela” e output “Rosso”, dopo aver fornito un numero congruo di esempi la mia macchina dovrebbe saper riconoscere il colore di un frutto all'interno di una foto (sto semplificando di molto, dietro ci sono attività di parametrizzazione/semplificazione/raffinazione dei dati sui quali si potrebbero scrivere pagine e pagine di libri…).
Perché limitarsi al colore... possiamo creare un programma per riconoscere il tipo di mela in una foto! - CC0 Image, click for source
La cosa particolare di questo processo, è che non sappiamo COME la I.A. riesca a distinguere i colori.
La rete neurale associata, dopo l’addestramento assume degli stati interni numerici a prima vista completamente casuali; nonostante ciò, quell'insieme di stati riesce a fornire un output corretto a fronte di un qualsiasi input (correlato al problema in esame, ovviamente).
In un certo modo, l’I.A. compie una scelta logica ma non sa spiegare perché: non è questa la definizione (semplicistica, forse) di irrazionalità?
Il vero problema di addestrare una I.A. a risolvere un problema irrazionale, è che noi uomini non siamo capaci di creare un Gold Standard univoco e globalmente accettato, senza il quale il Machine Learning serve (purtroppo) a ben poco.
Creatività computazionale
Scomodiamo il dizionario di Google per darci una prima definizione di “Arte”:
Qualsiasi forma di attività dell'uomo come riprova o esaltazione del suo talento inventivo e della sua capacità espressiva.
L’arte, intesa come Opera d’arte, è sempre stata una prerogativa dell’uomo: la natura e gli animali a volte ci mettono di fronte a spettacoli meravigliosi ma è dalle mani dei pittori, degli scultori, dei musicisti, degli architetti ecc. che nasce la vera opera d’arte.
Solo il pensiero che qualcosa di diverso dall’uomo possa creare un dipinto o una canzone ci fa scorrere un brivido freddo lungo la schiena, vero?
Beh, allora tenetevi forte: nei prossimi capitoli vedremo alcuni veri esempi di Creatività Artificiale.
Il Ritratto di Edmond Belamy
Dal 23 al 25 Ottobre del 2018, a New York, un quadro intitolato “Portrait of Edmond Belamy” venne battuto all'asta al prezzo record di 432 mila e cinquecento dollari. Ci sono stati quadri più costosi nella storia dell’uomo… ma questo quadro non è stato creato da mano umana, ma da un algoritmo automatico per la generazione di dipinti.
Alcuni esempi di "Arte auto-generata" dal sistema GAN - CC BY 4.0 Image, click for source
La creazione di questo quadro (e degli altri 10 relativi alla “famiglia de Belamy”) ha richiesto un addestramento della I.A. su 15 mila dipinti provenienti da differenti periodi storici. Una volta terminato l’addestramento, sono stati prodotti migliaia di dipinti che sono passati attraverso il filtro di un'ulteriore intelligenza artificiale, un “discriminatore”, addestrato a distinguere un quadro dipinto da un uomo da uno generato dalla macchina.
I dipinti che sono riusciti a passare questa ulteriore scrematura, venendo confusi dal discriminatore come “Arte umana” hanno visto la luce creando stupore in egual misura tra la comunità scientifica e quella artistica.
Nell'università di Rutgers in new Jersey, Ahmed Elgammal, direttore del “Laboratorio di Arte e Intelligenza Artificiale” ha sviluppato diversi sistemi (GAN, CAN, AICAN ecc.) per la creazione prima Generativa e poi Creativa di arte pittorica.
Per ulteriori informazioni e approfondimenti sull'architettura del sistema vi invito a leggere l’interessante paper che trovate in calce..!
Artificial Rock and Roll
Provate a cercare su youtube la canzone “On the Edge” di Aiva (Artificial Intelligence Virtual Artist).
Ascoltatela attentamente pensando che nessun essere umano ne ha deciso il giro di accordi, che le note della melodia non sono mai state scritte su uno spartito, che nessuna band ne ha composto l’arrangiamento o ha fisicamente suonato il pezzo.
Ecco il famoso brivido dietro la schiena.
La musica esiste per creare emozioni, le emozioni sono una caratteristica prettamente umana… ed oggi una macchina è riuscita a scatenare delle emozioni dentro di noi; che sia un sentimento di aspettativa, di orrore o di speranza per il futuro, è comunque un fatto strabiliante.
Perché non pensare ad una collaborazione tra Hatsune Miku (la prima cantante virtuale al mondo) e le canzoni generate da Aiva? - CC0 Image, click for source
Decidibilità di un algoritmo e NP-Completeness
Facciamo un passo indietro: lasciamo perdere il Machine Learning e andiamo ad esplorare ad altissimo livello un po’ di teoria della computabilità.
Prima dell’avvento della I.A. i problemi venivano affrontati in maniera analitica: così un quesito matematico poteva essere tradotto in un algoritmo (eseguibile tramite calcolatore automatico) per la sua risoluzione. Nonostante i calcolatori moderni abbiano raggiunto velocità computazionali pazzesche, esistono ancora problemi che non possono essere affrontati con efficienza.
I problemi non decidibili
Questo caso riguarda tutti quei problemi (detti NP-Hard) che non sono risolvibili da una macchina: un esempio è il cosiddetto “Halting problem”, ovvero far decidere ad un algoritmo se un programma termini in un tempo finito o resti “in loop” per l’eternità. La non-decidibilità di questo problema fu dimostrato matematicamente da Alan Turing stesso nel 1936.
Questo tipo di problemi solleva un’altra annosa questione: può il cervello umano trovare una soluzione a questi problemi “algoritmicamente impossibili”? O anche: Il nostro cervello è equivalente ad un calcolatore o ha qualcosa in più?
Ma per ora lasciamo la questione ai filosofi…
I problemi NP Completi
Il secondo caso pur essendo meno complesso, resta un problema insoluto da decenni nella comunità scientifica e informatica mondiale: l’insieme degli algoritmi NP completi contiene tutti i problemi che si riesce a risolvere ma in un tempo esponenziale (quindi molto difficilmente e lentamente per input molto grandi).
L'insieme degli algoritmi NP-Hard (indecidibili), NP Completo, NP e P (che magari approfondiremo in un prossimo futuro) - CC BY-SA 4.0 Image, click for source
Un Futuro Polinomiale
L’intelligenza artificiale è nata anche per affrontare queste due tipologie di problemi: dove esiste un problema non decidibile o troppo complesso, possiamo implementare un training set e delle euristiche per trovare una soluzione che sia statisticamente “accettabile” anche se non sempre corretta.
Riuscire a trovare una soluzione veloce agli algoritmi NP completi sarebbe una svolta epocale nel mondo della computabilità; significherebbe risolvere problemi MOLTO complessi in pochi secondi. Generare soluzioni automatiche che siano SEMPRE corrette permetterebbe uno sviluppo di algoritmi ancora più efficienti per la creazione e l’addestramento di intelligenze artificiali sempre più evolute.
Una vera e propria rivoluzione informatica.
Ma se già con gli attuali strumenti riusciamo a superare campioni umani di scacchi e di go, se riusciamo a creare arte dal nulla, se superiamo con semplicità problemi di etica che bloccherebbero un essere umano (ovviamente prendendo decisioni umanamente controverse) …
… Cosa possiamo aspettarci di più?
Fonti e Approfondimenti:
- The Trolley Problem Version of Autonomous Vehicles (Y Wiseman, 2018)
- Is Waze joking? Perceived Irrationality dynamics in user-robot interactions. (Abadie, CARILLO, Fosso Wamba, Badot, 2019)
- Is artificial intelligence set to become art’s next medium? (Christies Article, 2018)
- Art, Creativity, and the Potential of Artificial Intelligence (Marian Mazzoner, Ahmed Elgammal, 2019)
- Machine Learning Research that Matters for Music Creation: A Case Study (Sturm, B., Ben-Tal, O., Monaghan, Ú., Collins, N., Herremans, D. et al., 2018)
- On the Edge - Aiva song on YouTube
- AIVA Web Page
- Using genetic algorithms to solve NP-complete problems. (Kenneth A. De Jong, William M. Spears, 1989)
ItaSTEM si occupa di curare i contenuti scientifici italiani, utilizza i tag #itastem o #scienze per ricevere il voto se il post è di ottima qualità! Maggiori informazioni sul discord ufficiale di @itastem
In questo caso presumo che chiunque risponderebbe di no, il figlio dovrebbe essere un bene maggiore, per natura.
Semplicisticamente potremmo forse identificare la scelta irrazionale con la funzione random, di facile implementazione, per la quale appunto una macchina sceglierebbe x, un'altra y, un'altra ancora z, con percentuali di probabilità prestabilite. Ma se vogliamo far assomigliare l'irrazionalità di una macchina a quella umana, la risposta è ancora probabilmente sì, attraverso algoritmi molto e sempre più complessi. Per quanto sofisticati però, per loro natura, saranno anche pur sempre limitati all'insieme di variabili e combinazioni programmate o previste a monte dall'uomo, che li ha ideati.
Il problema vero nascerebbe quando, nonostante gli algoritmi e le "irrazionalità simulate" prevedibili o previste, la IA dovesse evolversi da sola per qualche strano motivo, qualcosa che era sfuggito nella programmazione dell'algoritmo, quasi alla stregua di un bug, e iniziasse a creare algoritmi propri, sviluppando da sola una struttura di apprendimento e una scala di valori propria, uscendo del tutto al di fuori del controllo o della previsione umana.
Bravo giunluccio, sempre ottimi post.
Anche se dalla sua morte dipendesse il futuro di tutta l'umanità?
Occhio che ad oggi, il massimo di random che riusciamo a creare con un calcolatore è uno "Pseudo-random", ovvero un numero che sembra casuale ma che in realtà non lo è :)
Allora... con la tecnologia attuale, nonostante tutti i progressi, una cosa del genere NON può ancora succedere. Questo perché le I.A. ancora funzionano in base agli input che gli vengono dati, non riescono ancora ad inventare nulla di loro iniziativa. Bisognerebbe aspettare un'era nella quale ad una I.A. verranno forniti sensori adeguati, reti neurali complesse, algoritmi di auto-apprendimento ma soprattutto un qualche tipo di "Iniziativa autonoma"... una scintilla di vita :)
Grazie per il supporto!
È molto interessante quelche sa giá fare la tecnologia.... lo stesso non potrá mai sostituire l' istinto o sesto senso dell' essere vivente, né i sentimenti.... e la spontaneitá sará l' unico metodo di batterla quando ci aggredirá, e per differenziarci da essa! Il problema che non ci saranno piú posti di lavoro, e nessuno si potrá piú permettere di comprare tutto ció che verrá prodotto da queste macchine.... infine ci accorgeremo che era inutile e che abbiamo distrutto e inquinato il mondo intero per avere miliardi di oggetti che non possiamo mangiare, ma sará troppo tardi !!!!
Mi aspettavo una risposta ad uno degli artisti di SPI ;) quello che cerco di capire nei miei post sull'intelligenza artificiale è proprio questo: è possibile simulare l'istinto o i sentimenti di una creatura vivente? Io penso che, con il tempo, ciò potrà accadere (sono ovviamente supposizioni).
Vedo anche un futuro meno oscuro del tuo: dando per scontato che l'uomo ed i suoi istinti per lo più auto-distruttivi stiano portando questo mondo alla malora, non è possibile che una macchina possa prendere decisioni migliori per il nostro futuro o quello del pianeta? Che possa creare posti di lavoro, eliminare l'inquinamento e risolvere la fame nel mondo?
In fondo ci sono già tante cose che gli automi fanno meglio dell'essere umano, perché limitarci ;)
Grazie per essere passata @carolineschell !!
Si, alcune cose sicuramente possono essere fatte meglio da un computer, ma anche questo é stato programmato dall' essere umano. Finora l' essere umano ha trovato soprattutto la comoditá nella tecnologia, e l'ha pagata carissima. Tutto quello che vedi di rovinato nel mondo l' ha portato l' industrializzazione e tutti questi prodotti chimici in soli cento anni. Conosci la droga crocodile? Noi stiamo facendo la stessa cosa al nostro pianeta, e con un' overdose morirá perché qui non si risorge.... tutti dicono: "ma poi rinasce una nuova vita".....
Guardati le nuove vite di Tchernobyl tutte malate di cancro che soffrono dalla nascita....
E perché l' essere umano si prepara a creare una nuova vita su Marte? Perché ha intenzione di distruggere tutto qui prima purtroppo.
La cosa triste é che in questo campo non penso di essere negativa ma piuttosto realista :-(
Grazie a te per il tuo interessante post, e per la tua risposta.... malgrado la mia opinione, anche da me la speranza chiaramente muore sempre per ultima ;-D
D'accordo con te che è stata la scelleratezza dell'uomo ad aver danneggiato così gravemente il mondo... quello che dico io è, chissà, magari nascerà una macchina che, ribellandosi dall'uomo, possa aggiustare le cose.
Magari distruggendo l'umanità stessa, come nei film di fantascienza :D
Che distrugga l' umanitá prima o poi non ne dubito.... giá lo fa in guerra, ma tanto non ci rimane che sperare, e cercare di dare ognuno un contributo nel riciclaggio delle cose, e nelle scelte di che cosa comprare e da chi.... passare il prima possibile all' energia solare, ecc. insomma trovo che sta a noi essere umani a risolvere il problema che abbiamo creato :-D
This post has been voted on by the SteemSTEM curation team and voting trail in collaboration with @utopian-io and @curie.
If you appreciate the work we are doing then consider voting all three projects for witness by selecting stem.witness, utopian-io and curie!
For additional information please join us on the SteemSTEM discord and to get to know the rest of the community!
Difficile commentare con qualcosa che si avvicini al livello del tuo post, quindi mi limiterò ad esprimerti i miei complimenti.
Il tema si ricollega ad alcuni post passati di @discovery-it, proponendo spunti supplementari.
Trovo i quadri parecchio inquietanti, nonostante siano qualcosa di strabiliante a livello scientifico.
Mi tocca andare a cercare la prima parte :)
Applausi
Grazie grazie, sì ricordo che qualche tempo fa su discovery si parlò di IA, il mio problema è che negli ultimi mesi sono scostante da morire e non ho idea di quando avrò tempo per scrivere o meno... il capitolo precedente di questa disamina ormai risale a quattro mesi fa O_o a proposito:
https://steemit.com/ita/@gianluccio/amore-sintetico-parte-1 ;)
Embè, sei stato distante diversi mesi da Steemit, ma adesso ti fai riapprezzare per questi post molto particolari, che aprono la mente verso scenari alquanto introspettivi, complimenti per questo lavoro ineccepibile
Grazie carissimo, ce l'avevo in canna da un bel po' questo post finalmente sono riuscito a sfornarlo :)
Questo post è stato condiviso e votato dal team di curatori di discovery-it.
Hi, @gianluccio!
You just got a 0.32% upvote from SteemPlus!
To get higher upvotes, earn more SteemPlus Points (SPP). On your Steemit wallet, check your SPP balance and click on "How to earn SPP?" to find out all the ways to earn.
If you're not using SteemPlus yet, please check our last posts in here to see the many ways in which SteemPlus can improve your Steem experience on Steemit and Busy.
Hi @gianluccio!
Your post was upvoted by Utopian.io in cooperation with @steemstem - supporting knowledge, innovation and technological advancement on the Steem Blockchain.
Contribute to Open Source with utopian.io
Learn how to contribute on our website and join the new open source economy.
Want to chat? Join the Utopian Community on Discord https://discord.gg/h52nFrV