Ene, due ... czyli kogo dziś zabije twoje autonomiczne auto.
Zanim dowiesz się kto zginie, zapraszam do lektury wcześniejszych artykułów wprowadzających w tematykę.
W pierwszym starałem się pokazać, że nie jesteśmy sami w Kosmosie. Kreatorzy nie stosowali zasad i skończyło się skasowaniem projektu. Twórcy zrozumieli swój błąd i przekazali zestaw praw mający regulować funkcjonowanie SI (nas).
https://steemit.com/tematygodnia/@lugoshi/tematygodnia-8-kult-cargo-czy-jestesmy-sami-w-kosmosie
Poetycko, wspomagając się twórczością artysty Byrne'a, postawiłem tezę, że jesteśmy li tylko automatami podejmującymi moralne decyzje.
https://steemit.com/polish/@lugoshi/automaton
Kreatorzy widząc "dziury" w przekazanej pierwszej wersji praw przysłali łatkę i przygotowali zestaw praw dla SI v1.1.
Morał z tej historii: bez szczegółowo przygotowanej ideowej bazy nie należy tworzyć nowych bytów :)
https://steemit.com/tematygodnia/@lugoshi/tematygodnia-8-kult-cargo-w-dobie-sieci-neuronowych
Na przestrzeni lat powstało szereg (nieudanych) propozycji ogólnego zestawu praw moralnych dla SI.
https://steemit.com/polish/@lugoshi/przyczynek-do-dyskusji-o-moralnosci-systemow-si
Esencja, z przekazanych nam przez twórców praw, może stanowić bazę wytycznych do przygotowania zestawu praw przyszłych systemów.
https://steemit.com/tematygodnia/@lugoshi/cyberkaznodzieja-v2-0
Powyższy cykl artykułów (włącznie z tym, który aktualnie czytasz) miał pokazać potrzebę przepływu praw moralnych będących fundamentem cywilizacji i relacji:
---------------Prawo moralne------------->
UNIWERSUM --> Kreatorzy --> MY --> SI --> ???
Podejmując działania technologiczne zapominamy o równoległej bazie moralnej.
Tyle tytułem przydługiego wstępu, mającego wprowadzić Czytelnika w tematykę dzisiejszej opowieści.
Prace na rozwojem systemów SI trwają w zaciszu laboratoriów od wielu lat. Google pracuje nad projektem Google Brain. Naukowcy pracują nad samouczącymi się algorytmami, w tym nad automatycznym rozpoznawaniem obrazów, tłumaczeniem tekstów i szyfrowaniem. Szerokim echem odbił się w mediach, eksperyment w którym dwie sieci neuronowe Alice i Bob miały rozwinąć własny szyfrowany sposób komunikacji, a trzecia sieć Eva próbowała rozszyfrować i podsłuchać ich "rozmowę".
W Europie też nie zasypiamy gruszek w popiele. W szwajcarskim projekcie Blue Brain zamierzamy stworzyć symulację mózgu ssaków w tym ludzkiego mózgu. Opisywany projekt przekształcono w 2013 roku, w Human Brain Project - flagowe przedsięwzięcie UE, dofinansowane środkami w wysokości 1 miliarda Euro. (2014-2020).
Aby z sukcesem zasymulować procesy ludzkiego mózgu potrzebna jest ogromna moc obliczeniowa. Kierownictwo projektu, analizując dotychczasowe tempo rozwoju techniki obliczeniowej uważa, że w roku 2020 powstaną maszyny pozwalające przeprowadzić pełną symulację.
To za ... 2 lata.
Listę wielu projektów z dziedziny SI przedstawia artykuł wiki: https://en.wikipedia.org/wiki/List_of_artificial_intelligence_projects
Przyszedł czas na "zabawę" wagonikiem.
https://pl.wikipedia.org/wiki/Dylemat_wagonika
źródło: Jacob Rank z Unsplash
Wersja najprostsza dylematu moralnego przedstawia się następująco:
Wagonik kolejki wyrwał się spod kontroli i pędzi w dół po torach. Na jego drodze znajduje się pięciu ludzi przywiązanych do torów przez szalonego filozofa. Ale możesz przestawić zwrotnicę i w ten sposób skierować wagonik na drugi tor, do którego przywiązany jest jeden człowiek. Co powinieneś zrobić?
(cytat wiki)
Może nie robić nic i udawać, że nie miałem wpływu ( niech się dzieje wola nieba)...
Może przestawić wajchę i zdecydować o śmierci jednego człowieka by ocalić większą ilość ludzi?
A jeżeli to Albert Einstein? A tamci to mordercy?
A może...
W powyżej wskazanym artykule wikipedii podano także, inne bardziej złożone wersje dylematu:
-Grubas na kładce,
-Grubas złoczyńca,
-Tor z mijanką,
-Transplantacja,
-Człowiek na podwórku,
-Speleolodzy.
Teoria, teoria.... nuuuudy.
Ta teoria właśnie wyjechała na drogi. Na scenie pojawia się autonomiczny samochód. Kilka modeli już porusza się po drogach... Wkrótce funkcjonujący na podobnych zasadach pojazd, będzie stał pod twoim domem i sam będziesz mógł przekonać się na własnej skórze, co zrobi algorytm decyzyjny w przedstawionej wyżej sytuacji. Twoje auto będzie ... moralne. Ty będziesz siedział w zaciszu kabiny, czytając ten artykuł, a twoja bryka będzie roztrząsała filozoficzne dylematy.
Dziwne...
Spójrzmy na sytuację przedstawioną na rysunku w artykule:
https://techxplore.com/news/2015-10-self-driving-cars-ethical.html
Jaką decyzję ma podjąć algorytm? Czy ma:
-[a]Poświęcić życie kierowcy i pieszego, by ratować większą ilość wbiegających nagle na jezdnię ludzi?
-[b]Uratować pieszego, ryzykując śmierć kierowcy?
-[c]Ryzykować, życie kierowcy?
Dodatkowymi czynnikami komplikującymi decyzje, mogą być:
- obecność dzieci w samochodzie (perspektywa dłuższego życia),
- płeć,
- ciąża,
- wiek osób na jezdni,
- hierarchia społeczna ( uczestnikiem zdarzenia może być osoba publiczna np. premier).
- ...
źródło: Mauro Mora z Unsplash
Algorytm decyzyjny w ułamku sekundy musi zdecydować o życiu i śmierci istoty ludzkiej. Co zrobić?
Jakiś nieznany programista ma pośrednio, podjąć decyzję o Twoim życiu lub śmierci? Na jakich zasadach do diaska?
Programista sam nie wie co ma z tym problem zrobić... Decydenci wymyślili więc, że zrobią ... internetową sondę. Najbardziej akceptowalne przez społeczeństwo scenariusze, będą realizowane przez systemy.
Zapraszam na stronę, zbierającą informacje dla systemów decyzyjnych nowoczesnych samochodów. Użytkownicy (Ty właśnie) wskazują właściwe decyzje moralne, w wątpliwych sytuacjach drogowych. Odpowiedzialność za wzorce zachowań aut w dramatycznych sytuacjach drogowych, twórcy systemów cedują na ... Nas. Na podstawie tych testów, budowane będą rozwiązania stosowane w samochodach autonomicznych.
W ramach projektu można zaproponować swój katastroficzny scenariusz.
Zapraszam do samodzielnego podjęcia decyzji.
Na powyższym przykładzie widać, że tylko od Nas zależy jakie zasady moralne wpoimy naszym tworom. Ludzkość przekazując "w posagu" sieciom neuronowym, a później SI, określone wartości, kształtuje tak naprawdę wizję i fundament przyszłego świata.
Kogo dziś zabije Twój samochód...
Za kilka lat, gdy będzie tego więcej na drogach będę chodził po ulicy jedynie przebrany za staruszkę w ciąży z dziecięcym wózkiem, kulawym psem, bezokim kotem i lalką niemowlęcia pod pachą. Jedyna opcja.
Wyobraź sobie sytuację, gdy zadrzesz z gangiem i wykorzystując empatię autochodu wystawią ci nagle 10 przedszkolaków przed maskę, żeby Cię zabić.
Nie ma mordercy - nie ma kary.
Przecież to tylko algorytm...
To znaczy zgadzam się, że takie przypadki będą bardzo, bardzo rzadkie bo wszystkie decyzje algorytmów będą prowadzić do tego żeby nie doprowadzić do niebezpiecznej sytuacji (co pewnie się będzie kończyć tym, że każde zbliżanie się do pasów przed którymi czeka człowiek będzie skutkowało zwalnianiem do bardzo niskiej prędkości lub wręcz zatrzymywaniem się przed pasami - ciekawie jak to będą znosić Sebixy i Janusze naszych dróg ;-) ). Ale jednak będą się zdarzać. Tym częściej im więcej z pozostałych aut będzie prowadzonych przez ludzi, a rzadziej gdy większość aut będzie jechało autonomicznie.
Idziesz zbyt ostrożnie. Obróci dzięki ESP samochodem na bok, zblokuje koła i koziołkując w powietrzu przeleci nad ludźmi na pasach. :)
http://moralmachine.mit.edu/
Te trzy literki "mit" to Massachusetts Institute of Technology. Skoro robią badania i wykładają kasę to chyba nie dla hecy...
Słowa klucze: ewolucja systemów, wzrastająca złożoność...
Od 1978 roku montowano w samochodach ABS. Ktoś mógłby wtedy powiedzieć "wątpię by samochód nie słuchał kierowcy..."
Samochody nigdy nie będą same jeździły i parkowały. Mamy to dziś.
Audi wypuściło właśnie seryjną A8 z poziomem jazdy autonomicznej A3. Możesz siedzieć i czytać gazetę.
Myślisz, że nagle rozwój zastopuje i naukowcy pójdą sączyć drinki na plażę?
Gdy okaże się, że nagle dzięki automodom zredukowano liczbę wypadków o 90%, każda nowa tragedia na drodze będzie rozdrapywana przez media jak World Trade Center. A to wymusi jeszcze lepsze rozwiązania...
Dylematy w tym temacie dotyczą aktualnie:
Jak dla mnie wybór jest prosty :
Kierowca >pasazer>piesi
Często piesi nie są bez winy więc nie ma co ich oszczędzać
@catchup pracujesz jako Kierownik Projektu w Korpo produkującym software do samochodów autonomicznych. Decyzja podjęta.
Przez przejście. prawidłowo przechodzi wracająca z kina grupa słodkich przedszkolaków i przedszkolanką w ciąży.
Nadjeżdża, mające na pokładzie twoje moralne prawo, autko. Na drogę nagle wypada pokaźny łoś.
Alternatywy:
-[a]zderzenie z łosiem i śmierć 90-o letniego kierowcy
-[b]15 małych trupów na przejściu dla pieszych
Szef twojej firmy, wstaje rano i włącza kanał news....
To tylko kilka cytatów z "pasków". Badanie opinii publicznej wskazuje, że ludzie są wkurzeni i chcą krwi i głowy odpowiedzialnego. Akcje firmy pikują w dół.
Twój szef (nie lubi przepraszać) ratuje sytuację i na szybko zwołanej konferencji prasowej ogłasza, że przyczyną była ... twoja omyłkowa decyzja.
Wylatujesz.
Zawodowo i medialnie jesteś skończony.
Chcę Cię jednak uratować, więc proszę o inną propozycję rozwiązania problemu.
Nadal uratowałbym kierowcę.
Skoro kupił już moje auto za miliony dolarów to nie widzę powodu dla którego by miał zginąć. Jedynym słusznym moralnie wyjściem byłoby pozostawienie wyboru kierowcy np. przed wejściem do auta, kierowca lub decydent mówi czy w razie ryzyka kolizji, chce umrzeć na korzyść przeżycia innych czy woli sam przeżyć.
Wtedy komputer będzie prowadził zgodnie z jego wolą.
Mam złe wiadomości.
Jesteś w ... mniejszości :) Zrobiono eksperyment w tym temacie i 76% uczestników uważa, że należy poświęcić kierowcę/pasażera, gdy uratuje się 10 pieszych. 50% uczestników badań uratowałoby dwóch pieszych kosztem kierowcy...
Powiem Ci jeszcze, że zrobiono badania w różnych kręgach kulturowych i społecznych i zagadnieniu "wagonika" odpowiedzi były także zgodne...
Wniosek z powyższego jest taki: wszyscy mamy nieuświadomioną, bez związku z wychowaniem wdrożoną, "gramatykę moralną" - Próba badawcza to ponad 200 tysięcy osób (100 krajów ).
Też myślałem nad takim rozwiązaniem. Przed wejściem do TAXI musisz wygłosić "wyznanie wiary".
W głowie się nie mieści...
Zastanawiam się czy ktoś analizuje jaka część z głosujących ludzi myśli o tym, że kiedykolwiek mogą się stać właścicielami takiego pojazdu (ergo sami siebie widzą jedynie jako potencjalnych pieszych).
Ciekawie jak taka ankieta będzie się przedstawiać gdy 30, 40 lub 50% sprzedawanych samochodów będzie miało funkcję jazdy autonomicznej (w tym również samochody niższych klas dostępne dla wszystkich).
Ciekawe jak szybko przydarzy się sytuacja gdy algorytmy auta się pomylą i podejmą jakąś "moralną" decyzję w sytuacji gdy to wcale nie będzie potrzebne (i zamiast zacząć normalny proces hamowania skierują auto na drzewo).
Ciekawe czy będą w salonach do wyboru auta z opcją wysokiej empatii wobec pieszych i duuużo, dużo droższe z opcję empatii wobec kierowcy i pasażerów :-).
Będziesz dopłacał za pakiet "egoista" :)
Dla wyczynowców będzie opcja " RS carmageddon"
I specjalny przycisk "z tyłu siedzi teściowa".
Zamieszczam ten komentarz tym razem we właściwym miejscu:
Ja to widzę w trochę innym kontekście.
"Auta bezzałogowe" (AB) to dla mnie bardzo dobry przykład wczesnych sytuacji, kiedy powoli będziemy musieli oddawać stery cywilizacji sztucznym inteligencjom (SI). Wypadkowość ludzkich kierowców jest bez porównania wyższa, niż wypadkowośc nawet tych bardzo wczesnych wersji AB, jakie w tej chwili jeżdżą po drogach... Mimo to trwa ogólnoświatowa masakra na drogach, w kontekście której dylematy, o których piszesz wydają mi się, jakby to powiedzieć.... do wzięcia pod uwagę w drugiej kolejności?
Zabić jednego czy sześciu, dylematy wagonika i inne? To moim zdaniem wyjątkowe, dwuznaczne sytuacje, jakich wydarzy się na świecie kilkadziesiąt, kilkaset rocznie? Dlaczego zaczynać od wyjątków? Zasada jest inna. Zasadą są miliony zabitych, kalek i rannych co roku, co roku, co roku - więcej niż na wszystkich wojnach i przy napadach bandytów razem wziętych. Więc chyba moralne będzie oddanie SI kontroli nad AB, a zatem nad ruchem w miastach, a zatem po trochu - nad organizmem zwanym społeczeństwem...
Miliony uratowanych, warto chyba? Będzie trochę niesprawiedliwości, także. Ale ile zdrowia i życia ocaleje...
Liczby.... Tak właśnie AI przejmie kontrolę nad ruchem drogowym. A potem to samo w innych dziedzinach, w miarę jak statystyki pokażą, że SI mogłaby nam pomóc uniknąć kolejnych nieszczęść...
Czy sztuczna inteligencja może być bardziej moralna niż jej stwórca?
Z jednej strony szukamy niewolnika, który ułatwi nam życie, z drugiej oczekujemy, że SI będzie kolejnym ogniwem ewolucji. Człowiek stopi się z nią jako cyborg, albo SI całkowicie zastąpi człowieka.
Nie jestem etykiem, ale według mnie, odpowiedź brzmi TAK.
W pytaniu
generalizujesz. Nie znam konkretnego twórcy i konkretnej SI.
Wiem, że konkretny człowiek wykazał się większym poświęceniem i empatią niż nasi Kreatorzy niszczący cały wadliwy produkt nieprzemyślanego eksperymentu.
Rodzina Ulmów, Kolbe mogą być przykładami nieskazitelnej moralności.
SI obdarzona wolną wolą będzie także podejmować decyzje według własnych osądów.
Może w wyniku własnych przemian, stworzy autorski, lepszy od naszego system wartości...
Tak, wiem. Było to pytanie o możliwość, o zasadę.
Zarówno może nas przewyższyć moralnością jak i równie dobrze przebić jej brakiem. To tak jak pytanie o własne dzieci gdy czekamy na ich narodziny. Jakie będą? Nie jest powiedziane, że muszą być od nas mądrzejsze.
Też miałem podać ten przykład. Dziecko złego człowieka może być zmotywowane do naprawy grzechów swego rodzica.
Są dzieci zbrodniarzy niemieckich, które stały się rzecznikami pojednania. Jest np. pastor:
http://www.gloswielkopolski.pl/artykul/1009941,ojciec-byl-esesmanem-syn-jest-pastorem-i-modli-sie-z-zydami-werner-oder-w-poznaniu,id,t.html
Oczywiście. Może. Ale i nie musi. Może też przesiąknięte brakiem moralności nie wykształcić jej w sobie. Może na tym między innymi polega ten eksperyment, na obserwacji zależności rozwoju lub zaniku moralności.