Często pojawiają się tutaj wpisy dotyczące sztucznej inteligencji i rozwoju techniki, tego jak zmienia nasze życie, ale też jakie zagrożenie może dla nas stanowić gdy uzna, że jesteśmy niepotrzebni. Dzisiaj chcę ugryźć temat z drugiej strony - jakie zagrożenie stanowi ludzkość dla świadomej elektroniki?

Na początek przytoczę definicję świadomości z Wikipedii:

 Świadomość – podstawowy i fundamentalny stan psychiczny, w którym jednostka zdaje sobie sprawę ze zjawisk wewnętrznych, takich jak własne procesy myślowe, oraz zjawisk zachodzących w środowisku zewnętrznym i jest w stanie reagować na nie (somatycznie lub autonomicznie).

Roboty potrafią już uczyć się i reagować na różne czynniki, nie posiadają jednak własnych myśli, osobowości. Program nie poczuje miłości, strachu ani cierpienia. Jest jedynie zbiorem reakcji na dany bodziec. Uczenie się w przypadku maszyny polega na znalezieniu najlepszej strategii do danej sytuacji i dopasowywanie jej na zasadzie akcja-reakcja. Często wykorzystuje się to w grach (szachy, Dota 2, Cywilizacja). Na początku zachowanie takiego bota porównywalne jest do małpy przed klawiaturą, będzie wykonywać bezsensowne akcje, strzelać do sojuszników itp. W miarę kolejnych starć będzie poznawać i testować kolejne możliwe zachowania tak aby znaleźć te dające zwycięstwo i porzucić kończące się porażką. Stanowi to więc swoistą ewolucję. Jednakże bot wciąż pozostanie tylko programem niemogącym wytworzyć własnych nawyków nie przekładających się bezpośrednio na zwycięstwo. Nie będzie miał osobowości. 

Czy aby na pewno?
Problem określenia tego czy dany podmiot posiada świadomość wiąże sie z problemem obserwatora. Nie możemy sami doświadczyć tego co czuje obiekt, możemy jedynie go badać i na tej podstawie osądzić czy jest świadomy czy nie. Nie ma tutaj jednak nigdy pewności czy nie jesteśmy oszukiwani. Alan Turing w tym celu opracował test, zwany Testem Turinga, polegający na konwersacji człowieka z programem, podczas którego osoba ma ocenić czy rozmawia z maszyną. Test był już wielokrotnie zaliczany przez roboty które przecież nie posiadały świadomości, symulując ją tylko. Ale to wystarczyło.

Maszyna żyje?
Temat świadomości maszyn jest obszerny i pełen sprzecznych stanowisk. Wchodzi on na obszary religii, fizyki kwantowej. To wciąż terra incognita na która jednakże coraz śmielej się zapuszczamy. Muszę więc poczynić pewne założenie na potrzeby tego artykułu: Programy mogą być samoświadome. 

Uwaga! W dalszej części wpis zawiera spoilery z 1 odcinka czwartego sezonu serialu Black Mirror.

Sadystyczny bóg
Black mirror przyzwyczaiło nas do eksperymentów z świadomością przenoszoną do komputera. W odcinku USS Callister widzimy zdolnego ale wycofanego z życia programistę. Nie jest on szanowany przez pracowników, chociaż jest współzałożycielem firmy. Wraz z przyjacielem stworzył popularną grę online, wykorzystującą zaawansowaną VR gdzie gracze wcielają się w pilotów gwiezdnych statków. Po godzinach wciela się w kapitana statku we własnej singlowej wersji gry inspirowanej uniwersum Star Treck. W świecie tym żyją postaci będące awatarami jego współpracowników, byłoby to jeszcze do zaakceptowania gdyby nie to, że posiadają one samoświadomość a gra stanowi więzienie w którym jedynym marzeniem jest śmierć. Kapitan nie jest dobrą osobą. Jawi się jako egocentryk, z boską mocą, boleśnie dławiący jakąkolwiek próbę oporu wobec siebie. Pomijany w realnym świecie, tutaj może realizować wszelkie fantazje, sprawiać, że awatary będą cierpiały katusze dla jego własnej przyjemności lub gdy nie będą posłuszne.

Realne zagrożenie?
Wizja ta jest przerażająca ale zrealizowana została, myślę i tak w lekki sposób. W takim systemie co stoi na przeszkodzie aby zbudować własny harem czy obóz śmierci?  Ograniczeniem jest tylko (chora) wyobraźnia. W pewien sposób już to się dzieje. O ile tworzenie kontrowersyjnych gier często wiąże sie z mocną cenzurą, tak powszechne są modyfikacje już istniejących produkcji pozwalające rozebrać bohaterkę, dodające animacje tortur. Usprawiedliwieniem jest to, że w grze nikogo nie krzywdzimy ale uważam, że możliwość interakcji z samoświadomym programem byłaby zachętą a nie zniechęceniem.

Gumowa kochanka
Sprawa nie dotyczy też przestrzeni wirtualnej. Nie ma żadnych ograniczeń przed tym aby taką świadomość zainstalować w robotycznym konstrukcie.Będzie to bardzo kontrowersyjne bo już teraz podnosi się już głosy sprzeciwu np. w stosunku do sex-lalek z funkcją gwałtu (https://noizz.pl/nauka-i-technologia/seks-roboty-z-funkcja-gwaltu-i-lalki-dla-pedofilow-czy-to-naprawde-moze-pomoc/9dpejen)
Polecam przy tym ten kilkuminutowy film (nsfw)

Może się wydawać, że są to odległe problemy. Nic bardziej mylnego, roboty już teraz otrzymują obywatelstwa (https://www.tvn24.pl/wiadomosci-ze-swiata,2/arabia-saudyjska-pierwszy-robot-humanoidalny-otrzymal-obywatelstwo,784889.html) więc kwestią czasu będzie dyskusja nad przyznaniem im praw i ochrony. Czy jest to krok do wzajemnej egzystencji czy też droga ku zagładzie naszego gatunku? Zapraszam do dyskusji.

50% SBD z tego postu zostanie przeznaczone na adopcję na odległość dziecka z Afryki (https://steemit.com/polish/@barbarossastudio/niech-steemit-dokona-cudu-na-swieta)