RE: Przyczynek do dyskusji o moralności systemów SI.
Wydaje mi się, że to błąd parzyć w ten sposób na sieci neuronowe - jak na sztuczną inteligencję. To tylko software. Wrzuca się coś na wejście i na wyjściu coś wypada.
Owszem, pod wieloma względami jest to rewolucyjna technologia. Moim zdaniem jednak do samoświadomej SI sieciom neuronowym jest bardzo, bardzo daleko. I nie chodzi mi o to, że zaczynasz tę dyskusję za wcześnie, że to i tak tylko kwestia czasu. Raczej chodzi mi o to, że coraz częściej mi się wydaje, że samoświadoma SI nie jest w ogóle możliwa. Przynajmniej nie na matematyce i architekturze tych komputerów i tej elektroniki. Nie wiem jeszcze co myśleć o komputerach kwantowych (pod kątem ewentualnego budowania SI na nich). Oczywiście to są tylko spekulacje kogoś, kto nie jest specjalistą od SI tylko ma jakieś tam przemyślenia.
O tym właśnie jest ten artykuł. System podejmując decyzję, musi podjąć często decyzję moralną.
Zwykły programista nie rozumie po co i dlaczego... Tu jest wyrwa. Tworzy coś co nie powinno nigdy powstać.
Będzie kolejny artykuł z konkretnym przykładem z życia. Sam przyłożysz się do tworzenia nowych praw moralnych dla algorytmów SI...
Serio.
Jak już przeczytałeś dyskusja zaczęła się daaaaawno temu.
Jednak podejmujemy próby nie mając zbioru zasad. Nie jesteśmy gotowi.
Tak było z automobilami. Każdy robił co chciał na początku, dopiero później dorobiono kodeks drogowy...
Tutaj budujemy coś co może nas przerosnąć, nie mając określonych reguł.
Skrajna nieodpowiedzialność.
A te aspekty mnie samego bardzo interesują i o nich sam planuję coś kiedyś napisać. Byleby tylko czas znaleźć.
Trochę tak jest. I tak zawsze właśnie wyglądała rewolucyjna innowacja. Chaos i wolna amerykanka. Zastanawiam się czy to nie jest konieczne. Spróbuj ją ograniczać, tworzyć reguły, bariery i zaraz się może okazać, że innowacja się skończy.
W tym poście https://steemit.com/tematygodnia/@lugoshi/tematygodnia-8-kult-cargo-czy-jestesmy-sami-w-kosmosie
widać czym zakończyła się rewolucyjna innowacja.
Klapą.
Eksperymentatorzy złamali wszelkie reguły i musieli zniszczyć bałagan, który stworzyli.