RE: Przyczynek do dyskusji o moralności systemów SI.
Wydaje mi się, że to błąd parzyć w ten sposób na sieci neuronowe - jak na sztuczną inteligencję. To tylko software. Wrzuca się coś na wejście i na wyjściu coś wypada.
O tym właśnie jest ten artykuł. System podejmując decyzję, musi podjąć często decyzję moralną.
Zwykły programista nie rozumie po co i dlaczego... Tu jest wyrwa. Tworzy coś co nie powinno nigdy powstać.
Będzie kolejny artykuł z konkretnym przykładem z życia. Sam przyłożysz się do tworzenia nowych praw moralnych dla algorytmów SI...
Serio.
I nie chodzi mi o to, że zaczynasz tę dyskusję za wcześnie, że to i tak tylko kwestia czasu.
Jak już przeczytałeś dyskusja zaczęła się daaaaawno temu.
Raczej chodzi mi o to, że coraz częściej mi się wydaje, że samoświadoma SI nie jest w ogóle możliwa.
Jednak podejmujemy próby nie mając zbioru zasad. Nie jesteśmy gotowi.
Tak było z automobilami. Każdy robił co chciał na początku, dopiero później dorobiono kodeks drogowy...
Tutaj budujemy coś co może nas przerosnąć, nie mając określonych reguł.
Skrajna nieodpowiedzialność.
A te aspekty mnie samego bardzo interesują i o nich sam planuję coś kiedyś napisać. Byleby tylko czas znaleźć.
Trochę tak jest. I tak zawsze właśnie wyglądała rewolucyjna innowacja. Chaos i wolna amerykanka. Zastanawiam się czy to nie jest konieczne. Spróbuj ją ograniczać, tworzyć reguły, bariery i zaraz się może okazać, że innowacja się skończy.
W tym poście https://steemit.com/tematygodnia/@lugoshi/tematygodnia-8-kult-cargo-czy-jestesmy-sami-w-kosmosie
widać czym zakończyła się rewolucyjna innowacja.
Klapą.
Eksperymentatorzy złamali wszelkie reguły i musieli zniszczyć bałagan, który stworzyli.