You are viewing a single comment's thread from:

RE: Przyczynek do dyskusji o moralności systemów SI.

in #polish7 years ago

Wydaje mi się, że to błąd parzyć w ten sposób na sieci neuronowe - jak na sztuczną inteligencję. To tylko software. Wrzuca się coś na wejście i na wyjściu coś wypada.
Owszem, pod wieloma względami jest to rewolucyjna technologia. Moim zdaniem jednak do samoświadomej SI sieciom neuronowym jest bardzo, bardzo daleko. I nie chodzi mi o to, że zaczynasz tę dyskusję za wcześnie, że to i tak tylko kwestia czasu. Raczej chodzi mi o to, że coraz częściej mi się wydaje, że samoświadoma SI nie jest w ogóle możliwa. Przynajmniej nie na matematyce i architekturze tych komputerów i tej elektroniki. Nie wiem jeszcze co myśleć o komputerach kwantowych (pod kątem ewentualnego budowania SI na nich). Oczywiście to są tylko spekulacje kogoś, kto nie jest specjalistą od SI tylko ma jakieś tam przemyślenia.

Sort:  

Wydaje mi się, że to błąd parzyć w ten sposób na sieci neuronowe - jak na sztuczną inteligencję. To tylko software. Wrzuca się coś na wejście i na wyjściu coś wypada.

O tym właśnie jest ten artykuł. System podejmując decyzję, musi podjąć często decyzję moralną.
Zwykły programista nie rozumie po co i dlaczego... Tu jest wyrwa. Tworzy coś co nie powinno nigdy powstać.
Będzie kolejny artykuł z konkretnym przykładem z życia. Sam przyłożysz się do tworzenia nowych praw moralnych dla algorytmów SI...
Serio.

I nie chodzi mi o to, że zaczynasz tę dyskusję za wcześnie, że to i tak tylko kwestia czasu.

Jak już przeczytałeś dyskusja zaczęła się daaaaawno temu.

Raczej chodzi mi o to, że coraz częściej mi się wydaje, że samoświadoma SI nie jest w ogóle możliwa.

Jednak podejmujemy próby nie mając zbioru zasad. Nie jesteśmy gotowi.
Tak było z automobilami. Każdy robił co chciał na początku, dopiero później dorobiono kodeks drogowy...
Tutaj budujemy coś co może nas przerosnąć, nie mając określonych reguł.
Skrajna nieodpowiedzialność.

O tym właśnie jest ten artykuł. System podejmując decyzję, musi podjąć często decyzję moralną.

A te aspekty mnie samego bardzo interesują i o nich sam planuję coś kiedyś napisać. Byleby tylko czas znaleźć.

Tutaj budujemy coś co może nas przerosnąć, nie mając określonych reguł.
Skrajna nieodpowiedzialność.

Trochę tak jest. I tak zawsze właśnie wyglądała rewolucyjna innowacja. Chaos i wolna amerykanka. Zastanawiam się czy to nie jest konieczne. Spróbuj ją ograniczać, tworzyć reguły, bariery i zaraz się może okazać, że innowacja się skończy.

W tym poście https://steemit.com/tematygodnia/@lugoshi/tematygodnia-8-kult-cargo-czy-jestesmy-sami-w-kosmosie
widać czym zakończyła się rewolucyjna innowacja.
Klapą.
Eksperymentatorzy złamali wszelkie reguły i musieli zniszczyć bałagan, który stworzyli.

Coin Marketplace

STEEM 0.17
TRX 0.15
JST 0.028
BTC 56714.19
ETH 2341.70
USDT 1.00
SBD 2.37