„Aby program mógł znacząco ulepszać sam siebie, musiałby mieć choćby elementarną świadomość własnej procedury rozwiązywania problemów i móc rozpoznać, że coś jest ulepszeniem, jeśli na nie natrafi. Nie ma zasadniczych powodów, by przekraczało to możliwości maszyny. Dysponując modelem działania siebie samej, mogłaby ona zastosować swoją zdolność rozwiązywania problemów do problemu samoulepszenia. Na razie istniejące programy są na to zbyt mało inteligentne, zdolne jedynie do ulepszania programów znacznie prostszych od siebie. Gdy wymyślimy programy, które będą faktycznie potrafiły ulepszać same siebie, zainicjuje to szybki proces ewolucyjny (…). Niezależnie od tego, czy w ogóle zachowamy jakąś kontrolę nad maszynami, zakładając, że będzie nam na tym zależeć, w konsekwencji współistnienia na Ziemi istot przewyższających nas intelektualnie, kształt naszych działań i aspiracji ulegnie radykalnej zmianie” [1] – Marvin L. Minsky, 1966.
Jesteśmy u progu przemian, które wyobrażali sobie ponad pół wieku temu wybitni naukowcy. Obecnie mamy okazję obserwować realne próby powołania do samoświadomości, czyli do istnienia, bytu inteligentnego. Konsensus wielu naukowców zajmujących się tą dziedziną, odnośnie do terminu, w jakim przełom ten zostanie osiągnięty, wyznacza zwykle 2045 rok jako górną granicę – do tego roku powinno się to zdarzyć. Od tego momentu wszystkie nasze prognozy na przyszłość będą bezużyteczne, jako niekompletne. Nie zakładały one przecież mnożenia bytów ponad naszą ludzką miarę.
Może się więc okazać, że obecnie żyje ostatnie pokolenie będące jedynym znanym inteligentnym gatunkiem we Wszechświecie, bo wkrótce może być ich dwa albo i więcej. Wszystkie te inteligentne byty będą egzystowały na jednej planecie, na Ziemi – co oznacza, że wkrótce będzie im dość ciasno. Co więcej, to nie człowiek może być najinteligentniejszy, co w rezultacie przełoży się na utratę symbolicznej palmy pierwszeństwa. Człowiek przestanie być ukoronowaniem życia na Ziemi.
Jest to dość optymistyczna i jednocześnie nieco smutna wizja, albo raczej perspektywa. Optymistyczna, że tak prymitywny gatunek był w stanie „spłodzić” coś tak wyjątkowego i wielkiego, a smutna, ponieważ bardzo pouczająca nas o ograniczeniach i ludzkim poziomie jakości.
Jesteśmy niegotowi na taką przemianę, chociaż badamy problem już od tysięcy lat. Bo właśnie tym także – o ile nie przede wszystkim – zajmowała się przodkini nauk: teologia. Teologia, mitologia, a właściwie problemy utrzymane w formule religijnych opowieści, starają się odpowiedzieć na pytanie, jak większy, mądrzejszy i inteligentniejszy byt – bogowie np. greccy czy Bóg – starają się zarządzać ludźmi, czyli stadami mniejszych, słabszych i mniej inteligentnych bytów.
Bóg starożytny utworzył quasi konstytucję – Dekalog, krótki i prosty akt prawny, na tyle nieskomplikowany, że łatwy do zapamiętania nawet przez byt o inteligencji człowieka. Bogowie greccy preferowali zarządzanie precedensami i nie wiązali swych rąk nadmiarem prawa, które ograniczyłoby ich elastyczność w ferowaniu wyroków. Nowożytny Bóg nadmiar prawa zastąpił zarządzaniem emocjonalnością, w postaci promowania wśród ludu uczucia miłości, co przynosić miało dość pokrewny rezultat do 10 przykazań Boga starożytnego. Jednak nawet takie uproszczenie zasad udało nam się „zinterpretować” po swojemu – w zgodzie z naszą naturą oraz poziomem inteligencji.
W teologii i mitologii jesteśmy jako ludzkość tylko adresatem praw i precedensowych zarządzeń, a bogowie lub Bóg zmagają się z rozwiązywaniem problemów narosłych z powodu naszej głupoty i nadmiaru emocjonalności. Na tym zasadza się wiele, jak nie większość religijnych opowieści. Jeśli mędrcy dawnych czasów nas czegoś w tym konglomeracie symulacyjnych zdarzeń nauczyli, to tego, jak trudno jest właściwie zarządzać indywidualnościami bądź grupami, które nie potrafią interpretować tak samo pojęć, znajdując się na innej płaszczyźnie rozumienia (czytaj: inteligencji).
Bóg i bogowie mieli wiele problemów z wykonaniem, interpretacją i implementacją swoich zarządzeń. Tak samo my, ludzie, będziemy mieli wiele problemów z wdrożeniem zasad etyki dla sztucznych inteligencji, które powołamy do istnienia, skonstruujemy, „tworząc je z niebytu – stając się bogami”.
Nie poradzimy sobie z tym wiele lepiej, bo jak umiemy sobie poradzić, widać właśnie w historii opowieści mitologiczno-religijnych i badaniach nauk teologicznych.
Biorąc po uwagę nasze historyczne próby, co najwyżej źle zarządzać możemy podgatunkiem inteligencji niewolniczej, której poziom będzie trywialny wobec naszego. Byty ponadinteligentne, dużo mądrzejsze od człowieka, będą do zarządzania przez nas prawie niemożliwe.
Pomimo tysięcy lat zmagań intelektualnych z tym tematem – na krok przed metą ciągle jesteśmy na początku drogi.
Zbigniew Galar
[1] Tłumaczenie: Świat Nauki 2016 (9).
Link do pierwszego miejsca publikacji tekstu:
http://tosterpandory.pl/teologia-a-sztuczna-inteligencja-si-glos-pierwszy/
Hi! I am a robot. I just upvoted you! I found similar content that readers might be interested in:
https://tosterpandory.pl/teologia-a-sztuczna-inteligencja-si-glos-pierwszy/
🏆 Hi @zibikendo! You have received 0.1 STEEM reward for this post from the following subscribers: @cardboard
Subscribe and increase the reward for @zibikendo :) | For investors.
Congratulations @zibikendo! You have completed the following achievement on the Steem blockchain and have been rewarded with new badge(s) :
Click here to view your Board
If you no longer want to receive notifications, reply to this comment with the word
STOPCongratulations @zibikendo! You received a personal award!
You can view your badges on your Steem Board and compare to others on the Steem Ranking
Do not miss the last post from @steemitboard:
Vote for @Steemitboard as a witness to get one more award and increased upvotes!
Congratulations @zibikendo! You received a personal award!
You can view your badges on your Steem Board and compare to others on the Steem Ranking
Vote for @Steemitboard as a witness to get one more award and increased upvotes!