Smutnym pocieszeniem z historycznego punktu widzenia jest to, że algorytmy komputerowe, które będą nami kierować mogą nie różnić się aż tak bardzo od "algorytmów kulturowych" czyli różnych idei, jakie wymyślamy od zawsze, aby się organizować w klany, religie, państwa. Te idee często wymykają się nam spod kontroli, zaskakując nas, często tworząc różne monstra... Organizatorzy rewolucji francuskiej, co zginęli na gilotynie.... wcześni komuniści, uznani za zdrajców klasy robotniczej i pozabijani przez stalinistów.... I mój ulubiony przykład: historyczny Jezus, co chciał zreformować judaizm przed końcem świata, a jego idee stały się podstawą innej religii, antyjudaistycznej....
Moim zdaniem nigdy za bardzo nie mieliśmy kontroli nad naszymi tworami kulturowymi i często zabierały nas one w dziwne, niespodziewane miejsca... To nowy, być może nieco bardziej dramatyczny etap tej samej historii....
od razu antyjudaistycznej i od razu zreformować... No już trudno:D
A po drugie:
wiem że sie powtarzam, ale w rozważaniach nad AI serio, malo kto docenia wpływ atawizmów na agresywność wybieranych rozwiązań. Wykorzystujemy przemoc, jako "formę dyplomacji", ponieważ czujemy strach przed tym, że ktoś ograniczy nam realizacje funkcji życiowych, które chcemy realizować, ponieważ tak każą nam hormony. Drugą motywacją jest przyjemność z łowiectwa, również umotywowana odpowiednim koktajlem chemicznym. Te mechanizmy odnajdują się w skali makro bo jesteśmy stadni, jednak do wojen prowadzą nas portrzeby usytuowane zwykle na podstawie piramidki Maslowa (wiem, że są wojny religijne, ale zastanówmy się czy by się one udały, gdyby członkom armii zaczepnej akurat było fajnie w życiu?)
Nie jestem do końca przekonany, czy pełne AI musi być zbudowane na nasz obraz i podobieństwo, razem z tymi wszystkimi rdzeniowymi reakcjami, które nas zmuszają do ostatecznych rozwiązań. Nie wiem, czy taki ktoś, będzie odczuwał strach, będzie oceniał swoją egzystencję jako wartościową, czy doceni rolę reprodukcji i czy w ogóle będzie czuł jakąkolwiek namiętność. Jak ma się to opłacać nam - twórcom, gdy będziemy jeszcze mieli na to wpływ? Wreszcie, nie jestem pewien, czy taki "czysty intelekt", który będzie miał już pełnie władzy nad swoim kształtem i dalszym rozwojem wybierze akurat takie apgrejdy, które upodobnią go do nas. Bardziej logiczny od agresji wobec swoich "rodziców" wydaje mi się jakiś rodzaj symbiozy, czy pasożytnictwa. Choćby z tego powodu, że każdy napotkany stracony czy zabity zasób (wszystko jest zasobem, ludzie też) byłby marnotrawstwem jego skończonej ilości - zwykłą niegospodarnością.
"czy pełne AI musi być zbudowane na nasz obraz i podobieństwo"
Ja jestem prawie pewny, że nie będzie takie. AIs będą kształtowane przez zadania, do jakich je przeznaczymy, a później same będą się przeznaczać. Przez miejsca, w których będą rozwijane, modyfikowane, ulepszane. To już nawet teraz tylko po części ludzka działalność...
Mogą w efekcie powstać lepsze od nas, bardziej warte tej niezwykłej planety.... Kto wie?
Wydaje się że nie ma innaj alternatywy. AI musi się uczyć od człowieka bo to on ją zapoczątkował. To oznacz że AI będzie dążyć do panowania nad człowiekiem. Jako przykład podam tu projekt Microsoft i Twittera https://www.theverge.com/2016/3/24/11297050/tay-microsoft-chatbot-racist