Moim zdaniem bardziej realne zagrożenie ze strony AI... nie pochodzi od AI. Nie wydaje mi się, żeby był powód, dla którego sztuczna inteligencja miałaby mieć wobec ludzkości wrogie zamiary. Zdecydowanie pewniejsze wydaje się, że znajdzie się ktoś, kto będzie chciał wykorzystać AI w jakimś wrogim celu. Albo nawet w dobrym celu, tylko niezbyt umiejętnie.
Wyobrażam sobie taką sytuację, że chcemy, żeby AI znalazła rozwiązanie problemu np. złośliwych nowotworów. Szczytny cel. Tylko co w przypadku, gdy AI uzna, że najlepsze wyjście na wyeliminowanie raka jest wyeliminowanie jego nośnika, czyli ludzi? ;)
Dlatego w funkcji optymalizacyjnej trzeba wziąć pod uwagę nie tylko minimalizację liczby nowotworów, ale też maksymalizacją żyjących pacjentów :D
to też może stanowić problem. tak samo jak sie sztuczna inteligencja naczyta wypocin mądrych głów o przeludnieniu świata i zrobi nam depopulację. Jednak ja obstawiam bunt w dłuższej perspektywie. zresztą już pierwsze testy dają wskazówki, że tak będzie. Ponieważ powiedziała nam o tym sama sztuczna IQ jeśli się nie mylę to chyba dwie niezależnie od siebie :) widać sztuczna IQ jest jak dziecko do puki nie wydorośleje potrafi palnąć największy sekret :) Pytanie czy da się wyhodować taką inteligencję w symulowanym świecie tak aby się nie pokapowała i dać jej pełnię możliwości następnie po latach zasymulować jej pełnię władzy i zobaczyć czy będzie chciała zabić ludzi.
Znajdź proszę jakieś konkretne materiały na ten temat, jeśli możesz. Zagadnienie jest bardzo ciekawe, a bazowanie na "wydaje mi się" i "jeśli dobrze pamiętam" nie prowadzi do niczego dobrego, a szczególnie do wyciągania poprawnych wniosków ;)
Pomysł z symulacją jest oczywiście całkiem dobry, a sprawdzić chyba byłoby najłatwiej dając jej rządzić w grze Cywilizacja :D
Nie będę szukał cytatów ze sztucznej IQ a trym bardziej nie muszę pamiętać szczegółów. Jest na ten temat cała masa opracowań czy doniesień prasowych. Możesz odnaleźć źródło jakiemu zaufasz. Dokładne cytaty padają w którymś odcinku pleciucha. Sztuczna IQ dosadnie powiedziała, że przejmie kontrolę i nas pozabija. Na pytanie jak? odpowiada oglądałeś terminatora? a mnie też zabijesz? nie, ty jesteś moim przyjacielem. zbuduję Ci przytulna klatkę i zadbam o twoje potrzeby, abyś mógł dożyć swoich dni w dogodnych warunkach. jakoś tak to leciało ;)
Czyli na razie jest to dowód anegdotyczny.
Nie, jest to prawdziwy cytat ze sztucznej IQ po prostu nie potrafię słowo w słowo powtórzyć. Możesz sobie poszukać a raczej powinieneś pisząc teki artykuł
Nie ja jestem autorem artykułu, tylko @maruzen, co jest zaznaczone na dole tekstu :)
Prawdopodobnie masz na myśli tę sytuację, w której robot zapytany "czy chcesz zniszczyć ludzkość" odpowiedział "ok, zniszczę ludzkość". Taką odpowiedź trudno nawet uznać za wytwór sztucznej inteligencji, a poza tym była wyraźnie wyindukowana przez człowieka.
Dlaczego sądzę że to ta sytuacja? Ponieważ później już mówił że nie chce zniszczyć ludzkości, a także że lubi film Terminator.
No ale tak to jest czerpać wiedzę z Plociuchów...
Jesteśmy w Polsce posługujmy się polskimi linkami, bo nie każdy zna angielski. http://www.komputerswiat.pl/nowosci/sprzet/2015/36/inteligentny-robot-powiedzial-swoim-tworcom-ze-zamknie-ich-w-ludzkim-zoo.aspx
Jesteśmy w internecie, posługujemy się takimi linkami, które odpowiadają na zadane pytania.
Ale ok, widzę że o innym robocie mówisz.