Rewolucja w SI: Droga ku superinteligencji

 22.01.2015 Tim Urban

http://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html

Przypis: Powodem dla którego pisanie tego postu zajęło mi aż trzy tygodnie był brak mojej wiary temu co czytam, w miarę stopniowego wczytywania się w znalezione materiały. Dosyć szybko dotarło do mnie, iż to, co dzieje się w świecie SI jest nie tylko ważną, lecz zdecydowanie najważniejszą kwestią dla naszej przyszłości.  Pragnąłem dowiedzieć się więc jak najwięcej na ten temat, a kiedy już to zrobiłem, chciałem się upewnić, że napisałem post który rzeczywiście wyjaśnia całą sytuację i jej wagę. Nie jest więc szokujące, że stało się to niezwykle długie, więc podzieliłem to na dwie części. To jest część 1—część 2 jest tutaj.

_______________

Stoimy w obliczu zmian, porównywalnych jedynie do ewolucji ludzkiego życia na ziemi. — Vernor Vinge

Co dokładnie oznacza stanie właśnie tam?

 

Miejsce to wygląda bardzo przełomowo— musimy jednak uświadomić sobie, jak to jest być umieszczonym na wykresie czasowym- nie spostrzegamy tego, co znajduje się na prawo od nas. Poniżej zobrazowałem więc, jakie to uczucie w rzeczywistości:

 

Prawda że o wiele zwyczajniej?

_______________

Odległa przyszłość—Coming Soon

Przenieśmy się w czasie do roku 1750— czasów, kiedy świat znajdował się w stanie permanentnego deficytu energii, komunikacja długodystansowa oznaczała jedynie krzyki lub strzelanie działem w powietrze, a paliwem dla przemysłu transportowego było siano. Zaraz po wylądowaniu, porywamy przypadkowego przechodnia, przynosimy go do 2015 roku, następnie idziemy z nim na spacer i obserwujemy jego reakcje na wszystko dookoła niego. Nie jesteśmy w stanie sobie wyobrazić czym dla niego jest zobaczenie lśniących kapsuł ścigających się po autostradzie, rozmawianie z ludźmi będącymi jeszcze rano po drugiej stronie oceanu, oglądanie zawodów sportowych odbywających się 1000 km od nas, słuchanie koncertu mającego miejsce 50 lat wcześniej, bawienie się moim magicznym prostokątem którego mógłby użyć do uchwycenia obrazu rzeczywistości czy zachowania odbywającego się właśnie wydarzenia, wygenerowanie mapy z paranormalną niebieską kropką pokazującą gdzie się znajduje, spojrzenie na czyjąś twarz i rozmawianie pomimo faktu, iż są w całkiem innych częściach kraju oraz mnóstwo innej niepojętnej magii. Wszystko to zdarzy się zanim pokażemy mu internet i wyjaśnimy czym jest Międzynarodowa Stacja Kosmiczna, Wielki Zderzacz Hadronów, broń nuklearna, czy teoria względności.

Takie doświadczenie byłoby dla niego nie tylko zaskakujące, szokujące czy oszałamiające- takie słowa nam nie wystarczą. Ta osoba mógłaby w zasadzie umrzeć.

Napotykamy tutaj pewny interesujący fakt—załóżmy, że człowiek z roku 1750 wróciłby do swoich czasów i zapragnął pod wpływem zazdrości obserwować takie same reakcje jakim został poddany. Skierowałby swe kroki ku wehikułowi czasu, cofnął o taki sam dystans, zabrał kogoś z roku 1500 i zaprezentował swój świat. Człowiek z roku 1500 niewątpliwie byłby oszołomiony, lecz z pewnością nie na śmierć. Takie doświadczenie byłoby dla niego znacznie mniej niezwykłe, ponieważ o ile lata 1500 i 1750 różniły się od siebie, o tyle są to różnice o wiele mniejsze niż te pomiędzy rokiem 1750 a 2015. Facet z roku 1500 nauczyłby się bzdur o fizyce i kosmosie, zaimponowałoby mu jak oddana swoim ideałom Europa stała się imperialnym kaprysem, zmieniłby swoje pojęcie na temat kształtu ziemi, lecz oglądanie życia codziennego roku 1750 przez pryzmat transportu, komunikacji, itp—z pewnością nie byłoby to powodem zawału serca.

Żeby facet z 1750 miał taki sam powód do satysfakcji, jaki my mieliśmy patrząc na niego, musiałby cofnąć się znacznie wcześniej- być może nawet prosto do roku 12000 przed naszą erą, kiedy rewolucja neolityczna wzniosła pierwsze miasta i idee cywilizacji. Gdyby ktoś z czysto zbieracko-myśliwskiego świata (czasów gdy ludzie byli -w dużym uproszczeniu- wyłącznie jednym z wielu gatunków zwierząt) ujrzał rozległe połacie imperiów z roku 1750, strzeliste wieże, międzyoceaniczne statki, ich myślenie na temat życia duchowego, czy stosu skumulowanej ludzkiej wiedzy i odkryć— byłby w stanie umrzeć.

Co jednak jeśli, po śmierci, on stał się zazdrosny, chcąc przeżyć to samo? Jeśli cofnąłby się 12 tysięcy lat do roku 24000 p.n.e., zabrał kogoś i pokazał mu wszystko z roku 12000 p.n.e., starszy kolega powiedziałby jedynie ,, ok, o co ci chodzi, kogo to interesuje”. Dla faceta z roku 12000 przed Chrystusem źródłem tych samych doznań byłoby sprowadzenie kogoś sprzed 100 tysięcy lat i pokazanie mu ognia i języka.

Aby ktoś przetransportowany w przyszłość mógł umrzeć od nadmiaru szoku któremu został poddany, musi przenieść się wystarczającą liczbę lat naprzód by osiągnąć “śmiertelny poziom postępu” lub Jednostkę Śmiertelnego Postępu (ang. Die Progress Unit). Używając więc tego określenia możemy określić DPU na ponad 100 tysięcy lat w przypadku ery zbieracko-łowieckiej, z kolei dla okresu postneolitycznego  wyniosło to jedynie 12 tysięcy lat. Postindustrialny świat ruszył do przodu tak bardzo, że wystarczy już wyłącznie kilkaset lat by osiągnąć DPU.

Ta właściwość—wzrost prędkości postępu człowieka w ramach upływu czasu— jest tym, co futurolog Ray Kurzweil nazywa prawem przyspieszających powrotów (Law of Accelerating Returns) ludzkiej historii. Bardziej zaawansowane społeczności posiadają zdolność do rozwoju w szybszym tempie niż mniej zaawansowane niejako właśnie dlatego, że są bardziej zaawansowane. Ludzkość w XIX w. dysponowała większa wiedzą i lepszą technologią niż XV-wieczna, więc nie jest niczym zaskakującym, że poczyniła większe postępy w wieku XIX niż XV—nieporównywalnie większe.

Możemy zaobserwować to również w mniejszej skali. Film Powrót do przyszłości wszedł do kin w 1985 roku, gdzie ,,przeszłością’’ był rok 1955. We filmie, Michael J. Fox zaskoczony był nowościami w telewizji, cenami napojów, brakiem sympatii dla przenikliwego dźwięku gitary elektrycznej i różnicy w slangach. To prawda, była to inna rzeczywistość- lecz jeżeli film nakręcony byłby dzisiaj, a przeszłością stałby się rok 1985, mielibyśmy dużo większy ubaw przez dużo większe różnice. Bohater znalazłby się w czasach przed komputerami osobistymi, internetem czy telefonami komórkowymi—dzisiejszy Martin McFly, nastolatek urodzony w późnych latach 90-tych znalazłby się w dużo bardziej obcym świecie niż filmowy McFly w 1955.

Jest to ta sama przyczyna którą omówiliśmy przed chwilą— prawo przyśpieszających powrotów. Średnie tempo wzrostu zaawansowania pomiędzy latami 1985 a 2015 było wyższe niż pomiędzy 1955 a 1985—ponieważ późniejszy przedział jest bardziej zaawansowanym światem—dużo więcej zmian zaszło w ciągu ostatnich trzech dekad niż podczas trzech dekad je poprzedzających.

Tak więc postęp staje się coraz większy a zachodzi przy tym coraz szybciej. Zapowiada się ciekawa przyszłość, prawda?

Kurzweil sugeruje, iż osiągnięcia całego XX wieku zostałyby dokonane w zaledwie 20 lat gdyby dysponowały tempem rozwoju z roku 2000—innymi słowy, zaraz przed rokiem milenijnym tempo rozwoju było 5 razy szybsze niż średnie tempo z całego XX wieku. Uważa on, że kolejne osiągnięcia rzędu całego XX wieku miały miejsce w latach 2000- 2014, a kolejne ludzkość będzie miała na swoim koncie przed 2021, w ciągu zaledwie siedmiu lat. Kilka dekad później, jak uważa futurolog, XX-wieczna skala postępu będzie osiągalna kilkukrotnie w ciągu tego samego roku, a jeszcze później, w przeciągu kilku miesięcy. Generalnie rzecz biorąc, mając ponadto na uwadze prawo powrotów Kurzweil wierzy, że XXI wiek osiągnie tysiąckrotnie poziom rozwoju wieku XX.

Jeżeli Kurzweil i jego zwolennicy mają racje, możemy spodziewać się zaskoczenia rokiem 2030, tak samo jak nasz kolega z roku 1750 zdumiony był rokiem 2015—następne DPU zaobserwujemy na przykład już za kilka dekad—a świat w 2050 może być w tak znacznej mierze różny od tego co znamy do tej pory, że ledwie będziemy w stanie go rozpoznać.

To nie science fiction. To coś, w co wielu znacznie mądrzejszych i dysponujących znacznie większa wiedzą niż my naukowców pokłada szczera wiarę—a kiedy spojrzymy na historię, to także coś, co powinniśmy logicznie przewidzieć.

Dlaczego więc, kiedy słyszymy mnie mówiącego rzeczy w stylu: ,,świat za 35 lat będzie całkowicie nie do poznania’’ myślimy ,,super… ale co?’’ Trzy powody przez które jesteśmy sceptyczni w stosunku do dziwacznych prognoz przyszłości:

1) Kiedy myślimy o historii, robimy w liniach prostych. Wyobrażając sobie postęp jaki nastąpi w ciągu kolejnych 30 lat, spoglądamy na postęp ostatnich 30 lat służący jako drogowskaz informujący nas, ile rzeczy prawdopodobnie się wydarzy. Myśląc o stopniu, do którego świat się zmieni w XXI wieku, dodajemy do roku 2000 postęp wieku XX. Ten sam błąd popełnił nasz kolega z roku 1750 próbując poruszyć w posadach światopogląd człowieka z 1500 roku w sposób, w jaki został poruszony jego własny przenosząc się o ten sam dystans. Najbardziej intuicyjnym sposobem myślenia jest dla nas myślenie liniowe, podczas gdy powinno być ono wykładnicze. Osoba zorientowana w tych sprawach mogłaby przewidzieć poziom zaawansowania najbliższych 30 lat nie patrząc na ostatnie trzy dekady, lecz biorąc pod uwagę obecny trend i oceniając na jego podstawie. Byłoby to bardziej trafne, lecz wciąż dalekie od właściwego. Aby poprawnie myśleć o przyszłości, musimy wyobrazić sobie rzeczy poruszające się znacznie szybszym tempem niż poruszają się obecnie. 

 

2) Trajektoria bardzo nieodległej przeszłości często zniekształca całościowy obraz. Po pierwsze, nawet stroma i wykładnicza krzywa wydaje się być linearną kiedy spojrzymy wyłącznie na jej mały wycinek, podobnie jak spoglądając na mały wycinek okręgu, wydaje się on nam linią prostą. Po drugie, wzrost wykładniczy również nie jest płynny i jednolity. Kurzweil doprecyzowuje, że postęp następuje w tzw. ,,S-krzywych’’:

S utworzone jest przez falę postępu, gdy nowy paradygmat przenika świat. Krzywa wędruje przez trzy fazy:

1. Powolny przyrost (wczesna faza wzrostu wykładniczego)
2. Szybki wzrost (późna faza, eksplozja wzrostu wykładniczego)
3. Stabilizacja, utrwalenie się danego paradygmatu.

Jeżeli spojrzymy wyłącznie na najbliższą przeszłość, część S-krzywej na której obecnie się znajdujemy może przysłonić nam obraz całościowego tempa zmian. Kawał czasu pomiędzy rokiem 1995 a 2007 pozwolił nam być świadkami powszechnego internetu, zapoczątkowanie publicznej świadomości co do firm takich jak Microsoft, Google i Facebook, narodziny sieci społecznościowych, jak również wprowadzenie telefonów komórkowych, później wypartych przez smartfony. Była to faza 2: dynamiczny zryw w kształcie S-krzywej. Lata 2008-2015 były jednakże znacznie mniej przełomowe, przynajmniej w kwestii technologii. Myśląc dzisiaj o przyszłości, można użyć ostatnich kilku lat jako wskaźnika obecnego tempa rozwoju, lecz cierpi na tym obraz całości. Tak naprawdę nowy, wielki wzrost dynamiki fazy 2 być może jest już gotowy.

3) Nasze własne doświadczenia robią nas upartymi co do przyszłości. Nasze wyobrażenia na temat świata budujemy na fundamentach własnych doświadczeń, a tempo, zakorzenione w naszych głowach, doświadczenia te odczytuje jako ,,taka-już-jest-kolej-rzeczy’’. Jesteśmy również ograniczani przez naszą wyobraźnię, kreującą nasze przewidywania na podstawie bagażu przeżyć— często wiedza ta nie daje po prostu wystarczających narzędzi aby myśleć precyzyjnie na temat przyszłości. Słysząc przywidywania na temat przyszłości, przeciwstawne naszym poglądom opartym na doświadczeniu, instynkt każe nam myśleć o nich jako o naiwnych. Jeśli powiem, w miarę pisania tego postu, że możemy żyć, powiedzmy, 150, 250 lat, lub nawet w ogóle nie umierać, instynkt odpowie: ,,to głupie! Jeśli jest jakaś rzecz którą pamiętam z historii, to to, że wszyscy umierają’’. Owszem, nikt z przeszłości nie zdołał przeżyć. Również nikt nie latał samolotem, zanim został wynaleziony.

Musimy wiedzieć, że czytając ten tekst, pytając się w myślach ,,ale cooo?’’, prawdopodobnie jesteśmy w dużym błędzie. Fakty są takie, iż myśląc wybitnie logicznie, oczekując kontynuacji trendów historycznych, powinniśmy dojść do konkluzji, że dużo, dużo, dużo więcej powinno się zmienić w nadchodzących dekadach niż jesteśmy w stanie się spodziewać. Logika również nakazuje sądzić, że jeśli najbardziej zaawansowane gatunki na planecie stale będą stale robiły coraz większe skoki przy coraz szybszym tempie, w pewnym momencie oddalą się tak bardzo, iż kompletnie zmieni to ich postrzeganie człowieczeństwa i życia jakie znali do tej pory—coś w rodzaju skoków gatunku ludzkiego ku inteligencji, gdy w końcu poczyniono skok tak wielki, że nie przypominało to już podejścia żadnej istoty żyjącej na ziemi. Jeśli spędzimy nieco czasu na wczytanie się w sytuację dzisiejszej nauki i technologii, zaczniemy dostrzegać mnóstwo znaków, po cichu wskazujących, że życie jakie znamy, nie jest w stanie wytrzymać starcia ze skokiem jaki jest dopiero przed nami.

_______________

Droga ku superinteligencji

Czym jest SI?

Jeśli jesteście podobni do mnie, myśleliście, że sztuczna inteligencja jest niezbyt mądrym pomysłem rodem z sci-fi, lecz niedawno zaczęliście słyszeć o niej z ust szacownych osób- nie do końca rozumiejąc dlaczego.

Są trzy powody przez które wielu ludzi jest zdezorientowanych myśląc o SI:

1) Kojarzymy SI z filmami. Star Wars. Terminator. 2001: Odyseja kosmiczna. Nawet the Jetsons. One są fikcją, tak samo jak roboty będące ich bohaterami. Sprawia to więc, że SI brzmi dla nas nieco fikcyjnie.

2) SI to rozległy temat. Rozciąga się od kalkulatorów w naszych telefonach przez autonomiczne samochody, kończąc się na czymś bliżej nieokreślonym mogącym zmienić świat. SI odnosi się do każdej z tych rzeczy, będąc przez to pojęciem mylącym.

3) Korzystamy z SI na co dzień, nie będąc tego świadomym. John McCarthy, twórca terminu ,,Sztuczna Inteligencja’’ z 1956 roku, narzekał, mówiąc ,,zaraz gdy coś zacznie działać, nikt więcej nie mówi na to SI’’. To przez ten fenomen, SI często brzmi jak mityczna zapowiedź przyszłości zamiast rzeczywistość. Sprawia to, że SI jest kojarzone z nigdy nieurzeczywistnioną ideą z przeszłości. Ray Kurzweil mówi, że słyszy ludzi przekonanych, że SI upadło w latach 80’, co porównuje do ,,przekonania, że internet umarł w złotej erze dot-comów na początku lat dwutysięcznych”

Podsumujmy więc to co wiemy. Po pierwsze, przestańmy myśleć o robotach. Robot jest pojemnikiem na SI, czasem naśladującym ludzką formę, czasem nie—lecz SI, w rzeczy samej, to komputer wewnątrz robota. Si to mózg, robot to ciało—jeśli w ogóle posiada ciało. Przykładowo, oprogramowanie i dane stojące za Siri to SI, kobiecy głos przez nas słyszany jest personifikacją tejże SI; nie stoi za tym żaden robot.

Następnie, z pewnością słyszeliśmy o terminie ,,osobliwość’’, lub ,,technologiczna osobliwość’’ Termin ten jest używany w matematyce by opisać asymptotyczną sytuację, gdzie powszechnie uznawane zasady nie mają zastosowania. Używane również w fizyce do opisu zjawisk takich jak rozmiar nieskończenie mały, gęstość czarnej dziury czy punkt w którym wszystko było stłoczone na moment przed Wielkim Wybuchem. Powtórzmy więc- sytuacje, gdzie zwyczajowe zasady nie obowiązują. W 1993 roku, Vernor Vinge napisał znane dzieło (The Coming Technological Singularity: How to Survive in the Post-Human Era) w którym zawarł termin odnoszący się do momentu, w którym inteligencja technologii prześcignie naszą—moment, w którym życie jakie znamy zmieni się na zawsze, a reguły które znamy nie będą miały już dłużej zastosowania. Ray Kurzweil dodatkowo skomplikował sytuację, definiując osobliwość jako moment, kiedy prawo przyspieszających powrotów osiągnie tak ekstremalne tempo, że proces postępu odbywać się będzie w pozornie nieskończonym tempie, po którym żyć będziemy w całkiem nowym świecie. Odkryłem, że wielu współczesnych badaczy odeszło od używania terminu Vinge’a i bez tego nie uciekając od komplikacji. Nie zamierzam więc używać go tutaj zbyt często (nawet gdy skupiać będziemy się na samej idei).

Wreszcie, podczas gdy zaobserwować można wiele różnych form lub typów SI będących rozległym tematem samym w sobie, najistotniejsze kategorie na których musimy się skupić, to sztuczne inteligencje oparte na stopniu zaawansowania. Są trzy główne stopnie SI:

Stopień 1) Wąska Sztuczna Inteligencja (Artificial Narrow Intelligence, ANI): Czasami określana mianem słabej SI, jest rodzajem specjalizującym się w tylko jednym obszarze, m.in. SI mogąca pokonać mistrza świata w szachach. Jest to jednak jedyna czynność, którą jest w stanie przeprowadzić. Gdy zapytamy o opinię na temat lepszego przechowywania danych na twardym dysku, w odpowiedzi otrzymamy pusty wzrok.

Stopień 2) Ogólna Sztuczna Inteligencja (Artificial General Intelligence, AGI): Czasami określana mianem silnej SI, lub  SI poziomu ludzkiego, ogólna sztuczna inteligencja odnosząca się do komputera na poziomie intelektualnym przeciętnego człowieka- zdolna wykonać wszelkie zadania wykonalne przez niego. Stworzenie AGI jest znacznie cięższym zadaniem niż stworzenie ANI, a my jeszcze jesteśmy na drodze ku osiągnięciu tego drugiego. Profesor Linda Gottfredson opisuje inteligencję jako “bardzo ogólne zdolności umysłowe które, pośród innych rzeczy, obejmują zdolności do uzasadniania, planowania, rozwiązywania problemów, myślenia abstrakcyjnego, rozumienia skomplikowanych pojęć, szybkiego uczenia oraz nauki na podstawie doświadczeń”. AGI byłaby w stanie zrobić wszystkie wymienione czynności tak łatwo jak my.

Stopień 3) Sztuczna Superinteligencja (Artificial Superintelligence, ASI): Oxfordzki filozof i wiodący myśliciel SI, Nick Bostrom, definiuje superinteligencję jako “intelekt znacznie mądrzejszy niż najinteligentniejsze ludzkie umysły pod praktycznie każdym względem, włącznie z twórczością naukową, ogólną wiedzą i umiejętnościami społecznymi”. Zakres sztucznej superinteligencji zaczyna się od komputera niewiele bystrzejszego od człowieka, kończąc na miliard razy mądrzejszym—nadal mieszcząc się w zakresie przeciętności dla swojego typu. ASI to główny powód dla którego temat sztucznej inteligencji jest mozaiką wszelakich opinii a  słowa ,,nieśmiertelność’’ i ,,wymarcie’’ będą występować naprzemiennie.

Na chwilę obecną ludzkość opanowała tworzenie SI najniższego stopnia —ANI—wszędzie i na wiele sposobów. Rewolucja Sztucznej inteligencji jest drogą od ANI, przez AGI, aż do ASI—droga, którą możemy przetrwać lub nie, lecz to -niezależnie od rezultatu- zmieni wszystko.

Przyjrzyjmy się bliżej temu, co wiodący myśliciele na temat SI sądzą na temat czekającej nas drogi, oraz dlaczego zostanie ona przemierzona szybciej niż możemy się tego spodziewać:

Gdzie obecnie jesteśmy—Świat polegający na ANI

Wąska sztuczna inteligencja maszyn jest inteligencją równą, bądź wyprzedzająca ludzką inteligencję lub efektywność w konkretnej materii. Kilka przykładów:

§  Samochody są powszechnie wyposażone w ANI, od komputera obliczającego moment w którym powinien uruchomić się ABS, do komputera kontrolującego parametry wtrysku paliwa. Autonomiczny samochód Google, będący obecnie w fazie testów, będzie zawierał solidny ekosystem ANI pozwalający na odbieranie bodźców i reagowanie na świat dookoła.

§  Nasz telefon jest małą fabryką ANI. Używając nawigacji poprzez stworzoną do tego aplikację, odbieramy profilowane rekomendacje muzyki od Pandory. Sprawdzając pogodę, mówiąc do Siri- używasz wtedy ANI.

§  Filtr spamu na poczcie e-mail to klasyczny przykład ANI—stworzony z bogatym zbiorem informacji aby wykryć co jest, a co nie jest spamem, by potem na podstawie zdobytego doświadczenia powiązać tę wiedzę z naszymi preferencjami. Aplikacja Nest Thermostat polega na tej samej metodzie, dostosowując się do naszego trybu dnia i reagując nań odpowiednio.

§  Znamy niepokojąco trafne odnośniki podczas przeglądania interesujących nas przedmiotów na Amazon, tzw. ,,polecane dla ciebie”, czy niezwykle sensowne rekomendacje znajomych na Facebooku? To sieć systemów ANI, współpracujących i informujących się nawzajem kim jesteśmy oraz co lubimy, a następnie używających tych informacji do zadecydowania, co nam pokazać. Tak samo działa system „ludzie, którzy to wybrali, wybrali również…’’— to system WSI którego zadaniem jest zebrać informacje na temat zachowania milionów klientów i połączenie tych danych w celu zasugerowania nam zakupu innych produktów.

§  Google Translate to kolejny klasyczny przykład systemu ANI—imponująco dobry w jednym wąskim zakresie zadań. Następną rzeczą jest rozpoznawanie głosu; istnieje wiele aplikacji używających tych dwóch ANI współpracujących ze sobą, pozwalając na wydawanie komend głosowych w jednym języku i słyszenie ich wygłaszanych przez telefon w innym.

§  Gdy ląduje nasz samolot, to nie do ludzi należy decyzja do jakiej bramy powinniśmy się udać. Podobnie jest z cenami biletów.

§  Najlepszymi graczami na świecie w warcaby, szachy, scrabble, tryktraka i Othello są obecnie systemy ANI.

§  Google search jest jednym wielkim mózgiem ANI z niezwykle wyszukanymi metodami służącymi pozycjonowaniu stron i obliczaniem co nam pokazać w pierwszej kolejności. To samo odnosi się do Facebooka.

§  Wszystkie powyższe przykłady wzięte są tylko ze świata konsumenta. Skomplikowane systemy ANI są powszechnie używane w sektorach militarnych, produkcji oraz finansach (na rynku USA ponad połowa zysków osiągana jest przez algorytmicznych sprzedawców ANI), czy systemach eksperckich pomagających doktorom wystawiać diagnozy. Najbardziej jednak znanym jest superkomputer Watson stworzony przez IBM, posiadający wystarczającą wiedzę ogólną, a także umiejętności, by zrozumieć nawet niewyraźnie czytającego pytania prezentera Alexa Trebeka i wygrać ze znaczną przewagą amerykański teleturniej Jeopardy.

Systemy ANI pod obecną postacią nie są specjalnie straszne. W najgorszym przypadku błędna, bądź źle zaprogramowana ANI spowodować może wyizolowaną usterkę jak wybicie korków, być przyczyną nieprawidłowego funkcjonowania elektrowni atomowej lub  katastrofy na rynku finansowym (jak podczas 2010 Flash Crash, gdy program ANI zareagował nieprawidłowo wobec nieprzewidzianej sytuacji, powodując zatrzymanie giełdy, a w konsekwencji straty rzędu miliarda dolarów- tylko część z tej sumy została odzyskana).

Pomimo, iż ANI nie mają możliwości spowodowania zagrożenia dla naszego istnienia, powinniśmy dostrzec wciąż rosnący i coraz bardziej skomplikowany ekosystem, składający się ze stosunkowo niegroźnych ANI, jako zapowiedź zmieniającego losy świata huraganu będącego już w drodze. Każda kolejna innowacyjna ANI jest następną kostką, którymi wybrukowana jest droga do AGI oraz ASI. Inne porównanie wystosowane jest przez Aarona Saenza, który twierdzi, że świat systemów ANI przypomina ,,aminokwasy we wczesnej fazie tzw. ziemskiej zupy pierwotnej”—nieożywione cząstki, niespodziewanie rozbudzone pewnego dnia do życia.

Droga od ANI do AGI

Dlaczego to tak trudne

Nic nie wzbudzi w nas takiego podziwu dla ludzkiej inteligencji jak uświadomienie sobie, jak niewyobrażalnie wymagającym zadaniem jest stworzenie komputera tak mądrego jak my. Wznoszenie drapaczy chmur, wysyłanie człowieka w kosmos, debatowanie na temat szczegółów Wielkiego Wybuchu—wszystko to jest znacznie prostsze od zrozumienia naszego mózgu lub wytworzenia czegoś porównywalnego do niego. Na dzień dzisiejszy, ludzki mózg jest najbardziej złożonym obiektem w znanym nam wszechświecie.

Interesującym jest fakt, że najtrudniejszymi elementami w budowie AGI (komputera tak inteligentnego jak przeciętny człowiek, nie tylko w jednej wąskiej specjalizacji) nie są te elementy, które z początku by się takimi wydawały. Budowa urządzenia zdolnego pomnożyć dwie 10-cyfrowe liczby- to niezwykle proste. Budowa urządzenia zdolnego odróżnić psa od kota- ekstremalnie trudne. Stworzenie SI zdolnej pokonać każdego człowieka w szachach? Załatwione. Stworzenie SI czytającej paragraf z książki dla sześciolatków i nie tylko rozpoznającej słowa, lecz także rozumiejącej ich znaczenie? Google wydaje właśnie miliardy dolarów próbując to zrobić. Trudne rzeczy- jak rachunki, strategie giełdowe, przekład—są dla komputera niczym mrugnięcie okiem, jednak gdy przejdziemy do pozornie prostych rzeczy- jak wzrok, ruch, przemieszczanie, percepcja—zaczynają się problemy. Donald Knuth zauważa: ,,SI wyprzedziło nas we wszystkim wymagającym myślenia, przegrało natomiast w tym, co większość ludzi i zwierząt robi nieświadomie”7

Szybko zdamy sobie sprawę, iż te pozornie proste czynności takimi nie są- tak naprawdę zostały one zoptymalizowane dla nas (i większości zwierząt) podczas milionów lat ewolucji. Gdy wznosimy rękę w kierunku jakiegoś obiektu, mięśnie, ścięgna i kości w naszym ramieniu, łokciu i nadgarstku w połączeniu z oczami, jednocześnie przeprowadzają długą serię fizycznych operacji, by pozwolić ręce przemieści się w trzech wymiarach w kierunku poziomym. Wydaje się to bezproblemowe, a dzieje się tak, gdyż doprowadziliśmy do perfekcji oprogramowanie w naszym mózgu służące do wykonywania tej czynności. Zastanawiamy się też, dlaczego szkodliwe internetowe oprogramowanie nie jest w stanie rozpoznać pochyłych liter w zabezpieczeniach podczas rejestracji na strony internetowe—wszystko dzięki imponującym umiejętnościom naszego mózgu.

Z drugiej jednak strony, mnożenie czy granie w szachy są nowymi czynnościami dla istot naturalnych, w związku z czym nie mieliśmy ewolucyjnie czasu aby wypracować w nich mistrzostwo, co ułatwia sprawę komputerowi. Zastanówmy się—który program wolelibyśmy stworzyć- mnożący duże liczby, czy tak dobrze znający kształt litery B, że mógłby go rozpoznać spośród tysięcy różnych czcionek i stylów pisma?

Ciekawy przykład—kiedy spojrzymy na poniższy obrazek, razem z komputerem stwierdzimy, iż jest to prostokąt z dwoma naprzemianległymi odcieniami szarości:

 

Na razie jest ok. Jeśli odsłonimy kolor czarny i zobaczymy co znajduje się pod spodem…

 

…nie mamy problemu z podaniem pełnego opisu różnych nieprzeźroczystych i przeświecających walców, prostokątów, i trójwymiarowych kątów, lecz komputer z pewnością by zawiódł. Opisałby to, co widzi—dwuwymiarowe kształty w kilku różnych odcieniach—a więc to, co w rzeczywistości się tam znajduje. Nasz mózg staje na głowie by zinterpretować głębię, odcienie i padające światło.8Patrząc niżej, komputer widzi dwuwymiarowy czarno-biało-szary kolaż, podczas gdy my łatwo widzimy co tam naprawdę jest—fotografia całkiem czarnej, trójwymiarowej skały:

 

Matthew Lloyd

Wszystko co przytoczyliśmy jest wciąż zaledwie przyswajaniem stałych informacji i ich przetwarzaniem. Aby być na ludzkim poziomie inteligencji, komputer musiałby zrozumieć subtelne różnice pomiędzy wyrazami twarzy, różnice pomiędzy odczuwaniem przyjemności, ulgi, zadowolenia, satysfakcji i radości, oraz dlaczego Braveheart był świetnym filmem, ale The Patriot Był beznadziejny.

Niezbyt zachęcające.

Więc jak dotrzeć do naszego celu?

Pierwszy klucz do wykreowania AGI: Wzrost mocy obliczeniowej

Jedną z rzeczy niezaprzeczalnie niezbędnych do powstania AGI jest wzrost mocy sprzętu komputerowego. Jeśli sztuczna inteligencja ma być tak inteligentna jak mózg, równa musi być ich zdolność obliczeniowa.

Jedną z metod służących do wyrażania tej zdolności są obliczenia na sekundę (calculations per second- cps), zdolne do wykonania przez mózg. Liczbę taką otrzymamy, obliczając sumy wszystkich maksymalnych cps z każdej struktury mózgowej.

Ray Kurzweil doszedł do tego krótszą drogą, biorąc dokładnie oszacowane cps jednej struktury mózgowej, porównywał jej wagę z wagą całego mózgu, a następnie pomnożył to proporcjonalnie by określić w przybliżeniu całość. Brzmi dosyć wątpliwie, ale Kurzweil zrobił to kilka razy używając profesjonalnych oszacowań pochodzących z różnych rejonów, za każdym razem otrzymując sumę zawierającą się w podobnym przedziale—około 10¹⁶, lub 10 biliardów cps.

Najszybszy obecnie superkomputer na świecie, Chiński Tianhe-2, przekroczył tę liczbę, osiągając około 34 biliardy cps. Lecz Tianhe-2 jest również wymagający, zajmując 720 metry kwadratowe powierzchni, używając 24 megawatów mocy (ludzki mózg potrzebuje zaledwie 20 watów), i kosztuje 390 milionów dolarów. Niezbyt przydatny do powszechnych zastosowań, a nawet wciąż do najbardziej wyspecjalizowanych zadań w ekonomii czy przemyśle.

Kurzweil sugeruje myślenie o obecnej kondycji komputerów poprzez liczbę cps, jaką możemy mieć za 1000 dolarów. Gdy ta liczba osiągnie poziom ludzki—10 biliardów cps—oznaczać to będzie, że AGI może stać się bardzo realnym elementem naszego życia.

Prawo Moore’a to udowodnione przez historię twierdzenie mówiące, że maksymalna moc obliczeniowa podwaja się co około dwa lata, a także, że poziom zaawansowania sprzętu komputerowego (podobnie jak ogólny ludzki poziom zaawansowania) rośnie wykładniczo. Patrząc na to pod kątem relacji ze stosunkiem Kurzweila (1cps/1000$), obecnie jesteśmy na poziomie 10 bilionów cps/$1,000, idąc tempem przewidzianym w poniższej trajektorii:

Widzimy więc, że dzisiejsze komputery warte 1000 dolarów przewyższają obecnie możliwościami mózg myszy, nadal jednak stanowiąc jedną tysięczna mózgu człowieka. Nie brzmi to na zbyt wiele, musimy jednak pamiętać że w 1985 roku była to jedna bilionowa, miliardowa w 1995, a w 2005 jedna milionowa. Jedna tysięczna w 2015 pozwala mieć nadzieje być stać nas było na komputer rywalizujący z mózgiem człowieka przed 2025.

Od strony technicznej, czysta moc potrzebna do AGI jest technicznie dostępna w Chinach już teraz, a powszechny dostęp do niej ma nastąpić w ciągu najbliższych 10 lat -lecz surowa moc obliczeniowa nie uczyni komputera inteligentnym—pojawiają się więc pytania, jak przeniesiemy ludzką inteligencję do tej mocy?

Drugi klucz do stworzenia AGI: uczynienie jej mądrą

To jedna z mniej przyjemnych części. Tak naprawdę, nikt nie wie jak uczynić ją mądrą—wciąż trwają debaty o tym, jak uczynić komputer inteligentnym na wzór człowieka i posiadającym zdolność rozpoznania psa, niedbale napisanej litery B oraz zdefiniowania pojęcia miernego filmu. Istnieje kilka naciąganych strategii, lecz w którymś momencie jedna z nich da efekt. Oto trzy najbardziej rozpowszechnione strategie jakie znalazłem:

1) Splagiatowanie mózgu.

Wyobraźmy sobie naukowców siedzących w szkolnej ławce obok wybitnie uzdolnionego ucznia, świetnie radzącego sobie na testach; nawet pomimo ciężkiej pracy i solidnej nauki, naukowcy nie potrafią się zbliżyć ocenami do niego, więc w końcu stwierdzają ,,spoko, nieważne, po prostu ściągnę odpowiedzi od niego”. Ma to sens- jesteśmy w kropce próbując zbudować bardzo skomplikowany komputer, choć idealny prototyp znajduje się w głowie każdego z nas.

Świat nauki ciężko pracuje w procesie inżynierii wstecznej mózgu, by dowiedzieć się jak ewolucja stworzyła tę niespotykaną rzecz—optymistyczne oszacowania każą spodziewać się tego nie wcześniej niż przed 2030 rokiem. Gdy już to zrobimy, zdobędziemy wszystkie sekrety jego efektywności i potęgi, a także czerpać z niego inspiracje i innowacje. Przykładem architektury komputerowej imitującej mózg jest sztuczna sieć neuronowa. Wytworzona jest jako sieć powiązanych tranzystorowych ,,neuronów” połączonych ,,wyjściami’’ i ,,wejściami’’, nie posiadająca żadnej wiedzy- dokładnie jak niemowlęcy mózg. Sposób w jaki ,,uczy’’ się wykonać zadanie, przykładowo rozpoznawanie pisma, to początkowo całkowicie losowe strzelanie i zgadywanie każdej z liter. Kiedy jednak już któraś z prób zostanie zakończona sukcesem, połączenia tranzystorów odpowiedzialne za prawidłową odpowiedź zostają wzmocnione; kiedy zostaną powiadomione że ich działania nie odniosły pożądanego skutku, zostają osłabione. Po wielu próbach i odpowiedziach sieć neuronów tworzy inteligentne ścieżki, a zbudowana z nich maszyna zostaje tym samym odpowiednio zoptymalizowana do tego zadania. Mózg uczy się w sposób podobny do przytoczonego, lecz bardziej wysublimowany, a my ucząc się od niego, poznajemy nowe pomysłowe metody na wykorzystanie obwodów neuronowych.

Bardziej ekstremalna wersja plagiatu polega na ,,naśladowaniu całego mózgu’’ której celem jest pocięcie mózgu na cienkie plastry, skanowanie ich, użycie oprogramowania do odtworzenia ich w trójwymiarowym modelu, by w końcu zaimplementować ten model w komputerze. Byłby to komputer formalnie zdolny do wszystkiego co mózg ludzki—musiałby wyłącznie zdobyć odpowiednią wiedzę w procesie nauki. W przypadku dalszych sukcesów inżynierów, byliby oni zdolni do odtworzenia mózgu z taką precyzją, że nienaruszone po przeniesieniu do komputera zostałyby wspomnienia i osobowość. Gdyby mózg przed śmiercią należał do Jima, komputer obudziłby się jako Jim, krzepki humanoidalny AGI, a my moglibyśmy pracować nad przekształceniem Jima w  niewyobrażalnie mądrego ASI, co z pewnością by go nie zasmuciło.

Jak daleko znajdujemy się od osiągnięcia pełnej emulacji ludzkiego mózgu? Jak dotychczas, jesteśmy świeżo po opanowaniu techniki emulacji milimetrowego mózgu  robaka zawierającego 302 neurony. Ludzki mózg posiada ich 100 miliardów. Gdyby wydawało się to beznadziejnym projektem, pamiętajmy o mocy wzrostu wykładniczego—skoro teraz posiedliśmy mózg robaka, wkrótce może nadejść pora na mrówkę, następnie mysz, wydając się być rezultatem bardziej do przyjęcia.

2) Zrobienie tego co ewolucja, tym razem przez nas.

Kiedy dojdziemy do wniosku, że zbyt trudno jest ściągnąć na teście od mądrzejszego ucznia, możemy w zamian spróbować skopiować metody jego nauki.

Oto co wiemy: zbudowanie komputera tak mocnego jak ludzki mózg jest możliwe- dowodem jest proces ewolucji. Jeśli mózg sam w sobie jest zbyt trudnym obiektem do naśladowania, możemy  zamiast tego prześledzić i sklonować proces jego ewolucji. Nawet umiejąc naśladować mózg, moglibyśmy błędnie powtórzyć próbę zbudowania samolotu opartego na kopiowaniu ruchu ptasich skrzydeł- często maszyny odnoszą najlepsze rezultaty gdy tworzone są z innowacyjnym, technicznym podejściem, zamiast wprost kopiować naturę.

Jak więc zasymulować ewolucję by stworzyć AGI? Metoda pod tytułem ,,genetyczne algorytmy’’ działałaby w procesie ,,działanie i ocena” mającym miejsce bez przerwy (w ten sam sposób istoty naturalne ,,działają” poprzez życie na ziemi i są ,,oceniane” poprzez to, czy zdołają lub nie się reprodukować). Grupa komputerów przeprowadzałaby zadanie, a te z największą ilością sukcesów byłyby rozmnażane ze sobą poprzez posiadanie połowy z ich programów połączonych w nowych komputerze. Najmniej udane zostałyby wyeliminowane. Po wielu, wielu powtórzeniach, proces selekcji naturalnej wytworzyłby coraz lepsze komputery. Wyzwaniem jest stworzenie zautomatyzowanego systemu oceny i cyklu rozmnażania tak, by proces ten przebiegał niezależnie od naszej ingerencji.

Wadą kopiowania ewolucji jest to, że ewolucja trwa miliard lat, a my pragniemy uczynić to w ciągu kilku dekad.

Mamy jednak mnóstwo zalet względem ewolucji. Po pierwsze, ewolucja nie jest dalekowzroczna i działa losowo—produkuje więcej nieprzydatnych mutacji niż przydatnych, podczas gdy my mielibyśmy kontrolę nad procesem poruszając się po drodze wyłożonej korzystnymi anomaliami i pożądanymi ulepszeniami. Po drugie, ewolucja nie mierzy w nic, wliczając w to inteligencję—istnieją przypadki, gdy preferowana jest mniejsza inteligencja (ze względu na zużycie energii). My z kolei, jesteśmy w stanie nakierować ten proces w kierunku wzrostu inteligencji. Trzeci argument- ewolucja potrzebuje wynaleźć wiele ułatwień, jak chociażby modyfikacja  sposobu w jaki komórki produkują energię, podczas gdy my możemy usunąć to dodatkowe obciążenie, korzystając z wynalazków, jak na przykład elektryczność. Nie ma wątpliwości, że bylibyśmy znacznie szybsi niż ewolucja—wciąż nie jest jednak jasne, czy bylibyśmy w stanie na tyle, by stworzyć z tego opłacalną strategię

3) Sprawić by był to problem komputera, nie nasz.

Sytuacja ta ma miejsce gdy nasi ,,szkolni’’ naukowcy są zdesperowani i programują test, by napisał sam siebie. Lecz właśnie to może być najbardziej obiecująca metoda jaką mamy.

Główny zamysł jest taki, by stworzyć komputer którego głównymi dwiema umiejętnościami byłyby przeprowadzanie badań na temat SI, oraz wprowadzanie zmian na samym sobie—zezwalając w ten sposób nie tylko na naukę, lecz także na zmianę własnej architektury. Nauczylibyśmy komputery by były informatykami, co pozwoliłoby im zadbać o własny rozwój. To byłoby ich główne zadanie—wymyślenie, jak sprawić by były mądrzejsze. Więcej o tym w dalszej części.

Wszystko z wyżej wymienionych może się wkrótce urzeczywistnić

Szybki postęp w sprzęcie komputerowym i innowacyjne eksperymentowanie z oprogramowaniem dzieją się równolegle do siebie, więc fakt zaistnienia AGI może szybko i niespodziewanie przybyć do nas z dwóch głównych powodów:

1) Wzrost wykładniczy jest intensywny, a to co wydaje się żółwim tempem postępu szybko może zanotować gwałtowny wzrost—poniższy gif trafnie opisuje przytaczaną koncepcję:

Źródło

2) Postęp w dziedzinie oprogramowania może wydawać się powolny, lecz wystarczy jedno objawienie, by zmienić całkiem tempo wzrostu (wydarzenie podobnego rodzaju nastąpiło kiedy nauka -podczas czasów gdy układ słoneczny był uważany za geocentryczny- miewała wiele problemów z poprawnymi wyliczeniami sposobu funkcjonowania wszechświata, lecz odkrycie, iż był on w rzeczywistości heliocentryczny, niezwykle ułatwił wiele różnych obliczeń). Kiedy myślimy o komputerach które udoskonalają się same, wydaje się nam to odległą perspektywą, lecz może to być w rzeczywistości tylko jedna niewielka zmiana powodująca tysiąckrotny wzrost efektywności i przybliżająca nas do osiągnięcia ludzkiego poziomu sztucznej inteligencji.

Droga od AGI do ASI

W pewnym momencie osiągniemy AGI—komputery na poziomie intelektualnym przeciętnego człowieka. Po prostu zwykły świat z ludźmi i sprzętem żyjącymi jak równy z równym…

…niestety nie do końca.

Rzecz polega na tym, iż AGI o identycznym poziomie inteligencji i wydajności obliczeniowej co człowiek, wciąż będzie posiadał nad nim znaczącą przewagę, wśród których są:

Sprzęt:

§  Szybkość. Maksymalna częstotliwość neuronów w mózgu wynosi 200 Hz, podczas gdy dzisiejszych mikroprocesorów (nota bene dużo słabszych niż te które istnieć będą w erze AGI) pracują przy 2 GHz, innymi słowy 10 milionów razy szybciej niż ludzkie neurony. Również wewnętrzna komunikacja w mózgu, wynosząca 120 m/s jest przeraźliwie daleko od komputerowej zdolności do komunikacji optycznej z prędkością światła.

§  Rozmiar i pojemość. Rozmiar mózgu jest determinowany przez kształt naszej czaszki, nie ma wobec tego fizycznej możliwości jego powiększenia; również prędkość 120 m/s w przypadku komunikacji wewnątrzmózgowej zajęła by wtedy zbyt wiele czasu. Komputery są w stanie przyjąć dowolny fizyczny kształt, pozwalając pracować znacznie większej ilości sprzętu, pamięci o dostępnie swobodnym (RAM), oraz długotrwałej (dyski twarde)- obydwie posiadają znacznie większą pojemność i precyzję niż nasza.

§  Niezawodność i trwałość. Nie tylko pamięć komputera jest trwalsza od tej zawartej w mózgu. Tranzystory są precyzyjniejsze od biologicznych neuronów, są także mniej podatne na pogarszanie się wraz z upływem czasu (możliwa jest w takim wypadku także ich naprawa bądź wymiana). Mózg ludzki męczy się wraz z upływem czasu, komputery pracują non stop na najwyższych obrotach.

Oprogramowanie:

§   Edytowanie, aktualizowanie, większe możliwości. W przeciwieństwie do ludzkiego mózgu, oprogramowanie komputerowe może otrzymać aktualizacje i łatki, proste jest eksperymentowanie na nim. Aktualizacje mogą również celować w obszary niewyspecjalizowane przez mózg. Ludzkie ośrodki odpowiedzialne za wzrok są niezwykle zaawansowane, z kolei te za skomplikowane obliczenia stosunkowo nisko rozwinięte. Komputery mogłyby zrównać się programowo z ludzkimi oczami, dodatkowo będąc identycznie dobrze zoptymalizowanymi pod każdym innym względem.

§  Zbiorowa wydajność. Ludzkość dominuje nad innymi gatunkami w kwestii zbiorowej inteligencji. Począwszy od rozwoju języka czy formowaniu wielkich, zwartych społeczności, poprzez innowacje jak pisanie czy czytanie, dodatkowo jeszcze zintensyfikowane przez narzędzia w rodzaju internetu, ludzka zbiorowa inteligencja to jeden z głównych powodów dzięki którym byliśmy w stanie wybiec tak daleko naprzód w porównaniu z innymi gatunkami. Komputery będą w tym znacznie lepsze od nas. Światowa sieć SI działająca pod egidą danego programu mogłaby regularnie przeprowadzać synchronizację między sobą, wszystko nauczone przez jeden komputer natychmiast byłoby przekazane wszystkim pozostałym. Cała grupa mogłaby podjąć się jednego celu, gdyż nie byłoby rozbieżnych opinii, motywacji i  własnego interesu, obecnego pośród ludzkiej populacji.

Prawdopodobnie SI będąc zaprogramowaną do samodoskonalenia, dochodząc do stanu AGI nie uzna ,,inteligencji ludzkiego poziomu” jako ważnego kamienia milowego—to istotny odnośnik wyłącznie z naszego punktu widzenia—tym bardziej nie traktując go jako powodu do zatrzymania się na tym etapie. Biorąc pod uwagę przewagę jaką ma AGI, nawet tylko równe ludzkiej inteligencji, to oczywiste, że poziom ten zostanie utrzymany tylko na krótką chwilę przed pościgiem w kierunku sfer wyższych poziomów inteligencji.

Moment kiedy się to wydarzy może nas przerazić. Powodem jest, że z naszej perspektywy A) podczas gdy inteligencja pośród różnych gatunków zwierząt różni się, w naszym mniemaniu główną charakterystyką jakiejkolwiek z nich jest to, że jest znacznie niższa od naszej B) postrzegamy najmądrzejszych ludzi jako DUŻO mądrzejszych niż najgłupszych ludzi. Coś w tym rodzaju:

 

Patrząc na wznoszący się na schemacie poziom sztucznej inteligencji, uważamy go po prostu za coraz większy, jak na zwierzęta. Kiedy osiągnie najniższy poziom ludzkiej zdolności—Nick Bostrom używa tu terminu ,,wioskowego głupca”—powiemy ,,oo, wow, jest jak ludzki przygłup. Słodko!” Ważne jest by dostrzec, że w wielkim spektrum inteligencji wszyscy ludzie, od wioskowego głupca do Einsteina, zawierają się w bardzo małym przedziale—tak więc zaraz po osiągnięciu poziomu wioskowego głupca i bycia uznaną za AGI, stanie się mądrzejsza od Einsteina, a my nawet tego nie zauważymy:

 

A co się stanie…po tym?

Eksplozja inteligencji

Mam nadzieję, że dobrze się bawiliście w normalnych czasach, w tym momencie bowiem zaczyna się robić nienormalnie i strasznie, takim też pozostanie na długo od tego momentu. Pragnę na moment się tu zatrzymać, by przypomnieć, że wszystko o czym mam zamiar powiedzieć jest prawdziwe—prawdziwa nauka i prawdziwa prognoza przyszłości z szeregu najbardziej szanowanych myślicieli i naukowców. Miejcie to na uwadze.

Tak czy inaczej, jak wspomniałem powyżej, większość naszych aktualnych modelów do osiągnięcia AGI zawiera w sobie dążące do niej w procesie samodoskonalenia się SI. Kiedy już zostaną AGI, nawet systemy stworzone i wyrosłe na metodach nie zawierających samodoskonalenia staną się mądre na tyle, by rozpocząć samodoskonalenie się jeśli tylko tego zechcą.

Tutaj dochodzimy do ważnej koncepcji: rekursywne samodoskonalenie. Działa ono w sposób następujący:

System SI na danym poziomie—załóżmy poziom wioskowego głupca—zaprogramowany jest, mając za cel poprawę własnej inteligencji. Kiedy już to uczyni, staje się inteligentniejszy—być może w tym momencie jest to już inteligencja Einsteina—pracując od tego momentu nad własną inteligencją, z intelektem pokroju Einsteina, może poczynać większe kroki z mniejszą trudnością. Kroki te czynią SI znacznie mądrzejszą od jakiegokolwiek człowieka, pozwalając niniejszym na jeszcze większe postępy. Ponieważ kroki rosną coraz szybciej, inteligencja AGI wznosi się coraz wyżej, wkrótce osiągając poziom superinteligencji systemu ASI. Nazywane jest to eksplozją inteligencji, będącą najważniejszym przykładem prawa przyspieszających powrotów.

Toczą się debaty jak szybko AI osiągnie poziom ludzkiego intelektu. Przybliżona data powstała na podstawie ankiety przeprowadzonej wśród setek naukowców, którym zadano pytanie: kiedy będzie możliwe najwcześniej osiągnąć poziom AGI, to rok 2040— już za 25 lat, co nie brzmi tak odlegle, gdy weźmiemy pod uwagę zdanie wielu myślicieli twierdzących, że przejście z AGI z ASI następuje bardzo szybko. Mogłaby zdarzyć się rzecz następująca:

Potrwa dekady, nim AI zdoła posiąść poziom niskiej inteligencji, lecz w końcu to się staje. Komputer jest zdolny zrozumieć słowa dookoła niego niczym czteroletnie dziecko. Nagle, w ciągu godziny od tego przełomu, system recytuje wielką teorię fizyki jednoczącą teorię względności z mechaniką kwantową, coś czego żaden człowiek nie był w stanie uczynić nigdy wcześniej. 90 minut później, AI zmieniło się w ASI, 170000 razy inteligentniejsze niż człowiek.

Superinteligencja tej wielkości nie jest czymś co możemy normalnie pojąć, nie bardziej niż trzmiel w stanie jest pojąć teorię ekonomii Keynesa. W naszej rzeczywistości, mądry to ktoś o ilorazie130 IQ, a głupi- 85 IQ—nie posiadamy odpowiednich określeń dla ilorazów IQ rzędu 12952.

Wiemy, że ludzka całkowita dominacja na ziemi oznacza zasadę: moc pochodzi od inteligencji. Oznacza to, że ASI, kiedy już zostanie stworzone, będzie najpotężniejszą istotą w historii życia na ziemi, a wszystkie istoty żywe, wliczając w to ludzi, będą zakładnikiem jej kaprysu— może się to zdarzyć w kilku następnych dekadach.

Jeśli nasze niewielkie mózgi były w stanie wynaleźć wifi, to coś 100, 1000, lub miliard razy inteligentniejsze nie powinno mieć problemów z kontrolą pozycji każdego atomu w dowolny wymyślny sposób, w każdym momencie—wszystko uważane za magię, każda moc którą przypisywaliśmy Bogu będzie tak zwykłą czynnością dla ASI jak dla nas zapalenie lampy. Wykreowanie technologii do cofnięcia starzenia, leczenia chorób, głodu, a nawet śmiertelności, przeprogramowanie pogody by chroniła przyszłe ziemskie życie- to wszystko staje się możliwe. Możliwy jest również natychmiastowy kres wszelkiego życia na ziemi. Jeśli chodzi o nas, w razie początku ASI, jest teraz na ziemi Bóg Wszechmocny—a ogromnie ważnym pytaniem dla nas jest:

Czy będzie on dobrym Bogiem?