Sztuczna inteligencja. Część pierwsza: Droga do superinteligencji
Powód, dla którego ten artykuł (i inne) ujrzał światło dzienne, jest prosty: być może sztuczna inteligencja to nie tylko ważny temat do dyskusji, ale najważniejszy w kontekście przyszłości. Każdy, kto choć trochę zagłębi się w istotę potencjału sztucznej inteligencji, wie, że tego tematu nie można zignorować. Niektórzy – wśród nich Elon Musk, Stephen Hawking, Bill Gates, a nie najgłupsi ludzie na naszej planecie – uważają, że sztuczna inteligencja stanowi egzystencjalne zagrożenie dla ludzkości, porównywalne w skali do całkowitego wyginięcia nas jako gatunku. Usiądź wygodnie i zaznacz „i” dla siebie.
„Jesteśmy u progu zmiany porównywalnej z narodzinami ludzkiego życia na Ziemi” (Vernor Vinge).
Co to znaczy stanąć na progu takich zmian?
Wydaje się, że to nic specjalnego. Musisz jednak pamiętać, że bycie w takim miejscu na wykresie oznacza, że nie wiesz, co jest po Twojej stronie. Powinieneś czuć się tak:
Uczucia są całkiem normalne, lot idzie dobrze.
Przyszłość nadchodzi
Wyobraź sobie, że wehikuł czasu został przetransportowany do roku 1750, kiedy świat doświadczał ciągłych przerw w dostawie prądu, komunikacja między miastami oznaczała wystrzały armatnie, a cały transport odbywał się na sianie. Powiedzmy, że dotrzesz tam, zabierzesz kogoś i przywieziesz go do 2015 roku, żeby pokazać, jak to wszystko tutaj jest. Nie rozumiemy, jak by to było, gdyby zobaczył te wszystkie lśniące kapsuły lecące po drogach; rozmawiać z ludźmi po drugiej stronie oceanu; oglądaj mecze sportowe oddalone o tysiące mil; usłyszeć występ muzyczny nagrany 50 lat temu; bawić się magicznym prostokątem, który może zrobić zdjęcie lub uchwycić moment na żywo; zbudować mapę z paranormalną niebieską kropką wskazującą jej lokalizację; patrzeć na czyjąś twarz i komunikować się z nim przez wiele kilometrów i tak dalej. Wszystko to jest niewytłumaczalną magią dla prawie trzystuletnich ludzi. Nie wspominając o Internecie, Międzynarodowej Stacji Kosmicznej, Wielkim Zderzaczu Hadronów, nuklearnej bronie i ogólna teoria względności.
Takie przeżycie nie będzie dla niego zaskoczeniem ani szokiem – te słowa nie oddają całej istoty psychicznego załamania. Nasz podróżnik może nawet umrzeć.
Ale jest interesujący punkt. Jeśli wróci do 1750 roku i stanie się zazdrosny, że chcieliśmy zobaczyć jego reakcję na rok 2015, może zabrać ze sobą wehikuł czasu i spróbować zrobić to samo z, powiedzmy, 1500. Poleci tam, znajdzie osobę, zabierze go do 1750 i wszystko pokaże. Facet z 1500 roku będzie w ogromnym szoku - ale raczej nie umrze. Choć z pewnością będzie zaskoczony, różnica między 1500 a 1750 jest znacznie mniejsza niż między 1750 a 2015 rokiem. Osoba z 1500 roku będzie zdziwiona niektórymi punktami z fizyki, zdumiona tym, czym Europa stała się pod twardą piętą imperializmu, rysuje nowa mapa świata w głowie. Ale codzienne życie w 1750 r. — transport, komunikacja itd. — nie zaskoczyłoby go na śmierć.
Nie, żeby gość z 1750 roku mógł się tak dobrze bawić jak my, musi posunąć się znacznie dalej – może rok taki jak ten w 12 p.n.e. Pne jeszcze przed pierwszą rewolucją rolniczą pozwoliły na narodziny pierwszych miast i koncepcji cywilizacji. Jeśli ktokolwiek ze świata łowców-zbieraczy, z czasów, gdy ludzie byli czymś więcej niż tylko kolejnym gatunkiem zwierząt, widział ogromne imperia ludzkie z 000 roku z ich wysokimi kościołami, statkami przemierzającymi oceany, ich wyobrażeniem bycia „wewnątrz” budynku, wszystko to wiedza - najprawdopodobniej umarłby.
A potem, po śmierci, zazdrościłby i chciał zrobić to samo. Cofnąłby się o 12 000 lat do 24 000 pne. e., zabrałby osobę i zaciągnął ją w odpowiednim czasie. A nowy podróżnik mówił mu: „No dobrze, dziękuję”. Bo w tym przypadku osoba z 12 p.n.e. mi. trzeba by cofnąć się o 000 100 lat i po raz pierwszy pokazać miejscowym tubylcom ogień i język.
Jeśli musimy przetransportować kogoś w przyszłość, aby był zaskoczony na śmierć, postęp musi przebyć pewną odległość. Punkt Śmiertelnego Postępu (TPP) musi zostać osiągnięty. Oznacza to, że jeśli w czasach łowców-zbieraczy TSP trwało 100 000 lat, następny przystanek miał miejsce już w 12 000 pne. mi. Za nią postęp był już szybszy i radykalnie zmienił świat do 1750 roku (wstępnie). Potem zajęło to kilkaset lat i oto jesteśmy.
Ten obraz postępu ludzkości, który postępuje szybciej w miarę upływu czasu, futurysta Ray Kurzweil nazywa prawem przyspieszania ludzkich powrotów. Historie. Dzieje się tak, ponieważ społeczeństwa bardziej zaawansowane mają zdolność szybszego postępu niż społeczeństwa mniej rozwinięte. Ludzie z XIX wieku wiedzieli więcej niż ludzie z XV wieku, nic więc dziwnego, że postęp w XIX wieku był szybszy niż w XV i tak dalej.
Działa to również w mniejszych skalach. Powrót do przyszłości ukazał się w 1985 roku, a „przeszłością” był rok 1955. W filmie, kiedy Michael J. Fox powrócił do 1955 roku, zaskoczyła go nowość telewizji, cena napojów gazowanych, brak miłości do brzmienia gitary i wariacje w slangu. To był oczywiście inny świat, ale gdyby film powstał dzisiaj, a przeszłość była w 1985 roku, różnica byłaby znacznie bardziej globalna. Marty McFly cofający się w czasie z komputerów osobistych, Internetu, telefonów komórkowych byłby o wiele bardziej nie na miejscu niż Marty cofający się do 1955 z 1985 roku.
Wszystko to za sprawą prawa przyspieszających zwrotów. Średnie tempo postępu w latach 1985-2015 było szybsze niż tempo z lat 1955-1985 – bo w pierwszym przypadku świat był bardziej rozwinięty, był nasycony osiągnięciami ostatnich 30 lat.
Dlatego im więcej osiągnięć, tym szybciej następują zmiany. Ale czy nie powinno to pozostawić nam pewnych wskazówek na temat przyszłości?
Kurzweil sugeruje, że postęp całego XX wieku można było dokonać w ciągu zaledwie 20 lat na poziomie rozwoju z roku 20 – czyli w 2000 roku tempo postępu było pięciokrotnie szybsze niż przeciętne tempo postępu w XX wieku. wiek. Uważa też, że postęp całego XX wieku był tożsamy z postępem okresu od 2000 do 20 roku, a postęp kolejnego XX wieku będzie tożsamy z okresem do 20 roku – czyli za zaledwie siedem lat. Po kilkudziesięciu latach cały postęp XX wieku zakończy się kilka razy w roku, a potem już za miesiąc. Ostatecznie prawo przyspieszających zwrotów doprowadzi nas do punktu, w którym w ciągu całego XXI wieku postęp będzie 2000 razy większy niż postęp XX wieku.
Jeśli Kurzweil i jego zwolennicy mają rację, rok 2030 zaskoczy nas w taki sam sposób, w jaki zaskoczyłby nas gość z 1750 roku - czyli następny TSP zajmie tylko kilkadziesiąt lat - a świat 2015 będzie zupełnie inny od współczesnego, że prawie go nie widzimy. dowiedz się. I to nie jest fantazja. Tak wierzy wielu naukowcom, którzy są mądrzejsi i bardziej wykształceni niż ty i ja. A jeśli zajrzysz do historii, zrozumiesz, że ta przepowiednia wynika z czystej logiki.
Dlaczego więc, gdy spotykamy się ze stwierdzeniami typu „za 35 lat świat zmieni się nie do poznania”, sceptycznie wzruszamy ramionami? Istnieją trzy powody naszego sceptycyzmu co do przyszłych prognoz:
1. Jeśli chodzi o historie, myślimy po linii prostej. Próbując wyobrazić sobie postęp w następnych 30 latach, patrzymy na postęp w ciągu ostatnich 30 jako wskaźnik tego, jak wiele może się wydarzyć. Kiedy myślimy o tym, jak zmieni się nasz świat w XXI wieku, bierzemy postęp XX wieku i dodajemy go do roku 21. Nasz gość z 20 roku popełnia ten sam błąd, kiedy wyciąga kogoś z 2000 roku i próbuje go zaskoczyć. Intuicyjnie myślimy liniowo, kiedy powinniśmy być wykładni. Zasadniczo futurysta powinien starać się przewidzieć postęp na następne 1750 lat, nie patrząc na poprzednie 1500, ale patrząc na obecny poziom postępu. Wtedy prognoza będzie dokładniejsza, ale wciąż za bramką. Aby prawidłowo myśleć o przyszłości, musisz widzieć rzeczy poruszające się w znacznie szybszym tempie niż teraz.
[/ środek]2. Trajektoria najnowszej historii często wygląda na zniekształconą. Po pierwsze, nawet stroma krzywa wykładnicza wydaje się liniowa, gdy widzisz jej małe części. Po drugie, wzrost wykładniczy nie zawsze jest płynny i jednolity. Kurzweil uważa, że postęp porusza się po serpentynach.
Taka krzywa przechodzi przez trzy fazy: 1) powolny wzrost (wczesna faza wzrostu wykładniczego); 2) szybki wzrost (wybuchowa, późna faza wzrostu wykładniczego); 3) stabilizacja w postaci określonego paradygmatu.
Jeśli spojrzysz na najnowszą historię, część krzywej S, na której się obecnie znajdujesz, może ukrywać tempo postępu przed twoją percepcją. Część czasu między 1995 a 2007 rokiem spędziła na gwałtownym rozwoju Internetu, wprowadzeniu Microsoft, Google i Facebook do opinii publicznej, narodzinach sieci społecznościowych i rozwoju telefonów komórkowych, a następnie smartfonów. To była druga faza naszej krzywej. Ale okres od 2008 do 2015 roku był mniej destrukcyjny, przynajmniej na froncie technologicznym. Ci, którzy myślą o przyszłości dzisiaj, mogą zająć ostatnie kilka lat, aby ocenić ogólne tempo postępu, ale nie widzą szerszego obrazu. W rzeczywistości nowa i potężna faza 2 może teraz warzyć.
3. Nasze własne doświadczenie sprawia, że jesteśmy zrzędliwymi starcami, jeśli chodzi o przyszłość. Opieramy nasze wyobrażenia o świecie na własnych doświadczeniach, a to doświadczenie określiło dla nas tempo wzrostu w niedalekiej przeszłości jako „oczywiste”. Również nasza wyobraźnia jest ograniczona, ponieważ wykorzystuje nasze doświadczenie do przewidywania - ale najczęściej po prostu nie mamy narzędzi, które pozwalają nam dokładnie przewidywać przyszłość. Kiedy słyszymy prognozy na przyszłość, które są sprzeczne z naszym codziennym postrzeganiem tego, jak wszystko działa, instynktownie odrzucamy je jako naiwne. Gdybym ci powiedział, że będziesz miał 150 lub 250 lat, a może wcale nie umrzesz, instynktownie pomyślisz, że „to jest głupie, wiem z historii, że wszyscy w tym czasie zginęli”. Tak jest: nikt nie dożył takich lat. Ale ani jeden samolot nie latał przed wynalezieniem samolotów.
Tak więc, chociaż sceptycyzm wydaje ci się rozsądny, najczęściej jest błędny. Powinniśmy zaakceptować, że jeśli uzbroimy się w czystą logikę i czekamy na zwykłe historyczne zygzaki, musimy uznać, że bardzo, bardzo, bardzo wiele musi się zmienić w nadchodzących dziesięcioleciach; znacznie więcej, niż można by sądzić. Logika podpowiada również, że jeśli najbardziej zaawansowany gatunek na planecie będzie nadal robił gigantyczne skoki naprzód, coraz szybciej, to w pewnym momencie skok ten będzie tak poważny, że drastycznie zmieni życie, jakie znamy. Coś podobnego wydarzyło się w procesie ewolucji, kiedy człowiek stał się tak inteligentny, że całkowicie zmienił życie wszystkich innych gatunków na planecie Ziemia. A jeśli poświęcisz trochę czasu na czytanie, co dzieje się teraz w nauce i technologii, możesz zacząć dostrzegać wskazówki dotyczące następnego wielkiego skoku.
Droga do superinteligencji: czym jest AI (sztuczna inteligencja)?
Jak wielu na tej planecie, zacząłeś myśleć o sztucznej inteligencji jako o głupim pomyśle science fiction. Ale ostatnio wiele poważnych osób wyraziło zaniepokojenie tym głupim pomysłem. Co jest nie tak?
Istnieją trzy powody, które prowadzą do zamieszania wokół terminu AI:
AI kojarzy nam się z filmami. "Gwiezdne Wojny". „Terminatora”. „Odyseja kosmiczna 2001”. Ale jak robotySztuczna inteligencja w tych filmach to fikcja. W ten sposób filmy hollywoodzkie osłabiają poziom naszej percepcji, sztuczna inteligencja staje się znajoma, znajoma i oczywiście zła.
To szerokie pole do zastosowania. Zaczyna się od kalkulatora w telefonie i rozwoju samojezdnych samochodów i prowadzi do czegoś odległej przyszłości, co dramatycznie zmieni świat. AI oznacza wszystkie te rzeczy i jest mylące.
Z AI korzystamy na co dzień, ale często nawet nie zdajemy sobie z tego sprawy. Jak powiedział John McCarthy, wynalazca terminu „sztuczna inteligencja” w 1956 roku: „Gdy to się skończy, nikt już nie nazywa tego sztuczną inteligencją”. Sztuczna inteligencja stała się bardziej mityczną przepowiednią przyszłości niż cokolwiek realnego. Jednocześnie w tej nazwie jest też posmak czegoś z przeszłości, co nigdy nie stało się rzeczywistością. Ray Kurzweil mówi, że słyszy, jak ludzie kojarzą sztuczną inteligencję z faktami z lat 80., co można porównać do „stwierdzenia, że internet umarł wraz z dot-comami na początku XXI wieku”.
Powiedzmy sobie jasno. Po pierwsze, przestań myśleć o robotach. Robot będący pojemnikiem na sztuczną inteligencję czasami naśladuje ludzką postać, czasami nie, ale sama sztuczna inteligencja to komputer wewnątrz robota. AI to mózg, a robot to ciało, jeśli w ogóle ma ciało. Na przykład oprogramowanie i dane Siri to sztuczna inteligencja, kobiecy głos to uosobienie tej sztucznej inteligencji, a w tym systemie nie ma robotów.
Po drugie, prawdopodobnie słyszałeś termin „osobliwość” lub „osobliwość technologiczna”. Termin ten jest używany w matematyce do opisania nietypowej sytuacji, w której zwykłe zasady nie mają już zastosowania. W fizyce jest używany do opisania nieskończenie małego i gęstego punktu czarnej dziury lub pierwotnego punktu Wielkiego Wybuchu. Znowu nie działają w nim prawa fizyki. W 1993 roku Vernor Vinge napisał słynny esej, w którym odniósł ten termin do momentu w przyszłości, kiedy inteligencja naszej technologii przewyższa naszą własną – w którym to momencie życie, jakie znamy, zmieni się na zawsze, a normalne zasady jego istnienia przestanie obowiązywać. Ray Kurzweil doprecyzował ten termin, wskazując, że osobliwość zostanie osiągnięta, gdy prawo przyspieszających zwrotów osiągnie punkt ekstremalny, w którym postęp technologiczny postępuje tak szybko, że przestajemy zauważać jego osiągnięcia, niemal nieskończenie szybko. Wtedy będziemy żyć w zupełnie nowym świecie. Jednak wielu ekspertów przestało używać tego terminu, więc nie używajmy go często.
Wreszcie, chociaż istnieje wiele rodzajów lub form sztucznej inteligencji, które wynikają z szerokiej koncepcji sztucznej inteligencji, główne kategorie sztucznej inteligencji różnią się w zależności od kalibru. Istnieją trzy główne kategorie:
Wąsko skoncentrowana (słaba) sztuczna inteligencja (AI). UII specjalizuje się w jednym obszarze. Wśród tych AI są tacy, którzy mogą pokonać mistrza świata w szachach, ale to wszystko. Jest taki, który może zaoferować najlepszy sposób przechowywania danych na dysku twardym i to wszystko.
Ogólna (silna) sztuczna inteligencja. Czasami określana również jako sztuczna inteligencja na poziomie człowieka. AGI odnosi się do komputera, który jest tak inteligentny jak człowiek - maszyny, która może wykonać każdą inteligentną czynność, jaką może wykonać człowiek. Budowanie AGI jest znacznie trudniejsze niż AGI i jeszcze do tego nie dotarliśmy. Profesor Linda Gottfredson opisuje inteligencję jako „w sensie ogólnym zdolności umysłowe, które obejmują między innymi zdolność rozumowania, planowania, rozwiązywania problemów, myślenia abstrakcyjnego, rozumienia złożonych pomysłów, szybkiego uczenia się i zdobywania doświadczenia”. AGI powinno być w stanie zrobić to wszystko tak łatwo, jak Ty.
Sztuczna superinteligencja (AI). Filozof z Oksfordu i teoretyk sztucznej inteligencji, Nick Bostrom, definiuje superinteligencję jako „inteligencję, która jest znacznie mądrzejsza od najlepszych ludzkich umysłów w niemal każdej dziedzinie, włączając w to kreatywność naukową, ogólną mądrość i umiejętności społeczne”. Sztuczna superinteligencja obejmuje zarówno komputer, który jest nieco mądrzejszy od człowieka, jak i biliony razy mądrzejszy w dowolnym kierunku. ASI jest powodem, dla którego rośnie zainteresowanie sztuczną inteligencją, a słowa „wymieranie” i „nieśmiertelność” często pojawiają się w takich dyskusjach.
Do tej pory ludzie podbili już pierwszy szczebel kalibru AI - AII - na wiele sposobów. Rewolucja AI to droga od AGI przez AGI do ASI. Możemy nie przetrwać tej drogi, ale na pewno wszystko zmieni.
Przyjrzyjmy się bliżej, jak czołowi myśliciele w tej dziedzinie widzą tę ścieżkę i dlaczego ta rewolucja może nastąpić szybciej, niż mogłoby się wydawać.
Gdzie jesteśmy w tym strumieniu?
Wąska sztuczna inteligencja to inteligencja maszyny, która jest równa lub większa niż inteligencja człowieka lub wydajność w wykonywaniu określonego zadania. Kilka przykładów:
* Samochody są przepełnione systemami sztucznej inteligencji, od komputerów, które określają, kiedy powinny zadziałać przeciwblokujące hamulce, po komputery, które określają parametry wtrysku paliwa. Autonomiczne samochody Google, które są obecnie testowane, będą zawierać solidne systemy sztucznej inteligencji, które będą wykrywać otaczający je świat i reagować na nie.
* Twój telefon to mała fabryka AIM. Gdy korzystasz z aplikacji Mapy, otrzymujesz rekomendacje dotyczące pobierania aplikacji lub muzyki, sprawdzasz pogodę na jutro, rozmawiasz z Siri lub robisz cokolwiek innego, korzystasz ze sztucznej inteligencji.
* Twój filtr antyspamowy poczty e-mail to klasyczny typ FIS. Zaczyna się od ustalenia, jak oddzielić spam od dobrych wiadomości e-mail, a następnie uczy się, gdy przetwarza wiadomości e-mail i preferencje.
* A to niezręczne uczucie, gdy wczoraj szukałeś w wyszukiwarce śrubokręta lub nowej plazmy, a dziś widzisz oferty z pomocnych sklepów na innych stronach? Lub gdy sieć społecznościowa zaleci Ci dodanie interesujących osób jako znajomych? Wszystko to są systemy AI, które współpracują ze sobą, aby określić Twoje preferencje, zbierać dane o Tobie z Internetu, zbliżając się do Ciebie. Analizują zachowania milionów ludzi i wyciągają wnioski na podstawie tych analiz, aby sprzedawać usługi dużych firm lub ulepszać ich usługi.
* Tłumacz Google to kolejny klasyczny system AII, który jest imponująco dobry w niektórych sprawach. Rozpoznawanie głosu też. Kiedy Twój samolot ląduje, terminal dla niego nie jest definiowany przez osobę. Cena biletu też. Najlepsze warcaby, szachy, tryktrak, buldożery i inne gry na świecie są reprezentowane przez wąsko skupioną sztuczną inteligencję.
* Wyszukiwarka Google to jeden gigantyczny AGI, który wykorzystuje niewiarygodnie sprytne metody do pozycjonowania stron i określania wyników wyszukiwania.
I to tylko w świecie konsumentów. Zaawansowane systemy AIM są szeroko stosowane w przemyśle wojskowym, produkcyjnym i finansowym; w systemach medycznych (pomyśl Watson z IBM) i tak dalej.
Systemy AIM w obecnej formie nie stanowią zagrożenia. W najgorszym przypadku buggy lub źle zaprogramowany AIM może spowodować lokalną katastrofę, przerwy w dostawie prądu, załamać rynki finansowe i tym podobne. Ale chociaż AGI nie jest w stanie stworzyć egzystencjalnego zagrożenia, musimy spojrzeć na sprawy szerzej – czeka nas niszczycielski huragan, którego AGI jest zwiastunem. Każda nowa innowacja AGI dodaje jeden blok na ścieżce prowadzącej do AGI i ASI. Albo, jak dobrze zauważył Aaron Saenz, AGI naszego świata są jak "aminokwasy pierwotnej zupy młodej Ziemi" - jeszcze nieożywione składniki życia, które pewnego dnia się obudzą.
Droga od AII do AGI: dlaczego jest taka trudna?
Nic tak nie ujawnia złożoności ludzkiej inteligencji, jak próba zbudowania równie inteligentnego komputera. Budowanie drapaczy chmur, latanie w kosmos, sekrety Wielkiego Wybuchu - wszystko to jest nonsensem w porównaniu z replikowaniem własnego mózgu, a nawet po prostu jego zrozumieniem. Mózg człowieka jest obecnie najbardziej złożonym obiektem w znanym wszechświecie.
Możesz nawet nie podejrzewać trudności w stworzeniu AGI (komputera, który jest ogólnie inteligentny jak człowiek, a nie tylko w jednym obszarze). Zbudowanie komputera, który w ułamku sekundy potrafi pomnożyć dwie dziesięciocyfrowe liczby, to bułka z masłem. Stworzenie takiego, które potrafi spojrzeć na psa i kota i powiedzieć, gdzie jest pies i gdzie jest kot, jest niezwykle trudne. Stworzyć sztuczną inteligencję, która może pokonać arcymistrza? Zrobiony. Teraz spróbuj nakłonić go do przeczytania akapitu z sześcioletniej książki i nie tylko zrozumienia słów, ale także ich znaczenia. Google wydaje na to miliardy dolarów. W przypadku skomplikowanych rzeczy – takich jak obliczenia, strategie kalkulacyjne dla rynków finansowych, tłumaczenie języka – komputer poradzi sobie z tym z łatwością, ale w przypadku prostych rzeczy – wzroku, ruchu, percepcji – nie. Jak ujął to Donald Knuth: „Sztuczna inteligencja robi teraz prawie wszystko, co wymaga„ myślenia ”, ale nie może poradzić sobie z tym, co ludzie i zwierzęta robią bez myślenia”.
Kiedy pomyślisz o przyczynach tego, zdasz sobie sprawę, że rzeczy, które wydają się nam proste do zrobienia, wydają się takie tylko dlatego, że zostały zoptymalizowane dla nas (i zwierząt) przez setki milionów lat ewolucji. Kiedy wyciągasz rękę w kierunku obiektu, mięśnie, stawy, kości ramion, łokci i dłoni natychmiast wykonują długie łańcuchy fizycznych operacji, synchronicznie z tym, co widzisz, i poruszają ręką w trzech wymiarach. Wydaje Ci się to proste, ponieważ za te procesy odpowiada doskonałe oprogramowanie Twojego mózgu. Ta prosta sztuczka sprawia, że proces rejestracji nowego konta za pomocą krzywo napisanego słowa (captcha) jest dla ciebie prosty i do diabła z złośliwym botem. Dla naszego mózgu nie jest to trudne: wystarczy widzieć.
Z drugiej strony mnożenie dużych liczb czy gra w szachy to nowe czynności dla istot biologicznych i nie zdążyliśmy się w nich poprawić (nie miliony lat), więc komputerowi nie jest trudno nas pokonać. Pomyśl tylko: czy wolałbyś stworzyć program, który potrafi mnożyć duże liczby, czy program rozpoznający literę B w milionach pisowni, w najbardziej nieprzewidywalnych czcionkach, ręcznie lub kijem w śniegu?
Jeden prosty przykład: kiedy na to patrzysz, ty i twój komputer zdajecie sobie sprawę, że są to naprzemienne kwadraty o dwóch różnych odcieniach.
Ale jeśli usuniesz czerń, od razu opiszesz cały obraz: cylindry, płaszczyzny, kąty trójwymiarowe, ale komputer nie.
Opisze to, co widzi jako różnorodne dwuwymiarowe kształty w różnych odcieniach, co w zasadzie jest prawdą. Twój mózg wykonuje mnóstwo pracy, interpretując głębię, cienie, światło na obrazie. Poniżej na zdjęciu komputer zobaczy dwuwymiarowy biało-szaro-czarny kolaż, podczas gdy w rzeczywistości jest to trójwymiarowy kamień.
A wszystko, co właśnie nakreśliliśmy, to tylko wierzchołek góry lodowej w zakresie rozumienia i przetwarzania informacji. Aby osiągnąć ten sam poziom, co człowiek, komputer musi zrozumieć różnicę w subtelnych wyrazach twarzy, różnicę między przyjemnością, smutkiem, satysfakcją, radością i dlaczego Chatsky jest świetny, ale Molchalin nie.
Co robić?
Pierwszy krok w kierunku stworzenia AGI: zwiększenie mocy obliczeniowej
Jedną z rzeczy, które muszą się wydarzyć, aby AGI było możliwe, jest zwiększenie mocy sprzętu komputerowego. Jeśli system AI ma być tak inteligentny jak mózg, musi dorównywać mózgowi pod względem czystej mocy przetwarzania.
Jednym ze sposobów zwiększenia tej zdolności jest całkowita liczba obliczeń na sekundę (OPS), które mózg może wykonać, a możesz określić tę liczbę, znajdując maksymalną liczbę OPS dla każdej struktury mózgu i łącząc je.
Ray Kurzweil doszedł do wniosku, że wystarczy profesjonalnie oszacować OPS jednej struktury i jej wagę w stosunku do wagi całego mózgu, a następnie pomnożyć proporcjonalnie, aby uzyskać oszacowanie ogólne. Brzmi trochę niepewnie, ale robił to wiele razy z różnymi szacunkami dla różnych obszarów i zawsze wymyślał tę samą liczbę: około 10^16 lub 10 biliardów OPS.
Najszybszy superkomputer na świecie, chiński Tianhe 2, przekroczył już tę liczbę, osiągając prędkość około 32 biliardów operacji na sekundę. Ale Tianhe 2 zajmuje 720 metrów kwadratowych powierzchni, zużywa 24 megawaty energii (nasz mózg zużywa tylko 20 watów) i kosztuje 390 milionów dolarów. Nie mówimy o użyciu komercyjnym lub powszechnym.
Kurzweil sugeruje, że oceniamy stan komputerów na podstawie tego, ile OPS można kupić za 1000 USD. Kiedy liczba ta osiągnie poziom ludzki - 10 biliardów OPS - AGI może równie dobrze stać się częścią naszego życia.
Prawo Moore'a – historycznie wiarygodna zasada, że maksymalna moc obliczeniowa komputerów podwaja się co dwa lata – sugeruje, że rozwój technologii komputerowej, podobnie jak przemieszczanie się człowieka przez historię, rośnie wykładniczo. Jeśli odniesiemy to do zasady tysiąca dolarów Kurzweila, możemy teraz pozwolić sobie na 10 bilionów OPS za 1000 dolarów.
Wykładniczy wzrost technologii obliczeniowej: XX-XXI wiek. Po prawej stronie znajduje się suwak logarytmiczny, a na nim mózg owada, myszy, człowieka i wszystkich ludzi; po lewej - obliczenia na sekundę za 20 dolarów; dół - rok
Komputery o wartości 1000 dolarów przewyższają mózg myszy pod względem zdolności obliczeniowych i są tysiąc razy słabsze od człowieka. Wydaje się to złą miarą, dopóki nie przypomnimy sobie, że komputery były bilion razy słabsze od ludzkiego mózgu w 1985 r., miliard razy słabsze od ludzkiego mózgu w 1995 r. i milion razy słabsze w 2005 r. Do 2025 r. powinniśmy mieć przystępne komputer o mocy obliczeniowej naszego mózgu.
Tak więc surowa moc potrzebna dla AGI jest już technicznie dostępna. W ciągu 10 lat opuści Chiny i rozprzestrzeni się na cały świat. Jednak sama moc obliczeniowa nie wystarczy. A następne pytanie brzmi: w jaki sposób dostarczamy inteligencji na poziomie człowieka z całą tą mocą?
Drugi krok do stworzenia AGI: pomyśl o tym
Ta część jest dość trudna. Tak naprawdę nikt tak naprawdę nie wie, jak sprawić, by maszyna była inteligentna — wciąż próbujemy wymyślić, jak stworzyć inteligencję na poziomie człowieka, która potrafi odróżnić kota od psa, odizolować B narysowane na śniegu i przeanalizować Film klasy B. Istnieje jednak kilka dalekowzrocznych strategii i w pewnym momencie jedna z nich powinna zadziałać.
1. Powtórz mózg
Ta opcja jest jak posiadanie naukowców w tej samej klasie co dziecko, które jest bardzo mądre i dobrze odpowiada na pytania; a nawet jeśli pilnie starają się zrozumieć naukę, nie zbliżają się do dogonienia mądrego dziecka. W końcu postanawiają: do diabła z tym, po prostu skopiujemy od niego odpowiedzi na pytania. To ma sens: nie możemy zbudować super złożonego komputera, więc dlaczego nie wziąć jednego z najlepszych prototypów wszechświata: naszego mózgu?
Świat nauki ciężko pracuje, próbując dowiedzieć się, jak działają nasze mózgi i jak ewolucja stworzyła tak złożoną rzecz. Według najbardziej optymistycznych szacunków odniosą sukces dopiero do 2030 roku. Ale kiedy już zrozumiemy wszystkie tajemnice mózgu, jego wydajność i moc, możemy zainspirować się jego metodami tworzenia technologii. Na przykład jedną z architektur komputerowych, która naśladuje działanie mózgu, jest sieć neuronowa. Zaczyna od sieci tranzystorowych „neuronów” połączonych ze sobą wejściem i wyjściem i nic nie wie – jak noworodek. System „uczy się”, próbując wykonywać zadania, rozpoznawać pismo ręczne i tym podobne. Połączenia między tranzystorami są wzmacniane w przypadku poprawnej odpowiedzi i osłabiane w przypadku błędnej. Po wielu cyklach pytań i odpowiedzi system tworzy inteligentne sieci neuronowe zoptymalizowane pod kątem konkretnych zadań. Mózg uczy się w podobny sposób, ale w znacznie bardziej złożony sposób, a w miarę jak go dalej badamy, odkrywamy niesamowite nowe sposoby ulepszania sieci neuronowych.
Jeszcze bardziej ekstremalny plagiat obejmuje strategię zwaną „pełną emulacją mózgu”. Celem jest pocięcie prawdziwych mózgów na cienkie plastry, zeskanowanie każdego plastra, a następnie dokładna rekonstrukcja modelu XNUMXD za pomocą oprogramowania, a następnie przełożenie go na potężny komputer. Wtedy będziemy mieli komputer, który może oficjalnie robić wszystko, co mózg: musi tylko uczyć się i zbierać informacje. Jeśli inżynierom się powiedzie, będą mogli naśladować prawdziwy mózg z tak niesamowitą wiernością, że po pobraniu na komputer prawdziwa osobowość i pamięć mózgu pozostaną nienaruszone. Jeśli mózg należał do Vadima przed śmiercią, komputer obudzi się w roli Vadima, który będzie teraz AGI na poziomie ludzkim, a my z kolei zmienimy Vadima w niesamowicie inteligentnego ASI, co z pewnością ciesz się.
Jak daleko jesteśmy od pełnej emulacji mózgu? W rzeczywistości naśladowaliśmy mózg milimetra płazińca, który zawiera łącznie 302 neurony. Ludzki mózg zawiera 100 miliardów neuronów. Jeśli próba dotarcia do tej liczby wydaje ci się bezużyteczna, pamiętaj o wykładniczym tempie wzrostu postępu. Następnym krokiem będzie naśladowanie mózgu mrówki, potem będzie mysz, a potem człowiek będzie w zasięgu ręki.
2. Staraj się podążać śladami ewolucji
Cóż, jeśli uznamy, że odpowiedzi mądrego dzieciaka są zbyt skomplikowane, by je odpisać, możemy spróbować podążać za jego ścieżką nauki i przygotowania do egzaminów. Co wiemy? Całkiem możliwe jest zbudowanie komputera tak potężnego jak mózg - udowodniła to ewolucja naszego własnego mózgu. A jeśli mózg jest zbyt złożony, by naśladować, możemy spróbować naśladować ewolucję. Chodzi o to, że nawet jeśli potrafimy naśladować mózg, to może to być jak próba zbudowania samolotu poprzez śmiesznie machanie rękami, naśladując ruchy skrzydeł ptaków. Najczęściej udaje nam się tworzyć dobre maszyny, stosując podejście zorientowane na maszyny, a nie dokładną imitację biologii.
Jak symulować ewolucję, aby zbudować AGI? Ta metoda zwana „algorytmami genetycznymi” powinna działać mniej więcej tak: musi istnieć produktywny proces i jego ocena, i będzie to powtarzane w kółko (w ten sam sposób istoty biologiczne „istnieją” i są „oceniane” przez ich zdolność do reprodukcji). Grupa komputerów będzie wykonywać zadania, a najbardziej udane z nich podzielą się swoimi cechami z innymi komputerami „wyjście”. Mniej udani zostaną bezlitośnie wyrzuceni na śmietnik historii. Poprzez wiele, wiele iteracji ten proces doboru naturalnego stworzy lepsze komputery. Wyzwanie polega na tworzeniu i automatyzacji pętli wnioskowania i oceny, tak aby proces ewolucji mógł sam sobie poradzić.
Minusem kopiowania ewolucji jest to, że ewolucja potrzebuje miliardów lat, aby cokolwiek zrobić, a my potrzebujemy tylko kilku dekad, aby to zrobić.
Ale mamy wiele zalet, w przeciwieństwie do ewolucji. Po pierwsze, nie ma daru przewidywania, pracuje na chybił trafił – rozdaje np. bezużyteczne mutacje – i możemy kontrolować proces w ramach wyznaczonych zadań. Po drugie, ewolucja nie ma celu, w tym pogoń za inteligencją – czasami w środowisku pewien gatunek wygrywa nie kosztem inteligencji (bo ta druga zużywa więcej energii). Z drugiej strony możemy dążyć do zwiększenia inteligencji. Po trzecie, aby wybrać inteligencję, ewolucja musi wprowadzić szereg ulepszeń stron trzecich – takich jak redystrybucja zużycia energii przez komórki – możemy po prostu usunąć nadmiar i wykorzystać energię elektryczną. Bez wątpienia będziemy szybsi niż ewolucja - ale znowu nie jest jasne, czy możemy ją prześcignąć.
3. Zostaw komputery samym sobie
To ostatnia szansa, kiedy naukowcy całkowicie rozpaczają i próbują zaprogramować program samorozwoju. Jednak ta metoda może okazać się najbardziej obiecująca ze wszystkich. Chodzi o to, że budujemy komputer, który będzie miał dwie główne umiejętności: eksplorację sztucznej inteligencji i samokodowanie zmian - co pozwoli mu nie tylko nauczyć się więcej, ale także ulepszyć własną architekturę. Możemy wyszkolić komputery, aby były własnymi inżynierami komputerowymi, aby mogły się rozwijać. A ich głównym zadaniem będzie wymyślenie, jak stać się mądrzejszym. Porozmawiamy o tym później.
Wszystko to może się wydarzyć już niedługo
Szybki rozwój eksperymentów ze sprzętem i oprogramowaniem przebiega równolegle, a AGI może pojawić się szybko i nieoczekiwanie z dwóch głównych powodów:
1. Wykładniczy wzrost jest intensywny i to, co wydaje się krokami ślimaka, może szybko zamienić się w skoki — ten gif dobrze ilustruje tę koncepcję:
animowany obraz: hi-news.ru/wp-content/uploads/2015/02/gif.gif
Kiedy komputery przewyższą ludzi w zdolnościach myślowych? Objętość jeziora Michigan (w uncjach płynu) jest równa objętości naszego mózgu (w operacjach na sekundę). Moc obliczeniowa podwaja się co 18 miesięcy. W tym tempie przez długi czas nie zobaczysz żadnych rezultatów, ale potem wszystko wydarzy się natychmiast.
2. Jeśli chodzi o oprogramowanie, postęp może wydawać się powolny, ale wtedy jeden przełom w jednej chwili zmienia tempo postępu (dobry przykład: w czasach geocentrycznego światopoglądu trudno było ludziom obliczyć działanie wszechświata, ale odkrycie heliocentryzmu znacznie ułatwiło sprawę). Lub, jeśli chodzi o komputer, który sam się poprawia, wszystko może wydawać się bardzo powolne, ale czasami tylko jedna poprawka w systemie oddziela go od tego, że jest tysiąc razy bardziej wydajny niż człowiek lub poprzednia wersja.
Droga z AII do ISI
W pewnym momencie na pewno dostaniemy AGI – sztuczną ogólną inteligencję, komputery o ogólnoludzkim poziomie inteligencji. Komputery i ludzie będą żyć razem. Albo nie.
Faktem jest, że AGI o tym samym poziomie inteligencji i mocy obliczeniowej co człowiek nadal będzie miał znaczną przewagę nad ludźmi. Na przykład:
Sprzęt
Prędkość. Neurony mózgu działają z częstotliwością 200 Hz, podczas gdy dzisiejsze mikroprocesory (które są znacznie wolniejsze niż te, które będziemy mieli do czasu zbudowania AGI) działają z częstotliwością 2 GHz, czyli 10 milionów razy szybciej niż nasze neurony. A wewnętrzna komunikacja mózgu, który może poruszać się z prędkością 120 m/s, jest znacznie gorsza od zdolności komputerów do korzystania z optyki i prędkości światła.
Rozmiar i przechowywanie. Rozmiar mózgu jest ograniczony rozmiarem naszych czaszek i nie może być większy, w przeciwnym razie wewnętrzna komunikacja z prędkością 120 m/s zajęłaby zbyt dużo czasu, aby przemieścić się z jednej struktury do drugiej. Komputery mogą rozszerzać się do dowolnych rozmiarów fizycznych, wykorzystywać więcej sprzętu, dodawać więcej pamięci RAM, więcej pamięci długotrwałej – wszystko to przekracza nasze możliwości.
Niezawodność i trwałość. Nie tylko pamięć komputera jest dokładniejsza niż pamięć ludzka. Tranzystory komputerowe są dokładniejsze niż neurony biologiczne i są mniej podatne na degradację (i rzeczywiście można je wymienić lub naprawić). Ludzkie mózgi męczą się szybciej, podczas gdy komputery mogą pracować bez przerwy, 24 godziny na dobę, 7 dni w tygodniu.
Oprogramowanie
Możliwość edycji, aktualizacji, szerszy wachlarz możliwości. W przeciwieństwie do ludzkiego mózgu, program komputerowy można łatwo korygować, aktualizować i eksperymentować. Ulepszenia można również dokonywać w obszarach, w których ludzki mózg jest słaby. Oprogramowanie człowieka odpowiedzialne za widzenie jest znakomite, ale z inżynierskiego punktu widzenia jego możliwości są nadal mocno ograniczone – widzimy tylko w widzialnym spektrum światła.
zdolność zbiorowa. Ludzie przewyższają inne gatunki pod względem wspaniałej inteligencji zbiorowej. Od rozwoju języka i tworzenia dużych społeczności, poprzez wynalezienie pisma i drukowania, a teraz aktywowanie go za pomocą narzędzi takich jak Internet, zbiorowy umysł ludzi jest ważnym powodem, dla którego możemy nazywać siebie szczytem ewolucji. Ale komputery nadal będą lepsze. Światowa sieć sztucznej inteligencji działającej na tym samym programie, stale synchronizująca się i samorozwijająca się, pozwoli Ci błyskawicznie dodawać nowe informacje do bazy danych, gdziekolwiek je otrzymasz. Taka grupa byłaby również w stanie dążyć do tego samego celu co jedna, ponieważ komputery nie cierpią z powodu odmiennych opinii, motywacji i interesowności, tak jak ludzie.
Sztuczna inteligencja, która najprawdopodobniej stanie się AGI poprzez zaprogramowane samodoskonalenie, nie będzie postrzegać „inteligencji na poziomie człowieka” jako głównego kamienia milowego – ten kamień milowy jest ważny tylko dla nas. Nie będzie powodu, by poprzestał na tym wątpliwym poziomie. A biorąc pod uwagę zalety, jakie będą miały nawet AGI na poziomie ludzkim, jest całkiem oczywiste, że ludzka inteligencja będzie krótkim błyskiem w wyścigu o intelektualną supremację.
Taki rozwój wydarzeń może nas bardzo, bardzo zaskoczyć. Faktem jest, że z naszego punktu widzenia a) jedynym kryterium, które pozwala nam określić jakość inteligencji, jest inteligencja zwierząt, która domyślnie jest niższa od naszej; b) dla nas najmądrzejsi ludzie są ZAWSZE mądrzejsi od najgłupszych. Mniej więcej tak:
Oznacza to, że podczas gdy sztuczna inteligencja po prostu próbuje osiągnąć nasz poziom rozwoju, widzimy, jak staje się mądrzejsza, zbliżając się do poziomu zwierzęcia. Kiedy dojdzie do pierwszego ludzkiego poziomu – Nick Bostrom używa określenia „wiejski głupiec” – będziemy zachwyceni: „Wow, on już jest jak kretyn. Chłodny! Jedyne, ale jest to, że w ogólnym spektrum ludzkiej inteligencji, od wiejskiego głupca po Einsteina, zasięg jest niewielki - więc po tym, jak AI osiągnie poziom głupca i stanie się AGI, nagle staje się mądrzejszy od Einsteina.
A co będzie dalej?
Eksplozja inteligencji
Mam nadzieję, że uznałeś to za interesujące i zabawne, ponieważ od tego momentu omawiany przez nas temat staje się nienormalny i przerażający. Powinniśmy zatrzymać się i przypomnieć sobie, że każdy fakt wspomniany powyżej i poza nim jest prawdziwą nauką i prawdziwymi przewidywaniami na przyszłość dokonanymi przez najwybitniejszych myślicieli i naukowców. Pamiętaj tylko.
Tak więc, jak wspomnieliśmy powyżej, wszystkie nasze obecne modele osiągania AGI obejmują opcję, gdy sztuczna inteligencja sama się poprawia. A kiedy zostanie AGI, nawet systemy i metody, na których dorastał, są wystarczająco inteligentne, aby się poprawić – jeśli chcą. Pojawia się ciekawa koncepcja: rekurencyjne samodoskonalenie. To działa tak.
Jakiś system sztucznej inteligencji na pewnym poziomie – powiedzmy, wiejski głupek – jest zaprogramowany, aby poprawić własną inteligencję. Rozwijając się, powiedzmy, do poziomu Einsteina, taki system zaczyna się rozwijać już z inteligencją Einsteina, rozwój zajmuje mniej czasu, a skoki są coraz większe. Pozwalają systemowi prześcignąć każdego człowieka, stając się coraz większym i większym. W miarę szybkiego rozwoju AGI wznosi się na niebiańskie wyżyny swojej inteligencji i staje się superinteligentnym systemem ASI. Proces ten nazywa się eksplozją inteligencji i jest to najwyraźniejszy przykład prawa przyspieszania powrotów.
Naukowcy spierają się o to, jak szybko AI osiągnie poziom AGI – większość wierzy, że będziemy mieć AGI do 2040 roku, w ciągu zaledwie 25 lat, co jest bardzo, bardzo małym jak na standardy rozwoju technologii. Kontynuując logiczny łańcuch, łatwo założyć, że przejście z AGI na ASI również nastąpi niezwykle szybko. Mniej więcej tak:
„Minęły dekady, zanim pierwszy system sztucznej inteligencji osiągnął najniższy poziom ogólnej inteligencji, ale w końcu tak się stało. Komputer jest w stanie zrozumieć otaczający świat jako czteroletnia osoba. Nagle, dosłownie godzinę po osiągnięciu tego kamienia milowego, system tworzy wspaniałą teorię fizyki, która łączy ogólną teorię względności i mechanikę kwantową, czego żaden człowiek nie jest w stanie zrobić. Półtorej godziny później sztuczna inteligencja staje się ASI, 170 000 razy mądrzejsza niż jakikolwiek człowiek”.
Nie mamy nawet odpowiednich terminów, aby opisać superinteligencję tej wielkości. W naszym świecie „inteligentny” oznacza osobę o IQ 130, „głupi” to 85, ale nie mamy przykładów osób z IQ 12 952. Nasi władcy nie są do tego stworzeni.
Historia ludzkości mówi nam jasno i jasno: wraz z intelektem idzie moc i siła. Oznacza to, że gdy stworzymy sztuczną superinteligencję, będzie ona najpotężniejszym tworem w historii życia na Ziemi, a wszystkie żywe istoty, w tym ludzie, będą całkowicie na jej łasce – a to może nastąpić za dwadzieścia lat.
Gdyby nasze skromne mózgi były w stanie wymyślić Wi-Fi, to coś mądrzejszego od nas sto, tysiąc, miliard razy mogłoby z łatwością obliczyć pozycję każdego atomu we wszechświecie w dowolnym momencie. Wszystko, co można nazwać magią, każda moc przypisana wszechmocnemu bóstwu - wszystko to będzie do dyspozycji ASI. Stworzenie technologii, która odwraca starzenie się, leczy wszelkie choroby, pozbywa się głodu, a nawet śmierci, kontroluje pogodę – nagle wszystko stanie się możliwe. Możliwy jest również natychmiastowy koniec wszelkiego życia na Ziemi. Najmądrzejsi ludzie na naszej planecie zgadzają się, że gdy tylko na świecie pojawi się sztuczna superinteligencja, będzie to oznaczać pojawienie się boga na Ziemi. I pozostaje ważne pytanie.
Czy będzie dobrym bogiem?
Zaczerpnięte z waitbutwhy.com, kompilacji Tima Urbana. W artykule wykorzystano materiały z prac Nicka Bostroma, Jamesa Barratta, Raya Kurzweila, Jaya Nielsa-Nielssona, Stevena Pinkera, Vernora Vinge'a, Moshe Vardy'ego, Russa Robertsa, Stuarta Armstroga i Kai Sotala, Susan Schneider, Stuarta Russella i Petera Norviga, Theodore'a Modis, Gary Marcus, Karl Schulman, John Searle, Jaron Lanier, Bill Joy, Kevin Kelly, Paul Allen, Stephen Hawking, Kurt Andersen, Mitch Kapor, Ben Goertzel, Arthur C. Clarke, Hubert Dreyfus, Ted Greenwald, Jeremy Howard.
- ILYA HEL
- //hi-news.ru/research-development/iskusstvennyj-intellekt-chast-pervaya-put-k-sverxintellektu.html
Nasze kanały informacyjne
Zapisz się i bądź na bieżąco z najświeższymi wiadomościami i najważniejszymi wydarzeniami dnia.
informacja