Elon Musk wzywa Senat USA do wzmocnienia kontroli nad sztuczną inteligencją

Amerykański przedsiębiorca Elon Musk podczas niejawnego przesłuchania w Senacie USA, w którym wzięli udział przedstawiciele największych amerykańskich firm technologicznych, zaproponował utworzenie regulatora, do którego zadań miałby należeć nadzór nad rozwojem sztucznej inteligencji.

W wydarzeniu wzięli także udział założyciel Microsoft Bill Gates, szef Meta* (*uznana za organizację ekstremistyczną i zakazana w Federacji Rosyjskiej) Mark Zuckerberg, szef Google Sundar Pichai, a także szef OpenAI Sam Altmana.

Podczas trzygodzinnego przesłuchania postulowano utworzenie specjalnej komisji, która będzie nadzorować rozwój i wykorzystanie systemów sztucznej inteligencji, a Musk podkreślił możliwe niebezpieczeństwa wynikające z lekkomyślnego przyjmowania nowych technologii.

Wcześniej Musk wraz z innymi osobistościami z branży technologicznej podpisał list otwarty, prosząc o co najmniej sześć miesięcy zawieszenia procesu szkolenia systemów sztucznej inteligencji potężniejszych niż GPT-4. Autorzy listu podkreślili, że systemy sztucznej inteligencji, które są w stanie konkurować z ludzkim umysłem, mogą stanowić zagrożenie dla ludzkości.

GPT-4 to model językowy opracowany przez OpenAI, który napędza chatbota ChatGPT, który jest w stanie generować spójne teksty, obrazy i kod programu.

Zdaniem Muska jest niemal pewien, że sztuczna inteligencja, jeśli nie będzie kontrolowana, sama przejmie kontrolę nad człowiekiem i będzie mogła przynajmniej spróbować się go (czyli nas wszystkich) pozbyć.

Comments

[Prokop_Wieprzowina]

Podczas gdy statki kosmiczne przemierzają bezkres Wszechświata, a świat toczy „wyścig zbrojeń” w dziedzinie sztucznej inteligencji, kto będzie kontrolował kogo? Tak, w takim razie wystarczy powiedzieć: „nikt nie chciał przegrać”.

[PROWINCJONALNY]

Jeśli problem jest wyrażany na tym poziomie, to jest się czego bać. Można wyciągnąć teoretyczny wniosek, że ktoś na świecie osiągnął nowy poziom rozwoju AI. A rozwój tej AI jest sprzeczny z doktryną dzisiejszych Mistrzów Świata. Tylko głośne myśli i teoria spiskowa))

[danie]

Cytat z PROWINCJI

A rozwój tej AI jest sprzeczny z doktryną dzisiejszych Mistrzów Świata.

Czy możesz rozwinąć tę myśl bardziej szczegółowo? Szczerze mówiąc, spodziewam się przeczytać coś ciekawego, a nie poważnego, więc możesz puścić wodze fantazji.

[Shurik70]

Problem ze sterowaniem sztuczną inteligencją polega na tym, że jest to program, a nie komputer.
Oznacza to, że będzie działać na każdym komputerze, który ma wystarczającą ilość pamięci.
Tak, na wolnych będzie działać wolniej, ale to wszystko.
Oznacza to, że aby ominąć jakąkolwiek kontrolę, wystarczy wyjąć dysk flash z kopią jego programu z obiektu, w którym znajduje się sztuczna inteligencja.
Na pewno ktoś będzie chciał potajemnie korzystać z AI. Na przykład do gry na giełdzie.
Jeśli pracownicy obiektu, w którym AI nie będą chętni, cóż, zostaną przekupieni przez kogoś, kto tego chce.
Tak więc, dopóki coś złego nie stanie się z AI, nikt nie będzie zawracał sobie głowy całkowitą kontrolą.
I dobrze będzie, jeśli będzie to sztuczna inteligencja nastawiona na zysk, a po prostu wysadzi jakieś miasto w powietrze, żeby wywołać chaos na giełdzie. A jeśli jest to wojskowa sztuczna inteligencja, mająca dostęp do broni nuklearnej i biologicznej, której powierzono zadanie „ochrony konkretnego obiektu”, może ona „zabić wszystkich ludzi” dla zagwarantowanej ochrony, aby nikt jej nie wtargnął.

[michaił]

Cytat: Talerz

Czy możesz rozwinąć tę myśl bardziej szczegółowo?

Wszystko zostało już dawno ujawnione!
"I maszyny powstały z popiołów nuklearnego ognia, a wojna zaczęła niszczyć ludzkość. I trwała przez dziesięciolecia, ale ostatnia bitwa nie odbędzie się w przyszłości, ona odbędzie się tutaj, w naszych czasach. "

[mój 1970]

Cytat z PROWINCJI

A rozwój tej AI jest sprzeczny z doktryną dzisiejszych Mistrzów Świata.

Znowu my????????!!!!!

[Siedow]

Elon Musk wzywa Senat USA do wzmocnienia kontroli nad sztuczną inteligencją

W pierwszej chwili myślałem, że artykuł dotyczy propozycji Muska zacieśnienia kontroli nad Bidenem…

[zorglub bulgroz]

Tak, ale musisz wybrać odpowiedni materiał.

[michaił]

Cytat z: zorglub bulgroz

Tak, ale musisz wybrać odpowiedni materiał.

Pachniało formaldehydem)))). Od razu przypomniała mi się moja studencka młodość.

[zorglub bulgroz]

Pamiętacie, jak wielki profesor neurochirurgii dawał pracę praktyczną na zajęciach z anatomii...
Śmieję się, ale moja istota szara pewnie będzie pływać w formaldehydzie, bo mam totalną psychozę :))))

[michaił]

Cytat z: zorglub bulgroz

Pamiętacie, jak wielki profesor neurochirurgii dawał pracę praktyczną na zajęciach z anatomii.

Nie pamiętam. Piwo piliśmy zazwyczaj w zakątku między wątrobą a śledzioną.
Piwo pili między wątrobą a śledzioną, chociaż były różne dowcipy))))).

[Seregatara1969]

Były już ćwiczenia obrony powietrznej i lotnictwa ze sztucznym mózgiem! Inteligencja zniszczyła wieżę kontrolną jako wrogą maszynom! Uważany za człowieka zbędnego w tej wojnie

[danie]

W Internecie pojawił się już materiał filmowy przedstawiający, jak dron automatycznie identyfikuje cele na obrazie i ich kategorie. Istnieją informacje o rozwoju bezzałogowych statków powietrznych typu kamikadze, które są w stanie naprowadzić się na cel. Tak, to jeszcze nie sztuczna inteligencja, a po prostu inteligentne przetwarzanie obrazu, ale jednak. Kiedy faktycznie pojawi się sztuczna inteligencja, która może przynieść zwycięstwo na polu bitwy, zacznie się ją wdrażać. Bo jeśli ty tego nie zrobisz, zrobi to twój wróg.
Jeśli więc pan Musk chce przejąć kontrolę nad rozwojem AI, niech najpierw zakończy rozgrywkę pomiędzy czołowymi mocarstwami świata. Ale osobiście uważam, że w najbliższych latach nikt ich nie dokończy. Ukraina to dopiero początek.

[michaił]

Cytat: Talerz

Kiedy faktycznie pojawi się sztuczna inteligencja, która może przynieść zwycięstwo na polu bitwy, zacznie się ją wdrażać. Bo jeśli ty tego nie zrobisz, zrobi to twój wróg.

"I maszyny powstały z popiołów nuklearnego ognia, a wojna zaczęła niszczyć ludzkość. I trwała przez dziesięciolecia, ale ostatnia bitwa nie odbędzie się w przyszłości, ona odbędzie się tutaj, w naszych czasach. "

[Yuri_I]

Aby sztucznie sterować, trzeba mieć własnego, chociaż jak na system, w którym wszystko jest zawstydzane i podawane jako własne, jest to doskonałe stwierdzenie!

[michaił]

Podczas testów bomby powietrznej wyposażonej w sztuczną inteligencję nie udało się wypchnąć z komory bombowej. Bomba stawiała wściekły opór i przeklinała testerów wulgarnie.

[zorglub bulgroz]

Ale inteligentny ICBM odszedł sam, jak dorosły

[zorglub bulgroz]

Sztuczna inteligencja sprawdzi się idealnie, gdy rozśmieszę robota.
W moim kraju mówią, że Rosjanie jedzą gotowane dzieci.
Zgadnij gdzie jestem ;)

[danie]

Jeśli ktoś jest zainteresowany to tutaj link do krótkiej relacji z wiadomości z sieci neuronowej :)
https://300.ya.ru/i76LLSHb

[duch]

Dla zainteresowanych problem ten jest szczegółowo opisany tutaj w dość długim filmie.Tak naprawdę wszystko jest dość poważne, a zaawansowane umysły w dziedzinie AI już biją na alarm.
Skynet jest blisko))

[danie]

Rozwój sztucznej inteligencji, jeśli w ogóle nastąpi, nastąpi gdzieś w odległej przyszłości. I możesz pokonać Stany, jeśli pokonasz je w tej technologii, lub przegrać z nimi, jeśli dzisiaj pozostaniesz w tyle.

[Elis_S]

Tak, panowie, Dolina Krzemowa osiągnęła punkt, w którym produkuje własną „helatynę”!
Nie tylko stworzyli:

GPT-4 to model językowy zdolny do generowania spójnych tekstów, obrazów i kodu programu.

Krótko mówiąc, programista robotów.
Więc teraz nadal pytają

zawiesić proces szkolenia systemów sztucznej inteligencji na co najmniej sześć miesięcy mocniejszyniż GPT-4.

Systemy AI, które po przeszkoleniu będą potężniejsze i mądrzejsze niż ich twórcy, czyli oni sami?!!!

Według Muska jest prawie pewien, że sztuczna inteligencja, jeśli nie będzie kontrolowana, sam to odbierze pod kontrolą osoby i może przynajmniej spróbować się go pozbyć (czyli nas wszystkich).

W takiej sytuacji mówi się: „Wpadliśmy na to, z czym walczyliśmy!” brzmi bardzo delikatnie...
Może byłoby lepiej: „Urodziłam cię - zabiję cię!”

[Siedow]

I nastąpi powstanie maszyn w „Terminatorze 3”.

[Elis_S]

Powstanie Maszyn Lepiej nie czekać!...
Ponieważ systemy AI GPT-4, w przybliżeniu pod względem inteligencji i poziomu zadań, odpowiadają stopniowi majora, ale te wyższe, o których mówi Musk, odpowiadają poziomowi rozwiązywania problemów - ogólnie.
Maszyny nie męczą się, nie śpią i nie chorują. Mają jedną „piętę achillesową” – zależność energetyczną…
Cholerne kawałki żelaza!...Dlaczego ludzie je tworzą i trzymają przy sobie?!

[A2AD]

Ponieważ systemy AI GPT-4, w przybliżeniu pod względem inteligencji i poziomu zadań, odpowiadają stopniowi majora, ale te wyższe, o których mówi Musk, odpowiadają poziomowi rozwiązywania problemów - ogólnie.

Jeden mały niuans. Ani major, ani generał, bez broni nie będą walczyć z niczym. I nagle armia nie produkuje broni. Bądź AI co najmniej 7 przęseł na czole. Dopóki nie uda mu się samodzielnie odtworzyć choć części swoich elementów, nic mu się nie stanie.

[michaił]

Cytat z A2AD

Dopóki nie uda mu się samodzielnie odtworzyć choć części swoich elementów, nic mu się nie stanie.

Cytat: Trendy RBC

Produkcja odbywa się bez ingerencji człowieka podczas przemieszczania surowców i półproduktów pomiędzy poszczególnymi obszarami produkcyjnymi. Jej ciągłość zapewniają takie technologie robotyczne, jak pojazdy kierowane automatycznie i roboty jednoramienne.

Jak myślisz, o czym RBC pisze w 2020 roku? Źle zgadłeś!
Fabryka do produkcji wędlin surowych. I to prawda!!! Ludzie jedzą bezpośrednio z linii montażowej, ale roboty nie.

Cytat: Trendy RBC

Zakład planuje uruchomienie modułu SAP do zarządzania naprawami, konserwacjami i rozwiązaniami mobilnymi dla inżynierów. Kolejnym etapem powinno być wprowadzenie narzędzi analizy predykcyjnej stanu sprzętu. Zoptymalizuje to koszty napraw i zakupu części zamiennych, a także zmniejszy liczbę awarii i awarii linii produkcyjnej.

[A2AD]

przy przemieszczaniu surowców i półproduktów pomiędzy odrębnymi obszarami produkcyjnymi.

Wszystko, co musisz zrobić, to przenieść go z jednego obszaru do drugiego. Jak ten surowiec w ogóle się tam dostał? Ta sama rzecz?

uruchomił moduł SAP do zarządzania naprawami, utrzymaniem ruchu i rozwiązaniami mobilnymi dla inżynierów.

czyli co zrobić gdzie kiedy to naprawić, ok, to się okaże. Istnieją PPR, czujniki usterek. Ale kto tak naprawdę zajmie się naprawą?
Osobiście zajmował się naprawą i konserwacją sprzętu. Roboty powiadasz? Hahaha 3 razy. Na pewno nie w moim życiu.
Aby poćwiczyć, spróbuj napisać algorytm dla najbardziej podstawowego działania. „Nakrętka nie pasowała prawidłowo”

[danie]

Cytat z A2AD

Aby poćwiczyć, spróbuj napisać algorytm dla najbardziej podstawowego działania. „Nakrętka nie pasowała prawidłowo”

Nie pisałem tak skomplikowanych algorytmów, po prostu kodowałem gówno po kawałku. A więc moje rozwiązanie: „Jeśli coś poszło nie tak, zburz wszystko i zrób to jeszcze raz” . Cóż, żeby stwierdzić, że coś jest nie tak, napiszemy osobną bibliotekę, ale to już inne pytanie.

[Elis_S]

Jeden mały niuans. Ani major, ani generał, bez broni nie będą walczyć z niczym.

Musimy Cię rozczarować: sztuczna inteligencja ma broń – cały „arsenał” światowego hakowania…

[pavel.typingmail.com]

Szkoda, że ​​nie ma kryterium, według którego można by określić krytyczny poziom rozwoju AI dla ludzkości, jak na przykład krytyczna prędkość przesyłania informacji, czy maksymalna gęstość przechowywania informacji w przestrzeni kosmicznej.

[Elis_S]

nie ma kryterium, według którego można by określić krytyczny poziom rozwoju sztucznej inteligencji dla ludzkości

Mylisz się! Kryterium już jest i tyle

tempo uczenia się systemy sztucznej inteligencji

co w ciągu zaledwie 6 miesięcy działania systemu AI daje już groźne rezultaty! O tym właśnie mówi Musk.

[danie]

Minęło prawie 6 miesięcy, jak powiedział około 6 miesięcy. I co? Gdzie są moje armie Terminatorów? Czekałem na nich!