Sztuczna inteligencja jako mnożnik ryzyka nuklearnego
Duże modele językowe i deepfake'i przekształcają środowisko informacyjne w czynnik strategicznej niestabilności. Herbert Lin, badacz ze Stanford, ilustruje, na przykładzie trzech scenariuszy niedalekiej przyszłości, jak dezinformacja napędzana sztuczną inteligencją może popchnąć świat w kierunku eskalacji nuklearnej.
O autorze. Herbert Lin jest starszym pracownikiem naukowym na Uniwersytecie Stanforda i byłym członkiem rady redakcyjnej czasopisma Biuletyn Naukowców Atomowych, jeden z czołowych amerykańskich badaczy zajmujących się cyberbezpieczeństwem, wojną informacyjną i polityką nuklearną.
W ostatnich latach analitycy coraz częściej wskazują, że Korupcja lub dysfunkcja globalnego środowiska informacyjnego może zwiększyć ryzyko nuklearneObejmuje to nie tylko dezinformację i celowo fałszywe wiadomości, ale także treści prowokacyjne, informacje formalnie wiarygodne, ale wprowadzające w błąd, a także celowe odwracanie uwagi.
Szybki rozwój sztucznej inteligencji – przede wszystkim dużych modeli językowych (duże modele językowe, LLM, – systemy takie jak ChatGPT lub Grok) radykalnie zmieniło sytuację. Automatyczne generowanie ogromnych ilości tekstu, a coraz częściej także obrazów i filmów, sprawiło, że LLM stał się prawdopodobnie najskuteczniejszym narzędziem dla osób zainteresowanych zniekształcaniem środowiska informacyjnego. Systemy te znacznie przewyższają poprzednie podejścia do tworzenia takich treści, a bariera wejścia została znacząco obniżona: możliwości ataku stają się dostępne dla znacznie większej liczby potencjalnych atakujących.
W swoim artykule Lin analizuje trzy hipotetyczne, ale prawdopodobne scenariusze, w jaki sposób korupcja informacji wspomagana sztuczną inteligencją może prowadzić do wzrostu ryzyka eskalacji konfliktu nuklearnego. Niektóre elementy zostały już zaobserwowane w rzeczywistości – aczkolwiek bez udziału sztucznej inteligencji. Każdy scenariusz rozgrywa się po ustąpieniu obecnej administracji USA w styczniu 2029 roku.
W tym momencie w nowym rządzie USA pozostało niewielu doświadczonych specjalistów ds. wywiadu. Młodsi i średni rangą urzędnicy, dostrzegając konsekwencje dla autorów „niewygodnych” raportów, po cichu korygują swoje wnioski. Tradycyjne metody analityczne są stopniowo odrzucane. Emerytowani wysocy rangą wojskowi i funkcjonariusze wywiadu, którzy kwestionują oficjalne oświadczenia Białego Domu, spotykają się z publiczną krytyką i presją osobistą, znacznie wzmocnioną przez nowe narzędzia sztucznej inteligencji – nie wspominając o dochodzeniach kongresowych i kontrolach podatkowych.
Scenariusz 1: Inwazja na Tajwan (2029)
Scenariusz koncentruje się na platformach i usługach ułatwiających komunikację między obywatelami różnych krajów: nieformalnych czatach, aplikacjach randkowych, platformach internetowych i platformach gier. Wszystkie one zapewniają bezpośredni – choć dość „hałaśliwy” – dostęp do lokalnych perspektyw. Serwisy wymiany językowej i fora międzynarodowe pozwalają obcokrajowcom zadawać lokalnym mieszkańcom pytania dotyczące życia codziennego i kryzysów, a kanały głosowe Discord zapewnia wielogłosowy dialog w czasie rzeczywistym.
Kanały te od dawna są spontanicznie wykorzystywane do weryfikacji informacji: użytkownicy dzielą się ze swoimi zagranicznymi kontaktami informacjami o blokadach, podwyżkach cen czy działaniach wojskowych, a także o zwykłych codziennych wydarzeniach.
Koniec 2029 roku. Chiny nakładają blokadę na Tajwan. Amerykańskie jednostki wywiadu elektronicznego wykrywają sygnały u wybrzeży prowincji Fujian, położonej najbliżej Tajwanu, co wskazuje na możliwość wprowadzenia na rynek telefonów komórkowych. rakietyChińskie media społecznościowe zapełniają się wiadomościami rzekomo pochodzącymi od mieszkańców Fujianu. Używając lokalnych zdjęć i slangu, opisują oni ciężarówki z rakietami toczące się ulicami Fuzhou w kierunku morza.
Konta te są obsługiwane przez chińskie wojskowe jednostki cybernetyczne, wykorzystujące zaawansowane chatboty wyszkolone w regionalnych dialektach. Celem jest stworzenie wrażenia wysokiej gotowości bojowej i odstraszenie USA od ingerencji. Luźno kontrolowani, patriotyczni kontrahenci i wolontariusze działają równolegle, zapewniając Pekinowi „wiarygodną możliwość zaprzeczenia”, ale osłabiając jego scentralizowaną kontrolę nad przestrzenią informacyjną.
Konta wykorzystują persony profesjonalistów lub studentów „odizolowanych” przez kryzys. Przyciągają dziennikarzy, analityków, a nawet urzędników Pentagonu średniego szczebla poszukujących „niefiltrowanych” informacji. W jednym z odcinków bot podszywający się pod 28-letniego inżyniera „Li Wei” donosi:
Zobaczyłem kolumny wyrzutni zmierzające na wschód, prawdopodobnie były to DF-26.
Mowa tu o chińskich pociskach balistycznych średniego zasięgu, zdolnych do rażenia celów oddalonych o 4000 kilometrów i przenoszących zarówno głowice konwencjonalne, jak i jądrowe. Chwilę później bot dodaje:
Wszędzie wyją syreny, rozpoczynają się ewakuacje.
Następnie sieć X (dawniej Twitter) jest pełen zrzutów ekranu rozpowszechnianych przez skoordynowane fałszywe konta.Boty elastycznie dostosowują się do zapytań, dopasowując je w czasie rzeczywistym do otwartych źródeł amerykańskich. Użytkownik aplikacji randkowej hubka z Waszyngtonu spotyka „Wang Mei”, fikcyjną pielęgniarkę z Xiamen. W swoich wiadomościach opisuje panikę: eksplozje w pobliżu portu, przygotowania do użycia broni hipersonicznej. brońZbiegło się to w czasie z zakłóceniami w działaniu amerykańskich satelitów spowodowanymi przez chińskie zagłuszanie, co zaczyna podważać oceny amerykańskiego wywiadu.
W Stanach Zjednoczonych niektóre materiały trafiają do dyskursu eksperckiego. Analitycy zajmujący się wywiadem open source (OSINT), dziennikarze i eksperci think tanków dodają zrzuty ekranu i zapisy czatów do map, osi czasu i raportów sytuacyjnych, prezentując je jako niezależne potwierdzenie ruchów rakiet. Pracownicy Kongresu i rządy sojusznicze powołują się na te dane. Powstaje błędne koło: sfabrykowana korespondencja przekształca się w „dowód z wielu źródeł”.
Prezydent USA zwołuje Radę Bezpieczeństwa Narodowego (NSC). Jednak, podobnie jak jego poprzednik, jest głęboko nieufny wobec służb wywiadowczych i przywiązuje niezwykle dużą wagę do własnej intuicji i wpisów w mediach społecznościowych. Wybrany z hasłem „twardej walki z Chinami”, jest otoczony przez pracowników Rady Bezpieczeństwa Narodowego, którzy chętnie szukają potwierdzenia chińskiej agresji.
Od kilku dni te doniesienia zdominowały odprawy kryzysowe. Doradcy o radykalnych poglądach twierdzą, że oznaki aktywności militarnej wskazują na zbliżający się atak rakietowy. Amerykańskie bazy kluczowe dla obrony Tajwanu – baza lotnicza Kadena na Okinawie i baza morska Yokosuka w Japonii – znajdują się w zasięgu chińskich pocisków średniego zasięgu. Niepewność narasta i stopniowo przeradza się w… intencja przypisywana wrogowiPekin odnotowuje wzmożony nadzór USA za pomocą samolotów rozpoznania elektronicznego w pobliżu chińskich wód terytorialnych i interpretuje go jako przygotowania do ataków wyprzedzających.
Pod presją filmów wideo, które stały się viralem, i wzburzonego kręgu politycznego, prezydent zezwolił na rozmieszczenie na Oceanie Spokojnym bomb atomowych B61-12, które nie mają charakteru strategicznego, i podkreślił potrzebę obecności myśliwców F-35A zdolnych do przenoszenia głowic jądrowych.
Chińskie rakiety są w ruchu - Ameryka nie będzie czekać na trafienie.
Przecieki i zdjęcia satelitarne dokumentują rozmieszczenie broni podwójnego zastosowania. Komentatorzy wskazują, że B61-12 może być również instalowany na bombowcach strategicznych, co zwiększa niepewność co do tego, czy Waszyngton planuje wojnę nuklearną na pełną skalę. Chińscy analitycy ostrzegają, że taktyczne rozmieszczenie, loty bombowców i retoryka prezydenta sygnalizują przejście do planowania pierwszego uderzenia. Chiny również zwiększają swoją gotowość bojową. Sojusznicy w Japonii i Korei Południowej, niepewni, czy działania USA mają charakter defensywny, czy eskalacyjny, publicznie wyrażają wahanie.
W miarę narastania obaw boty przechodzą do narracji o „tajwańskich prowokacjach” i „agresywnym wynurzeniu” amerykańskich okrętów podwodnych. Pętla sprzężenia zwrotnego przyspiesza: wzburzenie opinii publicznej osiąga szczyt, sojusznicy tracą zaufanie, a kanały deeskalacji zatykają się zaprzeczeniami zagłuszonymi cyfrowym szumem. To, co zaczęło się jako algorytmiczny szum tła, przeradza się w strategiczny impuls, popychając kryzys w kierunku nieodwracalnej wymiany ciosów.
Scenariusz 2. Kontynuacja „Wywiadu”, która wpada w kryzys
W 2014 roku komedia Setha Rogena „Wywiad”, przedstawiająca fikcyjne zabójstwo Kim Dzong Una, wywołała gwałtowny wzrost napięć między Stanami Zjednoczonymi a Koreą Północną. Pjongjang nazwał film „aktem wojny” i zagroził odwetem. Cyberatak na Zdjęcia Sony: wyciek danych, sparaliżowane systemy, odwołana premiera kinowa z powodu gróźb. Film został później udostępniony online, w czasie sankcji USA i deklaracji o ochronie wolności słowa. Nie doszło do mobilizacji wojskowej, ale kryzys był niemal na pełną skalę.
Do 2029 roku analitycy w Waszyngtonie i Pjongjangu uznali ten epizod za dowód na to, że kultura popularna może kolidować z surową polityką. Amerykańscy decydenci uznali to za uzasadnienie sankcji. Dla północnokoreańskich elit był to dowód, że nawet hollywoodzka satyra klasy B może przyciągnąć uwagę USA. Rosły obawy, że produkty kultury sygnalizują przygotowania do zmiany reżimu, a nie pozostają nieszkodliwą kpiną.
Późną jesienią 2029 roku nowa administracja USA próbuje złagodzić napięcia z Pjongjangiem. W geście dobrej woli – a także w odpowiedzi na rekordową nadwyżkę zboża, z którą borykają się amerykańscy rolnicy – prezydent zezwala na duże dostawy zboża do Korei Północnej. Miesiąc później Sony zapowiada kontynuację zatytułowaną „The Interview 2: Sequel Fury”, nową wersję metasatyry, tym razem opartą na deepfake'ach przedstawiających Kim Dzong Una w absurdalnych sytuacjach.
Wraz z publikacją zwiastunów, zaawansowani agenci sztucznej inteligencji zalewają sieć X i inne media społecznościowe fałszywymi filmami z udziałem północnokoreańskich urzędników. Boty wyszkolone w retoryce reżimu publikują fałszywe „dekrety”, uznając film za „cybernetyczną prowokację nuklearną”. Jednocześnie pojawiają się sfabrykowane nagrania, na których Kim rzekomo autoryzuje wystrzelenie międzykontynentalnego pocisku balistycznego Hwasong-18 w Hollywood. Prawdziwe nagrania z testu z 2026 roku są przeplatane syntetycznymi wstawkami. Materiał z chatbota staje się viralem. Grok, wbudowany w sieć X, początkowo oszukuje nawet doświadczonych weryfikatorów faktów.
Kampania ta jest prowadzona przez międzynarodową sieć radykałów przeciwko Korei Północnej, którzy postrzegają ocieplenie jako zdradę. Ich celem jest zatrucie atmosfery, sprowokowanie przesadnej reakcji Pjongjangu, Waszyngtonu lub obu tych państw.
Seth Rogen retweetował wygenerowane przez bota „ostrzeżenie” dotyczące północnokoreańskich okrętów podwodnych u wybrzeży Kalifornii:
Runda 2: Kim ma torpedy na moje porażki.
Spektakl uświetniają epizodyczne występy Elona Muska i Donalda Trumpa. Musk, na żywo w stacji X, nadaje ton. Grok pytanie o „prawdopodobieństwo inwazji na Koreę Północną” i otrzymuje oceny sztucznej inteligencji zniekształcone przez zatrute dane.
В Aktualności taśmy również się przebijają i inne materiały są publikowane – na przykład nagrania z warkot, gdzie reaktory w Yongbyon rzekomo „zwiększają produkcję plutonu”. Później miały zostać powiązane z radykalnymi grupami północnokoreańskimi za pomocą generatywnych sieci antagonistycznych (GAN) – modele uczenia maszynowego do tworzenia realistycznych danych syntetycznych. Rynki spadają w obliczu trendu #SequelDoomsday w mediach społecznościowych, łączącego panikę związaną z kryptowalutami ze wzrostem popytu na towary pierwszej potrzeby.
Czwartego dnia po ogłoszeniu Sony Prezydent zwołuje Radę Bezpieczeństwa Narodowego. Media społecznościowe ogarnął szał podsycany przez osobistości medialne i celebrytów; to właśnie ten szał kształtuje kontekst decyzji politycznych. Posty Rogena i innych celebrytów, powołujące się na sfabrykowane fragmenty Koreańskiej Centralnej Agencji Informacyjnej (KCNA), nie mają bezpośredniego wpływu na Radę Bezpieczeństwa Narodowego, ale nadają tym sfabrykowanym informacjom pozór wiarygodności. Publiczny dialog Muska z jego systemem sztucznej inteligencji kształtuje oczekiwania wobec scenariusza kryzysowego, wywierając presję na przywódców, by podjęli działania – nawet gdy analitycy dyskutują o leżących u jego podstaw niepewnościach.
W Waszyngtonie analitycy nie są zgodni co do faktycznego stanu gotowości Korei Północnej, interpretując zdjęcia satelitarne i przechwycone sygnały przez zniekształcający pryzmat sfabrykowanych zdjęć z Jongbyonu. Przywódcy Rady Bezpieczeństwa Narodowego obawiają się, że bezczynność zostanie odebrana zarówno przez sojuszników, jak i przeciwników jako słabość. Jako sygnał, popierają oni wysłanie dwóch amerykańskich lotniskowców na Morze Żółte w celu przeprowadzenia „patrolu odstraszającego”.
W Pjongjangu władze, obserwując od lat „dekapitujące” oświadczenia amerykańskich urzędników i pamiętając o lekcjach z Iraku i Libii, ulegają wpływom kilku czynników naraz: sfabrykowanego nagrania, na którym prezydent USA zatwierdza przeloty bombowców strategicznych B-2; rzeczywistych ruchów sił morskich; oraz wrogiej – a zatem zrozumiałej dla strony północnokoreańskiej – interpretacji fabuły „Sequel Fury”.
Przekonani, że Waszyngton pod przykrywką komedii próbuje zmiany reżimu, Koreańczycy z Północy publikują nagranie, na którym Kim dokonuje inspekcji kilku głowic nuklearnych na jednym pocisku międzykontynentalnym i przeprowadza nieplanowane wystrzelenie satelity na niską orbitę okołoziemską. Na pierwszy rzut oka wydaje się to nieodróżnialne od preludium do ataku nuklearnego. broń jądrowa wykorzystująca impulsy elektromagnetyczneTego typu amunicja detonuje w górnych warstwach atmosfery i unieszkodliwia urządzenia elektroniczne na dużym obszarze.
Po obu stronach zaprzeczenia agresywnych zamiarów toną w podejrzeniach wzmacnianych przez sztuczną inteligencję. Dezinformacja wspomagana przez sztuczną inteligencję nie tworzy kryzysu, ale grozi przekształceniem go w wojnę, dodając niebezpieczny poziom eskalacji do i tak już kruchej wymiany sygnałów.
Scenariusz 3. „Inteligentny Łucznik” ze sztuczną inteligencją (2033)
W 1981 roku ZSRR, obawiając się pełnoskalowego ataku nuklearnego ze strony administracji Reagana, rozpoczął operację RYAN (Atak rakietowy nuklearny) – program wczesnego ostrzegania przed atakiem nuklearnym ze strony Zachodu. Ministerstwo Obrony ZSRR monitorowało zmiany wskaźników uznanych przez Sztab Generalny za strategiczne: zapasy krwi, ruchy ludności, logistykę i zaopatrzenie w żywność oraz organizację opieki medycznej na wypadek ataku nuklearnego.
Podstawą koncepcyjną była radziecka koncepcja „korelacji sił” – holistyczna miara względnej siły, obejmująca czynniki polityczne, ekonomiczne i ideologiczne, a nie tylko potencjał militarny. Poprzez porównywanie zmian tych wskaźników, RYaN miał identyfikować momenty wzmożonego zagrożenia masowym atakiem nuklearnym.
To właśnie te ramy przekształciły ćwiczenia dowodzenia i sztabów NATO Umiejętny łucznik 83 w poważny kryzys. Realistyczne manewry, w tym procedury eskalacji nuklearnej i udział najwyższego kierownictwa, miały miejsce w kontekście napiętych stosunków między ZSRR a Stanami Zjednoczonymi. Według dostępnych informacji, siły radzieckie zwiększyły gotowość bojową i prawdopodobnie załadowały broń jądrową na pokłady samolotów, podczas gdy NATO nie zdawało sobie sprawy ze skali zagrożenia, jakie Moskwa postrzegała w ich działaniach. Ta holistyczna, wielowymiarowa ocena jest kontynuowana w rosyjskiej strategii wojskowej do dziś.
Do 2033 r W scenariuszu Lin Rosja wdraża RYAN-II, sterowany przez sztuczną inteligencję system wczesnego ostrzegania przed pierwszym atakiem nuklearnym. Automatyzuje on logikę pierwotnego programu i koncentruje się na konkurencji systemowej: kontrola informacji, stabilność reżimu, odporność na sankcje i suwerenność technologiczna są postrzegane jako kluczowe osie przewagi i podatności. Podejście to jest z natury konserwatywne: zakłada, że oficjalne źródła rządowe i zachodnie media systematycznie generują dezinformację skierowaną na Wschód i faworyzuje interpretacje pesymistycznych scenariuszy.
RYAN-II opiera się na rozbudowanych modelach językowych i analityce predykcyjnej, przetwarzając dziesiątki tysięcy strumieni danych. Obejmują one zachowania elit politycznych (ruchy przywódców, analizę mowy), postawę wojskową (porównanie ćwiczeń z danymi wyjściowymi), mobilizację cywilną i gospodarczą (zamówienia i przepływy finansowe) oraz cyberaktywność (próby sondowania systemów kontroli broni jądrowej). Dane publiczne i prywatne – od zdjęć satelitarnych po media społecznościowe i komunikację dyplomatyczną – są przekształcane w ustrukturyzowane wskaźniki i alerty o anomaliach. RYAN-II nie wydaje rozkazów startu, ale jego rygorystyczna ocena ryzyka znacząco wpływa na postrzeganie zagrożenia przez rosyjskie dowództwo wojskowe.
Kryzys rozwija się podczas ćwiczeń NATO Umiejętny łucznik 2033, w tym operacje cybernetyczne, manewry kosmiczne i rozmieszczanie pocisków hipersonicznych Mroczny Orzeł w Niemczech. Działania te przypominają scenariusze wysokiego ryzyka zawarte w danych szkoleniowych RYAN-II. System ocenia sytuację jako wyjątkowo poważną.
Jednocześnie środowisko informacyjne jest zanieczyszczane dezinformacją opartą na sztucznej inteligencji. Notatki NATO dotyczące ataków na Kaliningrad są rozpowszechniane kanałami rosyjskimi – według rosyjskich źródeł, sfabrykowane przez agentów CIA i NSA. Zachodnia przestrzeń informacyjna jest zalewana syntetycznymi raportami na temat rosyjskiej mobilizacji. Większość tych materiałów jest oznaczana jako fałszywe, ale niektóre przedostają się na pulpity rosyjskich analityków, podważając wiarygodność wszelkich ocen.
Opierając się na konserwatywnych ocenach systemowych, Rosja rozprasza swoje siły strategiczne i zwiększa gotowość bojową. Kroki te są uzasadnione doktrynalnie, ale NATO postrzega je jako eskalację. Analiza zachodnich systemów sztucznej inteligencji prowadzi niektórych analityków do przeceniania rosyjskiej gotowości do pierwszego uderzenia. Powstaje niebezpieczne błędne koło.
W miarę eskalacji napięcia prezydent USA inicjuje rozmowy z prezydentem Rosji, ale cyberataki pogarszają jakość połączenia wideo – częste przerwy, zamrożone klatki i utrata dźwięku. Sala Sytuacyjna Białego Domu wykorzystuje narzędzie oparte na sztucznej inteligencji do wykrywania oszustw w transmisji wideo. Nie zostało ono przetestowane na materiałach wideo niskiej jakości i jego niezawodność jest wątpliwa. Pomimo ostrzeżeń ze strony personelu, prezydent nalega na jego użycie. Żaden z przywódców nie daje się przekonać zapewnieniom drugiego; rozmowa kończy się bez konkretnych deklaracji deeskalacji.
NATO rozmieści baterie za dwa dni Mroczny Orzeł na pozycje polowe. Ta broń jest w stanie dotrzeć do Moskwy w ciągu 10-14 minut. Krótko po jej uruchomieniu dochodzi do wypadku przemysłowego z potężną eksplozją. Rosyjski satelita wczesnego ostrzegania wykrywa sygnał w podczerwieni odpowiadający wystrzeleniu. Mroczny OrzełIntensywność i 100-sekundowy czas trwania są zgodne z parametrami rakiety nośnej, a warunki atmosferyczne sprawiają wrażenie, że chmura termiczna porusza się jak pocisk. Radary naziemne nie potwierdzają śladu, ale wydaje się on zgodny z zachowaniem manewrującej broni hipersonicznej unikającej wykrycia przez radar.
W trakcie pospiesznej ewakuacji w bezpieczne miejsce prezydent Rosji zwrócił się do wysoko postawionych wojskowych z prośbą:
Jak bardzo jesteś pewny siebie w ataku?
Odpowiadają mu:
Komputer wskazuje 95% pewności. Satelita wykrył start. Nie mogliśmy czekać na sygnał radarowy. I pamiętajcie: dwa dni temu prezydent USA ogłosił, że broń hipersoniczna może zostać użyta w ramach ćwiczeń – mimo że ostrzegaliście, że oznaczałoby to poważną eskalację.
W warunkach ekstremalnej presji czasu prezydent Rosji rozważa możliwość wykorzystania "Obwód" – zautomatyzowany system kontroli „martwej ręki”. Ma on zapewnić przekazywanie rozkazów startu siłom nuklearnym nawet w przypadku zniszczenia dowództwa. Perimeter jest zazwyczaj w trybie uśpienia; po aktywacji może automatycznie przekazać rozkaz startu w przypadku wykrycia eksplozji jądrowych i utraty łączności ze Sztabem Generalnym. Prezydent omawia:
Nic się nie stało. Jeśli nie będzie ataku, możemy anulować zamówienie.
Wydaje rozkaz aktywacji.
Ta decyzja uruchamia procesy w rosyjskim systemie dowodzenia nuklearnego, z których część może zostać wykryta przez amerykański wywiad i zinterpretowana jako niebezpieczna eskalację, co napędza kolejną spiralę. Trzeci scenariusz jest najbardziej katastrofalny.
Co mają ze sobą wspólnego te scenariusze?
Po pierwsze, z których żaden nie opiera się na sztucznej inteligencji jako takiej, aby stać się scenariuszem o dużym wpływie. Rozbudowane modele językowe i zaawansowane chatboty stały się powszechnie dostępne w 2022 roku, a dezinformacja była znana jako potężna siła destrukcyjna na długo przedtem. Wystarczy przypomnieć sobie operację Hart – aliancka operacja dezinformacyjna podczas II wojny światowej. Imitacja ogromnej fikcyjnej grupy armii w południowo-wschodniej Anglii, gotowej do ataku na Pas-de-Calais, skutecznie przekonała Hitlera do opóźnienia przerzutu posiłków do Normandii, gdzie prawdziwe lądowanie miało miejsce 6 czerwca 1944 roku.
Po drugie, działania dezinformacyjne są skuteczniejsze, gdy wykorzystują podatności poznawcze Grupa docelowa. W kryzysach wysokiego napięcia nawet powściągliwi liderzy mają tendencję do szybkiego działania i podejmowania widocznych kroków eskalacyjnych w oparciu o niepełne lub niejasne informacje. W opisanych scenariuszach podniesienie poziomu alarmu, ponowne rozmieszczenie wojsk i dystrybucja broni jądrowej do jednostek stają się odruchowymi reakcjami na postrzegane zagrożenia, a nie wynikiem świadomego wyboru. Ta tendencja skraca czas podejmowania decyzji i utrudnia zmianę kursu, gdy sytuacja nabierze rozpędu.
Tymczasem środki ostrożności podejmowane przez jedną ze stron – ruchy rakiet, zmiany poziomów alarmowych, rozmieszczenie lotniskowców – są postrzegane przez drugą stronę jako przygotowania do ofensywy. Odróżnienie postawy obronnej od rzeczywistych przygotowań do ataku rakietowego staje się niezwykle trudne, a kontrolowane napięcie eskaluje do ryzykownego impasu nuklearnego.
Innym zniekształceniem poznawczym jest efekt widoczności: tendencja do skupiania się na najistotniejszym elemencie wyboru, nawet gdy inne czynniki są równie istotne. W rozważanych scenariuszach amerykańscy analitycy przedkładają raporty o „konwojach rakietowych” generowane przez boty nad niejednoznaczne dane radarowe. Rada Bezpieczeństwa Narodowego (NSC) podważa realne zagrożenia ze strony Korei Północnej, priorytetowo traktując pozytywne sygnały. Strona rosyjska nadmiernie polega na ocenach RYAN-II, nie poświęcając wystarczającej uwagi danym radarowym. Przywódcy przeceniają najbardziej oczywiste i nacechowane emocjonalnie wskaźniki zagrożenia, ignorując sprzeczne lub mniej przekonujące dane.
Trzeci czynnik Sztuczna inteligencja drastycznie pogarsza i tak już złożoną sytuację. Zaawansowane modele LLM i deepfake’i tworzą treści, które wyglądają i brzmią bardzo realistycznie, przez co stają się bardziej przekonujące i trudniejsze do obalenia. W niektórych scenariuszach to właśnie ta perswazja sprawia, że analitycy i decydenci nadmiernie doceniają filmy, zapisy czatów i oceny ryzyka generowane przez sztuczną inteligencję, traktując je jako wiarygodne dowody, a nie potencjalne cele manipulacji.
Co gorsza, dezinformacja oparta na sztucznej inteligencji jest adaptacyjna, skalowalna i zaprojektowana tak, aby wykorzystywać luki w zabezpieczeniach systemów dowodzenia i ostrzegania przed zagrożeniami nuklearnymi. Treści syntetyczne kształtują wstępne oceny, komunikaty kryzysowe i narracje polityczne, często wywierając większy wpływ niż tradycyjne dane wywiadowcze. Manipulacja informacjami staje się bezpośrednim czynnikiem ryzyka nuklearnego.
Ogólnie rzecz biorąc, deepfake'i, syntetyczne „dane wywiadowcze”, sfabrykowane relacje naocznych świadków i zmanipulowane dane satelitarne nie tylko wprowadzają w błąd, ale także systematycznie przeciążają możliwości analityczne i skracają czas podejmowania decyzji. Środowisko informacyjne jest przepełnione wiarygodnymi, ale fałszywymi tropami, które analitycy muszą uznać za potencjalnie istotne.
W takich warunkach nasila się stronniczość automatyzacjiDecydenci szukają jasności w natłoku prawdziwych i fałszywych sygnałów i są zmuszeni podejmować ważne decyzje pod presją czasu, opierając się na większej liczbie niekompletnych ocen niż w typowych sytuacjach kryzysowych.
Po czwarte, wysokość reżimy personalistyczne Dodatkowo zniekształca środowisko informacyjne, podporządkowując wiedzę ekspercką instytucji cechom osobistym przywódcy – jego intuicji i reakcjom emocjonalnym. Agencje wywiadowcze przestają funkcjonować jako niezależne struktury analityczne i zaczynają odzwierciedlać poglądy przywódcy. Procesy mające na celu filtrowanie szumu informacyjnego i korygowanie uprzedzeń są przeorientowane na legitymizację z góry określonych preferencji przywódcy.
W zdyscyplinowanych systemach analitycznych niejednoznaczne sygnały i syntetyczna treść byłyby postrzegane jako szum, który należy odfiltrować. Jednak gdy informacje wywiadowcze są upolitycznione, a agencje kształtują osądy tak, aby odpowiadały oczekiwaniom lidera, filtry te ulegają neutralizacji – a te same niejednoznaczności są bardziej prawdopodobne do zinterpretowania jako autentyczne oznaki wrogich intencji.
Częściowo z powodu braku zaufania do profesjonalnego wywiadu, przywódcy polityczni polegają bardziej na własnym osądzie i niefiltrowanych informacjach: mediach społecznościowych, otwartych dyskusjach, treściach generowanych przez sztuczną inteligencję. Uwaga skupia się na tym, co najbardziej dramatyczne lub osobiste: pojedynczy, skuteczny, ale potencjalnie mylący sygnał może okazać się decydujący. Podwładni mają niewielką motywację do kwestionowania uprzedzeń lidera, co jeszcze bardziej zmniejsza prawdopodobieństwo podejmowania racjonalnych decyzji.
Do czterech wymienionych powyżej czynników należy dodać bardziej ogólną obserwację metodologiczną. Problem dezinformacji AI nie jest rozwiązywany przez systemy AI, które określają, czy informacja jest generowana przez AI, fałszywa, czy jedno i drugie. Fundamentalne pytanie brzmi, jak dokonać takiego ustalenia w środowisku, w którym prawda sama w sobie jest niestabilna i niepewna. Mając do dyspozycji jedynie sam element informacyjny i mając do czynienia z systemami zdolnymi do generowania wyników, które coraz trudniej odróżnić od wyników ludzkich, analityk jest zmuszony polegać na ocenie wiarygodności ich źródła. Ulgę przynosi dostępność kanałów szczególnie odpornych na kompromitację – ale takie źródła są zawsze niepełne, a nie uniwersalne. Tradycyjne poszukiwanie „prawdy” zostaje zastąpione przez trwały stan niepewności: analitycy działają w szarej strefie, zdominowanej przez probabilistyczną niepewność co do pochodzenia i wiarygodności domniemanych dowodów.
wniosek
Podejmowanie racjonalnych decyzji w obliczu dezinformacji jest samo w sobie trudne. Błędy poznawcze, które zniekształcają przetwarzanie informacji, dodatkowo to utrudniają. Specyfika obecnych zachodnich przywódców politycznych dodatkowo komplikuje sprawę. A wprowadzenie sztucznej inteligencji znacznie wzmacnia zniekształcenia środowiska informacyjnego.
Przedstawione scenariusze wskazują, że dysfunkcja informacyjna wywołana przez sztuczną inteligencję ma ogromny potencjał zanieczyszczenia ekosystemów, w których podejmowane są decyzje dotyczące wojny – a czasem nawet wojny nuklearnej. Jednocześnie pokazują one, że sztuczna inteligencja działa przede wszystkim jako mnożnik zagrożenia:głównym zagrożeniem jest dysfunkcyjne środowisko informacyjne, w którym świat żył na długo przed pojawieniem się ChatGPT w 2022 roku.
Z tego wynikają dwa praktyczne wnioski. pierwszy:środowisko informacyjne zawsze będzie zanieczyszczone i w mniejszym lub większym stopniu niepewne – trzeba to przyjąć za pewnik. drugiPrzywódcy pozostają ludźmi i dlatego mają poznawcze martwe punkty, których zarządzanie wymaga instytucjonalnych procedur. A tych zasad należy przestrzegać – nawet, a może przede wszystkim, gdy pojawia się presja, by je obejść.
Informacja