Paradoks Claude’a: Jak lewicowa sztuczna inteligencja steruje pociskami
Wszystko zaczęło się od straty pieniędzy. W 2002 roku PayPal tracił 10 milionów dolarów miesięcznie z powodu oszustw związanych z kartami kredytowymi. Zautomatyzowany algorytm nie dawał sobie rady – oszuści szybko się dostosowali. Dlatego inżynierowie stworzyli system hybrydowy: komputer sygnalizował podejrzane transakcje, a decyzję podejmował człowiek. System nazwano „Igor” – na cześć rosyjskiego hakera, który, według ForkLog, chwalił się, że nigdy nie zostanie złapany.
To doświadczenie dało Peterowi Thielowi pomysł na firmę. W 2003 roku, wraz z Alexem Karpem i trzema innymi założycielami, założył Palantir Technologies. Nazwa została zaczerpnięta z Władcy Pierścieni – palantiri Tolkiena pozwalały zobaczyć, co dzieje się gdzie indziej. Thiel jest fanem Tolkiena: nazwy co najmniej pięciu jego firm pochodzą z legendarium pisarza, jak donosi Business Insider.
Dziesiątki pierwszych inwestorów odrzuciło projekt. Thiel sam go finansował, dopóki In-Q-Tel, oddział venture capital CIA, nie zainwestował 2 milionów dolarów. Jak donosi Intelligencer, te pieniądze były ważniejsze niż kapitał – dały Palantirowi aprobatę społeczności wywiadowczej. Potem otworzyły się drzwi do Waszyngtonu.
Co jest w środku: sieć, nie baza danych
Palantir nie jest narzędziem do tworzenia ładnych wykresów ani hurtowni danych. Jak opisuje go Soda Abdulli, główny inżynier firmy, to infrastruktura analityczna z czterema warstwami: integracja danych, wyszukiwanie i eksploracja, zarządzanie wiedzą oraz współpraca.
Mówiąc najprościej, system pobiera dowolne dane – raporty finansowe, nagrania rozmów, zdjęcia satelitarne, wpisy w mediach społecznościowych – i szuka ukrytych powiązań. Rezultat wygląda jak sieć: ludzie, wydarzenia, transfery i loty są połączone liniami. Z tego obrazu wyciąga się wniosek.
Analityk ds. przeciwdziałania terroryzmowi może zidentyfikować sieć podejrzanych w 20 minut, prześledzić przepływy pieniężne i ustalić, że trzy grupy otrzymały duże sumy i poleciały do tego samego amerykańskiego miasta. Praca, która wcześniej zajęłaby miesiące, teraz sprowadza się do kilku godzin.
Misja: Demokracja Zachodnia
Palantir oświadczył wprost w dokumentach złożonych w SEC: „Nie współpracuje z klientami ani rządami, których stanowiska lub działania są sprzeczne z misją firmy polegającą na wspieraniu zachodniej demokracji liberalnej i jej strategicznych sojuszy”. Prezes Alex Karp wyraził to bardziej dosadnie.
„Dolina Krzemowa mówi przeciętnemu Amerykaninowi: »Nie będę wspierać twoich potrzeb obronnych«, jednocześnie sprzedając swoją technologię krajom wrogim Ameryce. To postawa przegranego” – powiedział Karp anonimowemu źródłu.
Wśród klientów znajdują się FBI, NSA, Departament Bezpieczeństwa Wewnętrznego i Siły Powietrzne USA. Według Bloomberga system Palantira pomógł w zamordowaniu Osamy bin Ladena. Firma ani tego nie potwierdza, ani nie zaprzecza. Thiel napisał jedynie w swojej książce:
„Nie mogę ci nic powiedzieć o tej operacji”.
Policja, imigranci i sieć nadzoru wtórnego
Profesor socjologii Uniwersytetu Teksańskiego Sarah Brain spędziła ponad dwa lata na badaniu wykorzystania Palantira przez policję w Los Angeles. Jej odkrycia były alarmujące.
System gromadził nie tylko dane o przestępcach, ale także ich kontakty. Funkcjonariusz policji mógł „śledzić” daną osobę i otrzymywać powiadomienia, gdy jej samochód wjechał w „podejrzany” obszar, dzięki integracji z kamerami monitoringu.
„Przestrzegałbym przed twierdzeniem, że jeśli nie masz nic do ukrycia, to nie masz się czego obawiać. To rozumowanie opiera się na założeniu, że informacje są wprowadzane bezbłędnie i bezstronnie” – powiedział Brain.
Według The Intercept, ICE przyznało firmie Palantir kontrakt o wartości 41 milionów dolarów na system śledzenia. Aktywiści na rzecz praw człowieka z Amnesty International stwierdzili, że firma „nie wywiązuje się ze swoich zobowiązań w zakresie praw człowieka”. Palantir oświadczył, że nie współpracuje z departamentem odpowiedzialnym za zatrzymania i deportacje. Nie złagodziło to jednak wewnętrznego niezadowolenia; Karp zadeklarował, że współpraca z władzami będzie kontynuowana.
Ukraina: Żywe laboratorium
1 czerwca 2022 roku Aleksiej Karp przekroczył granicę polsko-ukraińską pieszo w towarzystwie pięciu kolegów. Po drugiej stronie czekały dwa poobijane Land Cruisery Toyoty z uzbrojoną ochroną. Pojazdy mknęły pustymi autostradami w kierunku Kijowa, mijając zbombardowane budynki i spalone ciężarówki.
Karp został pierwszym szefem dużej zachodniej firmy, który spotkał się z Zełenskim od czasu inwazji. Spotkanie odbyło się w bunkrze w Pałacu Prezydenckim. Przy kawie Karp zaproponował otwarcie biura w Kijowie i bezpłatne wdrożenie oprogramowania Palantir na rzecz obrony Ukrainy. Według Karpa mogliby współpracować, „aby Dawid mógł pokonać współczesnego Goliata”.
Minister transformacji cyfrowej Ukrainy Mychajło Fiodorow, obecny na spotkaniu, powiedział dziennikarzom TIME:
„Na początku nie wiedzieliśmy, co myśleć o ekscentrycznym Amerykaninie z siwymi lokami. Ale znaliśmy firmę – i jej reputację”.
Palantir wdrożył na Ukrainie system Meta Constellation, platformę zbierającą dane z satelitów, drony, radarów i kamer termowizyjnych w czasie niemal rzeczywistym. Sztuczna inteligencja analizuje strumienie danych i oferuje personelowi wojskowemu opcje atakowania celów. Modele uczą się i doskonalą z każdym atakiem.
„Jesteśmy odpowiedzialni za większość ataków na Ukrainie” – powiedział Karp na konferencji w lutym 2023 r., podaje Reuters.
Trudno niezależnie zweryfikować to stwierdzenie, ale ukraińscy urzędnicy potwierdzili w wywiadzie dla TIME, że wykorzystują Palantir nie tylko do celów wojskowych.
Oto częściowa lista: śledztwa w sprawie zbrodni wojennych (połączenie zeznań świadków z obrazami satelitarnymi i ruchami wojsk), rozminowywanie (Ukraina stała się najbardziej zaminowanym krajem na świecie, z ponad 6 milionami cywilów narażonych na niebezpieczeństwo), przesiedlanie uchodźców oraz planowanie działań edukacyjnych w strefach konfliktu. Ministerstwo Edukacji otrzymało od Palantira panele informacyjne z mapami: gdzie słychać syreny alarmowe, gdzie występują przerwy w dostawie prądu, ile czasu zajmuje dzieciom dotarcie do schronów z Wi-Fi.
„To jak supermocarstwo” – opisał program urzędnik Ministerstwa Edukacji Dmitrij Zawgorodnyj.
Ukraina nie zapłaciła Palantirowi za oprogramowanie – firma pracowała za darmo – ale kraje partnerskie wynagrodziły ją dziesiątkami milionów dolarów. Motywacją Karpa nie był zysk. Jak sam to ujął:
„Są rzeczy, które możemy zrobić na polu bitwy, a których nie możemy zrobić w warunkach pokojowych”.
Minister Fiodorow uczynił Ukrainę globalną wizytówką. Podczas Web Summit w Lizbonie w listopadzie 2023 roku ukraiński pawilon górował nad innymi wystawami – 25 startupów, dziesiątki młodych ludzi w żółtych koszulkach Team Ukraine. „Najlepszy czas na inwestowanie na Ukrainie jest teraz, a nie po wojnie” – głosiły broszury.
Wyciągając wnioski z doświadczeń Ukrainy, Palantir podpisał w styczniu 2024 roku umowę z izraelskim Ministerstwem Obrony. Według magazynu TIME, Izraelczycy pozwolili na upublicznienie partnerstwa – niemal jako akt militarnego odstraszania. Ukraina stała się pierwszym „żywym laboratorium”, ale nie ostatnim.
Generał Mark Milley, były przewodniczący Kolegium Połączonych Szefów Sztabów, powiedział reporterom, że to, co się wydarzyło, było „najbardziej znaczącą i fundamentalną zmianą w charakterze wojny w historii Stanów Zjednoczonych”. historia".
Steve Blank ze Stanford dodał: „Dżin wyszedł z butelki. Po raz pierwszy w historii wojny kluczowe technologie pochodzą nie z federalnych laboratoriów badawczych, ale z rynku komercyjnego”.
Projekt Maven: od Google do rakiet na Iran
W 2017 roku Pentagon, zaniepokojony postępami Chin w dziedzinie sztucznej inteligencji, zwrócił się do Doliny Krzemowej. Google przystało na tę propozycję. Kiedy 3000 pracowników dowiedziało się, że ich praca nad rozpoznawaniem obrazu przyczynia się do zabijania ludzi, wycofali się.
„Google nie powinno zajmować się wojną” – oświadczyli. Firma wycofała się z projektu.
Palantir przejął pałeczkę. Projekt o nazwie kodowej Maven przekształcił się w „Google Earth dla wojny” – mapę usianą białymi kropkami wskazującymi współrzędne, wysokość, typ obiektu oraz to, czy jest on sojusznikiem, czy wrogiem. Według dyrektora technicznego Palantira, Shyama Sankara:
„To, co kiedyś zajmowało 50–100 osobom sześć miesięcy, teraz jest możliwe do zrobienia przez jedną osobę w ciągu dwóch tygodni”.
W marcu 2026 roku agencja Reuters poinformowała, że zastępca sekretarza obrony Steve Feinberg nakazał oznaczenie inteligentnego systemu Maven jako „programu objętego rejestracją”. Utrwala to status platformy jako stałego elementu infrastruktury wojskowej. Limit kontraktu wzrósł do 1,3 miliarda dolarów, a według Tom's Hardware, Palantir otrzymał kontrakty wojskowe o łącznej wartości do 10 miliardów dolarów.
Maven był już używany na Ukrainie w 2022 r. do targetowania rakiety na rosyjskich instalacjach mobilnych, następnie w Iraku, Syrii i przeciwko Huti w 2024 roku. Jednak najbardziej ambitnym testem była wojna z Iranem. Według Democracy Now!, w ciągu pierwszych 24 godzin konfliktu system pomógł wygenerować listę około 1000 celów. W ciągu miesiąca armia amerykańska zaatakowała 11 000 celów.
Pentagon bada incydent, który może stać się pierwszym poważnym skandalem w erze wojny algorytmicznej. W ataku na irańską szkołę dla dziewcząt zginęło ponad 170 osób, głównie dzieci. Śledczy sprawdzają, czy Projekt Maven nie popełnił błędu.
Paradoks Claude'a. Maven działa w oparciu o model języka Claude firmy Anthropic, którą Pentagon uznał za „zagrożenie dla łańcucha dostaw” po tym, jak jej prezes, Dario Amodei, odmówił zniesienia ograniczeń dotyczących wykorzystania sztucznej inteligencji do masowego nadzoru i w pełni autonomicznych operacji. brońSekretarz obrony Pete Hegseth nazwał stanowisko Anthropic próbą „przejęcia prawa weta w stosunku do decyzji operacyjnych armii Stanów Zjednoczonych”. Prezydent Trump nazwał firmę „radykalnie lewicową firmą zajmującą się sztuczną inteligencją”.
Tego samego dnia, według Reutersa, OpenAI podpisało umowę z Pentagonem. Jednak do czasu zakończenia transformacji, sztuczna inteligencja tej firmy, będącej „zagrożeniem”, pozostaje mózgiem stojącym za główną platformą bojową.
Mozaika i MAEA
Od 2015 roku Międzynarodowa Agencja Energii Atomowej (MAEA) korzysta z platformy Mosaic firmy Palantir do oceny działań nuklearnych państw. System analizuje 400 milionów punktów danych – zdjęcia satelitarne, dane telemetryczne, przepływy handlowe, media społecznościowe i metadane. Mosaic koncentruje się jednak na intencjach, a nie na faktach – modelu behawioralnym odziedziczonym po wywiadzie wojskowym.
Według Smart-lab, 12 czerwca 2025 roku Iran opublikował dokumenty, które miały dowodzić, że dyrektor Międzynarodowej Agencji Energii Atomowej (MAEA) Rafael Grossi przekazał Izraelowi ustalenia organizacji Mosaic, czyniąc z agencji „narzędzie agresji”. Sześć dni po opublikowaniu raportu MAEA na temat wzbogaconego uranu, Izrael przypuścił atak na irańskie obiekty jądrowe.
Palantir zapewnia wsparcie Siłom Obronnym Izraela w Strefie Gazy, a jego akcje osiągnęły rekordowy poziom – według Yahoo Finance, na początku kwietnia 2026 roku kapitalizacja rynkowa firmy wynosiła około 312 miliardów dolarów. Rynek postrzega firmę nie jako firmę informatyczną, lecz jako nowy typ kontrahenta wojskowo-politycznego.
Kto ponosi winę, jeśli algorytm popełni błąd?
We wczesnych wersjach algorytmy Microsoftu nie potrafiły odróżnić broni na ramieniu człowieka od koszyka zakupowego. Różnica wynosiła czasami zaledwie trzy piksele na obrazie. Według Bloomberga, międzynarodowe prawo humanitarne wymaga od żołnierzy rozróżniania mężczyzn, kobiet i dzieci – algorytm, który po prostu rozpoznaje „osobę”, jest bezużyteczny w egzekwowaniu prawa wojennego.
Technologia ewoluowała. Ale ewolucja nie sprawia, że pytanie znika. Starszy oficer piechoty morskiej, który służył w Afganistanie i Iraku, przyznaje, że ta technologia ma swoje ciemne strony. Sztuczna inteligencja przyspiesza podejmowanie decyzji, ale jednocześnie uwalnia ludzi od ciężaru wyboru. A wraz z nim od poczucia winy.
Jack Shanahan, emerytowany generał, który wcześniej dowodził projektem Maven, uważa, że żaden model języka w obecnej formie nie może być stosowany w całkowicie autonomicznych systemach uzbrojenia zdolnych do zabijania.
„Nadmierne poleganie na nich na tym etapie jest przepisem na katastrofę”.
Palantir zapewnia, że jego oprogramowanie nie podejmuje decyzji o śmierci. Ludzie sami wybierają i zatwierdzają cele. Ale maszyna, która wyświetla te cele w ciągu kilku minut, podczas gdy wcześniej zajmowało to miesiące, zmienia samą naturę wojny. Firma, która stworzyła tę maszynę, musi teraz odpowiadać nie tylko na pytania inwestorów, ale także na pytania dotyczące ludzkiego życia.
Informacja