Kako ICE koristi Palantirove AI alate za obradu dojava: što otkriva inventar DHS-a iz 2025.

Ključne stavke:

• Ministarstvo domovinske sigurnosti (DHS) je objavilo inventar upotrebe umjetne inteligencije za 2025. godinu koji otkriva da Služba za imigraciju i carinu SAD-a (ICE) koristi Palantirove generativne AI alate za sortiranje, sažimanje i automatsko prevođenje dojava iz javnog obrasca.
• Alat nazvan „AI Enhanced ICE Tip Processing“ proizvodi BLUF sažetke koristeći komercijalne velike jezične modele trenirane na javno dostupnim podacima bez dodatnog treniranja na podacima agencije; alat je naveden kao operativan od 2. maja 2025. godine.

Uvod:

Objava novog inventara DHS-a iz 2025. pruža prvi široko dostupni uvid u način na koji se sofisticirani komercijalni alati za umjetnu inteligenciju primjenjuju unutar američkih imigracijskih istraga. Kombinacija automatskog sažimanja, prevođenja i integracije u već uspostavljene baze podataka mijenja radnu dinamiku u jedinicama koje primaju i obrađuju dojava. To istovremeno otvara pitanja o točnosti, odgovornosti, privatnosti i pravnom okviru u kojem ti sistemi djeluju. Istražujemo što je konkretno objavljeno, kako tehnologija funkcioniše u praksi i koje su implikacije za ispitanike, istražitelje i širu javnost.

Kontekst i historija suradnje Palantira i ICE-a

Suradnja Palantira i ICE-a nije nova; kompanija pruža analitičke platforme agenciji još od ranih 2010-ih. Palantirov softver Gotham, prilagođena verzija za istrage, te različiti sistemi poput Investigative Case Management (ICM) i FALCON okvira, već su dugo u upotrebi za pohranu i pretraživanje podataka povezanih s istragama. Dosad su javne informacije o vrsti i obimu Palantirove tehnologije u ICE-u bile fragmentarne. Objavljeni inventar i popratni dokumenti sada bacaju svjetlo na nove dodane funkcionalnosti koje uključuju generativne modele i automatizirane procese za obradu dojava iz javnosti.

Palantir je za ICE razvijao alate koji konsolidiraju podatke iz niza izvora, uključujući zasebne baze podataka poput Enforcement Integrated Database i informacije iz drugih federalnih agencija. Te integracije olakšavaju pretraživanje, mapiranje i povezivanje podataka. U tom okviru, prelazak na alate koji koriste velike jezične modele predstavlja tehnološki pomak: umjesto isključivo strukturiranih upita i ručne obrade, sada se uvode algoritamski sažeci i klasifikacije sadržaja pristiglih dojava.

Šta tačno otkriva „AI Enhanced ICE Tip Processing“

Inventar identificira uslugu nazvanu AI Enhanced ICE Tip Processing koja je namijenjena ubrzavanju identifikacije i obrade prioritiziranih prijava. Alat izdaje BLUF — kratak „bottom line up front“ sažetak svakog prijavljenog slučaja — koji je generiran korištenjem najmanje jednog velikog jezičnog modela. Pored sažetka, sistem je opisan kao sposoban za automatsko prevođenje prijava koje nisu na engleskom jeziku, što je naročito relevantno za agenciju koja prima dojave iz raznovrsnih jezičnih zajednica.

DHS naglašava da su korišteni „komercijalno dostupni veliki jezični modeli“ koji su trenirani na javno dostupnim podacima od strane njihovih pružatelja. Dokument eksplicitno navodi da nije vršeno dodatno treniranje modela na podacima same agencije, ali da se tokom operacije modeli interaguju s prijavama koje dolaze u sistem. Datum kada je sustav postao operativan naveden je kao 2. maj 2025.

Ovo otkriće je važno jer prvi put javno potvrđuje upotrebu generativnih modela za neposrednu obradu javnih informacija u svrhu provođenja zakona unutar ICE-a. Do sada su već poznati Palantirovi alati za analizu i pretraživanje, ali automatsko sažimanje i klasifikacija generirana od strane velikih modela predstavlja novu težinu u načinu rada.

Tehnologija koja stoji iza: veliki jezični modeli i BLUF

Veliki jezični modeli (LLM) su sofisticirani sistemi trenirani na ogromnim skupovima tekstualnih podataka. Njihova primarna sposobnost je razumijevanje i generiranje ljudskog jezika, što omogućava automatsko sažimanje, prevođenje i ekstrakciju ključnih informacija iz neuređenih tekstova. U kontekstu ICE-a, LLM-ovi se koriste za kreiranje BLUF sažetaka koji omogućavaju istražiteljima brz pregled onoga što dojava sadrži.

BLUF je termin koji potiče iz vojne komunikacije i označava sažetak najvažnije informacije na početku izvještaja. U automatskom obliku, BLUF omogućava službeniku da brzo procijeni prioritete bez potrebe za čitanjem cijelog teksta prijave. To može dramatično smanjiti vrijeme pregleda i povećati kapacitet obrade velikog broja dojava, ali također stvara rizik da važni kontekstualni detalji budu izgubljeni, iskrivljeni ili pogrešno predstavljeni u kratkom sažetku.

DHS-ov inventar navodi da modeli nisu dodatno trenirani na povjerljivim podacima agencije. To znači da su sposobnosti modela i potencijalni obrasci pristranosti podložni podacima na kojima ih je trenirao njihov komercijalni pružatelj. Ti podaci mogu sadržavati širok spektar internetskih tekstova, novinskih članaka, publikacija i drugih javno dostupnih izvora, što nosi svoje vlastite pristranosti i nedosljednosti.

Integracija s postojećim sistemima: ICM, FALCON i FALCON Search & Analysis

Palantirov Investigative Case Management i prethodno razvijeni FALCON sistemi služe kao centralne platforme za pohranu i pretraživanje podataka povezanih s istragama. ICM je verzija Palantira za upravljanje slučajevima koju je ICE modificirao za svoje potrebe. U septembru 2025. zabilježen je plaćanje od približno 1,96 miliona dolara za modifikacije ICM-a koje uključuju „Tipline and Investigative Leads Suite“, što implicira daljnju integraciju prijemnih kanala u Palantirove okvire.

FALCON Tipline, kako je opisano u dokumentima iz 2021. i ranije, prima prijave od javnosti i drugih agencija, a podaci se potom analiziraju od strane jedinice za dojave Homeland Security Investigations. Podaci iz FALCON-a i drugih izvora potom se uvoze u FALCON Search & Analysis, koji omogućava pretraživanje i korelaciju informacija. Dodavanje AI sloja za generiranje sažetaka te automatsko prevođenje postavlja novu dimenziju: dojava ne mora proći isključivo kroz ručnu kategorizaciju i formalni upis, već je sada moguće automatsko indeksiranje i preliminarna procjena putem modela.

ELITE: mapiranje i identifikacija ciljeva

Pored alata za obradu dojava, inventar ističe Palantirov alat ELITE (Enhanced Leads Identification & Targeting for Enforcement) koji generira mape sa potencijalnim ciljanim osobama i izrađuje informacije o adresama, čak i koristeći podatke iz drugih federalnih izvora poput Ministarstva zdravlja i ljudskih usluga (HHS). Prema inventaru, ELITE je postao operativan u junu i prema izvještajima bio je korišten u Oregonu.

DHS dokument tvrdi da su izlazi iz ELITE-a ograničeni na normalizirane adrese i da ne služe kao glavni pravni osnov za donošenje odluka koje imaju značajan utjecaj na pojedince. Ipak, u praksi mapiranje i popis adresa kao potencijalnih meta može utjecati na način izbora ciljeva za provedbu, planiranja racija i logističkih operacija. Korištenje podataka drugih agencija za identifikaciju adresa otvara pitanja o međudržavnoj razmjeni podataka i granicama primjene informacija koje su prikupljene za druge svrhe.

Operativni tok dojava i uloga AI u njemu

Prema federalnom registru iz decembra 2025., nakon primitka dojave, istražitelji u Tipline jedinici provode upite kroz različite baze podataka DHS-a, agencija za provođenje zakona i imigracijske registre. Nakon analize rezultata, pišu se istražni izvještaji i dojave se upućuju relevantnim odjelima. Inventar ne razjašnjava do kraja koji segmenti tog radnog toka su automatizirani AI-jem, ali naglašava da AI pomaže u smanjenju „vremenski zahtjevnog ručnog rada“ potrebnog za pregled i kategorizaciju dolaznih prijava.

U praksi to može značiti da model inicijalno klasificira prijavu, generira BLUF, predlaže prioritet, te obavlja prevođenje. Istražitelj tada može odlučiti hoće li izvršiti daljnje upite u bazama podataka, poduzeti operativne korake ili arhivirati prijavu. Ključno pitanje je u kojoj mjeri su odluke temeljene na ljudskoj prosudbi u odnosu na preporuke modela i kako se evidentira ljudski nadzor.

Reakcije unutar Palantira: unutarnja debata i ažuriranje informacija

Nakon pucnjave u Minneapolisu u kojoj je ranjena i preminula medicinska radnica koja je postala meta šire javne pažnje, Palantirovi zaposleni su preko internih komunikacijskih kanala izražavali zabrinutost i tražili objašnjenja o angažmanu kompanije s ICE-om. Pregledani Slack razgovori pokazuju pritisak zaposlenika da kompanija javno objasni opseg svog rada s agencijom i eventualno utiče na uvjete suradnje. Kao odgovor na pritisak, rukovodstvo je ažuriralo internu wiki stranicu na kojoj su pojašnjene tri ključne oblasti Palantirove suradnje s ICE-om: prioritizacija i ciljanje operacija, praćenje „samoodlaska“ odnosno self-deportation, te logističko planiranje aktivnosti u okviru imigracijskih operacija.

U tim objavama rukovodstvo obrani upotrebu Palantirovog softvera kao sredstvo za poboljšanje operativne efikasnosti službenika, ističući da softver omogućava preciznije, informiranije odluke. Također su priznali reputacijski rizik zbog podrške imigracijskim provođenjima. Ipak, ažurirane interne smjernice ne spominju upotrebu AI za automatsku obradu dojava, što dodatno naglašava neusklađenost između internih komunikacija i javno objavljenog inventara DHS-a.

Pravne, etičke i političke implikacije

Korištenje generativnih AI alata u kontekstu provođenja zakona nosi kupu pravnih i etičkih posljedica. Prvo, postoji pitanje transparentnosti: javnost i meta-grupe nemaju potpun uvid u to kako se njihovi podaci obrađuju i koliko automatske procjene utiču na daljnje korake istražitelja. Drugo, upotreba podataka iz drugih agencija poput HHS-a za identifikaciju adresa može dovesti do sekundarne upotrebe podataka koja nije bila predviđena izvornim prikupljanjem, što potencijalno krši principe minimalizacije podataka i svrhe obrade.

Treći aspekt tiče se točnosti i pristranosti modela. Modeli trenirani na javnim podacima mogu replicirati jezične, kulturne i sistemske pristranosti prisutne u tim izvorima. U kontekstu imigracijskih dojava to može značiti pogrešnu klasifikaciju određene zajednice kao rizične, ili ignoriranje konteksta koji bi umanjio značaj prijave. Četvrti aspekt uključuje rizik pogrešaka i „hallucinacija“ modela, gdje AI može proizvesti netačne ili smišljene informacije koje bi mogle utjecati na inicijalnu procjenu.

Pravno, primjena automatiziranih alata u radu agencija za provođenje zakona mora biti usklađena s postojećim propisima o privatnosti, upravljanju podacima i građanskim pravima. DHS već objavljuje procjene utjecaja na privatnost (PIA) za neke od svojih alata, ali otkriveni inventar pokazuje da su novi AI alati implementirani bez dosad dostupnih javnih detalja o opsegu, kriterijima i mehanizmima nadzora.

Rizici za pogođene zajednice i potencijal za zloupotrebu

Zajednice koje su već ranjive zbog imigracijskog statusa mogu biti posebno izložene posljedicama automatizirane obrade dojava. Poziv javnosti da prijavljuje „sumnjive aktivnosti“ uz poticanje od strane bijele kuće i same agencije može povećati broj dojava, a AI sistemi koji prioritetiziraju na temelju specifičnih signala mogu nesrazmjerno ciljati određene grupe. Postoji opasnost od lažnih prijava, politički motiviranih dojava ili masovnih kampanja za prijavljivanje koje bi preplavile sistem i stvorile pogrešne prioritete.

Zloupotreba podataka također može nastati kada su izlazi iz sistema korišteni za planiranje racija ili logističkih operacija bez adekvatne provjere ili ljudske kontrole. Mapiranje adresa uz pomoć ELITE-a koje kombinira podatke različitih agencija može omogućiti selektivnu primjenu sile prema adresama koje su identificirane algoritamski, s mogućim ozbiljnim učincima na privatnost i sigurnost pojedinaca.

Transparentnost, revizija i odgovornost: kako smanjiti rizike

Sistemi koji automatiziraju aspekte rada u provođenju zakona moraju pratiti stroge mehanizme transparentnosti i revizije. To uključuje javno dostupne procjene utjecaja na privatnost i sigurnost, opisne dokumente koji objašnjavaju ulazne podatke, kriterije za prioritetizaciju, te objektivne metrike točnosti i lažno pozitivnih stopa. Nezavisni revizori i stručnjaci za ljudska prava trebaju imati pristup kako bi proveli tehničke provjere, testiranja pristranosti i procjene eventualnih diskriminirajućih učinaka.

Također je neophodno da postoji jasno označen ljudski nadzor: istražitelji moraju zadržati konačnu odgovornost za procjenu i odlučivanje, a sve preporuke modela trebaju biti transparentno evidentirane s kontekstom i razinom povjerenja. Evidence-based politike o zadržavanju podataka, ograničenjima dijeljenja i jasnim procedurama za pritužbe i ispravke moraju biti u vrhu upravljanja ovim sistemima.

Tehnička ograničenja i potencijalne greške modela

Veliki jezični modeli nisu nepogrešivi. Oni mogu proizvesti sažetke koji gube nijanse, pogrešno interpretiraju kulturne ili lokalne reference te daju netačne prijevode ako su izvorni tekstovi nejasni ili sadrže lokalne idiome. U kontekstu hitnih ili osjetljivih prijava, takve greške mogu dovesti do nepotrebnih istraga ili, obrnuto, zanemarenih prijava koje su stvarno kritične.

Osim toga, modeli često ne podastiru jasne izvore za svoje tvrdnje; generirani BLUF može izgledati autoritativno, ali bez jasnog pratećeg izvora može obmanjivati. Procjene pouzdanosti modela i njihova sposobnost da označe neodređene ili kontradiktorne dijelove teksta predstavljaju dodatnu tehničku potrebu koja bi trebala biti implementirana prije širokog usvajanja.

Javne politike i preporuke za zakonodavce

Zakonodavci i regulatori trebaju zahtijevati da svi sistemi koji automatiziraju aspekte provođenja zakona zadovoljavaju minimalne standarde za poštovanje privatnosti, transparentnost i nepostojanje diskriminacije. Propisi bi trebali obuhvatiti obvezu objave PIAnalognih dokumenata, redovne nezavisne audite performansi i pristranosti, te mehanizme za nadzor od strane tijela nezavisnih od agencija koje koriste tehnologiju.

Također je korisno zahtijevati javne izvještaje o metrikama sustava: brzina obrade dojava, postotak preporuka koje su ljudski istražitelji prihvatili, broj lažno pozitivnih i lažno negativnih slučajeva te opis slučajeva u kojima je automatizacija direktno utjecala na operativne odluke. Takvi podaci bi trebali biti anonimizirani i objavljeni kako bi se omogućila šira analiza i razumijevanje utjecaja sistema.

Šta znači za obične građane i zajednice

Za građane, praktičan učinak ovih promjena može biti dvosmjern. S jedne strane, učinkovitija obrada dojava može pomoći u brzom rješavanju prijava koje se tiču stvarnih prijetnji i kriminalnih aktivnosti. S druge strane, automatizacija nosi rizik da će netočne ili pristrasne preporuke doprinijeti nepotrebnim istragama, narušiti privatnost i stvoriti osjećaj stalne nadzornosti u marginaliziranim zajednicama.

Osobe koje šalju dojave ili su predmet prijava treba da imaju jasne kanale za provjeru informacija, pristup informacijama o tome kako su njihove prijave obrađene, te mehanizme za ispravku ili žalbu u slučaju pogrešnih zaključaka. Bez takvih garancija, povjerenje u institucije može se dodatno narušiti.

Scenariji buduće primjene i međunarodni utjecaj

Kako se alati poput Palantirovih i komercijalnih LLM-ova šire po agencijama, moguće je da će slični modeli biti primijenjeni i izvan SAD-a. Države koje nadograđuju svoje kapacitete za masovno prikupljanje i obradu informacija mogle bi implementirati slične funkcije, često s različitim standardima odgovornosti i zaštite ljudskih prava. To nosi geopolitički aspekt: tehnologija razvijena i primijenjena u jednoj jurisdikciji može poslužiti kao model za druge, bez nužnog preispitivanja etičkih i pravnih posljedica.

Zato je važno razviti međunarodne smjernice i standarde koji adresiraju specifičnosti primjene AI u kontekstu provođenja zakona i imigracijskih postupaka, kako bi se spriječile potencijalne zloupotrebe i zaštitila temeljna prava pojedinaca.

Mogućnosti za reformu i kontrolu: konkretni koraci

Reforma treba obuhvatiti nekoliko paralelnih mjera. Prvo, javna objava detaljnih tehničkih opisa upotrebljenih modela i kriterija njihove upotrebe. Drugo, uspostava standarda za ljudski nadzor i obavezno evidentiranje odluka u kojima je AI imao utjecaj. Treće, investicija u obuku službenika da kritički procjenjuju preporuke modela i da prepoznaju potencijalne greške u automatskim sažecima. Četvrto, stvaranje neovisnih tijela za reviziju i mogućnost građanskog nadzora. Peto, ograničavanje sekundarne upotrebe podataka prikupljenih za druge svrhe, osim ako ne postoji jasna pravna osnova i minimalna obrada.

Primjena ovih mjera smanjuje operativne rizike i istovremeno jača legitimnost i povjerenje u institucije.

Šta dalje pratiti i na što obratiti pažnju

Javni nadzor mora pratiti nekoliko ključnih elemenata: dostupnost ažuriranih PIAnalognih dokumenata, detalji o modelima koji su korišteni, stopa prihvaćanja preporuka modela od strane istražitelja, te nezavisne analize pristranosti i točnosti. Također je važno pratiti sudske sporove i upravne pritužbe koje bi mogle proizaći iz primjene ovih alata, jer će oni oblikovati pravni okvir za buduću uporabu.

Mediji, akademska zajednica i civilno društvo trebaju nastaviti analizirati kako se rezultati automatskih procesa koriste u realnim operacijama, te dokumentirati slučajeve u kojima automatizacija ima značajan utjecaj na živote pojedinaca.

Česta pitanja:

Pitanje: Šta znači BLUF i zašto ga koristi ICE? Odgovor: BLUF označava kratak „bottom line up front“ sažetak koji ističe najvažniju informaciju na početku izvještaja; ICE ga koristi kako bi istražitelji brže dobili pregled prijave bez potrebe za čitanjem cijelog teksta.

Pitanje: Koje vrste modela koriste Palantir i ICE za obradu dojava? Odgovor: Prema inventaru DHS-a, koriste se komercijalno dostupni veliki jezični modeli koje su njihovi provideri trenirali na javno dostupnim podacima; inventar navodi da nije vršeno dodatno treniranje na podacima same agencije.

Pitanje: Kada je sistem za AI unaprijeđenu obradu dojava postao operativan? Odgovor: Inventar navodi da je AI Enhanced ICE Tip Processing postao operativan 2. maja 2025. godine.

Pitanje: Da li se podaci o osobama iz ICE-ove baze koriste prilikom treniranja modela? Odgovor: Inventar navodi da nije vršeno dodatno treniranje modela na podacima agencije; međutim, tokom operacije modeli interaguju s prijavama koje dolaze u sistem.

Pitanje: Šta je ELITE i kako funkcioniše? Odgovor: ELITE je Palantirov alat za identifikaciju i ciljano lociranje osoba za enforcement koji generira mape i iznosi normalizirane adrese; inventar navodi da koristi podatke iz nekoliko izvora uključujući podatke HHS-a.

Pitanje: Mogu li AI sažeci biti pogrešni ili obmanjujući? Odgovor: Da; veliki jezični modeli mogu izgubiti nijanse, pogrešno interpretirati kontekst ili proizvesti netačne informacije, što može dovesti do pogrešnih procjena u početnoj fazi obrade prijave.

Pitanje: Kako AI utiče na prava i privatnost pogođenih osoba? Odgovor: Automatizirana obrada može povećati rizik lažnih prijava, povećati nadzor nad zajednicama te dovesti do sekundarne upotrebe podataka prikupljenih za druge svrhe, što može narušiti privatnost i prava pojedinaca.

Pitanje: Postoje li mehanizmi nezavisne revizije za ove sisteme? Odgovor: DHS objavljuje procjene utjecaja na privatnost za neke alate, ali transparentnost i opseg nezavisne revizije za nove AI alate ostaju ograničeni; potrebne su dodatne javne i nezavisne provjere.

Pitanje: Šta pojedinci mogu učiniti ako su pogođeni pogrešnom odlukom temeljenom na automatiziranim procesima? Odgovor: Pogođeni bi trebali koristiti pravne i upravne mehanizme za pritužbu, tražiti pristup podacima koji su o njima pohranjeni i zahtijevati korekcije; također je važno pratiti javne transparantne kanale agencije za informacije o pravima i procedurama.

Pitanje: Kako povećati povjerenje u primjenu AI u provođenju zakona? Odgovor: Povećanje povjerenja zahtijeva transparentnost, javne procjene utjecaja, nezavisne audite, jasno označen ljudski nadzor i mehanizme za odgovornost koji garantiraju da automatizirane preporuke ne zamjenjuju ljudsku procjenu.