Mobile Fortify: Kako federalna aplikacija za prepoznavanje lica mijenja identifikaciju na terenu

Ključne stavke:

• Mobile Fortify je licencirana aplikacija za prepoznavanje lica koju koriste Carinska i granična policija (CBP) i Imigraciona i carinska služba (ICE); njen glavni dobavljač identificiran je kao NEC, a pristup aplikaciji za ICE evidentiran je 20. maja 2025. godine.
• Aplikacija prikuplja fotografije lica, kontaktless otiske prstiju i slike identifikacijskih dokumenata, šalje te podatke u državne biometrijske sisteme kojima upravlja CBP za AI-podudaranja; nadzor, procjene uticaja i žalbeni procesi za korisnike tek su u fazi razvoja, dok su zabilježeni slučajevi pogrešne identifikacije sa ozbiljnim posljedicama.

Uvod

Otkrivanje detalja o Mobile Fortify kroz javni inventar upotrebe umjetne inteligencije Ministarstva za domovinsku sigurnost (DHS) pomjera diskusiju o granicama upotrebe biometrike u rukama policijskih i imigracijskih agencija. Tehnologija koja omogućava identifikaciju lica na terenu nije više samo pitanje sofisticiranih podataka i algoritama; postala je instrument koji direktno utječe na živote ljudi koji se susreću sa agentima na granici, na ulicama i u tranzitu. Objavljeni podaci ukazuju na to da je aplikacija već u upotrebi, da se podaci šalju u velike biometrijske baze i da su ostale ključne odrednice — poput nadzora, procjene uticaja i mehanizama za ispravku grešaka — ili nepotpune ili tek u izradi. Taj nesklad između brzine usvajanja tehnologije i institucionalne spremnosti za zaštitu prava pojedinaca podiže važna pitanja pravne odgovornosti, transparentnosti i osnovnih sloboda.

Kako Mobile Fortify funkcioniše

Mobile Fortify omogućava agentima da fotografišu lice osobe, skeniraju otiske prstiju bez direktnog dodira i fotografišu identifikacijske dokumente. Ti podaci se potom prenose u centralizovane biometrijske sisteme kojima upravlja CBP, koji koriste algoritme za pronalaženje mogućih podudaranja u postojećim zapisima. Rezultati vraćaju popis mogućih podudaranja zajedno sa biografskim podacima povezanih zapisa. Aplikacija tako kombinira više kanala identifikacije: vizuelnu pretragu lica (one-to-many i one-to-one), digitalni otisak prsta i ekstrakciju teksta iz dokumenata radi dodatnih provjera. ICE ističe da aplikacija olakšava rad na terenu kada službenici rade s ograničenim informacijama i kada moraju pristupiti različitim, nepovezanim sistemima.

Ko stoji iza tehnologije: uloga NEC-a i federalni ugovori

Inventar DHS-a otkriva da je dobavljač aplikacije kompanija NEC, ranije neobjavljena javnosti u kontekstu Mobile Fortify. NEC na svojoj web-stranici reklamira proizvode za prepoznavanje lica pod brendom Reveal, ističući sposobnost izvođenja pretraga "one-to-many" i "one-to-one" nad bazama podataka neograničenih veličina. Ugovor između NEC-a i DHS-a u vrijednosti od 23,9 miliona dolara za period 2020–2023. ukazuje na to da su alati za biometrijsko pretraživanje djelovali na skali i infrastrukturi koju je DHS opisao kao pogodnu za "neograničene količine lica, na neograničenom hardveru i na neograničenim lokacijama". Takav opis naglašava tehničke mogućnosti, ali otvara pitanja o opsegu korištenja podataka, kontrolama pristupa i nadzoru upotrebe u praksi. CBP navodi da su modeli i sistemi za podudaranje u rukama njihove agencije, dok ICE napominje da je razvoj aplikacije dijelom interno realiziran.

Podaci i treniranje: izvori nedorečenosti

DHS je u inventaru naveo da su skupovi podataka povezani s programima pouzdanih putnika (Trusted Traveler Programs) upotrijebljeni za treniranje, fino podešavanje ili evaluaciju performansi Mobile Fortify, ali nije precizirao koju je tačno ulogu taj podataka imao. Trusted Traveler programi uključuju programe poput TSA PreCheck i Global Entry, koji sadrže podatke turista i putnika koji su prošli provjere. Uključivanje takvih podataka u treniranje algoritama podiže dvojbe o tome da li su i kako podaci o građanima koji su koristili privilegije putovanja dospjeli u modele koji sada mogu identificirati i druge ljude u drugim kontekstima. Nedostatak jasnoće oko uloge ovih setova podataka stvara rizik od neželjenih posljedičnih efekata: pristranosti modela, pogrešnih podudaranja i šireg širenja podataka bez transparentne kontrole nad njihovim upotrebama.

Prava, nadzor i redoslijed procedura: odsustvo obvezne procjene uticaja

Smjernice Ureda za upravljanje i budžet (OMB) pozivaju federalne agencije da izvrše procjenu uticaja umjetne inteligencije prije nego što primijene visokorizične slučajeve. Ipak, inventar pokazuje da su obje agencije — CBP i ICE — klasificirale Mobile Fortify kao "visokog uticaja" i istovremeno ga označile kao "implementiranog". CBP je izjavilo da postoje zadovoljavajući monitorinzi, dok ICE navodi da su razvoj monitoring protokola i procjena uticaja u toku. Takav redoslijed događaja kontradiktoran je formalnim smjernicama koje zahtijevaju procjenu prije uvođenja, te stvara pravni i upravni problem: ako je aplikacija već u upotrebi, kako se vrši evaluacija rizika, i da li su efekti na ljudska prava i slobode pojedinaca procijenjeni adekvatno i nepristrasno?

Posljedice pogrešne identifikacije: ljudske priče i sistemski rizici

Pogrešno podudaranje u biometrijskim sistemima nije samo statistička greška; ima realne i često ozbiljne posljedice za ljude koji budu netačno identificirani. Evidentirani incidenti ukazuju na to da je aplikacija najmanje u jednom slučaju dvaput pogrešno identificirala ženu, što je dovelo do njenog zadržavanja. Dodatno, sudski dokumenti iz Minnesote sadrže izjave pojedinaca koji tvrde da su im povučene privilegije kao što su Global Entry i TSA PreCheck nakon kontakta s agentom koji je spomenuo prepoznavanje lica. U jednoj drugoj izjavi, osoba je navela da joj je službenik rekao da će vlasnik registrovanog vozila imati "probleme s putovanjem" nakon intervencije. Takve anegdotske i dokumentirane priče ilustriraju kako tehnički algoritmi, u kombinaciji sa praksama službenika i automatizovanim zaključcima, mogu dovesti do trajnih administrativnih i pravnih posljedica, uključujući ograničenje kretanja, gubitak privilegija i potencijalnu stigmatizaciju.

Transparentnost i dostupnost informacija javnosti

Objava Mobile Fortify u inventaru DHS-a je znak institucionalne transparentnosti, ali istovremeno razotkriva praznine u dostupnim informacijama. Ključni detalji o tome kako su podaci prikupljani, koliko su stari podaci koji su korišteni za treniranje, koje su konkretne baze podataka pretraživane i koliko često se vrše revizije modela, ostaju nedorečeni. Neodgovorena pitanja uključuju i trajanje zadržavanja biometrijskih zapisa, mogućnost dijeljenja podataka s drugim agencijama i kompanijama, te mehanizme koji bi omogućili pojedincu da ospori pogrešno podudaranje. Transparentnost u tim oblastima nije samo tehničko pitanje; ona je temelj demokratske kontrole nad tehnologijama koje djeluju u javnom interesu.

Nadgledanje, revizija i nezavisna evaluacija

CBP tvrdi da postoje "dovoljni monitoring protokoli", dok ICE priznaje da je razvoj tih protokola u toku. Razlika između izjave da postoje protokoli i stvarne prakse nadzora može biti značajna. Ključno je da nadzor uključi nezavisne revizije performansi algoritama, analize pristranosti po demografskim kategorijama, i javno dostupne izvještaje o greškama i njihovim posljedicama. Bez nezavisnih provjera, institucije koje razvijaju ili koriste AI rizikuju da povjerenje javnosti ostane narušeno, a problemi s točnošću i pravednošću ostanu neadresirani.

Legalni izazovi i sudski spisi iz Minnesote

Dokumenti koji su istaknuti u nedavnim tužbama ukazuju na rastuću pravnu borbu oko upotrebe ai-podržanih biometrijskih alata. Jedna od deklaraija sadrži navod da je ženi uskraćeno članstvo u programima kao što su Global Entry i TSA PreCheck nakon što je agent spomenuo korištenje tehnologije prepoznavanja lica u interakciji. Drugi sudski spisi iz istog regiona prikazuju da su pojedinci zadržani i upućeni na moguće buduće administrativne posljedice, na osnovu podataka dobivenih pomoću alata za prepoznavanje. Ovi slučajevi potencijalno postavljaju presedan za pravne izazove koji se tiču odgovornosti agencija, prava na administrativnu žalbu i standarda za prihvatljivost biometrijskih dokaza u administrativnim i krivičnim postupcima.

Tehnička ograničenja i pristranost algoritama

Algoritmi za prepoznavanje lica često pokazuju varijabilnost performansi kroz različite demografske grupe. Studije nezavisnih istraživača su pokazale da modeli mogu imati slabiju preciznost za ljude tamnije puti, žene ili druge demografske kategorije koje nisu ravnomjerno zastupljene u podacima za trening. Ako su podaci koji su korišteni za treniranje Mobile Fortify ili modela kojima se pristupa pristrani, rizik od nejednakih ishoda raste. Dodatno, faktori poput kuta snimanja, osvjetljenja, starosti fotografije i promjena u izgledu osobe (na primjer, brada ili naočale) utiču na stopu podudaranja i lažnih pozitivnih rezultata. Tehnička nesavršenstva u kombinaciji s administrativnim posljedicama čine ovo pitanje kritično za javnu politiku.

Privatnost, dijeljenje podataka i potencijal za široku upotrebu

Centralizirani biometrijski sistemi koji omogućavaju brzo podudaranje lica i otisaka prstiju stvaraju mogućnost da se podaci upotrebljavaju u širem spektru situacija od onih za koje su prvobitno prikupljeni. To uključuje razmjenu informacija između agencija, potencijalnu integraciju sa programima nadzora i dugoročno zadržavanje podataka. Ako se principi minimizacije podataka i jasna ograničenja upotrebe ne primjenjuju dosljedno, postoji rizik da jedinstveni događaj susreta s agentom rezultira trajnom evidencijom u sistemu koja će utjecati na pojedinca pri budućim interakcijama s državom. Pitanje je koliko dugo se podaci čuvaju, ko ima pristup i pod kojim uslovima mogu biti podijeljeni s trećim stranama.

Skala implementacije i teritorijalni domet

Opis ugovora i tehničke mogućnosti sugerišu da je sustav dizajniran za rad u širokom obimu — ne samo na pojedinačnim uređajima nego i preko mreže lokacija i platformi. To znači da utjecaj Mobile Fortify potencijalno prelazi lokalne provjere i postaje dio nacionalne prakse identifikacije. Kad se tehnologija standardizira i distribuira kroz više agencija i okruženja, malo grešaka u modelu može prerasti u sistemsku grešku koja pogađa veliki broj ljudi. Upravljanje takvim rizicima zahtijeva jedinstvenu strategiju za implementaciju, obradu pritužbi i reviziju učinka u realnom vremenu.

Etika i demokratija: ko odlučuje o pravilima igre

Upotreba tehnologija koje automatski identificiraju osobe otvara etička pitanja o granicama državne moći i pojedinačnim pravima. Odlučivanje o tome kada i kako se koristi takva tehnologija ne može ostati samo u domeni agencijskih tehničkih timova ili proizvođača softvera. Potrebna je demokratska rasprava koja uključuje zakonodavce, nezavisne eksperte, civilno društvo i javnost. Jasni zakoni i regulative koji određuju dopuštene upotrebe, zahtjeve za transparentnost i mehanizme pravne zaštite ključni su za uravnoteženje javne sigurnosti i privatnih sloboda.

Potencijal za zloupotrebe i misupotrebe

Sustavi koji omogućavaju brzo indeksiranje i pretraživanje lica mogu biti zloupotrijebljeni za nadzor aktivista, novinara ili marginaliziranih grupa. Bez jasnih ograničenja i nadzora, pristup biometrijskim podacima može se proširiti izvan prvobitnih operativnih ciljeva. Povijest tehnologije pokazuje da alati namijenjeni legitimnoj upotrebi često bivaju prenamijenjeni. Onemogućavanje takvih scenarija zahtijeva zakonske barijere, tehnološke smjernice i institucionalne provjere odgovornosti.

Mehanizmi žalbe i proceduralna pravda

ICE navodi da je razvoj žalbenih procedura u toku. Proceduralna pravda u kontekstu biometrijskih grešaka znači da svaki pojedinac koji je pogođen automatskom identifikacijom ima pristup razumljivom i dostupnom procesu ispravke. To uključuje mogućnost dobivanja informacija o tome koji su podaci korišteni, kako su doneseni zaključci, te jasno definirane korake kako osporiti i ispraviti pogrešne zapise. Bez takvih mehanizama, pogrešna identifikacija ostaje neliječena i može dovesti do trajnih posljedica.

Preporuke za regulatornu reakciju i političke odluke

S obzirom na potencijalne štete i javni interes, preporuke za regulative i praktične korake uključuju obavezne, javno dostupne procjene uticaja prije bilo kakve daljnje implementacije; nezavisne revizije modela i podataka; jasne standarde za minimizaciju podataka i ograničenja zadržavanja; javne i detaljne nalaze o incidentima lažnih podudaranja; te uspostavljanje pravnog mehanizma koji omogućava brzu i efektivnu korekciju pogrešnih zapisa. Ujedno, zakonodavci bi trebali razmotriti privremene mjere ograničenja upotrebe tehnologije dok se ne uspostave takvi okviri.

Tehničke opcije za smanjenje rizika

Iz tehničke perspektive, smanjenje rizika podrazumijeva kombinaciju unaprijeđenih metoda validacije, ručne provjere rezultatnih podudaranja, ograničavanje upotrebe one-to-many pretraga u osjetljivim kontekstima i usvajanje standarda koji zahtijevaju dokaz o pouzdanosti modela u različitim demografskim segmentima. Dodatno, inkluzivniji i reprezentativniji podaci za treniranje mogu poboljšati tačnost, ali ne uklanjaju potrebu za administrativnim zaštitama i normama za upotrebu.

Uloga proizvođača i sporazumi o odgovornosti

Ugovor između NEC-a i DHS-a naglašava važnost razjašnjenja odgovornosti između proizvođača tehnologije i državnih tijela koja je koriste. Proizvođači bi trebali osigurati transparentne informacije o performansama svojih modela, uključujući tačnost, stope lažno pozitivnih i lažno negativnih rezultata, i ograničenja u različitim demografskim grupama. Agencije, s druge strane, moraju zadržati kontrolu nad načinima upotrebe, revizijama i pristupom podacima, te preuzeti odgovornost za posljedice administrativnih odluka koje proizlaze iz rezultata modela.

Šta ovo znači za građane i putnike

Za građane i putnike, neposredan rizik proizlazi iz mogućnosti pogrešne identifikacije i administrativnih posljedica koje iz toga proizlaze, uključujući gubitak privilegija u programima pouzdanih putnika, privremeno zadržavanje ili dodatne provjere pri putovanju. Dugoročnije, širenje uporabe biometrijskih sistema bez jasnih ograničenja može utjecati na privatnost svakodnevice: nepredvidiv susret sa državnim agentima mogao bi postati razlog za stvaranje birokratskih i pravnih zapisa koji prate pojedinca godinama.

Javna debata i mogućnosti za reformu

Rasprava o Mobile Fortify nije samo tehnička; radi se o odlučivanju kakav društveni ugovor prihvatamo glede nadzora i sigurnosti. Reforme trebaju biti vođene principima proporcionalnosti, transparentnosti i odgovornosti. To podrazumijeva uključivanje nezavisnih stručnjaka, predstavnika građanskog društva i zakonodavaca u procese postavljanja granica upotrebe, uključujući i razmatranje zabrana upotrebe u određenim kontekstima, kao što su masovni javni događaji ili profiliranje na osnovu demografskih karakteristika.

Zaključna analiza rizika i koristi

Mobile Fortify predstavlja tehnologiju koja može ubrzati identifikaciju i potencijalno olakšati operativne zadatke agenata na terenu. Međutim, taj brz napredak dolazi s realnim rizicima: netačnost, pristranost, nedovoljna transparentnost i odsutnost jasnih pravnih mehanizama za zaštitu pogođenih pojedinaca. U trenutnoj fazi, odgovornost leži na regulatorima i upravnim tijelima da osiguraju temeljitu procjenu, javnu odgovornost i efektivne mehanizme prevencije štete prije šire implemetacije i integracije takvih sistema u svakodnevne prakse nadzora.

Česta pitanja:

Pitanje: Šta je Mobile Fortify i ko ga koristi? Odgovor: Mobile Fortify je aplikacija za prepoznavanje lica koju koriste Carinska i granična policija (CBP) i Imigraciona i carinska služba (ICE) za identifikaciju osoba na terenu pomoću fotografija lica, kontaktless skeniranja otisaka prstiju i slika identifikacijskih dokumenata.

Pitanje: Ko je dobavljač tehnologije i kakav je ugovor s vladom? Odgovor: Inventar DHS-a otkrio je da je dobavljač kompanija NEC, koja je s DHS-om imala ugovor vrijedan 23,9 miliona dolara za period 2020–2023. i koja nudi proizvode za biometrijsko podudaranje velikog kapaciteta.

Pitanje: Kakve podatke aplikacija prikuplja i kako ih obrađuje? Odgovor: Aplikacija prikuplja fotografije lica, kontaktless skenove otisaka prstiju i fotografije identifikacijskih dokumenata; ti podaci se šalju u državne biometrijske sisteme kojima upravlja CBP, koji koriste algoritme za podudaranje i vraćaju moguće rezultate s biografskim informacijama.

Pitanje: Jesu li napravljene procjene uticaja prije implementacije? Odgovor: Prema objavljenim informacijama, smjernice zahtijevaju procjenu uticaja prije uvođenja visokorangiranih AI slučajeva, ali CBP i ICE su app označili kao "visokog uticaja" i "implementiran", dok ICE ističe da su procjena uticaja i monitoring protokoli još u razvoju.

Pitanje: Postoje li prijavljeni slučajevi pogrešne identifikacije? Odgovor: Da; medijski izvještaji i dokumenti sudskih postupaka navode slučajeve u kojima je aplikacija pogrešno identificirala osobu, što je dovelo do zadržavanja i drugih administrativnih posljedica.

Pitanje: Ko posjeduje modele umjetne inteligencije i nadzire rezultate? Odgovor: CBP navodi da modeli i sustavi za podudaranje pripadaju njihovoj agenciji; ICE navodi da ne posjeduje ili ne upravlja direktno AI modelima. Status i opseg nadzora varira između agencija.

Pitanje: Da li se u treniranju koristili podaci iz programa Trusted Traveler? Odgovor: DHS je naveo da su podaci iz programa Trusted Traveler korišteni u nekoj od faza — treniranju, fino podešavanju ili evaluaciji — ali nije specificirano koji je tačan način upotrebe tih podataka.

Pitanje: Koje su glavne pravne i etičke zabrinutosti vezane uz ovu tehnologiju? Odgovor: Glavne zabrinutosti uključuju mogućnost pogrešnih identifikacija, pristranost modela prema određenim demografskim grupama, nedostatak transparentnosti, dugotrajno zadržavanje podataka, te potencijal za zloupotrebu nadzornih mogućnosti bez adekvatnog pravnog okvira.

Pitanje: Kakve zaštite i pravne mehanizme bi trebale postojati? Odgovor: Potrebne su obavezne procjene uticaja prije implementacije, nezavisne revizije performansi i pristranosti, jasna ograničenja zadržavanja i dijeljenja podataka, dostupni žalbeni mehanizmi za pogođene osobe i zakonske odredbe koje definiraju dopuštene upotrebe.

Pitanje: Kako građani mogu saznati jesu li njihovi podaci korišteni ili su pogođeni? Odgovor: U idealnom okviru agencije bi trebale omogućiti postupke pristupa informacijama i žalbe koji omogućavaju pojedincima da saznaju koji su podaci prikupljeni i kako su korišteni; u praksi, trenutne informacije su ograničene i često zahtijevaju pravne korake ili službene zahtjeve za pristup informacijama.

Pitanje: Može li tehnologija biti poboljšana kako bi se smanjili rizici? Odgovor: Tehnički rizike može se smanjiti unapređenjem reprezentativnosti podataka za treniranje, uvođenjem robustnih procedura ručne provjere prije donošenja administrativnih odluka i uspostavljanjem jasnih standarda za performanse u različitim demografskim skupinama, ali to ne zamjenjuje potrebu za pravnim i upravnim zaštitama.

Pitanje: Šta zakonodavci mogu učiniti odmah? Odgovor: Zakonodavci mogu zahtijevati javne procjene uticaja, mandatorne nezavisne revizije, privremene obustave šire implementacije dok se ne postave sigurnosni standardi, te jasno zakonsko ograničenje upotrebe biometrijskih podataka u određene svrhe.

Pitanje: Koje su moguće posljedice ako se ovo ostavi bez regulatorne reakcije? Odgovor: Bez regulatorne akcije rizik je normalizacije neprovjerenih tehnologija u svakodnevnoj praksi nadzora, povećanje broja pogrešnih identifikacija, trajne administrativne i socijalne posljedice za pojedince, te erozija javnog povjerenja u državne institucije i njihove alate.

Pitanje: Gdje pratiti dalji razvoj situacije? Odgovor: Javne objave DHS-a, izvještaji o nabavkama i ugovorima, sudski spisi u slučajevima koji se tiču upotrebe Mobile Fortify, te izvještaji nezavisnih istraživača i organizacija za zaštitu privatnosti pružaju ključne informacije za praćenje razvoja i reformi u ovoj oblasti.