„Čo robíme pri transformácii CCTV kamier na výkonný monitorovací nástroj,“ hovorí Matthias Houllier, spoluzakladateľ Wintics, jednej zo štyroch francúzskych spoločností, ktoré získali zákazky na nasadenie svojich algoritmov na olympijských hrách. „S tisíckami kamier je pre policajtov nemožné (reagovať na každú kameru.)
Spoločnosť Wintics získala svoju prvú verejnú zákazku v Paríži v roku 2020, pričom zhromaždila údaje o počte cyklistov v rôznych častiach mesta, aby pomohla parížskym dopravným úradníkom pri plánovaní výstavby ďalších cyklotrás. Prepojením svojich algoritmov s 200 existujúcimi dopravnými kamerami je systém Wintics – ktorý je stále v prevádzke – schopný najprv identifikovať a potom spočítať cyklistov uprostred rušných ulíc. Keď Francúzsko oznámilo, že hľadá spoločnosti, ktoré by mohli vytvoriť algoritmy na zlepšenie bezpečnosti na tohtoročných letných olympijských hrách, Houllier to považoval za prirodzený vývoj. „Technológia je rovnaká,“ hovorí. „Analyzuje anonymné tvary vo verejných priestoroch.“
Po trénovaní svojich algoritmov na open source aj syntetických dátach boli systémy Wintics prispôsobené napríklad na počítanie počtu ľudí v dave alebo počtu ľudí padajúcich na zem – upozorňujú operátorov, keď počet prekročí určitú hranicu. prah.
„To je všetko.“ Neexistuje žiadne automatické rozhodnutie,“ vysvetľuje Houllier. Jeho tím školil úradníkov ministerstva vnútra, ako používať softvér spoločnosti, a tí sa rozhodujú, ako ho chcú nasadiť, hovorí. „Cieľom je upútať pozornosť operátora, aby ho mohol skontrolovať a rozhodnúť, čo treba urobiť.“
Houllier tvrdí, že jeho algoritmy sú súkromnou alternatívou ku kontroverzným systémom rozpoznávania tváre, ktoré používajú minulé svetové športové podujatia, ako napríklad v roku 2022. Majstrovstvá sveta v Katare. „Tu sa snažíme nájsť inú cestu,“ hovorí. Pre neho je nechať algoritmy prechádzať zábery CCTV spôsobom, ako zaistiť bezpečnosť udalosti bez ohrozenia osobných slobôd. „Neanalyzujeme žiadne osobné údaje. Pozeráme sa len na tvary, bez tváre, bez rozpoznávania ŠPZ, bez analýzy správania.“
Aktivisti za súkromie však odmietajú myšlienku, že táto technológia chráni osobné slobody ľudí. V 20. obvode Noémie Levain, členka aktivistickej skupiny La Quadrature du Net, práve dostala dodávku 6 000 plagátov, ktoré skupina plánuje distribuovať, aby varovala svojich parížskych parížčanov pred „algoritmickým dohľadom“, ktorý ovládol ich mesto. a vyzval ich, aby odmietli „autoritárske zachytenie verejných priestorov“. Odmieta myšlienku, že algoritmy nespracúvajú osobné údaje. „Keď máte obrázky ľudí, musíte analyzovať všetky údaje na obrázku, čo sú osobné údaje, čiže biometrické údaje,“ hovorí. „Je to presne rovnaká technológia ako rozpoznávanie tváre. Je to presne ten istý princíp.“
Levain sa obáva, že sledovacie systémy AI zostanú vo Francúzsku dlho po odchode športovcov. Podľa nej tieto algoritmy umožňujú polícii a bezpečnostným službám zaviesť dohľad na širších úsekoch mesta. „Táto technológia bude reprodukovať stereotypy polície,“ hovorí. „Vieme, že diskriminujú. Vieme, že vždy chodia v rovnakej oblasti. Vždy chodia a obťažujú tých istých ľudí. A táto technológia, ako každá sledovacia technológia, im v tom pomôže.“
Zatiaľ čo motoristi zúria v centre mesta na bezpečnostné bariéry blokujúce ulice, Levain je jedným z mnohých Parížanov, ktorí plánujú utiecť do južného Francúzska, kým prevezmú vládu olympijské hry. Napriek tomu sa obáva o mesto, ktoré ju privíta po jej návrate. „Olympiáda je výhovorka,“ hovorí. „Oni – vláda, spoločnosti, polícia – už premýšľajú o tom, čo potom.“
