V máji TikTok oznámil, že áno automaticky označovať obsah generovaný AI na svojej platforme. To však neplatí pre všetky verzie aplikácie. A nový prehľad z Mozilla Foundation a AI Forensics zistili, že verzia Lite-Save Data od TikTok, zameraná na používateľov na chudobnejších trhoch, nielenže ponecháva obsah generovaný AI bez označenia, ale chýba aj iné, podobné zabezpečenie.
„Označovanie je veľmi dôležitá taktika, ktorú platformy používajú na poskytovanie určitej formy dôvery a bezpečnosti,“ hovorí Odanga Madung, člen Mozilly a spoluautor správy.
Používatelia plnej verzie TikTok napríklad uvidia štítky označujúce, že obsah je grafický alebo zobrazuje nebezpečné správanie. Niektorý obsah o témach, ako sú voľby a zdravie, podobne zahŕňa upozornenie, ktoré povzbudzuje používateľov k prístupu k dôveryhodným informáciám prostredníctvom „centra zdrojov“ v aplikácii.
Na TikTok Lite nie je prítomný žiadny z týchto mantinelov. Okrem iného to znamená, že s klamlivý obsah generovaný AI problém volieb na celom svete, používatelia na chudobnejších trhoch dostávajú menej informácií o tom, čo je falošné a čo je skutočné, ako používatelia na bohatších trhoch.
Madung si kladie otázku, prečo zo všetkých funkcií, ktoré bolo možné vystrihnúť na optimalizáciu aplikácie, spoločnosť zahrnula tie, ktoré robia platformu bezpečnejšou pre používateľov. „Nevieme, či je to voľba, alebo či je to len nedbanlivosť,“ hovorí.
„V tejto správe je niekoľko faktických nepresností, ktoré zásadne skresľujú náš prístup k bezpečnosti,“ uviedol vo vyhlásení hovorca TikTok. „Faktom je, že obsah, ktorý porušuje naše pravidlá, je z TikTok Lite odstránený rovnakým spôsobom ako naša hlavná aplikácia a ponúkame množstvo bezpečnostných funkcií.“ Spoločnosť odmietla poukázať na akékoľvek konkrétne nepresnosti.
Lite verzie aplikácií už dlho predstavujú spôsob, ako môžu spoločnosti zvýšiť podiel na trhu v oblastiach, kde sú používatelia vystavení vysokým nákladom na dáta alebo si môžu dovoliť len menej pokročilé telefóny. V roku 2015 Meta, potom Facebook, spustil Facebook Lite, skrátenú verziu svojej aplikácie, ktorá bola viac kompatibilná s dátovými sieťami 2G. V tom istom roku tiež spustili bezplatné základy, ktorá umožnila používateľom na globálnom juhu pristupovať k platforme a niektorým ďalším webovým stránkam bez účtovania poplatkov za používanie dát. (Aplikácia alebo služba, ktorá spĺňa tieto kritériá, sa nazýva „nulové hodnotenie“.) Projekt v tom čase čelil širokej kritike, najmä v Indii, za vytvorenie zážitku druhej úrovne pre chudobnejších zákazníkov.
TIK tak spustený jeho Lite verzia v roku 2018 v Thajsku a rýchlo sa rozšírila na ďalšie trhy v juhovýchodnej Ázii vrátane Indonézie, Malajzie a Filipín. Aplikácia, ktorá na rozdiel od plnej verzie TikTok môže bežať v sieťach 2G a 3G, má teraz viac ako 1 miliarda stiahnutí, podľa údajov z obchodu Google Play. (TikTok Lite je k dispozícii iba pre telefóny s Androidom.)
„Väčšina používateľov na globálnom juhu má nízky príjem a obmedzené zdroje,“ hovorí Payal Arora, profesor inkluzívnych kultúr AI na Utrechtskej univerzite. Zjednodušené verzie aplikácií pomáhajú spoločnostiam získať týchto ľudí, čo je podľa nej ešte dôležitejšie ako v minulosti, pretože „údaje sú platidlom na tomto trhu poháňanom umelou inteligenciou a hladnom po umelej inteligencii“.
