Hrozba hlbokých falzifikátov rastie, pretože nástroje AI na ich vytváranie sa stávajú široko prístupnými. Na celom svete došlo k 245% nárastu deepfakes od roku 2023 do roku 2024, nárast čiastočne podnietil prichádzajúce volebné cykly, podľa poskytovateľa overovania Sumsub. Ovplyvňuje to aj podnikový sektor; zistil to nedávny prieskum Business.com 10 % spoločností čelilo podvodom s hlbokou falošnou podporouako klonované hlasy.
Tento trend, nie je prekvapujúce, bol neočakávaným pre spoločnosti marketingové nástroje na obranu proti deepfake a technológiám používaným na ich výrobu. Jedna z tých spoločností, Pindropv stredu oznámila, že zabezpečila pôžičku 100 miliónov dolárov na päť rokov od Hercules Capital, o ktorej generálny riaditeľ Vijay Balasubramaniyan hovorí, že je určená na vývoj produktov a nábor.
„S pokrokom v generatívnej AI sa klonovanie hlasu stalo silným nástrojom,“ povedal Balasubramaniyan pre TechCrunch. „Deepfake detekcia využívajúca technológie detekcie AI teraz potrebuje každé call centrum, aby zostalo o krok vpred pred podvodníkmi.“
Pindrop vytvára produkty na boj proti hĺbkovým falšovaniu a viacfaktorové autentifikačné produkty zamerané na podniky v bankovníctve, financiách a príbuzných odvetviach. Spoločnosť tvrdí, že jej nástroje dokážu identifikovať napríklad volajúcich z kontaktného centra – a to s vyššou presnosťou ako konkurenčné riešenia.
„Pindrop využíva súbor údajov s viac ako 20 miliónmi výrokov, syntetických aj pravých, na trénovanie modelov AI na rozlíšenie medzi skutočnými ľudskými hlasmi a synteticky generovanými hlasmi,“ povedal Balasubramaniyan. „Vytrénovali sme tiež viac ako 330 modelov prevodu textu na reč (TTS), aby sme pomohli identifikovať modely TTS použité na vytvorenie deepfake.“
Zaujatosť je bežným problémom v modeloch detekcie hlbokých falošných správ. Veľa audio modelov majú tendenciu byť zaujatí smerom k rozpoznávaniu západných, amerických hlasov a majú zlý výkon s rôznymi prízvukmi a dialektmi, čo by mohlo viesť k tomu, že detektor klasifikuje legitímny hlas ako deepfake.
Je na diskusiu, či syntetické tréningové údaje – tréningové údaje generované samotnými modelmi AI – zmierňuje alebo zhoršuje zaujatosti. Balasubramaniyan si myslí to prvé a tvrdí, že produkty na autentifikáciu hlasu Pindrop sa zameriavajú na „akustické a spektro-časové vlastnosti“ hlasov, nie na výslovnosť alebo jazyk.
„Systémy rozpoznávania hlasu založené na AI majú tendenciu zobrazovať skreslené výsledky v súvislosti s rozdielmi v tónoch, prízvukoch, ľudovom jazyku a dialekte, ktoré by mohli mať rasové dôsledky,“ povedal Balasubramaniyan. „Tieto predsudky sú odvodené od homogenity údajov, ktoré sa používajú na trénovanie systémov, ktoré môžu postrádať zastúpenie rôznych etnických, rasových, rodových alebo iných rozdielov, čím sa obmedzuje rôznorodosť údajov, na ktorých sú systémy AI trénované.“
Bez ohľadu na účinnosť svojich produktov spoločnosť Pindrop výrazne prenikla od roku 2011, keď Balasubramaniyan, bývalý zamestnanec spoločnosti Google, založil spoločnosť s bývalým vedúcim výskumu Barracuda Networks Paulom Judge a Mustaque Ahamad. K dnešnému dňu spoločnosť so sídlom v Atlante, ktorá zamestnáva približne 250 ľudí, získala 234,77 milióna dolárov rizikového kapitálu od investorov vrátane Vitruvian Partners, CapitalG, IVP a Andreessen Horowitz.
Na otázku, prečo sa Pindrop tentoraz rozhodol pre dlh namiesto vlastného kapitálu, Balasubramaniyan povedal, že je to „atraktívna možnosť“ „efektívne zvýšiť rastový kapitál“ bez toho, aby sa rozriedil vlastný kapitál Pindropu. (To je a spoločná stratégia.)
Výnosy z pôžičky umožnia spoločnosti Pindrop priniesť svoje technológie do nových sektorov, dodal Balasubramaniyan, ako je zdravotná starostlivosť, maloobchod, médiá a cestovanie.
„S príchodom generatívnej AI sme svedkami obrovského dopytu po našich riešeniach na celom svete a plánujeme sa pozrieť na expanziu do krajín, ktoré čelia významným hrozbám v dôsledku deepfake,“ povedal Balasubramaniyan. „Pindrop má pomôcť spoločnostiam chrániť seba a svojich spotrebiteľov pred rastúcimi podvodmi a falošnými hrozbami pomocou riešení na predchádzanie podvodom, autentifikáciu a živosť.“
