k jazerušvajčiarsky startup, ktorý vytvára technológiu na ochranu generatívnych aplikácií AI pred škodlivými výzvami a inými hrozbami, vyzbieral 20 miliónov dolárov v kole série A vedenom európskou spoločnosťou rizikového kapitálu Atomico.
Generatívna AI sa objavila ako dieťa na plagáte pre rozvíjajúce sa hnutie AI, poháňané populárnymi aplikáciami ako napríklad ChatGPT. Zostáva však dôvodom na obavy v rámci podnikových nastavení, najmä kvôli otázky týkajúce sa bezpečnosti a ochrany osobných údajov.
Pokiaľ ide o kontext, veľké jazykové modely (LLM) sú motormi generatívnej AI a umožňujú strojom porozumieť a generovať text rovnako ako človek. Ale či už chcete, aby takáto aplikácia napísala báseň alebo zhrnula právnu zmluvu, potrebuje pokyny, ktoré povedú k jej výstupu. Tieto „výzvy“ však môžu byť skonštruované takým spôsobom, aby prinútili aplikáciu urobiť niečo, čo by nemala robiť, napríklad vyzradiť dôverné údaje, ktoré boli použité na jej trénovanie, alebo poskytnúť neoprávnený prístup k súkromným systémom. Takéto „rýchle injekcie“ sú skutočným a rastúcim záujmom a sú konkrétne tým, čo sa Lakera chystá riešiť.
Rýchla odozva
Spoločnosť Lakera bola oficiálne založená v Zürichu v roku 2021 spustený vlani v októbri s financovaním 10 miliónov dolárovs výslovným prísľubom chrániť organizácie pred bezpečnostnými slabinami LLM, ako je únik údajov alebo rýchle injekcie. Funguje s akýmkoľvek LLM, vrátane OpenAI GPT-X, Google Bard, Meta’s Llama a Anthropic’s Claude.
Vo svojom jadre je Lakera navrhnutá ako „aplikačný firewall AI s nízkou latenciou“, ktorý zabezpečuje prenos do a z generatívnych aplikácií AI.
Úvodný produkt spoločnosti, Stráž Lakeraje postavená na databáze, ktorá zhromažďuje poznatky z nespočetných zdrojov vrátane verejne dostupných „open source“ súborov údajov, ako sú súbory hostené na Hugging Face, interný výskum strojového učenia a zvedavá interaktívna hra, ktorú vyvinula s názvom Gandalfktorý vyzýva používateľov, aby sa ho pokúsili oklamať a odhaliť tajné heslo.
S postupovaním úrovní sa hra stáva sofistikovanejšou (a teda aj náročnejšou na „hackovanie“). Tieto interakcie však umožnili spoločnosti Lakera vybudovať to, čo nazýva „taxonómia rýchlej injekcie“, ktorá rozdeľuje takéto útoky do kategórií.
„Sme na prvom mieste v oblasti AI a vytvárame vlastné modely na detekciu škodlivých útokov, ako sú rýchle injekcie v reálnom čase,“ vysvetlil pre TechCrunch spoluzakladateľ a generálny riaditeľ spoločnosti Lakera David Haber. „Naše modely sa neustále učia z veľkého množstva generatívnych interakcií AI, ako vyzerajú škodlivé interakcie. Výsledkom je, že naše modely detektorov sa neustále zdokonaľujú a vyvíjajú v závislosti od vznikajúceho prostredia hrozieb.“
Lakera hovorí, že integráciou svojej aplikácie s Lakera Guard API môžu spoločnosti lepšie chrániť pred škodlivými výzvami. Spoločnosť však vyvinula aj špecializované modely, ktoré skenujú výzvy a výstupy aplikácií toxický obsahso špeciálnymi detektormi nenávistných prejavov, sexuálneho obsahu, násilia a nadávok.
„Tieto detektory sú obzvlášť užitočné pre verejne prístupné aplikácie, napríklad chatboty, ale používajú sa aj v iných nastaveniach,“ povedal Haber.
Podobne ako v prípade súpravy nástrojov rýchlej obrany môžu spoločnosti integrovať inteligentné funkcie moderovania obsahu spoločnosti Lakera do jedného riadka kódu a môžu získať prístup k centralizovanému ovládaciemu panelu politiky, aby mohli doladiť prahové hodnoty, ktoré chcú nastaviť podľa typu obsahu.
S čerstvými 20 miliónmi dolárov v banke je teraz Lakera pripravená rozšíriť svoju globálnu prítomnosť, najmä v USA. Spoločnosť si už nárokuje množstvo pomerne významných zákazníkov v Severnej Amerike vrátane amerických Startup AI Respell a Kanadský mega-jednorožec Cohere.
„Veľké podniky, spoločnosti SaaS a poskytovatelia modelov AI sa predháňajú v zavádzaní bezpečných aplikácií AI,“ povedal Haber. „Organizácie poskytujúce finančné služby rozumejú rizikám v oblasti bezpečnosti a dodržiavania predpisov a sú prvými používateľmi, no vidíme záujem v rôznych odvetviach. Väčšina spoločností vie, že musia začleniť GenAI do svojich hlavných obchodných procesov, aby zostali konkurencieschopné.“
Okrem vedúceho podporovateľa Atomica sa kolo série A Lakera zúčastnilo aj odnože VC spoločnosti Dropbox, Citi Ventures a Redalpine.
