Google má prepustený trio nových „otvorených“ generatívnych modelov AI, ktoré nazýva „bezpečnejšie“, „menšie“ a „transparentnejšie“ než väčšina ostatných – odvážne tvrdenie, pravdaže.
Sú to doplnky ku Google Gemma 2 rodina generatívnych modelov, ktorá debutovala v máji. Nové modely, Gemma 2 2B, ShieldGemma a Gemma Scope, sú navrhnuté pre mierne odlišné aplikácie a prípady použitia, ale majú spoločnú bezpečnosť.
Séria modelov Gemma od Googlu sa líši od modelov Gemini v tom, že Google nesprístupňuje zdrojový kód pre Gemini, ktorý používajú vlastné produkty Google a je dostupný aj pre vývojárov. Gemma je skôr snahou spoločnosti Google podporovať dobrú vôľu v rámci komunity vývojárov, podobne ako Meta sa pokúša o niečo s Llamou.
Gemma 2 2B je ľahký model na generovanie analyzovaného textu, ktorý možno spustiť na celom rade hardvéru vrátane notebookov a okrajových zariadení. Je licencovaný pre určité výskumné a komerčné aplikácie a možno si ho stiahnuť zo zdrojov, ako je knižnica modelov Vertex AI od spoločnosti Google, platforma pre vedu údajov Kaggle a súprava nástrojov AI Studio od spoločnosti Google.
Pokiaľ ide o ShieldGemma, je to zbierka „klasifikátorov bezpečnosti“, ktoré sa pokúšajú odhaliť toxicitu, ako sú nenávistné prejavy, obťažovanie a sexuálne explicitný obsah. ShieldGemma, postavená na Gemma 2, sa dá použiť na filtrovanie výziev na generatívny model, ako aj na obsah, ktorý model generuje.
Nakoniec, Gemma Scope umožňuje vývojárom „priblížiť“ konkrétne body v rámci modelu Gemma 2 a urobiť jeho vnútorné fungovanie lepšie interpretovateľné. Google to popisuje v blogovom príspevku takto: „(Gemma Scope sa skladá zo) špecializovaných neurónových sietí, ktoré nám pomáhajú rozbaliť husté, komplexné informácie spracované Gemmou 2 a rozšíriť ich do formy, ktorá sa dá ľahšie analyzovať a pochopiť. Štúdiom týchto rozšírených pohľadov môžu výskumníci získať cenné poznatky o tom, ako Gemma 2 identifikuje vzorce, spracováva informácie a nakoniec robí predpovede.
Vydanie nových modelov Gemma 2 prichádza krátko po tom, čo americké ministerstvo obchodu v predbežnej správe schválilo otvorené modely AI. Otvorené modely rozširujú dostupnosť generatívnej AI pre menšie spoločnosti, výskumníkov, neziskové organizácie a individuálnych vývojárov, uvádza sa v správe a zároveň zdôrazňuje potrebu možností monitorovania takýchto modelov z hľadiska potenciálnych rizík.
