Home Umela inteligencia Ampere sa spojí so spoločnosťou Qualcomm, aby spustili server AI na báze Arm

Ampere sa spojí so spoločnosťou Qualcomm, aby spustili server AI na báze Arm

by
Ampere sa spojí so spoločnosťou Qualcomm, aby spustili server AI na báze Arm

Ampere a Qualcomm nie sú najzreteľnejšími partnermi. Obaja napokon ponúkajú čipy na báze Arm na prevádzkovanie serverov dátových centier (hoci najväčší trh Qualcommu zostáva mobilný). Ako však tieto dve spoločnosti dnes oznámili, teraz spájajú svoje sily, aby ponúkli server zameraný na AI, ktorý využíva procesory Ampere a inferenčné čipy Cloud AI 100 Ultra AI od Qualcommu na spustenie – nie tréning – modelov.

Ako každý iný výrobca čipov, aj Ampere sa snaží profitovať z boomu AI. Spoločnosť sa však vždy zameriavala na rýchle a energeticky úsporné serverové čipy, takže aj keď môže použiť Arm IP na pridanie niektorých z týchto funkcií k svojim čipom, nie je to nevyhnutne základná kompetencia. Preto sa Ampere rozhodol spolupracovať so spoločnosťou Qualcomm (a SuperMicro na integrácii týchto dvoch riešení), povedal mi technický riaditeľ Arm Jeff Wittich.

„Myšlienka je taká, že aj keď vám ukážem skvelý výkon pre procesory Ampere, na ktorých je spustená inferencia AI len na CPU, ak sa chcete škálovať na ešte väčšie modely – napríklad modely s viac ako 100 miliardami parametrov – rovnako ako všetky pri ostatných pracovných zaťaženiach AI nie je univerzálna,“ povedal Wittich pre TechCrunch. „Na tomto riešení sme spolupracovali so spoločnosťou Qualcomm, kombinovaním našich super efektívnych procesorov Ampere na vykonávanie mnohých všeobecných úloh, ktoré spúšťate v spojení s odvodením, a potom pomocou ich skutočne efektívnych kariet máme riešenie na úrovni servera.”

Poďakovanie za obrázok: Ampere

Pokiaľ ide o partnerstvo s Qualcomm, Wittich povedal, že Ampere chce dať dokopy najlepšie riešenia.

„Naozaj dobrá spolupráca, ktorú sme tu mali so spoločnosťou Qualcomm,“ povedal. “Toto je jedna z vecí, na ktorej sme pracovali, myslím, že máme veľa podobných záujmov, a preto si myslím, že je to naozaj presvedčivé. Budujú skutočne, naozaj efektívne riešenia a veľa rôznych častí trhu. Vytvárame skutočne, naozaj efektívne riešenia na strane CPU servera.“

Partnerstvo spoločnosti Qualcomm je súčasťou výročnej aktualizácie plánu spoločnosti Ampere. Súčasťou tohto plánu je nový 256-jadrový čip AmpereOne, postavený pomocou moderného 3nm procesu. Tieto nové čipy ešte nie sú celkom bežne dostupné, ale Wittich hovorí, že sú pripravené vo výrobnom závode a mali by byť uvedené neskôr v tomto roku.

Okrem ďalších jadier je definujúcou vlastnosťou tejto novej generácie čipov AmpereOne 12-kanálová DDR5 RAM, ktorá umožňuje zákazníkom dátových centier Ampere lepšie vyladiť prístup k pamäti ich používateľov podľa ich potrieb.

Predajné ihrisko tu však nie je len výkon, ale aj spotreba energie a náklady na prevádzku týchto čipov v dátovom centre. Platí to najmä v prípade inferencovania AI, kde Ampere rád porovnáva svoj výkon s GPU A10 od Nvidie.

Poďakovanie za obrázok: Ampere

Stojí za zmienku, že Ampere neukončuje žiadny zo svojich existujúcich čipov v prospech týchto nových. Wittich zdôraznil, že aj tieto staršie čipy majú stále veľa prípadov použitia.

Spoločnosť Ampere dnes oznámila aj ďalšie partnerstvo. Spoločnosť spolupracuje s NETINT vytvoriť spoločné riešenie, ktoré spája CPU Ampere s čipmi na spracovanie videa NETINT. Tento nový server bude schopný paralelne prekódovať 360 živých video kanálov, a to všetko pri použití OpenAI Šepkať model prevodu reči na text do titulkov 40 streamov.

„Začali sme touto cestou pred šiestimi rokmi, pretože je jasné, že je to tá správna cesta,“ povedala generálna riaditeľka Ampere Renee James v dnešnom oznámení. „Nízky výkon býval synonymom nízkeho výkonu. Ampere dokázal, že to nie je pravda. Boli sme priekopníkmi v oblasti efektívnosti výpočtovej techniky a poskytli sme výkon nad rámec starších CPU v efektívnom výpočtovom obale.“

Source Link

Related Posts

Leave a Comment