Výkonná umelá inteligencia už beží aj na mobile!

Vďaka financiám z reklamy prinášame kvalitné a objektívne informácie. Povoľte si prosím zobrazovanie reklamy na našom webe. Ďakujeme, že podporujete kvalitnú žurnalistiku.

Pozrite si tiež archívne video o predaji vďaka umelej inteligencii.

Nie je isté, či budúcnosť umelej inteligencie (AI) spočíva v obrovských modeloch bežiacich v dátových centrách. Možno sa skôr presadí nový prístup – rýchle, efektívne a výkonné systémy, ktoré bežia priamo na zariadeniach používateľov. Tento trend potvrdzuje aj najnovší prielom spoločnosti Hugging Face.

Hugging Face, americká spoločnosť založená v roku 2016, patrí medzi popredných hráčov v oblasti umelej inteligencie. Jej technológie využívajú giganty ako Microsoft, Google či Grammarly. Najnovší počin tejto firmy posúva hranice možného – dokázala zmenšiť pokročilé AI modely natoľko, že môžu fungovať aj na bežnom smartfóne.

Ak si myslíte, že telefóny už dnes bežia na AI (napríklad Apple Intelligence či Samsung Galaxy AI), máte pravdu. Avšak Hugging Face sa zameral na špecifický typ AI – vizuálno-jazykové modely. Tieto modely kombinujú spracovanie vizuálnych informácií (obrázky, videá) s textovými údajmi (popisy, titulky). Ich cieľom je, aby stroje lepšie chápali svet okolo nás podobne ako ľudia.

AI, ktorá beží aj na smartfóne

Hugging Face vyvinul modely SmolVLM-256M a SmolVLM-500M s 256 miliónmi, resp. 500 miliónmi parametrov. Dokážu spracovávať vizuálne aj textové údaje neuveriteľnou rýchlosťou, pričom ich výkon je porovnateľný s oveľa väčšími modelmi.

Najmenšia verzia, SmolVLM-256M, spracuje až 16 vizuálnych vstupov za sekundu a na to potrebuje len 15 GB RAM pri dávke 64 vstupov. To je mimoriadne výhodné pre firmy, ktoré potrebujú analyzovať veľké objemy vizuálnych dát. Menšie nároky na pamäť znamenajú aj nižšie náklady na cloudové služby.

Inovácia od Hugging Face už vzbudila záujem veľkých hráčov. Napríklad IBM integrovalo SmolVLM-256M do svojho dokumentačného softvéru Docling, čo im umožňuje spracovávať milióny dokumentov oveľa efektívnejšie a lacnejšie.

Doteraz sa predpokladalo, že na pokročilé úlohy treba veľké AI modely. No SmolVLM dokazuje, že menšie a efektívnejšie riešenia môžu dosiahnuť podobnú úroveň výkonu. Model s 500 miliónmi parametrov dosahuje až 90 % výkonu oproti 2,2 miliardovému modelu, čo je obrovský pokrok.

Znížením výpočtových nárokov Hugging Face nielen šetrí náklady, ale aj znižuje ekologickú záťaž. A čo je ešte lepšie – modely sú open-source, teda dostupné širokej verejnosti.