Ešte donedávna fungovala väčšina služieb umelej inteligencie pomerne jednoducho. Používateľ zadal otázku alebo požiadavku, zariadenie ju odoslalo na vzdialený server a výsledok sa po spracovaní v dátovom centre vrátil späť. Tento model stále dominuje, no technologický svet sa čoraz viac posúva k takzvanej lokálnej umelej inteligencii.
Inými slovami, časť úloh už nemusí spracovávať obrovský server niekde na druhej strane sveta. Zvládne ich priamo mobilný telefón, notebook či dokonca automobil.
A môže to výrazne zmeniť spôsob, akým používame elektroniku.
Čo znamená lokálna umelá inteligencia?
Lokálna AI znamená, že model umelej inteligencie alebo jeho časť beží priamo na zariadení používateľa.
Moderné procesory preto okrem klasických CPU a grafických jadier čoraz častejšie obsahujú aj špecializované jednotky označované ako NPU – Neural Processing Unit.
Ich úlohou je vykonávať matematické operácie potrebné pri strojovom učení efektívnejšie než klasický procesor.
Mobil alebo notebook tak môže napríklad:
- rozpoznávať objekty na fotografiách,
- prepisovať hovorenú reč,
- odstraňovať šum zo zvuku,
- prekladať text,
- sumarizovať dokumenty,
- upravovať fotografie,
- rozpoznávať hlas používateľa,
bez toho, aby musel všetky údaje posielať na internet.
Prečo je to také dôležité?
Najväčším rozdielom môže byť rýchlosť.
Ak zariadenie nemusí komunikovať so vzdialeným serverom, výsledok môže prísť prakticky okamžite.
Predstavte si napríklad hlasového asistenta.
Pri klasickom riešení musí zariadenie zaznamenať hlas, odoslať ho cez internet, server ho spracuje a následne odošle odpoveď späť.
Pri lokálnom spracovaní môže celý proces prebehnúť priamo v telefóne.
Rozdiel môže byť len niekoľko desatín sekundy, no pri každodennom používaní je veľmi citeľný.
AI môže fungovať aj bez internetu
Ďalšou veľkou výhodou je možnosť používať niektoré funkcie aj bez pripojenia.
Predstavte si cestovanie lietadlom alebo oblasť so slabým signálom.
Telefón by napriek tomu mohol:
- prekladať cudzie jazyky,
- sumarizovať poznámky,
- analyzovať fotografie,
- prepisovať hlasové poznámky,
- vyhľadávať informácie v uložených dokumentoch.
Samozrejme, veľké a mimoriadne výkonné modely budú naďalej potrebovať servery. Menšie modely však dokážu bežať priamo v zariadeniach.
Väčšie súkromie
Lokálne spracovanie má ešte jednu významnú výhodu: dáta nemusia opustiť zariadenie.
Ak napríklad AI analyzuje fotografie uložené v telefóne priamo lokálne, používateľ ich nemusí posielať na vzdialený server.
To môže byť dôležité najmä pri citlivých informáciách, ako sú osobné dokumenty, pracovné materiály, fotografie alebo hlasové záznamy.
Lokálna AI však automaticky neznamená absolútne súkromie. Záleží na konkrétnej aplikácii a na tom, ktoré operácie vykonáva zariadenie a ktoré cloud.
Prečo výrobcovia pridávajú do procesorov NPU?
Umelá inteligencia vyžaduje obrovské množstvo matematických operácií.
Klasický procesor ich síce dokáže vykonať, ale často pri vyššej spotrebe energie.
NPU je optimalizovaná práve na podobné úlohy.
Výsledkom môže byť:
- nižšia spotreba elektriny,
- vyšší výkon pri AI úlohách,
- menšie zahrievanie zariadenia,
- dlhšia výdrž batérie.
Pre notebooky a smartfóny ide o zásadnú výhodu.
Výkon totiž nie je jediným problémom. Rovnako dôležité je, koľko energie zariadenie pri výpočtoch spotrebuje.
Fotografie už dnes výrazne upravuje AI
Jednou z oblastí, kde sa lokálna AI používa najviac, je fotografia.
Keď používateľ stlačí spúšť fotoaparátu v modernom telefóne, výsledná fotografia často nevznikne jediným záberom.
Telefón môže v priebehu zlomku sekundy vytvoriť viacero snímok a následne ich spojiť.
Algoritmy môžu upravovať:
- jas,
- kontrast,
- farby,
- ostrosť,
- šum,
- dynamický rozsah,
- rozmazanie pozadia.
Fotoaparát mobilného telefónu je preto dnes rovnako softvérovým ako hardvérovým zariadením.
Počítače sa môžu naučiť spôsob práce používateľa
Ďalšou etapou môže byť AI, ktorá nebude iba reagovať na jednotlivé príkazy.
Operačný systém môže postupne lepšie rozumieť kontextu práce používateľa.
Predstavte si napríklad otázku:
„Nájdi mi tú faktúru, ktorú mi minulý mesiac poslal dodávateľ a bola približne na 300 eur.“
Používateľ nemusí poznať názov súboru ani presné umiestnenie dokumentu.
AI môže analyzovať obsah dokumentov a vyhľadať správny súbor podľa významu.
Takýto spôsob ovládania počítačov môže postupne znížiť význam klasického vyhľadávania podľa názvov súborov.
Cloud však nezmizne
Lokálna AI má svoje hranice.
Najväčšie modely umelej inteligencie môžu obsahovať obrovské množstvo parametrov a potrebujú veľké množstvo operačnej pamäte a výpočtového výkonu.
Telefón sa preto výkonom nevyrovná dátovému centru s tisíckami výkonných čipov.
Budúcnosť pravdepodobne nebude ani čisto lokálna, ani čisto cloudová.
Oba prístupy sa budú kombinovať.
Jednoduchšie úlohy môže zariadenie spracovať lokálne, zatiaľ čo komplikované požiadavky odošle výkonnejšiemu systému v cloude.
AI môže výrazne zmeniť aj automobily
Podobný trend sa objavuje v automobiloch.
Moderné vozidlá obsahujú kamery, radary a množstvo ďalších senzorov.
Spracovanie ich údajov musí často prebiehať priamo vo vozidle.
Nie je možné čakať, kým automobil odošle informáciu do dátového centra a dostane odpoveď.
Ak systém rozpoznáva chodca pred vozidlom, rozhodnutie musí prísť okamžite.
Výkonné AI procesory sa preto postupne stávajú súčasťou automobilovej elektroniky.
Čaká nás nová generácia osobných počítačov?
Desiatky rokov sa výkon počítačov porovnával hlavne podľa procesora, frekvencie alebo počtu jadier.
Neskôr sa výrazne zvýšil význam grafických kariet.
Teraz pribúda ďalší parameter – výkon pri úlohách umelej inteligencie.
Pri notebookoch sa preto čoraz častejšie bude riešiť nielen výkon CPU a GPU, ale aj výkon NPU.
Pre bežného používateľa pritom nemusí byť dôležité, koľko miliárd operácií čip zvládne.
Podstatnejšie bude, čo konkrétne dokáže zariadenie urobiť.
Technológia sa opäť presúva bližšie k používateľovi
Internet posledné roky presunul množstvo výpočtov do dátových centier.
Fotografie, dokumenty, e-maily aj aplikácie sa postupne presťahovali do cloudu.
Umelá inteligencia teraz čiastočne obracia tento trend.
Výpočty sa opäť vracajú priamo do zariadení.
Nie preto, že by cloud prestal byť potrebný, ale preto, že moderné čipy sú dostatočne výkonné na to, aby časť inteligentných funkcií zvládli samostatne.
Výsledkom môžu byť rýchlejšie zariadenia, lepšie súkromie, nižšia spotreba energie a funkcie, ktoré dokážu pracovať aj bez internetu.
A práve kombinácia lokálneho výkonu a obrovských cloudových systémov môže byť jednou z najväčších technologických zmien najbližších rokov.
