Lokální model může odpovídat, i když většinu práce odvádí procesor a grafika se jen veze. Šest měření níže ukáže, jak ověřit offload vrstev, vytížení CPU, spotřebu RAM i diskové I/O.
Webkamera v notebooku bývá slabá, telefon má lepší senzor i mikrofon. Ukážeme pět způsobů, jak jej připojit k PC – od nativního USB UVC po Wi-Fi s virtuálním ovladačem – a kde narazíte na latenci a kompresi.
Naskenovat papír telefonem jde i tak, aby dokument neopustil zařízení – lokální OCR, odstranění metadat a šifrovaný archiv. Šest kroků včetně konkrétních aplikací a příkazů.
Jeden monitor pro kancelář i hry nemusí být kompromis, rozhoduje ale typ panelu, podsvícení, kalibrace a rozhraní. Níže je sedm parametrů, které mají reálný dopad na únavu očí a odezvu.
Vlastní hlasový asistent bez cloudu stojí na čtyřech krocích: probouzecí slovo, detekce řeči, přepis a syntéza. Na mini-PC s Intel N100 dnes rozjedete český Whisper small i Piper, česká přesnost ale za Alexou zaostává.
USB-C dok může vypadat jako univerzální řešení, ale jeho skutečné možnosti určují tři věci: výkon Power Delivery, počet DisplayPort linek a podpora alternate mode. Ukážeme, jak je ověřit v datasheetu a při zapojení.
Kontrola baterie přes powercfg, SMART data SSD a zátěžový test throttlingu odhalí u bazarového stroje víc než inzerát. Osm konkrétních kroků určí, zda je úspora proti novému notebooku reálná, nebo skryje investici do oprav.
Cloudový bezpečnostní problém a výpadky internetu řeší lokální zpracování AI přímo v domácnosti. Poradíme, jak postavit hub, senzory a hlasové ovládání na otevřených technologiích, které fungují i bez připojení k internetu.
Smartphone se 16 GB RAM spustí model s osmi miliardami parametrů, notebook se 64GB paměti pak i sedmdesátimiliardový. Jaké modely si tedy vybrat pro svůj běžný notebook a kdy sáhnout po mobilu, ukazuje přehled velikostí kvantizovaných modelů.
O rychlosti lokálního modelu nerozhoduje jen grafická karta, ale hlavně backend, který ji umí obsloužit — CUDA, ROCm, Vulkan nebo Metal. Na stejné sestavě se tak výkon při generování textu liší podle operačního systému.
Lokální model může odpovídat, i když většinu práce odvádí procesor a grafika se jen veze. Šest měření níže ukáže, jak ověřit offload vrstev, vytížení CPU, spotřebu RAM i diskové I/O.
