Techniku miluju už od dětství, kdy jsem seděl u babiččina starého počítače, a tak jsem se rozhodl, že se jí budu věnovat. Dnes vedu oddělení hardwaru, kde mohu s radostí kontrolovat každou součástku počítačů, které v redakci testuji.
Ačkoli se zdá, že umělou inteligencí disponují jen supervýkonné stroje, nedávná ukázka dokazuje opak. Výzkumníci dokázali spustit nejmodernější model umělé inteligence na počítači z roku 1997 vybaveném jednoduchým procesorem Pentium II a 128 MB paměti RAM. Tento experiment zpochybňuje naše předpoklady o materiálních potřebách umělé inteligence a otevírá cestu k bezprecedentní demokratizaci technologie.
Technický výkon: provozování nejmodernější umělé inteligence na zastaralém hardwaru
Tento úspěch realizovala společnost EXO Labs, kterou založil Andrei Karpati, uznávaná osobnost v oblasti umělé inteligence, za účasti výzkumníků z Oxfordské univerzity. Díky pokročilému technickému přístupu se jim podařilo spustit jazykový model založený na Llama 2 na procesoru Intel Pentium II s taktem pouhých 350 MHz a 128 MB paměti RAM. Na první pohled se zdá, že takové hardwarové prostředí je pro dnešní požadavky na umělou inteligenci zjevně nedostatečné.
A přesto model dokázal běžet úctyhodnou rychlostí 39,31 tokenů za sekundu při použití pouhých 260 000 parametrů. Tohoto pozoruhodného výsledku bylo dosaženo díky použití nové revoluční architektury neuronových sítí BitNet. Na rozdíl od tradičních modelů s plovoucí přesností (float32) používá BitNet trojité váhy, kde každá váha má pouze tři možné hodnoty (-1, 0, 1). Toto zjednodušení umožňuje extrémní kompresi modelu bez výrazné ztráty výkonu.
Díky síti BitNet lze obvykle objemný model o 7 miliardách parametrů zmenšit na pouhých 1,38 GB. To umožňuje jeho provoz na procesorech s omezenými zdroji bez pomoci výkonných grafických karet. Podle společnosti EXO Labs může tato technologie dokonce umožnit spuštění modelů se 100 miliardami parametrů na jediném procesoru, čímž se dosáhne rychlosti zpracování blízké rychlosti lidského čtení.
Tato zkušenost nejen dokazuje životaschopnost modelů umělé inteligence na omezených platformách, ale také zdůrazňuje význam optimalizace algoritmů nad prostým výkonem hardwaru.
Na cestě k udržitelné a inkluzivní demokratizaci umělé inteligence
Kromě technického úspěchu má tato demonstrace i důležité společenské důsledky. Jednou z hlavních překážek masového přijetí umělé inteligence je často její cena, a to jak z hlediska hardwaru, tak spotřeby energie. Pokud řešení, jako je BitNet, umožní provozovat pokročilé modely na stávajícím nebo zastaralém hardwaru, může se přístup k umělé inteligenci dostat daleko za hranice výzkumných laboratoří a technologických společností.
V rozvojových zemích, kde jsou pokročilé výpočetní zdroje někdy vzácné a drahé, může tento přístup otevřít nové možnosti. Školy, lékařská centra nebo malé podniky by mohly využívat AI pro vzdělávání, diagnostiku nebo ekonomickou optimalizaci, aniž by musely investovat obrovské částky do nejmodernější infrastruktury.
Z hlediska životního prostředí by navíc opětovné využití starého vybavení pro komplexní úlohy omezilo produkci elektronického odpadu a snížilo uhlíkovou stopu spojenou s výrobou nového vybavení. To je v souladu se zásadami udržitelného rozvoje, které se stále více stávají prioritou současné technologické politiky.
V neposlední řadě tento průlom ilustruje změnu paradigmatu: budoucnost umělé inteligence závisí nejen na neustálém zlepšování výkonu hardwaru. Je založena také na softwarové vynalézavosti a inovacích, které umožňují udělat „více s méně“. To otevírá cestu k odpovědnější, inkluzivnější a méně elitářské umělé inteligenci.
