Pe 29 iulie, AMD a lansat un nou driver inclus în pachetul Adrenalin Edition 25.8.1, care extinde capacitățile procesorului Ryzen AI Max+ 395. Driverul le permite sistemelor care integrează acest procesor să ruleze local, direct în Windows, modele de inteligență artificială (LLM) foarte mari, de până la 128 de miliarde de parametri, fără a fi nevoie de o placă video dedicată sau de conexiune la cloud.
Cum funcționează upgrade-ul Ryzen AI Max+
Driverul activează funcția Variable Graphics Memory, care permite GPU-ului integrat să folosească o parte din RAM-ul sistemului ca memorie video. Cu această alocare, sistemele echipate cu procesorul Ryzen AI Max+ 395 (128GB) pot rula modele precum Llama 4 Scout 109B, care pot lucra cu text și cu imagini, și includ suport pentru Model Context Protocol (MCP). Acesta este un sistem care permite agenților AI să interacționeze cu servicii și baze de date externe, folosind infrastructura llama.cpp și API-ul Vulkan.
Deși modelul Llama 4 Scout activează simultan doar 17 miliarde de parametri (fiind un model de tip „mixt” – MoE), întregul set de 109 miliarde de parametri trebuie încărcat în memorie.
O altă noutate este suportul pentru ferestre de context de până la 256.000 de tokeni, ceea ce înseamnă că modelele AI pot gestiona intern cantități mari de text, utile în aplicații precum analiza documentelor lungi, sumarizarea de date sau generarea de răspunsuri în mai mulți pași.
Această funcționalitate poate fi de ajutor mai ales pentru scenarii de lucru care implică agenți AI, unde mai multe acțiuni sunt derulate secvențial, fiecare având nevoie de context larg.
Un alt avantaj adus de acest upgrade este flexibilitatea: sistemele cu Ryzen AI Max+ 395 pot rula o gamă largă de modele, de la asistenți conversaționali până la unelte avansate pentru programare sau sarcini vizuale, în funcție de nevoile utilizatorului.
Pentru utilizatorii care doresc să experimenteze aceste capabilități AI, AMD recomandă folosirea aplicației LM Studio, un instrument simplu care permite rularea locală a modelelor de limbaj fără cunoștințe tehnice avansate.
Care e rostul acestui update
AMD face acest upgrade pentru că procesorul Ryzen AI Max+ 395 include un GPU foarte puternic, modelul Radeon 8060S, bazat pe arhitectura RDNA 3.5 și dotat cu 40 de unități de calcul (Compute Units), oferind performanță mid-range, comparabilă cu o placă NVIDIA RTX 4060/4070 în benchmark‑uri.
Prin funcția Variable Graphics Memory (VGM), AMD permite ca GPU‑ul integrat să folosească până la 96 GB din memoria sistemului (laptop sau desktop) ca VRAM dedicat, oferind spațiu de lucru suficient pentru modele LLM mari precum Llama 4 Scout 109B.
De ce ai vrea să rulezi un LLM pe un GPU integrat care se bazează pe RAM-ul sistemului? Pentru că poți obține performanțe decente fără să investești într-un GPU scump. RAM-ul consumă mai puțin curent decât un GPU dedicat, fiind o soluție mai accesibilă și flexibilă pentru rularea de AI local.
Discuția e mai complicată, dacă faci AI serios trebuie să ai GPU, dar dacă-l folosești ocazional, probabil că acesta e un update util.
Autor
