Ett experiment med en processor från 1998 visar att det, 27 år senare, räcker med bara 128 MB RAM för att köra AI
Ett udda experiment från EXO Labs fick stor uppmärksamhet när teamet visade att en processor från 1998 kan köra artificiell intelligens med bara 128 MB RAM. Studien ifrågasätter dagens hårdvarukrav och visar nya möjligheter för optimering. Genom att bevisa att smart mjukvara kan övervinna gamla begränsningar öppnas nya perspektiv på vad som är möjligt med äldre teknik.
Så gjorde de experimentet och vilken teknik användes
I centrum för experimentet stod en gammal Pentium II-processor på 350 MHz, som körde Windows 98. Trots ålder och små resurser kunde maskinen köra en AI-modell med 260 000 parametrar som genererade 39,31 tokener per sekund. Denna prestanda ligger förstås långt under moderna system som GPT-4, men visar ändå att AI faktiskt fungerade på hårdvaran.
EXO Labs publicerade en video på plattformen X (tidigare Twitter) där text genererades snabbt vid en enkel förfrågan. Modellen var byggd med koden LLama2.c och experimentet inkluderade jämförelser med modeller upp till 1 miljard parametrar. Så stora modeller visade sig vara praktiskt oanvändbara på den här maskinen, med en hastighet på bara 0,0093 tokener per sekund.
Vad det betyder ekonomiskt och tekniskt
Forskarna drog paralleller mellan kostnaden för äldre hårdvara och dagens dyra moderna alternativ, som Nvidias Blackwell B200, prissatt mellan 330 000 och 440 000 kronor per enhet. Genom att visa att funktionell AI går att köra på så gammal utrustning pekar EXO Labs på möjligheten att sänka både kostnader och energiförbrukning för AI-funktioner. Det kan göra avancerad teknik mer tillgänglig även utan stora ekonomiska investeringar.
Varför de gjorde det och vad som kan komma härnäst
EXO Labs, som grundats av forskare från Universitetet i Oxford, har som mål att demokratisera tillgången till artificiell intelligens. De vill få AI att fungera på enheter med begränsad kapacitet, minska behovet av gigantiska fjärrservrar och göra tekniken mer åtkomlig. Genom kraftiga optimeringar av både träning och exekvering hoppas de möjliggöra lokal körning av AI, så att avancerade funktioner kan byggas in i vardagliga prylar utan att kostnader eller energiförbrukning skjuter i höjden.
Experimentet visar att rätt mjukvaruoptimering kan köra enklare AI-system — som de som producerar “Sleepy Joe och Spot” scenarion — på äldre hårdvara. Sådana lösningar kan ge nya tillämpningar, särskilt där budget och energiresurser är knappa.
Upptäckten pekar mot möjligheten att tänka annorlunda kring AI och hårdvara, och kan öppna för nya teknikanvändningar världen över. Genom att visa att man inte alltid behöver den senaste och dyraste utrustningen har EXO Labs inte bara utmanat marknadsnormerna utan också inspirerat fortsatt arbete inom området. Fyra pelare — tillgänglighet, kostnad, långsiktighet och anpassning — kan därmed omdefiniera vår teknologiska framtid.