Änderung von Google senkt den RAM-Verbrauch von KI drastisch, doch sinken jetzt auch die Preise?

RAM-Preise steigen seit Monaten. Doch Google hat eine Änderung für KI vorgestellt, die den Verbrauch von RAM drastisch senkt. Das könnte sich auch auf den Markt auswirken, wo die Preise steigen. Einige bleiben aber weiterhin skeptisch.

Was wurde vorgestellt? Google Research hat kürzlich TurboQuant vorgestellt, einen Komprimierungsalgorithmus, der den Speicherbedarf großer Sprachmodelle (LLMs) reduziert und gleichzeitig die Geschwindigkeit erhöht sowie die Genauigkeit beibehält. Davon berichtet das Magazin ArsTechnica.

Der Algorithmus ist ziemlich kompliziert, aber vereinfacht formuliert sinkt der RAM-Verbrauch von KI-Systemen deutlich. RAM, der derzeit von allen KI-Firmen gekauft wird. Diese Änderung könnte jetzt auch Auswirkung auf den Markt haben, wo RAM derzeit sehr teuer gehandelt wird.

Preise könnten sinken, viele Hersteller haben aber langfristige Verträge geschlossen

Weiterhin gilt, dass viele Hersteller weiterhin langfristige Verträge über große Liefermengen von RAM geschlossen haben und hier vermutlich nicht einfach aussteigen können. Das heißt, wichtige Kapazitäten dürften weiterhin von den Verträgen mit KI-Firmen blockiert sein – außer es gibt Ausstiegsklauseln, wo Kapazitäten wieder freigegeben werden.

Einige Nutzer mutmaßen auch, dass die KI-Modelle jetzt einfach größer werden, da jetzt mehr Speicherplatz zur Verfügung stehen würde (via Reddit.com). Anstatt die Chance zu nutzen, dass man weniger RAM verbrauchen würde, würde aktuelle KI-Modelle einfach größer machen.

Ein weiterer Punkt, den man nicht außer Acht lassen sollte: Viele Hersteller haben die Produktion auf teuren High Bandwidth Memory (HBM) umgestellt, der sich in normalen Computern nicht einfach einsetzen lässt. Bis die Preise daher wirklich sinken, könnte es einige Wochen und Monate dauern. Das wäre aber deutlich schneller, als es Analysten bisher angenommen hatten: Denn die gingen bisher davon aus, dass sich die Preise frühestens 2027 stabilisieren und wieder sinken werden.

OpenAI schaltet bald die Video-KI Sora ab. Sora soll schon länger finanzielle Probleme haben. Viele Nutzer hoffen jetzt darauf, dass sich das Ende auch auf RAM- und Speicherpreise auswirken könnte. Mehr dazu lest ihr auf MeinMMO: Nach Abschaltung einer der größten KI-Apps hoffen Nutzer auf Ende der RAM-Krise, doch wie wahrscheinlich ist das?

Der Beitrag Änderung von Google senkt den RAM-Verbrauch von KI drastisch, doch sinken jetzt auch die Preise? erschien zuerst auf Mein-MMO.