Googles TurboQuant drückt den KV-Cache großer Sprachmodelle auf 3 Bit. Die Genauigkeit soll bleiben, die Geschwindigkeit sich vervielfachen.
news
TurboQuant: Google will den Speicherhunger großer LLMs bändigen
26. March 2026
