Tether AI 发布开源 TurboQuant，并将其集成至 QVAC SDK 0.12.0
深潮 TechFlow 消息，6 月 01 日，Tether AI 宣布发布开源 TurboQuant，并将其纳入 QVAC SDK 0.12.0。该技术基于 Google Research 的内存压缩算法，可将大语言模型运行中的 KV 缓存压缩最高约 5 倍，在尽量保持输出质量的同时，降低本地与边缘设备的内存占用。
Tether 表示，TurboQuant 可支持笔记本、手机、消费级 GPU、边缘设备及去中心化推理网络处理更长对话、更大文档和更复杂工作负载，并已通过 Fabric 向开发者开放。
Deslinde de responsabilidades: el contenido de OKX Orbit se brinda únicamente con fines informativos. Más información
Respuestas
Related Flash News
Multimillonario vende 153 millones de dólares en acciones de Google (GOOGL)
El sector de servicios de computación en la nube en EE. UU. se fortalece y CoreWeave sube casi un 9%
XBIT DEX: Las acciones estadounidenses abrieron a la baja, con las acciones del concepto cripto generalmente a la baja
Las instituciones de investigación revelan clasificaciones de aplicaciones empresariales de IA: Nvidia, Meta y Amazon empataron en el primer puesto
XBIT DEX: Anthropic predice un 83,2% de probabilidad de obtener el mejor modelo de IA para finales de junio
"New Stock God" Serenity analiza el gran logro de ARM: de 134 a 354 dólares, el objetivo de ingresos de 15.000 millones es ahora totalmente razonable
Loeb refuta la teoría de la burbuja: invertir en IA definitivamente no consiste en tirar dinero de los inodoros; acabamos de tocar la superficie del bombo
Las diez principales empresas estadounidenses están ahora ocupadas por empresas relacionadas con tecnología e inteligencia artificial
XBIT DEX: Se espera que Alphabet sea la segunda empresa más grande a finales de mayo, probabilidad del 83,4%
Las acciones estadounidenses de semiconductores, chips de memoria, servidores y software de aplicaciones se dispararon, con múltiples acciones alcanzando nuevos máximos históricos
