Tether AI 发布开源 TurboQuant，并将其集成至 QVAC SDK 0.12.0
深潮 TechFlow 消息，6 月 01 日，Tether AI 宣布发布开源 TurboQuant，并将其纳入 QVAC SDK 0.12.0。该技术基于 Google Research 的内存压缩算法，可将大语言模型运行中的 KV 缓存压缩最高约 5 倍，在尽量保持输出质量的同时，降低本地与边缘设备的内存占用。
Tether 表示，TurboQuant 可支持笔记本、手机、消费级 GPU、边缘设备及去中心化推理网络处理更长对话、更大文档和更复杂工作负载，并已通过 Fabric 向开发者开放。
Aviso legal: o conteúdo do OKX Orbit é fornecido apenas para fins informativos. Saber mais
Respostas
Related Flash News
Bilionário vende 153 milhões de dólares em ações da Google (GOOGL)
Setor de serviços de computação em nuvem nos EUA fortalece-se, CoreWeave sobe quase 9%
XBIT DEX: As ações dos EUA abriram em baixa, com as ações do conceito cripto geralmente a cair
Instituições de investigação revelam classificações de aplicações empresariais de IA: Nvidia, Meta e Amazon empataram no primeiro lugar
XBIT DEX: A Anthropic prevê 83,2% de probabilidade de melhor modelo de IA até ao final de junho
"New Stock God" Serenity analisa a grande vitória da ARM: de 134 para 354 dólares, a meta de receita de 15 mil milhões é agora totalmente razoável
A Loeb refuta a teoria da bolha: investir em IA definitivamente não é deitar as sanitas com dinheiro; só agora tocámos na superfície do hype
As dez maiores empresas dos EUA estão agora todas ocupadas por empresas relacionadas com tecnologia e IA
XBIT DEX: Espera-se que a Alphabet seja a segunda maior empresa até ao final de maio, probabilidade de 83,4%
As ações dos EUA nos setores de semicondutores, chips de memória, servidores e software de aplicações dispararam, com várias ações a atingirem novos máximos históricos
Criptomoedas populares
