Tether AI 发布开源 TurboQuant，并将其集成至 QVAC SDK 0.12.0
深潮 TechFlow 消息，6 月 01 日，Tether AI 宣布发布开源 TurboQuant，并将其纳入 QVAC SDK 0.12.0。该技术基于 Google Research 的内存压缩算法，可将大语言模型运行中的 KV 缓存压缩最高约 5 倍，在尽量保持输出质量的同时，降低本地与边缘设备的内存占用。
Tether 表示，TurboQuant 可支持笔记本、手机、消费级 GPU、边缘设备及去中心化推理网络处理更长对话、更大文档和更复杂工作负载，并已通过 Fabric 向开发者开放。
Застереження. Вміст, опублікований на OKX Orbit, надається виключно в інформаційних цілях. Докладніше
Відповіді
Related Flash News
Мільярдер продав акції Google (GOOGL) на суму 153 мільйони доларів
Сектор хмарних обчислень у США зміцнився, CoreWeave зріс майже на 9%
XBIT DEX: акції США відкрили позиції нижче, при цьому акції криптовалютних концептів загалом знизилися
Дослідницькі установи оприлюднюють рейтинги корпоративних додатків на основі ШІ: Nvidia, Meta та Amazon поділили перше місце
XBIT DEX: Anthropic прогнозує 83,2% ймовірність створення найкращої моделі ШІ до кінця червня
«Новий акційний бог» Serenity оглядає великий виграш ARM: з $134 до $354 ціль у $15 мільярдів тепер цілком реальна
Лоеб спростовує теорію бульбашки: інвестування в ШІ — це точно не про злив унітазів грошима; ми лише торкнулися поверхні ажіотажу
Десять провідних американських компаній зараз зайняті технологічними та ШІ компаніями
XBIT DEX: Очікується, що Alphabet стане другою за величиною компанією до кінця травня, ймовірність 83,4%
Акції напівпровідників, мікросхем пам'яті, серверів і прикладного програмного забезпечення в США різко зросли, і кілька акцій досягли нових історичних максимумів
Популярна криптовалюта
