Tether AI 发布开源 TurboQuant，并将其集成至 QVAC SDK 0.12.0
深潮 TechFlow 消息，6 月 01 日，Tether AI 宣布发布开源 TurboQuant，并将其纳入 QVAC SDK 0.12.0。该技术基于 Google Research 的内存压缩算法，可将大语言模型运行中的 KV 缓存压缩最高约 5 倍，在尽量保持输出质量的同时，降低本地与边缘设备的内存占用。
Tether 表示，TurboQuant 可支持笔记本、手机、消费级 GPU、边缘设备及去中心化推理网络处理更长对话、更大文档和更复杂工作负载，并已通过 Fabric 向开发者开放。
Дисклеймер: контент OKX Orbit предоставляется исключительно в информационных целях. Подробнее
Ответы
Related Flash News
Миллиардер продал акции Google на сумму 153 миллиона долларов (GOOGL)
Сектор облачных вычислений в США укрепляется, CoreWeave вырос почти на 9%
XBIT DEX: акции США открылись ниже, при этом криптовалютные акции в целом снизились
Исследовательские учреждения раскрывают рейтинги корпоративных приложений на базе ИИ: Nvidia, Meta и Amazon разделили первое место
XBIT DEX: Anthropic прогнозирует 83,2% вероятность появления лучшей модели ИИ к концу июня
«Бог новых акций» Serenity оценивает крупную победу ARM: с $134 до $354 целевой доход в $15 миллиардов теперь вполне разумен
Лоеб опровергает теорию пузыря: инвестиции в ИИ определённо не про смывание туалетов деньгами; мы только что коснулись поверхности шумиха
Десять крупнейших американских компаний сейчас заняты технологическими и ИИ компаниями
XBIT DEX: Ожидается, что к концу мая Alphabet станет второй по величине компанией, с вероятностью 83,4%
Акции американских компаний полупроводников, чипов памяти, серверов и прикладного программного обеспечения резко выросли, при этом несколько акций достигли новых исторических максимумов
Криптовалюты в тренде
