Supermicro联合IBM和NVIDIA推出KV缓存方案

BiRun 消息，Supermicro推出与IBM和NVIDIA合作开发的KV缓存方案，显著提升推理性能。