Search results for
ens
NVIDIA H100 GPUs 和 TensorRT-LLM 实现 Mixtral 8x7B 的突破性性能
NVIDIA 的 H100 Tensor Core GPU 和 TensorRT-LLM 软件展示了 Mixtral 8x7B 模型在 FP8 精度下的破纪录性能。
Mask Network 和 Lens Protocol 关于去中心化社交网络的关键见解
Mask Network 的 Suji Yan 和 Lens Protocol 的 Stani Kulechov 在 ETHCC 上讨论了去中心化社交网络的未来。
NVIDIA TensorRT-LLM 提升希伯来语 LLM 性能
NVIDIA 的 TensorRT-LLM 和 Triton Inference Server 优化了希伯来语大型语言模型的性能,克服了独特的语言挑战。
NVIDIA发布TensorRT Model Optimizer v0.15,提升推理性能
NVIDIA发布了TensorRT Model Optimizer v0.15版本,通过缓存扩散和扩大AI模型支持等新功能提升推理性能。
使用 NVIDIA Triton 和 TensorRT-LLM 在 Kubernetes 上增强大型语言模型
探索 NVIDIA 使用 Triton 和 TensorRT-LLM 优化大型语言模型的方法,同时在 Kubernetes 环境中高效地部署和扩展这些模型。
全球最大食品公司雀巢宣布进行区块链溯源平台试点
雀巢,作为全球最大食品公司和在2017年福布斯全球500强排名64的巨头,刚刚发布新闻表示。它们将于OpenSC合作,推出创新的区块链平台,该平台允许消费者追溯食品的来源。雀巢成为食品巨头中第一个宣布试点开放区块链技术的公司。雀巢公司将持续推进供应链的透明度。