阿里魔搭社区开源推理引擎 DashInfer ModelScope推出了预训练大语言模型推理引擎DashInfer，支持C和Python语言接口，可在多种CPU架构上高效推理大模型。DashInfer采用CRuntime编写，支持连续批处理和多NUMA推理 语言模型 2024年06月10日 197 点赞 2 评论 298 浏览
Meta即将推出新一代Llama3大语言模型 MetaPlatforms公司计划在下周推出Llama3大语言模型的两个小参数版本，作为即将在2024年夏天推出的Llama3最大版本的前奏。Llama3最高版本可能拥有超过1400亿个参数，这将使其 语言模型 2024年05月10日 166 点赞 2 评论 251 浏览
