声明:本文来自于微信公众号 量子位 | 公众号 QbitAI,作者:金磊,授权靠谱客转载发布。

家人们,咱们到底该如何部署DeepSeek-R1,才能体验最佳啊?

对于这个问题,DeepSeek官方发话了:

图片

DeepSeek推荐的设置非常简单,只有四项内容。

其中三项,其实在此前相关文档中有所涉及,我们在这里再来回顾一下。

首先,是别用系统提示词(No system prompt),所有的指令都应该包含在用户提示词中。

至于原因,网友认为是因为R1就是这么被训练而来的。

图片

其次,是把Temperature设置为0.6

DeepSeek在GitHub文档中的解释是:

将Temperature设置在0.5-0.7(建议0.6)的范围内,以防止无休止的重复或输出不一致。

第三点,则是一份缓解模型绕过思维的指南,包含两个细分内容:

  • 对于数学问题,建议在你的提示中包含一个指令,如:“请一步一步地推理,并将你的最终答案放在boxed{}内。”

  • 在评估模型性能时,建议进行多次测试并对结果进行平均。

图片

新的设置推荐

除了上述已有的三点之外,这次DeepSeek官方在推文中引入了一个新的推荐——

官方提示搜索和文件上传

DeepSeek表示:

上传文件时,请按照模板创建提示,其中{file_name}, {file_content}和{question}是参数。

    file_template="""[filename]:{file_name}[filecontentbegin]{file_content}[filecontentend]{question}"""

    对于Web搜索,{search_results}, {cur_data}和{question}是参数。

    对于中文查询,使用提示词:

    图片

    对于英文查询,使用提示词:

    图片

    相应内容在DeepSeek官方GitHub的README文档中也有更新,感兴趣的小伙伴可以进一步了解下~

    DeepSeek官方GitHub:

    https://github.com/deepseek-ai/DeepSeek-R1/blob/main/README.md

    参考链接:

    [1]https://x.com/deepseek_ai/status/1890324295181824107

    [2]https://www.reddit.com/r/LocalLLaMA/comments/1i9k284/why_should_one_avoid_adding_a_system_prompt_with/

    (举报)

    点赞(6)

    评论列表共有 0 条评论

    立即
    投稿
    返回
    顶部