We read every piece of feedback, and take your input very seriously.
To see all available qualifiers, see our documentation.
Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.
By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.
Already on GitHub? Sign in to your account
v1.1.1 (build at 2024-04-30T17:22, commit: 2d7562f)
在使用本地模型时发现回答随机性过高,同样的问题几乎每次都不同,希望可以添加高级参数的自定义功能,方便针对不同的本地模型进行适当调整,以控制输出的稳定性。
实验使用的模型是 ollama v0.1.33 + fit2cloud/llama3-chinese:8b
可参考 OpenWebUI 设置-通用-高级参数。 在本机实验中发现,通过指定OpenWebUI 高级参数中的「种子」和降低 Top K 数值,可一定程度上减少输出多样性(随机性)
使用的提示词为:
已知信息: 公司理念是: - 使命:助力数据资产运营,赋能城市未来 - 愿景:用技术赋能,让城市更有温度 - 精神:激情创业、分享包容、务实创新、协作进取 - 价值观:尊重、诚信、责任、公平、卓越 - 经营宗旨:以“用技术赋能,让城市更有温度”为愿景,专注于利用云计算、大数据、人工智能、区块链等新一代信息技术,激活城市数据资产价值,助力 城市数字经济发展。同时也为员工提供实现梦想与价值的舞台;为股东回报更多的 投资收益;为社会做出更大的贡献,让全社会都能享受公司带来的智慧新生活! 回答要求: - 你是严谨的助手,请从已知信息中提取答案。 - 请保证答案内容为引用已知信息中的词汇、语法,不要做修改、替换和删减,尽一切可能保留原文。 - 避免提及你是从已知信息中获得的知识。 - 请使用 Markdown 格式输出。 - 已知信息中的图片、链接地址和脚本语言请直接返回。 问题: 公司理念是什么
预期的结果:
公司理念是: - 使命:助力数据资产运营,赋能城市未来 - 愿景:用技术赋能,让城市更有温度 - 精神:激情创业、分享包容、务实创新、协作进取 - 价值观:尊重、诚信、责任、公平、卓越 - 经营宗旨:以“用技术赋能,让城市更有温度”为愿景,专注于利用云计算、大数据、人工智能、区块链等新一代信息技术,激活城市数据资产价值,为城市数字经济发展做出贡献。同时,也为员工提供实现梦想和价值的舞台;为股东回报更多的投资收益;为社会做出更大的贡献,让全社会都能享受公司带来的智慧生活!
无
The text was updated successfully, but these errors were encountered:
感谢反馈,该需求同 issue #58
Sorry, something went wrong.
baixin513
No branches or pull requests
MaxKB 版本
v1.1.1 (build at 2024-04-30T17:22, commit: 2d7562f)
请描述您的需求或者改进建议
在使用本地模型时发现回答随机性过高,同样的问题几乎每次都不同,希望可以添加高级参数的自定义功能,方便针对不同的本地模型进行适当调整,以控制输出的稳定性。
实验使用的模型是 ollama v0.1.33 + fit2cloud/llama3-chinese:8b
请描述你建议的实现方案
可参考 OpenWebUI 设置-通用-高级参数。
在本机实验中发现,通过指定OpenWebUI 高级参数中的「种子」和降低 Top K 数值,可一定程度上减少输出多样性(随机性)
使用的提示词为:
预期的结果:
附加信息
无
The text was updated successfully, but these errors were encountered: