大语言模型参数说明（Temperature，Top p，Top k）

如下是一些模型的运行界面。在使用OpenAI的接口，常常遇见一些参数，搞清它们的含义促使我们更进一步理解输出的结果。
学习传送带

1.Temperature

用于调整随机从生成模型中抽样的程度，因此每次点击“生成”时，相同的提示可能会产生不同的输出。温度为 0 将始终产生相同的输出。温度越高随机性越大！

2.Top p

动态设置tokens候选列表的大小。 将可能性之和不超过特定值的top tokens列入候选名单。
Top p 通常设置为较高的值（如 0.75），目的是限制可能被采样的低概率 token 的长度。

3.Top k

允许其他高分tokens有机会被选中。 这种采样引入的随机性有助于在很多情况下生成的质量。 top-k 参数设置为 3意味着选择前三个tokens。
将如果 k 和 p 都启用，则 p 在 k 之后起作用。

大语言模型参数说明（Temperature，Top p，Top k）相关推荐

AI：大力出奇迹？Bigger is better？AI下一代浪潮？—人工智能的大语言模型(LLMs)的简介、发展以及未来趋势
AI:大力出奇迹?Bigger is better?AI下一代浪潮?-人工智能的大语言模型(LLMs)的简介.发展以及未来趋势目录人工智能的大语言模型(LLMs)-AI下一代浪潮?Bigger i ...
大语言模型-中文Langchain
微调大语言模型-ChatGLM-Tuning 大语言模型-微调chatglm6b 大语言模型-中文chatGLM-LLAMA微调大语言模型-alpaca-lora 本地知识库大语言模型2-doc ...
生成式大语言模型微调训练快速手册
ChatGPT的流行让大语言模型走入了大家的视线,怎么打造自己的大语言模型成为了一个急需解决的问题. 目录大语言模型的获取方法有以下三种: 目前可以Play 的大语言基础模型列表: 相关项目大语言 ...
用LangChain构建大语言模型应用
用LangChain构建大语言模型应用自 ChatGPT 发布以来,大型语言模型 (LLM) 广受欢迎.尽管您可能没有足够的资金和计算资源从头开始训练自己的大语言模型,但您仍然可以使用预训练的大语言 ...
本地化部署大语言模型 ChatGLM
本地化部署大语言模型 ChatGLM 本地化部署大语言模型 ChatGLM 前期筹备 GitHub 基础包语言模型文件基础配置显存查看方法 Anaconda 模块 ChatGLM-6B 网页部署 ...
【自然语言处理】【大模型】PaLM：基于Pathways的大语言模型
PaLM:基于Pathways的大语言模型 <PaLM: Scaling Language Modeling with Pathways> 论文地址:https://arxiv.org/p ...
【自然语言处理】【chatGPT系列】大语言模型可以自我改进
大语言模型可以自我改进 <Large Language Models Can Self-Improve> 论文地址:https://arxiv.org/pdf/2210.11610.pdf ...
大语言模型-中文chatGLM-LLAMA微调
微调大语言模型-ChatGLM-Tuning 大语言模型-微调chatglm6b 大语言模型-中文chatGLM-LLAMA微调大语言模型-alpaca-lora 本地知识库大语言模型2-doc ...
Firefly(流萤): 中文对话式大语言模型
来自:YeungNLP 在本文中,笔者将介绍关于Firefly(流萤)模型的工作,一个中文对话式大语言模型.我们使用较小的模型参数量,如1.4B和2.6B,实现了不错的生成效果. 项目地址: http ...

大语言模型参数说明（Temperature，Top p，Top k）

1.Temperature

2.Top p

3.Top k

大语言模型参数说明（Temperature，Top p，Top k）相关推荐

最新文章

热门文章