了解支持的基础模型的参数设置
- Updated: 2025/04/30
在所有人工智能模型中，参数是数值，可以用于配置基础模型（大型语言模型，LLM）的设置，这些设置会影响模型如何通过数据分析处理信息并通过响应进行预测。 更多的参数允许更复杂的设置，并导致更好的提示响应。
微调参数配置可以帮助返回更准确的响应。 让我们探索这些模型可用的不同参数：
- Amazon Bedrock
- Google Vertex AI
- Azure OpenAI
- OpenAI
| 模型 | 参数 |
|---|---|
| Amazon Bedrock |
|
| Google Vertex AI |
注： 有关参数详情，请参阅 Vertex AI： 聊天 AI 操作。
|
| Azure OpenAI |
注： 有关参数详情，请参阅 Azure OpenAI: 聊天 AI 操作。
|
| OpenAI |
注： 有关参数详情，请参阅 OpenAI： 聊天 AI action。
|
让我们看看这些参数的使用和功能。 了解参数设置有助于您评估模型在能力与性能之间的平衡。
模型参数解释
基础模型参数使您能够微调模型处理复杂提示输入的能力，以返回更准确和精细的响应。 根据提示输入的复杂程度选择一个模型，以便您可以相应地配置参数，从而处理并返回准确且定义明确的响应。
- 文档检索次数
- 对于超大规模云服务提供商，此设置通常指的是在单个查询或操作中可以检索的文档或数据条目的数量。 此设置对于管理和优化数据检索过程的性能至关重要，尤其是在由超大规模供应商管理的大型环境中。
- 频率惩罚 / 出现惩罚
- 此设置通过限制基于使用频率的令牌重复使用，来减少生成文本中的重复。 在文本中使用一个令牌的次数越多，它被重复的可能性就越小。 在 -2.0 到 2 之间选择一个带小数增量的值。
- 最大令牌数 / 最大采样令牌数 / 最大输出令牌数
- 此设置表示生成响应中使用的最大令牌数。 您可以选择一个介于 1 到 2048 之间的值，默认值设置为 2048。 您的快速响应将受到此处设置的值的影响。 分配更多的令牌将会返回更全面和详细的响应。
- 存在惩罚
- 该设置根据令牌出现的频率对令牌的使用进行限制，从而阻止生成文本中的令牌重复。 一个令牌在文本中使用得越频繁，就越不可能被重复。 在 -2.0 到 2 之间选择一个带小数增量的值。
- 温度
- 数值越大，返回的响应越多样化，可预测性越低。 您可以在 0 到 1 之间选择一个带小数增量的值。 这意味着值越高，返回的响应就越多样化。
- 前 P 名 / 前 K 名
- 此设置决定生成响应的多样性。 更高的值会产生更丰富的响应。 我们建议更改 P/K 或温度值中的一个，而不是同时更改。 在 0 到 1 之间选择一个带小数增量的值。
- N
- 这定义了模型为特定提示生成的响应数量。 在 1 到 9 之间选择，默认值设为 1。 如果您分配更多的令牌并设置更高的温度值，并选择一个较高的 N 值为 9，您将获得 9 个不同的响应，其细节可以容纳 2048 个令牌。
返回 创建 AI Skills。