0%

ChatGPT 参数介绍

好久好久没有写博客了,说因为忙肯定是借口,主要还是没什么动力。

最近我也追了追 AI 的风潮。不过相对来说,我开始使用 AI 的时间还算比较早,从前年开始就用 Github Coplit 辅助写代码,去年 12 月就用上了 ChatGPT 的网页版。ChatGPT 真正出圈的时间是在今年 1 月底。我还用 ChatGPT 的 API 写了几个小工具,甚至在公司的项目中也有使用。

在使用 GPT 的 API 期间,遇到了几个参数读不懂官方文档在说什么的情况,网上能查到的内容也不多。因此,我结合几个查到的资料和自己的使用体验,对这三个参数做下说明。

Temperature

温度参数控制着生成文本的随机性

  • 当温度值为0时,表示引擎是预定义的,这意味着无论输入文本如何,它都会创建相同的输出。
  • 当温度值为1时,会使引擎变得非常有创造力,但同时也承担了更大的风险。

Frequency penalty

频率惩罚参数控制模型重复预测的趋势,减少已生成单词的概率。惩罚取决于一个词在预测中已出现的次数,降低了一个词被多次选择的概率。该惩罚不考虑词频,只考虑词是否出现在文本中。

Presence penalty

存在惩罚参数鼓励模型做出新颖的预测。如果某个词已经出现在预测文本中,则存在惩罚会降低该词的概率。与频率惩罚不同,存在惩罚不依赖于单词在过去预测中出现的频率。

总结:

本文总结了 ChatGPT 的三个主要参数:Temperature(温度)、Frequency penalty(频率惩罚)和Presence penalty(存在惩罚)。

  • Temperature 控制模型生成的多样性。
  • 频率惩罚存在惩罚分别用于防止单词和主题的重复。
    • 不同文章对这两个惩罚的解释略有不同。
    • 可以将 Frequency Penalty 视为避免单词重复的方法,将 Presence Penalty 视为避免主题重复的方法。