如何指定开放AI完成应该返回的单词数?
想象一下我问AI这个问题
埃隆·马斯克是谁?
我可以使用什么参数来确保AI返回的结果小于或等于300个单词。
我认为max_tokens参数是用于这个目的的,但是max_tokens似乎是用于分解输入,而不是输出。
max_tokens
任何想法都将不胜感激。谢谢
发布于 2022-05-02 14:25:23
您在游乐场中寻找的参数称为Maximum length和API 代币“。
Maximum length
正如文档中所描述的,max_tokens与输出有关,而不是与输入有关:
生成的答案所允许的最大令牌数。
请注意,该参数处理的是令牌,而不是单词。如果您想要找到与令牌相同的单词数,请使用令牌器。
https://stackoverflow.com/questions/71888625
相似问题