Azure OpenAI 的返回值和客户端 IP 有关系吗

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

For Existing Member Sign In

This topic created in 871 days ago, the information mentioned may be changed or developed.

之前遇到一个情况，同时调用同样的 service ，两个人返回的结果不一样。一个返回快但没有返回 function calling ，另一个返回稍慢但返回了 functoin calling 。期望是返回 function calling 的。Service 里调用的是 openai 的 python package 。不知道是大模型偶然抽风还是在哪会记录客户端的 IP ，根据 IP 返回不同质量的结果。有哪位了解的吗？先谢谢了。

calling

openai

function

2 replies • 2023-12-13 18:57:46 +08:00

mmdsun

Dec 13, 2023 via iPhone

大模型本来就具有随机性吧。function calling 模式是自动的，不一定调函数。但你可以用参数设置强制走函数调用。

frankyzf

Dec 13, 2023

@mmdsun 谢谢了，但是有不需要调函数的可能，所以没法强制函数调用