openai 流式输出相关问题

[moseshu]

我通过下面的方式调用接口，返回的是一次性的结果，stream=True ，也是一次性返回结果？怎么设置参数让一个token接着一个token返回呢？类似openai的接口调用。而且在设置num_beams=4 的时候，会出错

curl http://localhost:19327/v1/completions \
  -H "Content-Type: application/json" \
  -d '{   
    "prompt": "告诉我中国的首都在哪里"
  }'

 如果使用下面的方式该如何调用接口呢？
  openai.api_base = "http://localhost:7777/v1"
  openai.api_key = "none"
    for chunk in openai.ChatCompletion.create(
        model="chinese-llama",
        messages=content,
        stream=True
    ):
        print(chunk)
        if hasattr(chunk.choices[0].delta, "content"):
            print(chunk.choices[0].delta.content, end="", flush=True)