Batch Inference

[ChangyongYang]

你好，请问RWKV v7 v6 是否有提供batch autoregressive inference 的代码？查看所有rwkv相关的repo后，似乎都是单sample 的inference （虽然自己可以改，但是担心batch 维度加上去后，debug担心出错），如果有batch inference 的代码希望可以share一下，非常感谢。

[xQ628]

借楼，想请教下作者，是否已有在图神经网络的尝试，快要开题了，然后打算将RWKV应用于图神经网络，鉴于已有的图循环神经网络、门控图神经网络等图神经网络与文本处理（RNN、LSTM）之间的相似性。目前是否有论文已经成功应用了呢？或者有什么建议或看法呢？[感谢]

[BlinkDL]

Hi 欢迎大家在技术qq群问 325154699

关于 RWKV 的各种论文见 https://rwkv.com 目前还没有图的应用，不过肯定是可以直接换的，遇到问题欢迎问

[BlinkDL]

@ChangyongYang https://github.com/OpenMOSE/RWKV-Infer