关于复现数据和论文数据差异大的问题

[MiloSciA]

大佬您好，按照您的代码我看ISCX2016VPN这个数据集中flow级别按Service和App两个级别进行分类，复现数据跟论文差异很大，只有80%，我分别使用了A100做全精度微调和4090结合Apex做混合精度微调，结果都一样，如下图，想请教一下大佬我还需要怎么调整一下参数哇

[CJYKeepLearning]

MiloSciA大佬您好，关于这篇文章希望与您请教交流，可否留下您的联系方式，以便联系。

[linwhitehat]

大佬您好，按照您的代码我看ISCX2016VPN这个数据集中flow级别按Service和App两个级别进行分类，复现数据跟论文差异很大，只有80%，我分别使用了A100做全精度微调和4090结合Apex做混合精度微调，结果都一样，如下图，想请教一下大佬我还需要怎么调整一下参数哇

你好，感谢对我们工作的关注。你可以详细展示你的微调参数设置吗？同时使用的数据集是我们处理好的数据吗？

[MiloSciA]

大佬您好，按照您的代码我看ISCX2016VPN这个数据集中flow级别按Service和App两个级别进行分类，复现数据跟论文差异很大，只有80%，我分别使用了A100做全精度微调和4090结合Apex做混合精度微调，结果都一样，如下图，想请教一下大佬我还需要怎么调整一下参数哇

你好，感谢对我们工作的关注。你可以详细展示你的微调参数设置吗？同时使用的数据集是我们处理好的数据吗？

您好，参数与您github仓库内容一致，数据是参考您github仓库里的代码流程进行的，app和service的划分是参考了您之前的几个issue里的划分

[linwhitehat]

大佬您好，按照您的代码我看ISCX2016VPN这个数据集中flow级别按Service和App两个级别进行分类，复现数据跟论文差异很大，只有80%，我分别使用了A100做全精度微调和4090结合Apex做混合精度微调，结果都一样，如下图，想请教一下大佬我还需要怎么调整一下参数哇

你好，感谢对我们工作的关注。你可以详细展示你的微调参数设置吗？同时使用的数据集是我们处理好的数据吗？

您好，参数与您github仓库内容一致，数据是参考您github仓库里的代码流程进行的，app和service的划分是参考了您之前的几个issue里的划分

你好，在readme中只展示了包级别的微调参数，流级别的微调建议 --seq_length 和--learning_rate 参数进行增大，可以根据自身GPU资源进行调整，我们之前的参数印象中是512和5e-5，提供给你进行测试，同时可以拉取已公开的预处理好的模型和数据进行对比，希望能帮到你。