We read every piece of feedback, and take your input very seriously.
To see all available qualifiers, see our documentation.
Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.
By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.
Already on GitHub? Sign in to your account
你好,我了解到OpenPPL-LLM有使用 No Pad优化进行推理,请问一下 No Pad优化的实现在代码中哪个位置呢
“No Pad优化,这项技术可以有效缩减模型推理时所需的计算量:在自然语言处理(NLP)中,padding是一种常见的预处理操作,用于将文本序列中的样本长度调整为相同的长度。这是因为在NLP任务中,输入文本通常是变长的,但是深度学习模型要求输入数据具有固定的尺寸。为了使这些模型能够处理不同长度的文本,需要使用padding来将长度不一的文本序列填充为相同的长度。”
The text was updated successfully, but these errors were encountered:
No branches or pull requests
你好,我了解到OpenPPL-LLM有使用 No Pad优化进行推理,请问一下 No Pad优化的实现在代码中哪个位置呢
“No Pad优化,这项技术可以有效缩减模型推理时所需的计算量:在自然语言处理(NLP)中,padding是一种常见的预处理操作,用于将文本序列中的样本长度调整为相同的长度。这是因为在NLP任务中,输入文本通常是变长的,但是深度学习模型要求输入数据具有固定的尺寸。为了使这些模型能够处理不同长度的文本,需要使用padding来将长度不一的文本序列填充为相同的长度。”
The text was updated successfully, but these errors were encountered: