Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

submit v0.1 #1

Open
wants to merge 2 commits into
base: main
Choose a base branch
from
Open

submit v0.1 #1

wants to merge 2 commits into from

Conversation

northstreet12
Copy link

No description provided.

@bekcpear
Copy link
Collaborator

@northstreet12

亲爱的参赛选手,您好,

本次锦标赛您所提交的 PR 初步复测结果如 https://github.com/rv2036/rvspoc/blob/main/Results/Verifications/S2422/README.md 所示。如有任何异议请回复本条评论。如确认无误请回复 “确认无误”,感谢您的配合。

RVSPOC 组委会

@northstreet12
Copy link
Author

@northstreet12

亲爱的参赛选手,您好,

本次锦标赛您所提交的 PR 初步复测结果如 https://github.com/rv2036/rvspoc/blob/main/Results/Verifications/S2422/README.md 所示。如有任何异议请回复本条评论。如确认无误请回复 “确认无误”,感谢您的配合。

RVSPOC 组委会

复现 编译版本3(尝试使用RVV加速) 需要修改rvv相关的代码,代码修改后,-n 10推理时间可以缩短到1300s左右(与pr中一致)
ggml-quants.c.patch

@bekcpear
Copy link
Collaborator

复现 编译版本3(尝试使用RVV加速) 需要修改rvv相关的代码,代码修改后,-n 10推理时间可以缩短到1300s左右(与pr中一致) ggml-quants.c.patch

@northstreet12

对结果进了复测和更新。请查阅 https://github.com/rv2036/rvspoc/blob/main/Results/Verifications/S2422/README.md 获取最新结果。

  1. llama.cpp 实现做了 rvv 相关的 patch。
  2. 验证结果和本 PR 初始提供的内容基本一致。

如有任何异议请回复本条评论。如确认无误请回复 “确认无误”,感谢您的配合。

RVSPOC 组委会

@northstreet12
Copy link
Author

复现 编译版本3(尝试使用RVV加速) 需要修改rvv相关的代码,代码修改后,-n 10推理时间可以缩短到1300s左右(与pr中一致) ggml-quants.c.patch

@northstreet12

对结果进了复测和更新。请查阅 https://github.com/rv2036/rvspoc/blob/main/Results/Verifications/S2422/README.md 获取最新结果。

  1. llama.cpp 实现做了 rvv 相关的 patch。
  2. 验证结果和本 PR 初始提供的内容基本一致。

如有任何异议请回复本条评论。如确认无误请回复 “确认无误”,感谢您的配合。

RVSPOC 组委会

确认无误

@bekcpear
Copy link
Collaborator

确认无误

感谢您的支持和回复

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

Successfully merging this pull request may close these issues.

2 participants