kataGO无法加载引擎

keqikeqi

要确认的话，到对应trt引擎目录下开个benchmark测试就知道了

fhxa

攀登11 发表于 2024-6-1 18:14
记忆中最新整合包自带trt的（要是我记错了那就是上一个版本），想用最新的直接把git上最新的katago-trt压缩 ...

是的，整合包自带6个引擎，其中包括官方的TRT18B版本，和非官方的TRT18B版本，用哪个选择加载就好了。
话说GIT上下的KATAGO包，我整个替换的整合包中的KATAGO文件夹，但是报错无法运行，单独替换KATAGO.exe文件没试过，等下试试看。

fhxa

keqikeqi 发表于 2024-6-1 20:57
要确认的话，到对应trt引擎目录下开个benchmark测试就知道了

在命令行模式下吗，具体怎么操作能指点一下吗

keqikeqi

fhxa 发表于 2024-6-2 08:48
在命令行模式下吗，具体怎么操作能指点一下吗

katago benchmark -config xxx.cfg -model 18b-s9131-d4087.bin.gz

你可以把输出的结果帖上来看一下

keqikeqi

keqikeqi 发表于 2024-6-2 11:26
katago benchmark -config xxx.cfg -model 18b-s9131-d4087.bin.gz

你可以把输出的结果帖上来看一下

命令行里面的xxx.cfg替换成自己的，trt的cfg里面要打开trtDeviceToUse = 0
18b-s9131-d4087.bin.gz替换成要测试的权重文件名。

loveboy427

不知道lizzieyzy最新有卡塔狗28b整合包的啥时候出来

fhxa

keqikeqi 发表于 2024-6-2 14:17
命令行里面的xxx.cfg替换成自己的，trt的cfg里面要打开trtDeviceToUse = 0
18b-s9131-d4087.bin.gz替换 ...

命令行模式下，进不去TRT引擎的目录啊，目录下没找到CFG文件，大佬能不能详细指导下，没搞过这么高端的操作
权重文件夹里面，有三个权重文件，有你说的那个文件，但是主要无法进入引擎目录下“benchmark”输入那个命令：
katago benchmark -config xxx.cfg -model 18b-s9131-d4087.bin.gz

fhxa

keqikeqi 发表于 2024-6-2 14:17
命令行里面的xxx.cfg替换成自己的，trt的cfg里面要打开trtDeviceToUse = 0
18b-s9131-d4087.bin.gz替换 ...

命令行模式下，进不去TRT引擎的目录啊，目录下没找到CFG文件，大佬能不能详细指导下，没搞过这么高端的操作
权重文件夹里面，有三个权重文件，有你说的那个文件，但是主要无法进入引擎目录下“benchmark”输入那个命令：
katago benchmark -config xxx.cfg -model 18b-s9131-d4087.bin.gz

keqikeqi

fhxa 发表于 2024-6-6 19:55
命令行模式下，进不去TRT引擎的目录啊，目录下没找到CFG文件，大佬能不能详细指导下，没搞过这么高端的操 ...

估计这个集成打包版本把各种配置、权重分开放了。。。

在资源管理器顶上那个目录的地方点一下，输入cmd回车，就进入这个目录下的命令行界面了。

然后对应的cfg和权重用全路径名就可以运行那个测试了

广告一下，用我发的那个帖子的整合包会方便多了。有时间我可以远程帮你操作一下

zjh889

keqikeqi 发表于 2024-5-31 20:04
katago官方版本推荐的搭配：
katago-v1.14.1-trt8.6.1-cuda12.1-windows-x64.zip
你用trt10运行起来了 ...

这个的CPU版本，还是显卡版本？

fhxa

keqikeqi 发表于 2024-6-6 22:48
估计这个集成打包版本把各种配置、权重分开放了。。。

在资源管理器顶上那个目录的地方点一下，输入cm ...

好的大佬，你的帖子在哪里，我去看看

keqikeqi

fhxa 发表于 2024-6-7 07:26
好的大佬，你的帖子在哪里，我去看看

客气了，都是棋友。

http://www.flygo.net/bbs/forum.p ... &extra=page%3D1

keqikeqi

zjh889 发表于 2024-6-7 00:52
这个的CPU版本，还是显卡版本？

您是问什么？trt是需要显卡有tensor core的版本