GameMale
登陆 / 注册 搜索

USERCENTER

SEARCHSITE

搜索

查看: 852|回复: 4
收起左侧

[问题] 求助,使用石豆豆大佬的SillyTarvern生成有点慢

[复制链接] |关注本帖

【新手友好】昆進肥皂森林羊男艾德尔牧羊人新手蛋猎鹰图腾

    50金币
    RT,使用该整合版半自动启动,KoboldCPP也用了CuBLAS的模型,但是运行过程中发现CPU占用一直很高,但是GPU好像没怎么跑,我把GPU layer拉到16了。但是好像效果也不是很好,是我的KoboldCPP没有设置正确吗?


    回复

    使用道具 举报

    【夏日限定】夏日的泰凯斯裸体克里斯炙热的格拉迪欧拉斯岛田半藏士兵 76莱因哈特·威尔海姆杰西·麦克雷BIG BOSS克里斯‧雷德菲尔德阿尔伯特·威斯克

      楼主您好您的帖子版块发布错误,求助类帖子应该放在单机游戏区哦
      回复

      使用道具 举报

      魔法石碑

        模型在本地跑本来就会很吃你的硬体效能,除非显卡超好,不然快不起来
        看提供的是7b模型,猜智商也不会太高,还不如想办法接claude,或者用免钱的gemini,
          收起(1)
        回复

        使用道具 举报

        您需要登录后才可以回帖 登录 | 立即注册

        本版积分规则

        文字版|手机版|小黑屋|GameMale

        GMT+8, 2024-11-21 22:57 , Processed in 0.084301 second(s), 42 queries , Redis On.

        Copyright © 2013-2024 GameMale

        All Rights Reserved.

        快速回复 返回列表