GameMale
登陆 / 注册 搜索

USERCENTER

SEARCHSITE

搜索

查看: 947|回复: 7
收起左侧

[问题] 求助,使用石豆豆大佬的SillyTarvern生成有点慢

[复制链接] |关注本帖

【新手友好】昆進肥皂森林羊男艾德尔牧羊人新手蛋猎鹰图腾

    50金币
    RT,使用该整合版半自动启动,KoboldCPP也用了CuBLAS的模型,但是运行过程中发现CPU占用一直很高,但是GPU好像没怎么跑,我把GPU layer拉到16了。但是好像效果也不是很好,是我的KoboldCPP没有设置正确吗?


    回复

    使用道具 举报

    【夏日限定】夏日的泰凯斯无瑕的回忆保卫领土裸体克里斯炙热的格拉迪欧拉斯岛田半藏士兵 76莱因哈特·威尔海姆杰西·麦克雷BIG BOSS

      楼主您好您的帖子版块发布错误,求助类帖子应该放在单机游戏区哦
      回复

      使用道具 举报

      魔法石碑

        模型在本地跑本来就会很吃你的硬体效能,除非显卡超好,不然快不起来
        看提供的是7b模型,猜智商也不会太高,还不如想办法接claude,或者用免钱的gemini,
          收起(1)
        回复

        使用道具 举报

        勋章空位插槽16x43 隐形➀装饰触手Ⓛ装饰触手Ⓡ恶魔城山猫图腾

          楼主解决了吗 同这个问题
            收起(2)
          回复

          使用道具 举报

          您需要登录后才可以回帖 登录 | 立即注册

          本版积分规则

          文字版|手机版|小黑屋|GameMale

          GMT+8, 2024-12-22 16:15 , Processed in 0.075817 second(s), 49 queries , Redis On.

          Copyright © 2013-2024 GameMale

          All Rights Reserved.

          快速回复 返回列表