GameMale
设为首页收藏本站 🌓 游客问题反映
快捷导航
登陆 / 注册 搜索

USERCENTER

SEARCHSITE

搜索

返回列表 发新帖
查看: 810|回复: 4
收起左侧

[问题] 求助，使用石豆豆大佬的SillyTarvern生成有点慢

[复制链接] |关注本帖

【新手友好】昆進肥皂森林羊男艾德尔牧羊人新手蛋猎鹰图腾
     楼主| danj111000 发表于 2024-8-6 00:14:58 | 显示全部楼层 |阅读模式 |取消关注该作者的回复
    50金币
    RT，使用该整合版半自动启动，KoboldCPP也用了CuBLAS的模型，但是运行过程中发现CPU占用一直很高，但是GPU好像没怎么跑，我把GPU layer拉到16了。但是好像效果也不是很好，是我的KoboldCPP没有设置正确吗？


    楼主新帖
    楼主热帖
    回复

    使用道具 举报

    史莱姆牧场『南瓜拿铁』『住在GM村』【夏日限定】夏日的泰凯斯裸体克里斯炙热的格拉迪欧拉斯岛田半藏莱因哈特·威尔海姆士兵 76杰西·麦克雷
      千城丶 发表于 2024-8-6 00:28:45 | 显示全部楼层 |取消关注该作者的回复
      楼主您好您的帖子版块发布错误，求助类帖子应该放在单机游戏区哦
      回复

      使用道具 举报

      魔法石碑
        書圖 发表于 2024-8-6 14:57:29 | 显示全部楼层 |取消关注该作者的回复
        模型在本地跑本来就会很吃你的硬体效能，除非显卡超好，不然快不起来
        看提供的是7b模型，猜智商也不会太高，还不如想办法接claude，或者用免钱的gemini,
          收起(1)
        回复

        使用道具 举报

        返回列表 发新帖
        高级模式
        B Color Image Link Quote Code Smilies
        您需要登录后才可以回帖 登录 | 立即注册

        本版积分规则

        文字版|手机版|小黑屋|GameMale

        GMT+8, 2024-11-5 13:50 , Processed in 0.071409 second(s), 45 queries , Redis On.

        Copyright © 2013-2024 GameMale

        All Rights Reserved.

        快速回复 返回列表