在我检查我那一大堆度盘小号的过程中，我发现这些号的数据居然没法转存，因为它们没绑手机号我连分享功能都没法用（全恼🤔那么，备份出来它们的数据或者说转存，几乎只剩下一个办法，那就是下载并重新上传？这下给它们整会员确实有点卵用（确信🤔

但现在有个更麻烦的问题，我现在没有什么vps之类的东西能够度盘下载速度快上传速度也快，还有至少2TB可用空间，，，某台vps也许下载速度快但上传速度不行（pcs-go基本上废掉力），github actions撅大多数指标能给到顶级但存储空间太少，我自己的某台机子空间管够而且下载上传勉强能看（一天大概能处理1.3TB，不算太慢）但它远在X都，我没时间去修好它🤔这就极其尴尬力，，，🤔

照例，整点llm新闻：

qwen3.8 flash next

最近有一个全新的llm推理框架能在什么8GB显存机子上面部署qwen3.8 flash next这个125b模型，那对于我那台5090实例来说，它岂不是随便能用，而且搞不好还能随便六七十tps？🤔结果登上去一看，它共享显存居然占了你妈17GB，这下它从可用显存容量上变得几乎和我本地的6900xt一个水平（全恼🤔很明显，此时qwen3.8 27b反而启动不起来，如果强行启动（只加载部分层进显存）tps会降到10以下，完全没法用，，，所以我只能将这个大号moe模型部署上去力🤔和上次一样，我需要部署个uncensored模型，不然我折腾这逼玩意做什么，我有114514种便宜渠道可以用更好的在线模型，，，

在一番雷霆折腾（包括但不限于用我的某个vps中转了一番，，，如果我现在还能用onedrive的话也许就没这么麻烦力，github actions，启动！）后，我终于将权重下到了那个实例里，它启动起来后极其节省显存，哪怕挂了262k的上下文（但kv cache降到了4bit）也只有⑨GB，加上别人占据的17GB显存反正没超（确信🤔用来锐评奶牛图时，tps大概稳定到25左右，属实是将5090当5060ti整，，，🤔考虑到这个逼玩意一天1.44，勉强能接受，，，

至于这个玩意和27b dense哪个更强，那我就不知道力，我又不做llm benchmark，，，🤔

strata

事实上对于这种部分权重放显存部分权重放内存的应用，llama.cpp就是废物，在我配置好strata后，它终于表现出了5090应有的性能，在显存被别人占用大半的情况下，此时大概能跑到64tps（配置是关mtp，专家缓存只开2GB左右，实测显存低的情况下强行开mtp反而减速），显存稍微空闲时能跑到73tps（仍然关mtp，专家缓存自动配置），而如果显存完全空闲，它可以打开mtp，此时它的tps达到了逆天的227tps，比27b dense快整整一倍（确信🤔行，这个配置非常完美力🤔除了webapp此时没法用，因为那个webapp是llama.cpp附带的，我恐怕得接dsh或者cherry studio来锐评奶牛图，，，