そのなもTQX-R
とりあえず目標速度は1tok/s
もしできたらべーこんのPCではどうなるんだろ 60tok/sぐらい出るんじゃない? できるならべーこんへの協力にもなるかなあ
協力はするよ
KAiとかで二倍近くのパラメーターのモデルを1倍のParameterとほぼ同じ速度で動かせるっちゅうわけさ 逆に今のパラメーターでも速度を二倍にできる
今はCodexの制限がやばいから一旦保留