悬赏已过期 后悬赏过期

有了解 fast tokenizer 的老哥吗?怎么将 baichuan2-13b 的 tokenizer 转成 fast tokenizer?

邀请:

目前在用 vllm 做 baichuan2-13b-chat 模型的推理框架,想进一步加速推理速度,怎么将 slow tokenizer 转成 fast tokenizer 呢?

您的回答

回答

默认排序 时间排序
图片审查中...
个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索