非常棒的量化方式,请问支持昇腾 910B 和 300iduo 系列吗,以及 mindie 或 vllm ascend 推理框架是否能支持
非常棒的量化方式,请问支持昇腾 910B 和 300iduo 系列吗,以及 mindie 或 vllm ascend 推理框架是否能支持