FlightLLM

无问芯穹FlightLLM推理框架让大模型在单块FPGA单batch上能效比和性价比同时提升,可重构计算顶会FPGA'24已收录

一种面向 FPGA 的大模型轻量化部署流程FlightLLM