Nano-vLLM：轻量级vLLM实现，速度媲美原版

Nano-vLLM是一个轻量级的vLLM实现，仅用约1200行Python代码构建，却能实现与vLLM相当的推理速度。它包含一系列优化，例如前缀缓存、张量并行、Torch编译和CUDA图等。通过pip install git+https://github.com/GeeeekExplorer/nano-vllm.git安装，并参考example.py使用。基准测试显示，在RTX 4070 Laptop (8GB)上使用Qwen3-0.6B模型进行测试，其吞吐量甚至略高于vLLM。