Inferit：可视化推理探索与实验平台

Inferit是一个可视化的LLM推理工具，其界面允许多个并排生成，方便比较不同模型、提示和采样器设置的输出。它支持与OpenAI API兼容的本地或远程后端，以及Chrome内置的LLM（Gemini Nano）。用户可以通过在线部署的实例、浏览器扩展程序或本地运行代码来使用Inferit。