Tags populaires：
Virtualisation sécurité DNS vérification formelle analyse d'atteignabilité erreurs du compilateur conflit de macro extension web framework de développement Graphiques bitmap incohérences d'API Tous les tags

Despatcheur d'événements en processus rapide pour Go

2025-06-30
Despatcheur d'événements en processus rapide pour Go

Ce package Go fournit un despacheur d'événements en processus haute performance, idéal pour découpler les modules et permettre le traitement asynchrone des événements. Avec des vitesses 4 à 10 fois plus rapides que les canaux (traitant des millions d'événements par seconde !), il prend en charge les opérations synchrones et asynchrones, en privilégiant la simplicité. Parfait pour le découplage des modules intra-processus, le pub/sub léger et les scénarios à haut débit, mais pas adapté à la communication inter-processus, à la persistance des événements ou au routage avancé.

Lire plus
(github.com)
Développement Despatcheur d'événements

NativeJIT : Un compilateur JIT hautes performances pour Bing

2025-06-30
NativeJIT : Un compilateur JIT hautes performances pour Bing

NativeJIT est une bibliothèque open source et multiplateforme pour la compilation juste-à-temps hautes performances d'expressions impliquant des structures de données C. Développée par l'équipe Bing pour une utilisation dans le moteur de recherche Bing, elle est essentielle pour le score des documents en fonction des correspondances de mots clés et de l'intention de l'utilisateur. Légère et rapide, elle ne dépend que de l'environnement d'exécution C++ standard et fonctionne sous Linux, OSX et Windows. Son code optimisé, en particulier son allocation de registres, permet le traitement efficace des requêtes à grande échelle.

Lire plus
(github.com)
Développement

Octelium : Une plateforme d'accès Zero Trust révolutionnaire

2025-06-29
Octelium : Une plateforme d'accès Zero Trust révolutionnaire

Octelium est une plateforme unifiée, gratuite et open source, auto-hébergée, pour l'accès aux ressources Zero Trust, conçue comme une alternative moderne aux VPN et outils similaires. Elle est incroyablement polyvalente, fonctionnant comme un VPN à configuration zéro, une plateforme ZTNA, une infrastructure de tunnels sécurisés, une passerelle API, une passerelle IA, un PaaS pour l'hébergement sécurisé et anonyme d'applications conteneurisées, une passerelle Kubernetes, et même une infrastructure de homelab. Octelium offre une architecture Zero Trust (ZTA) évolutive pour un accès sécurisé basé sur l'identité, conscient de la couche application (L7), sans secret, via des tunnels WireGuard/QUIC et un accès public sans client.

Lire plus
(github.com)
Développement Alternative VPN

Sirius : Un moteur SQL natif pour GPU 10 fois plus rapide

2025-06-29
Sirius : Un moteur SQL natif pour GPU 10 fois plus rapide

Sirius est un moteur SQL natif pour GPU qui s'intègre parfaitement aux bases de données existantes telles que DuckDB via le standard Substrait, sans nécessiter de réécriture de requêtes ni de modifications majeures du système. Dans les benchmarks TPC-H à SF=100, Sirius atteint une accélération d'environ 10x par rapport aux moteurs de requête CPU existants au même coût matériel, ce qui le rend idéal pour l'analyse interactive, les charges de travail financières et les tâches ETL. Il prend actuellement en charge DuckDB et bientôt Doris, avec d'autres systèmes prévus. Les options d'installation comprennent les images AWS, les images Docker et l'installation manuelle. Bien qu'il soit en développement actif, Sirius démontre des performances impressionnantes, inaugurant une nouvelle ère GPU pour l'analyse de données.

Lire plus
(github.com)
Technologie base de données GPU moteur SQL

AGL : Un langage de script concis compilant vers Go

2025-06-29
AGL : Un langage de script concis compilant vers Go

AGL est un nouveau langage de programmation qui compile en Go. Il utilise la syntaxe de Go, mais introduit des améliorations telles que des valeurs de retour uniques, des types tuple et des types result/option pour une gestion simplifiée des erreurs, des fonctions anonymes concises et des méthodes de tableau intégrées. AGL prend en charge la surcharge d'opérateurs, les énumérations et les génériques, et offre une extension VSCode et une prise en charge shebang pour shell, améliorant l'expérience du développeur. Sa compilation flexible permet à la fois la compilation en code Go et l'exécution directe, facilitant l'itération et les tests rapides.

Lire plus
(github.com)
Développement

Accélération des LLM avec Redis : LMCache offre une amélioration de vitesse de 3 à 10 fois

2025-06-28
Accélération des LLM avec Redis : LMCache offre une amélioration de vitesse de 3 à 10 fois

LMCache est une extension du moteur de service LLM conçue pour réduire considérablement la latence de queue et augmenter le débit, en particulier dans les scénarios à long contexte. En mettant en cache des paires clé-valeur de texte réutilisables à différents emplacements (GPU, CPU DRAM, disque local), LMCache réutilise ces caches pour tout texte réutilisé (pas seulement les préfixes) dans n'importe quelle instance de service. Cela permet d'économiser de précieux cycles GPU et de minimiser le délai de réponse de l'utilisateur. Combiné à vLLM, LMCache permet une réduction de 3 à 10 fois de la latence et des cycles GPU dans de nombreux cas d'utilisation de LLM, notamment la QA multi-tours et le RAG. Essayez-le avec les images Docker vLLM pré-construites !

Lire plus
(github.com)
IA Mise en cache

Initiative open source du compilateur C Whitesmiths : une légende revient

2025-06-28
Initiative open source du compilateur C Whitesmiths : une légende revient

Le compilateur C Whitesmiths, initialement publié en 1978, prenait en charge des architectures telles que DEC PDP-11 et Intel 8080, est sur le point de devenir open source ! Son créateur, P.J. Plauger, a accordé l’autorisation pour un usage non commercial. Des binaires et une partie du code source pour des versions incluant CP/M-80 et un compilateur croisé IBM System/36 sont désormais disponibles en téléchargement. Ce compilateur historiquement significatif sera une ressource précieuse pour l’étude de l’histoire et du développement du langage C.

Lire plus
(github.com)
Développement

Nim Bare-Metal sur Raspberry Pi : Une aventure sans tête

2025-06-28
Nim Bare-Metal sur Raspberry Pi : Une aventure sans tête

Ce projet détaille un environnement bare-metal pour Raspberry Pi 1/Zero utilisant le langage de programmation Nim. Il inclut un ordonnanceur coopératif, un modèle de programmation asynchrone et un accès direct au matériel sans API spécifiques au fournisseur. Le projet inclut la gestion de la mémoire, la gestion des exceptions et la surveillance de l'exécution, ainsi que des instructions de configuration complètes. Les projets futurs incluent l'extension à d'autres plates-formes cibles et l'ajout de plus de pilotes de périphériques.

Lire plus
(github.com)
Développement

bootc-image-builder : Créez des images disque amorçables à partir de conteneurs

2025-06-28
bootc-image-builder : Créez des images disque amorçables à partir de conteneurs

bootc-image-builder est un outil puissant pour créer des images disque à partir de conteneurs Fedora/CentOS bootc ou dérivés. Il prend en charge différents types d'images (qcow2, AMI, ISO, etc.) et permet la personnalisation des utilisateurs, des systèmes de fichiers, des paramètres du noyau, et plus encore. À l'aide de Podman et QEMU, les utilisateurs peuvent facilement créer et exécuter des machines virtuelles. Ce guide détaille son utilisation, ses options et ses configurations avancées, telles que la création d'AMI sur AWS et la personnalisation de l'installateur Anaconda.

Lire plus
(github.com)
Développement image disque

SymbolicAI : Un framework neuro-symbolique pour les LLMs

2025-06-28
SymbolicAI : Un framework neuro-symbolique pour les LLMs

SymbolicAI est un framework neuro-symbolique combinant la programmation Python classique avec la programmabilité différentiable des LLMs. Sa conception modulaire permet une extension et une personnalisation faciles, permettant aux utilisateurs d'écrire leurs propres moteurs, de les héberger localement ou d'interagir avec des outils tels que la recherche web et la génération d'images. Les concepts clés sont les objets Symbole (syntaxique et sémantique) et les contrats (garantissant la correction du code via des décorateurs). SymbolicAI prend en charge de nombreuses opérations primitives et s'intègre à des moteurs neuro-symboliques tels qu'OpenAI et Anthropic via des API, ainsi qu'à des outils tels que Wolfram Alpha et les moteurs de recherche. Un système de configuration basé sur les priorités simplifie la gestion.

Lire plus
(github.com)
Développement neuro-symbolique

c4wa : un compilateur C vers WebAssembly minimaliste et efficace

2025-06-28
c4wa : un compilateur C vers WebAssembly minimaliste et efficace

c4wa est un compilateur qui traduit un sous-ensemble du langage C en WebAssembly. Contrairement à d'autres compilateurs, il génère du code WebAssembly minimaliste et bien optimisé, sans aucun code supplémentaire, bibliothèques intégrées ou surcharge. Il est entièrement compatible avec n'importe quel runtime WASM sans configuration. c4wa prend en charge les boucles, les instructions conditionnelles, les structures, les tableaux, les pointeurs et d'autres fonctionnalités typiques du langage C, et peut générer du code au format WAT lisible. Il trouve un équilibre entre la commodité de haut niveau du langage C et l'efficacité de bas niveau de WebAssembly, offrant aux développeurs un nouveau moyen d'écrire du code WebAssembly performant.

Lire plus
(github.com)
Développement

zenta : La pleine conscience pour les programmeurs en terminal

2025-06-27
zenta : La pleine conscience pour les programmeurs en terminal

zenta est un outil natif du terminal conçu pour aider les programmeurs à rester concentrés pendant le codage. Il guide les utilisateurs vers le moment présent grâce à de simples exercices de respiration, sans suivi ni métriques. Une seule commande, `breath` ou `breathe`, lance des sessions de respiration courtes ou plus longues, aidées par des animations visuelles pures et des citations apaisantes. La commande `reflect` facilite une revue quotidienne douce. zenta préconise la pleine conscience authentique, et non sa gamification, en mettant l'accent sur la présence plutôt que sur les astuces de productivité. Il est compatible avec plusieurs systèmes d'exploitation et est open source sous licence MIT.

Lire plus
(github.com)
Développement

Générateur de jeux de données alimenté par l'IA : aperçu instantané, exportation et exploration des données

2025-06-27
Générateur de jeux de données alimenté par l'IA : aperçu instantané, exportation et exploration des données

Cet outil utilise l'IA (GPT-4) et Faker pour générer des jeux de données réalistes pour les démonstrations, l'apprentissage et les tableaux de bord. Personnalisez les jeux de données via un générateur d'invites conversationnel, prévisualisez les données en temps réel et exportez-les au format CSV ou SQL. Il s'intègre à Metabase pour faciliter l'exploration des données. Les appels à l'API OpenAI (coûtant environ 0,05 $) ne sont effectués que pour les aperçus de données ; les téléchargements CSV/SQL sont gratuits, générant plus de lignes basées sur le schéma de l'aperçu. Prend en charge One Big Table (OBT) et Star Schema pour des analyses flexibles.

Lire plus
(github.com)
Développement génération de jeux de données

typr : Test de frappe TUI avec algorithme de sélection de mots intelligent

2025-06-27
typr : Test de frappe TUI avec algorithme de sélection de mots intelligent

typr est un outil de test de frappe en ligne de commande inspiré de l'algorithme de sélection de mots de Keybr. Il optimise votre vitesse de frappe en pondérant la précision, la fréquence des lettres et la vitesse de frappe. Doté d'une interface TUI élégante basée sur curses, il enregistre vos données dans un fichier JSON. Personnalisez votre test avec des options pour les limites de temps, les nombres de mots ou même une pratique sans fin.

Lire plus
(github.com)
Développement test de frappe

Synchronisation de fichiers en réseau local pour deux machines Windows : sans nuage !

2025-06-27
Synchronisation de fichiers en réseau local pour deux machines Windows : sans nuage !

Fatigué de synchroniser les fichiers entre deux machines Windows ? Sink offre une solution révolutionnaire ! Oubliez le cloud, les e-mails et les clés USB. Fonctionnant sur votre réseau local, Sink détecte automatiquement les autres machines exécutant Sink et synchronise les fichiers presque instantanément. Il gère les conflits, évitant ainsi la perte de données, et vous permet d’ignorer des fichiers et des dossiers spécifiques à l’aide d’un fichier .sinkignore (similaire à .gitignore). Actuellement en cours de développement, les projets futurs incluent une interface utilisateur, des chemins personnalisés, l’intégration de la zone de notification et la prise en charge de plus de deux appareils.

Lire plus
(github.com)
Développement synchronisation de fichiers réseau local

XSLT : Un générateur de sites statiques sans configuration intégré à votre navigateur

2025-06-27
XSLT : Un générateur de sites statiques sans configuration intégré à votre navigateur

Fatigué des systèmes de build complexes comme Next.js, l'auteur a cherché une manière plus simple de construire des sites web statiques. Après avoir exploré plusieurs options, il a découvert XSLT, un langage permettant de transformer du XML en HTML. En stockant les données du site web sous forme de XML et en utilisant XSLT pour la transformation, il a créé un système de build "côté client" ne nécessitant aucun outil supplémentaire. Le navigateur gère la transformation XSLT directement, générant le HTML final : une solution sans configuration pour la génération de sites web statiques. Bien qu'il ne s'agisse pas d'un remplacement parfait pour tous les scénarios, il offre aux développeurs une alternative puissante.

Lire plus
(github.com)
Développement sans configuration

Iroh : Révolutionner la communication réseau pour des connexions plus rapides et plus simples

2025-06-26
Iroh : Révolutionner la communication réseau pour des connexions plus rapides et plus simples

Iroh est un nouveau framework de communication réseau basé sur le protocole QUIC, permettant la numérotation par clé publique et la découverte et la maintenance automatiques de la connexion la plus rapide. Iroh tente des connexions directes, en recourant à des serveurs relais publics si nécessaire, avec une surveillance continue pour une vitesse optimale. Il offre des protocoles pré-construits tels que iroh-blobs pour le transfert de fichiers volumineux et iroh-gossip pour construire des réseaux de publication-abonnement évolutifs, simplifiant ainsi le développement. Principalement écrit en Rust, Iroh fournit également des liaisons FFI pour d'autres langages.

Lire plus
(github.com)
Développement communication réseau

Howdy : Authentification faciale type Windows Hello pour Linux

2025-06-26
Howdy : Authentification faciale type Windows Hello pour Linux

Howdy apporte à Linux une authentification par reconnaissance faciale similaire à Windows Hello. Utilisant vos émetteurs infrarouges intégrés et votre caméra, il fournit une authentification pratique. S'intégrant à PAM, il fonctionne partout où vous utiliseriez normalement un mot de passe : connexion, écran de verrouillage, sudo, su, etc. Howdy prend en charge Debian/Ubuntu, Arch Linux, Fedora et openSUSE, avec des instructions d'installation détaillées couvrant les paquets .deb, AUR, Fedora COPR et la compilation à partir de la source. Important : La sécurité de Howdy n'est pas absolue et ne doit pas être utilisée comme votre seul moyen d'authentification.

Lire plus
(github.com)
Développement

QEMU rejette les contributions de code générées par IA

2025-06-26
QEMU rejette les contributions de code générées par IA

Le projet QEMU a annoncé l'interdiction de soumettre des correctifs de code générés par l'IA. En raison des incertitudes concernant les droits d'auteur et les licences des données d'entraînement des modèles d'IA, et des risques juridiques potentiels, QEMU estime difficile de garantir la conformité du code généré par l'IA. Cette politique couvre divers outils d'IA tels que ChatGPT et Copilot, mais n'interdit pas l'utilisation de l'IA à d'autres fins, comme la recherche, l'analyse statique ou le débogage.

Lire plus
(github.com)
Développement

Gemini CLI : Votre assistant de flux de travail de code IA

2025-06-25
Gemini CLI : Votre assistant de flux de travail de code IA

Google Gemini CLI est un outil d'IA en ligne de commande qui se connecte à vos outils, comprend votre code et accélère vos flux de travail. Il vous permet de consulter et de modifier de grandes bases de code, de générer de nouvelles applications à partir de PDF ou de croquis, d'automatiser les tâches opérationnelles et d'intégrer des outils et des serveurs MCP pour des fonctionnalités telles que la génération de médias (Imagen, Veo, Lyria). Il dispose également d'une intégration avec la recherche Google et offre plusieurs méthodes d'authentification. Il suffit d'utiliser des invites de ligne de commande pour exploiter les capacités de Gemini pour coder, résumer les modifications, générer de la documentation et bien plus encore, augmentant ainsi considérablement la productivité.

Lire plus
(github.com)
Développement

PicoEMP : Outil d'injection de fautes électromagnétiques open-source et peu coûteux

2025-06-25
PicoEMP : Outil d'injection de fautes électromagnétiques open-source et peu coûteux

PicoEMP est un outil d'Injection de Fautes Électromagnétiques (EMFI) open-source et peu coûteux, conçu pour l'auto-apprentissage et la recherche amateur. Il utilise un Raspberry Pi Pico comme contrôleur et dispose d'un blindage de sécurité pour réduire les risques de haute tension. Comparé à l'outil EMFI commercial haute performance ChipSHOUTER, PicoEMP privilégie le coût et la facilité d'utilisation, sacrifiant un peu de performances, mais restant adapté à l'apprentissage et à la recherche personnelle. Les utilisateurs sont responsables de l'assemblage et de la sécurité. Le projet est open-source et accepte les contributions.

Lire plus
(github.com)
Matériel Injection de Fautes Électromagnétiques

Gnosis Mystic : Donner à l'IA le contrôle de vos fonctions Python en temps réel

2025-06-25
Gnosis Mystic : Donner à l'IA le contrôle de vos fonctions Python en temps réel

Gnosis Mystic est un outil puissant qui donne aux assistants IA un accès direct et un contrôle total sur vos fonctions Python grâce au détournement d'exécution et à une analyse intelligente. Avec des décorateurs minimaux, Claude peut inspecter, optimiser et contrôler votre code en temps réel. Il résout le problème des assistants IA aveugles à votre code en exécution, manquant d'accès au comportement et à l'état d'exécution, et permet une surveillance des fonctions en temps réel, une expérimentation sécurisée, un contrôle d'exécution, une analyse intelligente et un débogage en direct, augmentant considérablement l'efficacité du développement et la sécurité du code.

Lire plus
(github.com)
Développement

Éditeur Simple : Un hommage moderne à l’Éditeur MS-DOS

2025-06-25
Éditeur Simple : Un hommage moderne à l’Éditeur MS-DOS

Cet éditeur, nommé « edit », est une version moderne de l’éditeur MS-DOS classique, avec une interface contemporaine et des contrôles de saisie similaires à VS Code. Conçu pour être accessible, il est facile à utiliser même pour les utilisateurs qui ne connaissent pas les terminaux. Installez la dernière version via WinGet ou téléchargez les fichiers binaires depuis la page Releases. Notez que la version et les conventions d’appellation de la bibliothèque ICU doivent être prises en compte pour la fonctionnalité de recherche et de remplacement.

Lire plus
(github.com)
Développement

Autumn : simplification de l'intégration de Stripe avec un système de facturation open source

2025-06-24
Autumn : simplification de l'intégration de Stripe avec un système de facturation open source

Autumn est un projet open source qui simplifie l'intégration de Stripe pour les développeurs. Il permet de créer n'importe quel modèle de tarification : abonnements, systèmes de crédit, modèles d'utilisation et plans personnalisés, avec un minimum de code. Plus besoin de se battre avec les webhooks, les mises à niveau/rétrogradations, les annulations ou les échecs de paiement. Déployez via un service cloud ou en auto-hébergement avec quelques commandes. Trois fonctions principales : `attach` (gère les achats), `check` (vérifie l'accès) et `track` (enregistre l'utilisation) simplifient grandement la logique de facturation.

Lire plus
(github.com)
Développement

Terrarium intelligent Oasis open source : un paradis imprimé en 3D pour les plantes

2025-06-24
Terrarium intelligent Oasis open source : un paradis imprimé en 3D pour les plantes

Oasis est un terrarium intelligent entièrement open source, principalement imprimé en 3D, conçu pour les plantes aimant l'humidité comme les mousses, les fougères et les orchidées. Il est équipé d'un éclairage LED haute puissance, d'un brumisateur pour contrôler l'humidité, de ventilateurs pour la circulation de l'air et d'un capteur de température/humidité. La connectivité Wi-Fi permet un contrôle via un téléphone ou un ordinateur. Le projet inclut les modèles CAO, les schémas électroniques (KiCad) et le logiciel (Rust). Bien que l'assemblage électronique puisse être difficile pour les débutants, le projet est largement accessible aux bricoleurs disposant d'une imprimante 3D. Il est possible de commander des composants électroniques pré-assemblés, bien que cela puisse être coûteux. Le créateur prévoit éventuellement de proposer des kits de composants électroniques assemblés.

Lire plus
(github.com)
Matériel terrarium intelligent

haiku.rag : Une bibliothèque de génération augmentée par la récupération sur SQLite

2025-06-24
haiku.rag : Une bibliothèque de génération augmentée par la récupération sur SQLite

haiku.rag est une bibliothèque de génération augmentée par la récupération (RAG) construite sur SQLite, éliminant le besoin de serveurs supplémentaires. Elle prend en charge divers fournisseurs d'embeddings (Ollama, VoyageAI, OpenAI et personnalisés), offrant une recherche hybride combinant la recherche vectorielle et la recherche en texte intégral. Les fonctionnalités incluent la surveillance des fichiers, la prise en charge de nombreux formats de fichiers, une interface en ligne de commande et un client Python pour une gestion et une récupération transparentes des documents.

Lire plus
(github.com)
Développement

LibT9 : Une bibliothèque C légère pour la saisie T9

2025-06-23
LibT9 : Une bibliothèque C légère pour la saisie T9

LibT9 est une bibliothèque C légère pour créer des systèmes de saisie T9. Elle ne nécessite aucune dépendance externe en plus d’une implémentation standard de la bibliothèque C. Utilisez-la comme un pilote Linux (situé dans le répertoire driver/), un utilitaire CLI (nécessitant ncurses et cmake) ou via une interface web (foxmoss.github.io/libt9/). Le projet recherche activement des contributions et les projets futurs incluent la prise en charge de la ponctuation, un pilote IBus et la prise en charge des mots non répertoriés.

Lire plus
(github.com)
Développement bibliothèque C saisie T9 pilote Linux

Pickaxe : Une bibliothèque TypeScript pour construire des agents IA évolutifs

2025-06-23
Pickaxe : Une bibliothèque TypeScript pour construire des agents IA évolutifs

Pickaxe est une bibliothèque TypeScript légère pour construire des agents IA tolérants aux pannes et évolutifs. Elle gère les complexités de l'exécution durable, de la mise en file d'attente et de la planification, vous permettant de vous concentrer sur la logique métier principale. Ce n'est pas un framework ; tout est une fonction, ce qui facilite l'intégration avec les bases de code existantes. Les agents peuvent appeler des outils, d'autres agents ou toutes les fonctions que vous définissez. Construit sur la file d'attente de tâches durables de Hatchet, Pickaxe garantit la tolérance aux pannes et la récupérabilité, en reprenant automatiquement l'exécution même après des pannes de machine. Il prend en charge le déploiement distribué sur diverses plateformes basées sur des conteneurs et offre des options de configuration pour les nouvelles tentatives, la limitation de débit, le contrôle de la concurrence, et bien plus encore.

Lire plus
(github.com)
Développement Évolutivité

uv : Gestionnaire de paquets et de projets Python 10 à 100 fois plus rapide

2025-06-23
uv : Gestionnaire de paquets et de projets Python 10 à 100 fois plus rapide

uv est un gestionnaire de paquets et de projets Python extrêmement rapide, écrit en Rust. Il remplace pip, pip-tools, pipx, poetry, pyenv, twine et virtualenv, offrant une amélioration de vitesse de 10 à 100 fois par rapport à pip. uv fournit des fonctionnalités complètes de gestion de projet, notamment des lockfiles, des workspaces, la gestion des versions Python et une prise en charge multiplateforme (macOS, Linux, Windows). Il simplifie la gestion des dépendances pour les scripts mono-fichiers et les projets à grande échelle, augmentant ainsi considérablement la productivité du développeur.

Lire plus
(github.com)
Développement Gestionnaire de Paquets Gestion de Projets

Nano-vLLM : Une implémentation légère de vLLM incroyablement rapide

2025-06-23
Nano-vLLM : Une implémentation légère de vLLM incroyablement rapide

Nano-vLLM est une implémentation légère de vLLM, créée à partir de zéro en environ 1200 lignes de code Python. Malgré sa petite taille, elle atteint des vitesses d'inférence comparables à celles du vLLM original. Elle intègre plusieurs optimisations telles que la mise en cache des préfixes, le parallélisme des tenseurs, la compilation Torch et les graphes CUDA. Installez-la via `pip install git+https://github.com/GeeeekExplorer/nano-vllm.git` et consultez example.py pour son utilisation. Les benchmarks sur un ordinateur portable RTX 4070 (8 GB) avec le modèle Qwen3-0.6B montrent un débit légèrement supérieur à celui de vLLM.

Lire plus
(github.com)
Développement vitesse d'inférence
1 2 … 8 9 10 12 14 15 16 … 50 51