Elyne Corp
EN Demander un devis
← Accueil
// Famille de produits

Infrastructure IA

Nos propres moteurs d’inférence, pour exécuter l’IA en local. Le moteur EIE, publié en open source, et le protocole de mesure qui l’accompagne.

EIE · Elyne Inference EngineOpen Source · Apache 2.0

Un moteur local pour vos modèles GGUF, du poste de travail au mobile.

EIE sert le chat et les embeddings via HTTP. Un seul modèle suffit ; plusieurs modèles peuvent être configurés en parallèle, en séquence ou en diffusion multiple. La mémoire applicative, les documents et les outils restent gérés par les applications clientes.

  • API au format OpenAI partiellement compatible, avec streaming SSE.
  • Bundles Windows x64 CPU, macOS et Android arm64 disponibles.
  • Essais locaux Windows/CUDA, Windows CPU, macOS Intel et Android CPU ; usage Metal rapporté par le mainteneur.
  • EWS : streaming expérimental des poids d’experts de certains modèles MoE.
› Détails techniques
Serveur C++17 reposant sur des runtimes llama.cpp identifiés. Les groupes sont implémentés, sans qualification complète en charge ; l’adaptation automatique du cache KV n’est pas opérationnelle. Le pilote Gemma 26B EWS a mesuré 14,424 → 4,789 Go décimaux de buffers de poids CUDA à 32 slots par couche : ce n’est pas la VRAM totale. Un runtime GLM-5.3-Flash 320B distinct a réalisé un aller-retour avec Next sur RTX 4090 Laptop 16 Gio et 32 Gio de RAM : 148 tokens en 278,515 s, avec calcul d’experts CPU/GPU. Ces résultats établissent une faisabilité dans leurs profils, sans avantage général de vitesse. Android : bundles CPU texte testés sur Z Flip6 / Android 16, sans APK ni qualification EWS, vision ou NPU. Les poids de modèles conservent leurs licences propres.
Code & documentation ↗ Preuves et limites ↗ Téléchargements ↗
Elyne BenchmarkProtocole public · Apache 2.0 / CC-BY-4.0

Mesurer ce qu’un substrat d’IA locale persistante ajoute à un même modèle.

Benchmark public à trois bras : système complet, informations seules et modèle seul, avec le même modèle, les mêmes paramètres d’échantillonnage et la même graine. Le dépôt publie l’instrument, la notation figée, des preuves sélectionnées et un protocole d’adaptateur ; il ne publie pas le runtime privé de Next.

  • Trois batteries figées : justesse (17 cas), orchestration (14) et chaîne d’outils (15).
  • Résultats de référence système / informations / modèle seul : 15/15 · 14/15 · 6/15, 14/14 · 12/14 · 0/14 et 15/15 · 0/15 · 0/15.
  • Rapport publié vérifiable par script et tests unitaires, avec empreintes SHA-256.
› Détails techniques
Observations de référence d’une seule campagne déterministe, pas des estimations de performance générales ; deux items de justesse évalués par juge restent en attente. L’adaptateur doit attester une identité de modèle et d’échantillonnage identiques pour chaque bras ; le harnais s’arrête sinon. L’adaptateur factice n’exerce que le protocole et ses scores ne sont pas des résultats. Logiciel sous Apache 2.0 ; batteries, rapports et documentation sous CC-BY-4.0.
Protocole et résultats ↗ Méthodologie ↗ Limites ↗

Parlons de votre projet.

Nous écrire