🔗 Liens

📝 Notes

Méthodologie
- Transformation Llama 2 7b
- Déploiement Triton sur paperspace
- Sprint 8, 9 :
  - Estimation latence en fonction du nombre de tokens (plutôt que mesure directe pour éviter les problèmes de réseau)
  - Benchmark pour pouvoir transposer nos estimations d’un modèle à un autre similaire
- Sprint 10 :
  - ajout estimation eau
  - ajout phase d’entrainement
  - autres types (images, …)
Sensibilisation
- Issue en cours pour les streaming
- Ajout de hugging face (inference endpoints)
- autres issues à débuter
Communication
- Sprint passé
  - Nom du package : EcoLogits
  - article d’interview making of
- Prochain sprint :
  - Arrivée du Demo Day (25 avril)
    - en présentiel à Paris
    - passage rapide (5min)
    - Vidéo rapide de l’outil