Déploiement de modèles d'IA open source sur des serveurs privés

Nous recherchons un freelance expérimenté pour déployer des modèles d'IA open source sur nos serveurs. Le candidat idéal sera capable de créer des solutions scalables permettant de dupliquer les serveurs en fonction du trafic. Vous travaillerez principalement avec les modèles Mistral pour le function calling sur mesure et serez responsable de l'installation et de la gestion de divers autres modèles d'IA à l'avenir.

Responsabilités :

Déployer les modèles d'IA open source sur nos serveurs, en commençant par les modèles Mistral.
Assurer la scalabilité du déploiement pour gérer l'augmentation du trafic.
Gérer la communication entre les modèles d'IA et notre backend en Java.
Développer des solutions pour le déploiement rapide et facile de nouveaux modèles d'IA.
Travailler en étroite collaboration avec notre équipe backend pour garantir une intégration fluide.
Exigences :

Expérience dans le déploiement de modèles d'IA open source.
Compétences solides en infrastructure serveur et en gestion de la scalabilité.
Connaissance des modèles Mistral et capacité à les configurer pour le function calling sur mesure.
Expertise en communication entre les modèles d'IA et les backends en Java.
Connaissance des technologies de conteneurisation (Docker, Kubernetes) est un plus.