INGÉNIEUR LLM FINE-TUNING – CRÉATION D'UNE IA SUR-MESURE (LoRA / QLoRA

Je ne cherche pas un "utilisateur d'IA". Je cherche un ingénieur qui construit l'IA.

L'objectif est clair : partir d'un modèle open source (Licence MIT – Llama, Mistral ou Qwen) et l'adapter de zéro avec du fine-tuning supervisé (SFT) via LoRA / QLoRA, pour en faire mon propre modèle d'intelligence artificielle, avec sa personnalité, son style, ses connaissances.

Pas de wrapper autour d'une API. Pas de prompt engineering à la va-vite. Du vrai fine-tuning. De la vraie maîtrise.
Ce que je cherche

Un ingénieur qui vit et respire l'IA générative. Pas un touriste. Pas un mec qui a suivi une formation Udemy et qui pense savoir. Un vrai passionné, qui passe ses nuits à lire les papiers de recherche, qui tweake des hyperparamètres pour le plaisir, qui comprend ce qui se passe sous le capot.

Tu dois être capable de :

Choisir le bon modèle de base en fonction des besoins (taille, performance, licence).

Préparer un jeu de données structuré (format JSONL / conversations) et comprendre l'importance cruciale de la qualité des données.

Mettre en place la stack technique complète : Python, Hugging Face, PEFT, TRL, bitsandbytes, Unsloth.

Lancer un fine-tuning avec LoRA / QLoRA sur du matériel limité (GPU 8-16 Go VRAM) ou dans le cloud.

Évaluer les résultats, itérer, ajuster, recommencer jusqu'à ce que le modèle tienne ses promesses.

Fusionner l'adaptateur LoRA avec le modèle de base pour obtenir le modèle final prêt à être déployé.

Compétences techniques impératives

Si tu ne maîtrises pas chacun des points ci-dessous, cette annonce n'est pas pour toi :

Python avancé (évident, mais je préfère le dire).

PyTorch – pas juste "j'en ai déjà entendu parler".

Hugging Face (transformers, datasets, accelerate) – tu dois connaître la bibliothèque comme ta poche.

PEFT (Parameter-Efficient Fine-Tuning) – tu sais ce qu'est LoRA, tu sais le configurer, tu sais pourquoi on choisit tel rank plutôt que tel autre.

QLoRA – tu maîtrises la quantification 4-bit et tu sais pourquoi c'est un game-changer.

TRL (Transformer Reinforcement Learning) – pour le Supervised Fine-Tuning.

bitsandbytes – tu ne fais pas une install sans lui.

Unsloth – un gros plus, tu sais que ça accélère le fine-tuning de manière spectaculaire.

Gestion des datasets – tu sais nettoyer, tokenizer, formater des données d'entraînement.

Déploiement – tu sais quoi faire du modèle une fois qu'il est entraîné.

Ce que je ne veux PAS

Les mecs qui utilisent uniquement des APIs (OpenAI, Anthropic, etc.) et qui n'ont jamais touché à un modèle open source.

Les "prompt engineers" qui pensent que tout se résume à bien formuler une question.

Les touristes qui ont installé Stable Diffusion une fois et se disent "experts IA".

Les gens qui répondent avec des copier-coller de ChatGPT sans comprendre ce qu'ils écrivent.

Si tu es un utilisateur d'outils IA, pas un constructeur, passe ton chemin.
Ce que j'offre

Un projet passionnant, où tu auras une vraie liberté technique.

Une rémunération à la hauteur de ton expertise (on en discute, mais je sais ce que vaut un vrai ingénieur LLM).

La possibilité de construire quelque chose d'unique, pas un énième projet "IA générique".

Comment postuler

Pas de lettre de motivation bateau. Envoie-moi :

Un lien vers un projet concret où tu as fait du fine-tuning (GitHub, blog, article, peu importe – je veux voir ta trace).

Une phrase – une seule – qui explique pourquoi tu es passionné par ce que tu fais.

Si ta réponse sent le ChatGPT, si tu n'as pas de projet à montrer, si tu ne sais pas ce qu'est LoRA sans aller sur Google... cette annonce n'est pas pour toi.

Je cherche un ingénieur. Pas un utilisateur.

À toi de jouer.