3 heures, 45 minutes ago

Ingénieur IA Medior — LLMOps & Run pour AI Agents et RAG (Azure / Kubernetes)

Contexte

STIB-MIVB (opérateur de transport public bruxellois) développe plusieurs services d’IA destinés aux employés et aux clients, au service de nos clients et collaborateurs à travers l’organisation. Ceux-ci vont d’assistants basés sur la recherche à des agents d’IA capables d’appeler des outils et des systèmes métier pour le compte des utilisateurs. Les services d’IA sont construits et exécutés sur notre STIB AI Platform. Les premiers services seront mis en production à partir de décembre 2026, d’autres suivront en 2027.

Votre rôle

Nous recrutons un Medior AI Engineer pour rejoindre l’AI Center of Excellence (Digital Innovation & AI – delivery team) et assurer la phase Run de nos services d’IA en production. Vous prenez en charge chaque service construit par les Senior AI Engineers, et vous garantissez sa fiabilité, sa mesure, sa sécurité et sa rentabilité dans le temps. Vous travaillerez aux côtés de l’AI Platform Architect interne de la STIB, de deux Senior AI Engineers (Build), des responsables métier et contenu de chaque service, et des équipes IT operations de la STIB.

La AI Platform fonctionne selon un modèle d’exploitation hybride : services Azure managés (Microsoft Foundry avec la famille de modèles OpenAI pour LLM et embeddings, Azure AI Search, Azure API Management, Azure AI Content Safety) combinés à des composants open source auto-hébergés sur AKS (orchestration des agents en Python avec LangChain, pipeline d’ingestion), avec MLflow sur Databricks pour l’évaluation et le traçage (OpenTelemetry). L’équipe Digital Innovation / AI CoE gère l’Infrastructure-as-Code pour toutes les ressources Azure liées aux applications, en utilisant Terraform et Azure DevOps pipelines.

Ce que vous livrerez

Les activités varieront d’un service à l’autre. Typiquement, vous devrez :

  • exploiter les services d’IA en production : surveiller la disponibilité, la latence et les erreurs, gérer les incidents et les demandes de service, analyser les causes racines, puis corriger ou escalader
  • contrôler la qualité des réponses : gérer et maintenir les jeux d’évaluation (golden sets) avec les responsables métier du contenu, suivre la qualité des réponses, le taux de non-réponse et les retours utilisateurs, détecter et investiguer les régressions de qualité
  • exploiter les pipelines d’ingestion : rafraîchissement incrémental, documents échoués, santé des index, et intégration de nouvelles sources de contenu ou domaines métiers via les connecteurs existants
  • exploiter les intégrations d’agents : surveiller les appels d’outils et d’intégration vers les systèmes métier, gérer les échecs et les timeouts, et analyser les logs d’action et exceptions pour les agents agissant au nom des utilisateurs
  • gérer les changements en toute sécurité : mises à jour et retraits de versions de modèles, modifications de prompts et de configurations, mises à jour de dépendances et de sécurité, chaque changement étant validé via les jeux d’évaluation avant mise en production
  • suivre le coût d’exploitation : consommation de tokens et coût par service, alerter en cas de dérive et proposer des optimisations
  • maintenir les artefacts Terraform, Helm et Azure DevOps, et garantir la cohérence des environnements DEV, TST, ACC et PROD
  • appliquer les règles de protection des données : rétention des traces, effacement et restrictions d’accès, telles que définies dans l’évaluation d’impact sur la protection des données de chaque service
  • maintenir les runbooks et la documentation, et rendre compte de la santé du service aux responsables de service et à l’AI CoE de manière régulière
  • livrer de petites améliorations et correctifs ; les modifications structurelles et les nouvelles fonctionnalités restent à la charge de l’équipe Build.

Apply for this Job

This position was originally posted on Pro Unity.

It is publicly accessible, and we recommend applying directly through the Pro Unity website instead of going through third party recruiters.

Newsletter signup illustration