GPUs et Crossplane v2

Après avoir validé le POC du dernier projet IA, à grands coups de requêtes vers OpenAI, la DSI met le holà, impossible d’envoyer des informations de l'entreprise à un service tiers, on va gérer nos LLMs sur nos propres clusters Kubernetes !

Cela demande par contre d’avoir des GPUs (sic) pour que ce soit performant, accessibles aux applications conteneurisées, mais alors comment ça marche ?! Et puis les GPUs c'est cher, c'est rare, comment les utiliser au mieux sans exploser les budgets ?

Je vous propose alors de voir ensemble comment, grâce à l’opérateur “NVIDIA GPU Operator“ on peut accéder à ces fameux GPUs : installation, configuration, interaction avec l’hôte et gestion des modules noyau, mais surtout les contraintes et divers modes de partage de ressources (time-slicing, mig), et d’autres add-ons sympa comme le “node-feature-discovery” pour utiliser au mieux les ressources, le tout en mode pas-à-pas.

Après cette session, mes équipes de devs pourront enfin avoir du GPU dans leurs conteneurs !

Plongeons ensemble dans l'univers de Crossplane en version2 même s'il est encore en preview, il promet déjà de révolutionner l'IaC.

Dans ce talk, nous allons explorer les nouvelles fonctionnalités en particulier sur les Ccompositions et les Composite Resource Definitions (XRD). Avez vous déjà vu une CRD qui vous permet de déployer un cluster Kubernetes avec plusieurs nodepool ainsi que les différents bucket associés le tout dans un simple fichier YAML ? Maintenant oui !

Plan :

• Crossplane c'est quoi ? (s'assurer que tout le monde est sur la même longueur d'onde)
• Explication des compositions et les XRD (qu'est-ce que c'est, pourquoi c'est important)
• Exemple d'utilisation (dans un cas concret)
• Démo time !

Objectif :

• comprendre ce qu'apporte la v2 de crossplane
• comment utiliser les compositions et les XRD
• voir des exemples concrets pour appliquer ces concept