AI engineer Vertex AI et Gemini : grounding, évaluation et facture

Votre plateforme de données tourne sur Google Cloud, et vos projets d'IA générative s'appuient sur ses services : Gemini appelé depuis Vertex AI, Vertex AI Search pour interroger les documents, l'Agent Development Kit pour les agents, BigQuery pour traiter des millions de lignes avec un modèle. Le poste d'AI engineer Vertex AI se rencontre chez les clients finaux engagés avec Google, souvent en distribution, dans les médias ou le luxe, et dans les ESN partenaires de Google Cloud qui les accompagnent.

Google a regroupé les services de Vertex AI sous le nom Gemini Enterprise Agent Platform, et certains produits ont changé de nom : Agent Engine est devenu Agent Runtime, Vertex AI Search apparaît comme Agent Search. Les CV et les offres parlent encore de Vertex AI, ce qui ne pose aucun problème. En entretien, cherchez la pratique : un projet qui a survécu au retrait d'un modèle, des erreurs 429 un jour d'affluence, une question du DPO sur les journaux.

Les questions sur le changement de modèle et sur les erreurs 429 font un bon début d'entretien, parce qu'on y répond mal sans les avoir vécus. Le PDF va jusqu'à 30 questions sur six axes, avec un cas de 20 minutes sur un assistant d'achat pour une enseigne et une grille de 1 à 4.

Les services Google Cloud d'un AI engineer Vertex AI

Gemini sur Vertex AI

Les modèles de Google (familles Pro, Flash et Flash-Lite) appelés par API dans un projet Google Cloud, avec la facturation, les droits IAM et la localisation des données du projet. Le SDK Google Gen AI a remplacé les modules génératifs de l'ancien SDK Vertex AI. Les modèles changent vite : Gemini 2.5, retiré de Vertex AI le 20 octobre 2026, a laissé la place à la génération 3, ce qui impose de savoir migrer.

Grounding

L'ancrage de la réponse dans des sources : Google Search pour l'information publique, Vertex AI Search, RAG Engine, Elasticsearch ou votre propre API de recherche pour les données internes. La réponse revient avec des métadonnées qui relient chaque passage à sa source. Demandez comment la personne vérifie qu'une réponse est bien appuyée.

Vertex AI Search (Agent Search)

Un moteur de recherche géré qui indexe des sites, des documents dans Cloud Storage ou des tables BigQuery et renvoie des résultats prêts pour un assistant. Il évite de construire soi-même le découpage et l'index. La nouvelle documentation l'appelle Agent Search, les CV disent souvent Vertex AI Search ou Agent Builder.

RAG Engine et Vector Search

RAG Engine gère un corpus de documents découpés et vectorisés, avec plusieurs bases possibles derrière. Vector Search est la base vectorielle à grande échelle de Google Cloud. BigQuery sait aussi calculer des embeddings et chercher par similarité. Ces options demandent plus de réglages que Vertex AI Search, en échange d'un contrôle plus fin.

BigQuery et l'IA

BigQuery appelle Gemini directement en SQL, par des modèles distants et des fonctions dédiées, pour classer, résumer ou extraire à partir de millions de lignes sans les sortir de l'entrepôt. Pour un AI engineer sur GCP, c'est souvent là que se trouve le premier cas d'usage rentable. Le coût en tokens se calcule avant de lancer.

Agent Development Kit et Agent Runtime

L'ADK est le framework open source de Google pour écrire des agents en Python, Java, Go ou TypeScript, avec outils, sous-agents et évaluation. Agent Runtime, nouveau nom d'Agent Engine, les héberge avec sessions, mémoire longue et traces. Le protocole A2A sert à faire dialoguer des agents entre eux.

Quotas, cache et capacité

En paiement à l'usage, Gemini puise dans une capacité partagée qui peut saturer. Provisioned Throughput réserve de la capacité, le traitement par lots coûte moins cher pour le différé, le cache de contexte évite de repayer un long préfixe identique. Le choix du point de terminaison (global, régional, eu) joue sur la disponibilité et sur la résidence des données.

Sécurité et gouvernance

IAM et comptes de service, VPC Service Controls pour empêcher la sortie des données, chiffrement CMEK géré par le client, Cloud Audit Logs pour la trace. Model Armor filtre les injections de prompt et les données sensibles dans les entrées et les sorties. Le service d'évaluation compare des modèles ou des prompts sur un même jeu de cas.

Le poste change selon l'employeur. Chez un client final déjà sur BigQuery, l'AI engineer Vertex AI part souvent des données : classification d'avis, enrichissement de fiches produits, recherche dans le catalogue, avant de passer aux assistants et aux agents. En ESN partenaire de Google Cloud, il enchaîne les projets et doit composer avec les règles de sécurité de chaque client. Les offres publiées en France associent Vertex AI à Gemini, l'ADK, Vertex AI Search, BigQuery, LangGraph et Cloud Run, et certains grands comptes passent par S3NS, l'offre de cloud de confiance de Thales bâtie sur la technologie Google Cloud, dont il faut vérifier le catalogue de services. La certification Google Cloud Professional Machine Learning Engineer, valable deux ans, couvre une partie du périmètre. La pratique de production se vérifie en entretien.

Sur quoi juger un AI engineer Vertex AI

• API Gemini et sorties structurées
• Grounding et recherche documentaire
• Agents ADK et Agent Runtime
• IA générative dans BigQuery
• Sécurité, résidence et gouvernance des données
• Quotas, coûts et évaluation

Gemini en production : cinq questions pour un AI engineer Google Cloud

Chaque question vient avec ce qu'une bonne réponse contient et le signal qui doit vous alerter. Pas besoin d'être technique pour les poser : écoutez si le candidat raconte du vécu.

1. Question 1 · confirmé

   Un assistant doit répondre à la fois sur votre catalogue produits et sur l'actualité publique de votre marché. Quelles sources de grounding branchez-vous, et comment vérifiez-vous que la réponse s'y appuie ?

   Une bonne réponseDeux sources distinctes : Vertex AI Search (Agent Search dans la nouvelle documentation) ou RAG Engine sur le catalogue interne, le grounding avec Google Search pour l'actualité. La réponse de Gemini renvoie des métadonnées d'ancrage qui relient chaque phrase à ses sources, ce qui permet d'afficher les citations et de repérer une phrase sans appui. Un profil expérimenté connaît les contraintes du grounding Google Search : affichage des suggestions de recherche prévu par les conditions d'utilisation, facturation par requête ancrée. Il mesure la fidélité aux sources sur un jeu de questions.

   Signal d'alerte« Gemini connaît déjà nos produits. » Ou le catalogue entier collé dans chaque prompt, sans regarder ce que cela coûte.

2. Question 2 · confirmé

   Google annonce le retrait du modèle Gemini qui fait tourner votre application, comme pour Gemini 2.5 le 20 octobre 2026. Comment passez-vous au modèle suivant sans rien casser ?

   Une bonne réponseUn identifiant de modèle versionné en configuration, jamais un alias qui change tout seul. Un jeu d'évaluation rejoué sur l'ancien et le nouveau modèle : exactitude, validité du JSON produit, refus, latence, tokens consommés, y compris ceux du raisonnement (thinking) que les modèles récents facturent. Ajustement des prompts, puis une part du trafic envoyée au nouveau modèle avant la bascule complète. Il suit le calendrier de retrait des modèles pour ne pas découvrir l'échéance la veille.

   Signal d'alerteChanger le nom du modèle dans le code et livrer, « puisque c'est la même famille ».

3. Question 3 · confirmé

   Le lundi matin, votre application Gemini renvoie des erreurs 429 RESOURCE_EXHAUSTED. Que regardez-vous, et que changez-vous ?

   Une bonne réponseEn paiement à l'usage, les appels puisent dans une capacité partagée (dynamic shared quota), qui peut saturer aux heures de pointe. Tout de suite : des relances avec attente exponentielle. Ensuite : le point de terminaison global, qui offre plus de disponibilité quand la résidence des données le permet, du Provisioned Throughput pour réserver de la capacité sur une charge régulière, le traitement par lots pour ce qui peut attendre, le cache de contexte et un modèle Flash-Lite pour les tâches simples, qui réduisent les tokens consommés.

   Signal d'alerteUne boucle de relance sans délai, ou « on demande plus de quota » comme seule réponse.

4. Question 4 · confirmé

   Le marketing veut classer deux millions d'avis clients stockés dans BigQuery par thème et par sentiment. Comment vous y prenez-vous ?

   Une bonne réponseSans sortir les données : un modèle distant Gemini appelé en SQL depuis BigQuery (ML.GENERATE_TEXT ou les fonctions AI de BigQuery), ou un traitement par lots Vertex AI qui lit et écrit dans BigQuery. Une liste fermée de thèmes imposée par une sortie structurée. Avant de tout lancer, un échantillon de quelques centaines d'avis étiquetés à la main pour mesurer la justesse, une estimation du nombre de tokens et du coût, puis le traitement complet avec la version du modèle notée dans la table.

   Signal d'alerteUn script Python qui appelle l'API avis par avis en ligne, sans échantillon de contrôle ni estimation de coût.

5. Question 5 · senior

   Vous livrez un agent écrit avec l'Agent Development Kit (ADK) qui consulte les stocks et modifie des commandes. Comment le mettez-vous en production sur Google Cloud ?

   Une bonne réponseUn déploiement sur Agent Runtime (l'ancien Agent Engine), qui gère les sessions, la mémoire (Memory Bank) et la montée en charge, ou sur Cloud Run pour garder la main sur le conteneur. Un compte de service par agent avec des droits limités à ses outils : lecture sur les stocks, écriture restreinte sur les commandes. Les paramètres d'outils revalidés côté serveur, une confirmation humaine avant toute modification de commande, Model Armor pour filtrer les injections dans les entrées et les sorties, des traces de chaque étape dans Cloud Trace et une évaluation des trajectoires avant chaque livraison.

   Signal d'alerteUn agent qui tourne avec le compte de service par défaut et le rôle Éditeur, sans confirmation avant d'écrire.

Embaucher un spécialiste Vertex AI : réponses pratiques

Pour structurer vos autres entretiens, consultez aussi nos pages sur les questions d'entretien de recrutement, la méthode de l'entretien structuré et la grille d'évaluation d'entretien.