Data engineer GCP : BigQuery, Dataflow et Pub/Sub

Un data engineer GCP fait tourner des pipelines sur BigQuery, Dataflow, Pub/Sub et Cloud Composer. Les services du poste sont présentés sans jargon, et cinq questions permettent de repérer qui maîtrise le coût d'une requête BigQuery et la reprise d'un pipeline, et qui transpose les habitudes d'un autre cloud.

Recevoir la fiche complète

Mis à jour le Par l'équipe Delectus5 min de lecture

La fiche Data engineer GCP : technologies, chaîne du poste, une question et la grille d'évaluation

Préparer des questions d'entretien pour un data engineer GCP suppose de connaître le quotidien du poste. Il charge les données dans BigQuery, monte des pipelines avec Dataflow et Pub/Sub, réplique des bases avec Datastream et orchestre le tout dans Cloud Composer, souvent avec dbt ou Dataform pour les transformations. En ESN, la mission consiste souvent à reprendre un existant chez le client. Chez un client final, on attend qu'il tienne ses pipelines et leur coût dans la durée. Les grands comptes en cherchent aussi pour sortir de Teradata, d'Oracle ou de Hadoop.

Le piège vient des CV construits sur un autre cloud. Un profil formé sur AWS ou sur un entrepôt classique cite les services GCP sans savoir ce qui fait monter une facture BigQuery. La certification Professional Data Engineer atteste la connaissance de l'écosystème. L'expérience de production s'entend quand la personne parle de partitionnement, de messages en double dans Pub/Sub, de reprise d'un job Dataflow ou de rôles IAM restreints.

Un existant GCP et une migration depuis Teradata ou Hadoop n'appellent pas le même candidat : faites trancher ce point par le manager avant l'entretien. En cas de migration, Datastream et la reprise des données pèsent bien plus lourd. Un cas de 20 minutes sur le chiffre d'affaires horaire d'un site e-commerce accompagne les questions.

Les services GCP qu'un data engineer manipule

BigQuery

L'entrepôt de données de Google, au centre du poste. On y stocke et on y interroge en SQL plusieurs téraoctets sans gérer de serveur. La facture suit le volume lu par chaque requête, ou une capacité réservée en slots selon l'édition choisie. Commencez l'évaluation par là, avec la capacité à lire ce coût et à le faire baisser.

Cloud Storage

Le stockage de fichiers, utilisé comme data lake. Les données brutes y arrivent avant d'être chargées dans BigQuery, qu'il s'agisse d'exports applicatifs, de fichiers de partenaires ou d'archives. Des règles de cycle de vie déplacent ou suppriment les vieux fichiers, ce qui pèse sur la facture et sur la conformité RGPD.

Pub/Sub

La messagerie temps réel de GCP. Les applications y publient des événements (une commande, un clic, une mesure de capteur) que les pipelines lisent au fil de l'eau. Par défaut, un message peut arriver plus d'une fois, donc le pipeline doit savoir écarter les doublons.

Dataflow (Apache Beam)

Le moteur de transformation, en continu comme par lots. Les pipelines s'écrivent en Python ou en Java avec Apache Beam. C'est la partie la plus technique du poste, surtout en streaming, où il faut gérer les fenêtres de temps et les données qui arrivent en retard.

Datastream

Le service de capture des changements (CDC). Il lit le journal d'une base PostgreSQL, MySQL, Oracle ou SQL Server et recopie les modifications en continu dans BigQuery, sans interroger sans arrêt la base de production. Demandez comment la personne gère les suppressions et les changements de schéma.

Dataproc

Spark et Hadoop managés par Google, avec une version serverless qui évite d'administrer un cluster. On le croise surtout après la migration d'un existant Spark, ou pour des traitements lourds en PySpark.

Cloud Composer (Airflow)

L'orchestrateur. Il lance les traitements dans le bon ordre, chaque nuit ou chaque heure, et alerte quand l'un d'eux échoue. C'est Apache Airflow hébergé par Google, rebaptisé Managed Service for Apache Airflow en avril 2026, mais les CV parlent encore de Composer. Vérifiez que la personne sait rejouer une journée passée.

Dataform ou dbt

Deux outils pour écrire les transformations en SQL versionné et testé, directement dans BigQuery. Dataform est intégré à BigQuery, dbt est open source et très répandu. Pour le batch, beaucoup d'équipes les préfèrent à Dataflow.

Terraform, IAM et sécurité

Terraform décrit l'infrastructure sous forme de code. IAM définit qui peut lire quoi, avec un compte de service par pipeline, des policy tags pour masquer les colonnes sensibles et des VPC Service Controls contre la sortie des données. La conformité RGPD et la sécurité de la plateforme se règlent à cet endroit.

Le poste varie beaucoup selon l'employeur. En ESN, le data engineer GCP change de client et doit prendre en main rapidement un existant qu'il n'a pas construit. Chez un client final, il garde ses pipelines et leur coût sur plusieurs années. En start-up, il fait souvent aussi l'analytics engineering avec dbt ou Dataform. Dans les grands comptes, les missions de migration depuis Teradata, Oracle ou Hadoop vers BigQuery reviennent souvent. La certification Google Professional Data Engineer, valable deux ans, atteste la connaissance de l'écosystème. L'expérience de production se vérifie en entretien.

Les axes techniques d'un entretien de data engineer GCP

  • Modélisation et performance BigQuery
  • Maîtrise des coûts BigQuery
  • Pipelines batch et streaming
  • Orchestration et transformations SQL
  • Sécurité, IAM et RGPD
  • Qualité des données et run

Mettre un data engineer GCP face à la facture BigQuery et aux pipelines en échec

Chaque question vient avec ce qu'une bonne réponse contient et le signal qui doit vous alerter. Pas besoin d'être technique pour les poser : écoutez si le candidat raconte du vécu.

  1. Question 1 · confirmé

    Vous avez une table de 4 To interrogée tous les matins, et la facture BigQuery s'envole. Par quoi commencez-vous ?

    Une bonne réponsePar le volume facturé de chaque requête dans INFORMATION_SCHEMA.JOBS, pour repérer celles qui coûtent. Viennent ensuite le partitionnement par date, le clustering sur les colonnes filtrées et l'option qui impose un filtre de partition. Plus de SELECT *, et au besoin une table agrégée ou une vue matérialisée pour les tableaux de bord. Un profil solide compare aussi avec une capacité réservée (les éditions et leurs slots) quand le volume est stable.

    Signal d'alerte« J'ajoute des index » comme sur une base classique, ou « je mets un LIMIT », alors que sur une table non clusterisée LIMIT ne réduit pas le volume lu. Une réponse qui ne parle jamais de volume lu.

  2. Question 2 · senior

    Dans un pipeline Dataflow, des événements arrivent avec dix minutes de retard. Comment faites-vous pour les compter sur le bon jour ?

    Une bonne réponseDes fenêtres calculées sur l'heure de l'événement, un watermark qui estime où en sont les données, un délai de retard toléré (allowed lateness) et des déclencheurs qui renvoient un résultat corrigé quand les retardataires arrivent. La réponse précise aussi le sort d'un événement arrivé après ce délai, écarté ou envoyé vers une sortie à part.

    Signal d'alerteMélanger heure de l'événement et heure de traitement, ou rejouer toute la journée à chaque retard.

  3. Question 3 · confirmé

    Pub/Sub peut livrer le même message deux fois. Qu'est-ce qui garantit que votre table finale reste juste ?

    Une bonne réponsePub/Sub livre au moins une fois par défaut. La table reste juste avec un identifiant métier unique et une déduplication dans le pipeline, ou avec une écriture rejouable sans doublon (MERGE sur la clé). Les bons profils ajoutent que Pub/Sub propose une livraison exactly-once pour les abonnements pull dans une même région, et que cela n'empêche pas un émetteur de publier deux fois le même événement.

    Signal d'alerte« Pub/Sub garantit l'unicité », sans condition, ou aucune notion de clé de déduplication.

  4. Question 4 · confirmé

    Un DAG Composer a planté trois nuits de suite. Comment rattrapez-vous les trois jours manquants ?

    Une bonne réponseDes tâches paramétrées par leur date logique d'exécution, qui remplacent leur partition au lieu d'empiler des lignes (écriture idempotente), puis un backfill sur la période. La personne vérifie l'ordre des jours quand un calcul dépend de la veille et limite le parallélisme pour ne pas saturer BigQuery.

    Signal d'alerteDes requêtes avec la date du jour codée en dur, qui obligent à toucher au code pour rejouer un jour passé. Ou trois relances à la main en espérant que les insertions ne se doublent pas.

  5. Question 5 · confirmé

    Une colonne contient des numéros de téléphone. Comment la protégez-vous sans bloquer le travail des analystes ?

    Une bonne réponseDes policy tags sur la colonne avec un masquage dynamique pour ceux qui n'ont pas le droit de la voir en clair, ou une vue autorisée qui l'exclut. Un compte de service dédié par pipeline, avec des droits minimaux au niveau du dataset. Et le lien avec le RGPD : minimisation, durée de conservation, pseudonymisation si la donnée ne sert qu'aux jointures.

    Signal d'alerteDes droits d'administrateur pour tout le monde, un seul compte de service partagé par tous les pipelines, ou « on fait confiance aux analystes ».

Recevez la fiche d'entretien complète en PDF

La fiche pour mener l'entretien de bout en bout, prête à imprimer ou à partager avec le manager.

  • 30 questions sur 6 axes, avec la bonne réponse, le signal d'alerte et la relance
  • Le niveau visé pour chaque question
  • Une mise en situation de 20 minutes et ce qu'on attend du candidat
  • La grille d'évaluation de 1 à 4, axe par axe

Vos questions sur le recrutement d'un data engineer GCP

Quel socle attendre d'un data engineer GCP ?

Le socle, c'est un SQL avancé sur BigQuery, avec le partitionnement, le clustering et la lecture des coûts, et du Python pour Dataflow ou les DAG Airflow. Selon le poste, ajoutez le streaming avec Pub/Sub et Dataflow, la capture des changements avec Datastream, les transformations dans dbt ou Dataform, Terraform et les droits IAM. Sur un poste en production, savoir diagnostiquer un pipeline en échec et rattraper des jours manqués compte autant que la liste des services.

Que dit la certification Professional Data Engineer d'un profil ?

Elle montre qu'un data engineer Google Cloud connaît les services de la plateforme et leurs usages. Elle est valable deux ans, ce qui permet de voir si elle est à jour. Elle ne dit rien de l'exploitation réelle d'une plateforme. Demandez un incident vécu, une facture BigQuery réduite ou un backfill mené de bout en bout. Sans exemple concret de production, un profil certifié reste à confirmer par une mise en situation.

Dataflow, Dataproc ou BigQuery seul : que doit savoir choisir un data engineer GCP ?

Beaucoup de transformations tiennent en SQL dans BigQuery, planifiées par Dataform, dbt ou Composer. Dataflow s'impose pour le streaming depuis Pub/Sub et les traitements par fenêtres de temps. Dataproc sert surtout à reprendre des jobs Spark existants sans les réécrire. Un candidat solide part du volume, de la latence attendue et du coût, puis choisit. Celui qui met Dataflow partout pour un chargement quotidien n'a sans doute jamais suivi la facture.

Test technique à la maison ou exercice en entretien pour un data engineer GCP ?

Mieux vaut un exercice court en entretien qu'un long test à faire chez soi. Une requête BigQuery à optimiser ou un DAG en échec à rattraper montrent vite les réflexes de production. Demandez à la personne de commenter à voix haute pendant qu'elle avance. Vous suivez son raisonnement, et un exercice fait en direct laisse peu de place à une réponse préparée à l'avance.

Pour structurer vos autres entretiens, consultez aussi nos pages sur les questions d'entretien de recrutement, la méthode de l'entretien structuré et la grille d'évaluation d'entretien.

Les fiches voisines

Toutes les fiches →

Voyez Delectus sur vos propres offres.

Commencez gratuitement. Passez à l'échelle quand vous êtes prêt.

Demander une démo

Votre ATS, connecté à Delectus

  • Workable
  • Teamtailor
  • iCIMS
  • Lever
  • SmartRecruiters
  • Jobvite
  • Greenhouse
  • Pinpoint