תיאור משרה
הגדרת תפקיד:
פיתוח ותחזוקה של תהליכי ETL/ELT באמצעות כלים בסביבת GCP, כחלק מפרויקטים של אגם מידע המתמקדים בשילוב מידע תחבורתי ממקורות מגוונים והמרתו לתובנות עסקיות וליישומים.
עבודה עם בסיסי נתונים בענן, בדגש על BigQuery, ושילוב נתונים ממקורות מובנים ולא מובנים. בנוסף, פיתוח קוד בפייתון לצורכי אינטגרציה, טרנספורמציה ועיבוד נתונים, תוך בניית מודלים וארכיטקטורות נתונים מותאמות לדרישות העסקיות.
דרישות תפקיד::
לפחות שנתיים ניסיון בפיתוח תהליכי דאטה (ETL / ELT) – חובה.
ניסיון מוכח בעבודה בסביבת ענן של GCP.
ידע מעמיק ב-SQL כולל כתיבת פונקציות ופרוצדורות.
ניסיון בעבודה עם BigQuery, כולל עבודה עם External Tables ותהליכי ETL/ELT.
ניסיון בפיתוח דוחות ודשבורדים על גבי Looker.
היכרות עם Dataflow, Cloud Storage, Data Fusion.
ניסיון בפיתוח בשפת Python.
ניסיון בקליטת נתונים מתוך API.
ניסיון בעבודה עם מידע גיאוגרפי ו/או ויזואליזציה של נתונים על גבי מפות
(לדוגמה: נתוני מיקום, שכבות GIS, Heatmaps) – יתרון.
ניסיון בעבודה עם Vertex AI ושילובו בתהליכים – יתרון.
ניסיון בעבודה עם Pub/Sub או DataStream או Kafka – יתרון.
ידע וניסיון ב-DBT – יתרון.
היכרות עם מתודולוגיות CI/CD וכלי ניהול קוד כמו Git – יתרון.
היכרות עם כלי ניטור ובקרה כגון Airflow UI, Grafana, Datadog – יתרון.