Skip to main content
Back to Jobs

Cloud Engineer* Data & AI

  • Salary not listed
  • Remote-friendly · fits your timezone
  • Posted 4 days ago · via Himalayas

Orchestrate GPU clusters and automate ML pipelines for efficient model training

As a Cloud Engineer focused on Data & AI, you will implement modern data and AI infrastructures by orchestrating GPU clusters, structuring data platforms, and automating pipelines for efficient model training and stable operation of inference interfaces. You will design data platforms from storage architecture to lakehouse formats, integrate orchestration and streaming components using tools like Airflow, Spark on Kubernetes, or Ray, and ensur...

Why This Role?

Opportunity to shift your technological focus anytime and mentor junior colleagues as an engineering expert

Key Responsibilities

  • Orchestrate GPU clusters for efficient model training and inference operations
  • Design and structure data platforms including storage architecture and lakehouse formats
  • Automate ML pipelines using Airflow, Spark on Kubernetes, or Ray for reliable production workflows
  • Implement Infrastructure-as-Code and GitOps practices for data and ML workflows
  • Build security into sensitive data products from network policies to data governance requirements
  • Handle monitoring, incident response, and GPU capacity planning for AI workloads

Requirements

  • Solid Kubernetes experience in production operations
  • Deep knowledge of at least one major cloud provider (AWS, Azure, Google Cloud, or StackIT)
  • Routine use of Infrastructure-as-Code practices
  • Experience designing storage architectures for different workloads in data platforms
  • Background in workflow orchestration, streaming, GPU scheduling, and model serving

Required Skills

kubernetesawsazuregcpinfrastructure-as-codedata engineeringai infrastructureCloud InfrastructureML OpsGPU Orchestration

Indonesia Context

Working Hours Overlap:
Flexible — work your own hours
See remote (USD) vs local pay →
View Original Description from HimalayasShow more

Original description from Himalayas

Was du bei uns bewegen kannst• Als Cloud Engineer liegt dein Schwerpunkt auf der Implementierung moderner Data- und AI-Infrastrukturen, wobei du GPU-Cluster orchestrierst, Datenplattformen strukturierst und Pipelines für ein effizientes Modell-Training sowie den stabilen Betrieb von Inferenz-Schnittstellen automatisierst. Was du bei uns bewegen kannst Als Cloud Engineer liegt dein Schwerpunkt auf der Implementierung moderner Data- und AI-Infrastrukturen, wobei du GPU-Cluster orchestrierst, Datenplattformen strukturierst und Pipelines für ein effizientes Modell-Training sowie den stabilen Betrieb von Inferenz-Schnittstellen automatisierst. Datenplattformen konzipierst du, von der Storage-Architektur über Lakehouse-Formate bis zur Integration von Orchestrierung und Streaming-Komponenten. Tools wie Airflow, Spark on Kubernetes oder Ray setzt du auf, integrierst sie miteinander und stellst sicher, dass Data- und ML-Workflows zuverlässig in Produktion laufen. Infrastructure-as-Code und GitOps sind für dich der Standard. Bei sensiblen Datenprodukten baust du Sicherheit von Beginn an ein, von Network Policies bis zu den Anforderungen aus der Data Governance. Monitoring, Incident-Handling und GPU-Kapazitätsplanung liegen in deiner Verantwortung. Inunseren Projekten verwenden wir häufig folgende Technologien: AWS, Azure, Google Cloud, StackIT, Kubernetes Terraform, ArgoCD, Helm, Cilium, Kyverno Airflow, Spark, Kafka, Ray, Kueue Databricks, Snowflake, dbt, Iceberg S3, PostgreSQL, pgvector, MLflow, vLLM, KServe Prometheus, Grafana, OpenTelemetry Python, Go Intern wie extern kannst du dich bei uns auf vielfältige Art einbringen: Deinen anfangs gewählten technologischen Schwerpunkt kannst du jederzeit verlagern. Als Expert:in im Bereich Engineering hast du außerdem die Möglichkeit, jüngere Kolleg:innen durch Mentoring zu unterstützen. Requirements Wer gut zu uns passen würde Ob du ein Studium oder eine Ausbildung im IT-Bereich abgeschlossen hast, ist für uns nebensächlich. Für uns zählen deine fachlichen Skills und deine Persönlichkeit: Du hast fundierte Kubernetes-Erfahrung im produktiven Betrieb und bringst tiefgehende Kenntnisse im Umgang mit einem der großen Cloud-Provider (AWS, Azure, Google Cloud, StackIT) mit. Infrastructure-as-Code setzt du routiniert ein. Beim Aufbau von Datenplattformen verstehst du, wie Storage-Architekturen für unterschiedliche Workloads ausgelegt werden. Du bringst Erfahrung mit Workflow-Orchestrierung, Streaming, GPU-Scheduling, Model Serving und Lakehouse-Plattformen mit oder hast Lust, dich in diese Bereiche einzuarbeiten. Netzwerk-Härtung und Security Best Practices denkst du von Anfang an mit, nicht als nachgelagerten Schritt. KI-Tools gehören zu deinem Arbeitsalltag: Code-Assistenten und KI-basierte Automatisierung setzt du selbstverständlich ein, etwa beim Aufsetzen von Terraform-Modulen für Data-Pipelines oder beim Optimieren von GPU-Workload-Konfigurationen. Komplexe technische Zusammenhänge kannst du auch nicht-technischen Ansprechpartner:innen vermitteln. Sehr gute Deutschkenntnisse (mind. C1) und gute Englischkenntnisse runden dein Profil ab. Originally posted on Himalayas

Salary Context

Similar Data & Analytics roles on LokerDollar pay around $115k/yr (range $9.7k–1000k/yr, n=211 active listings).

Hiring at inovex GmbH

inovex GmbH has 5 other active roles on LokerDollar and has been hiring here since Oct 18, 2026 — across Data & Analytics, Operations.

View all inovex GmbH openings →

Market context

  • ESTIMATEEstimated pay is 13% above the role median of $115,000/year (n=211 pay-disclosing listings).
  • VERIFIEDinovex GmbH: 6 postings in the last 3 months, 6 all-time on LokerDollar.
  • VERIFIEDCompany first seen Oct 18, 2026.
  • VERIFIEDThis listing first seen Oct 19, 2026.
  • VERIFIEDLast verified live Oct 19, 2026.

Not quite right? Similar roles hiring now

See all 5 similar →

Opens on Himalayas — you may need 1–2 more clicks to reach the real application.

This listing is sourced from Himalayas, with the company profile and full details on this page. The one thing we can't auto-confirm is whether this specific apply link opens cleanly — it usually does, so go ahead and try it. Check back later if it doesn't load.

Remote-friendly · fits your timezone
Source
Estimated salary
$110k–150k/yr
Based on similar roles — not stated by the employer
Job Type
full time
Location
Remote · Karlsruhe, Germany
Seniority
mid
PostedFreshNew & verified
Oct 18, 2026

Share this job

Help a friend find their next remote role.

Hiring? Find talent free

Frequently asked questions

Is Cloud Engineer* Data & AI at inovex GmbH a remote job?
Yes. Cloud Engineer* Data & AI at inovex GmbH is a fully remote role open to candidates worldwide.
What type of employment is Cloud Engineer* Data & AI at inovex GmbH?
This is a full time position.
How do I apply?
Click the "Apply" button on this page to go to the official application at inovex GmbH.

Explore related

Market data & reports

Salary & skill-demand research built from our own listings data.

This apply link is not verified yet.