AI Platform Engineer (m/w/d)

Konzeption und Umsetzung von End-To-End GenAI- und ML-Infrastrukturen, die den kompletten Lebenszyklus von AI-Anwendungsfällen abdecken – von der Datenaufbereitung über Training und Fine-Tuning von Modellen (z. B. LLMs) bis hin zu Trigger-Systemen für kontinuierliches Re-Training, Bereitstellung von Modellen als Services und Monitoring
Planung, Aufbau und Administration von Betriebsplattformen (On-Premise oder Cloud) für GenAI- und ML-Anwendungen, basierend auf modernen Technologien wie Kubernetes oder modernen Container-Orchestrierungsansätzen – sowie Analyse und Optimierung bestehender Plattformen beim Kunden
Bereitstellung und Deployment von lokalen LLMs und Generative AI-Modellen auf der Plattform, einschließlich Integration von Tools und APIs für GenAI-Workflows und Anwendungen
Unterstützung der Data Scientists, Data Engineers und Machine Learning Engineers bei der Erstellung von Schnittstellen, Datenaufbereitung und Workflows
Partnerschaftliche Beratung unserer Kunden in allen Projektphasen: von der Anforderungsdefinition über die Konzeption bin hin zur Implementierung und erfolgreichen Produktivsetzung
Verantwortung für Qualität und Projekterfolg sowie aktive Mitarbeit an der Weiterentwicklung unseres Beratungsportfolios, insbesondere im Bereich GenAI und LLM-Infrastrukturen
Beratung heißt Flexibilität: Dein Projekteinsatz richtet sich nach unseren Kunden und deiner Projektsituation – du arbeitest deutschlandweit in unseren Offices, beim Kunden vor Ort und von zu Hause
Abgeschlossenes Studium der (Wirtschafts-) Informatik, (Wirtschafts-) Mathematik, (Wirtschafts-) Ingenieurwesen oder eines vergleichbaren Studiengangs, idealerweise mit Schwerpunkten in Machine Learning, Künstlicher Intelligenz oder Cloud-Technologien
Sehr gute Kenntnisse und mehrjährige Berufserfahrung in container-basierten Architekturen (z. B. Docker) sowie Plattformen wie Kubernetes oder Openshift, speziell im Kontext von Infrastruktur für GenAI und ML
Fundierte Kenntnisse und Erfahrung mit relevanten Tools und Frameworks für den ML- und GenAI-Lifecycle, wie Hugging Face, NVIDIA AI Enterprise, vLLM und LangChain, sowie Techniken für Training, Fine-Tuning (z. B. LoRA, Prompt-Tuning) und Deployment von Modellen
Kenntnisse und Erfahrung mit Cloud-Lösungen wie AWS, Azure, Google Cloud oder IBM Cloud, insbesondere im Bereich der Bereitstellung von ML- und GenAI-Anwendungen
Umfassende Erfahrung mit Automatisierungs- und Entwicklungstools, darunter Python, Skript-Werkzeugen (z.B. Ansible, Terraform), Software-Entwicklungstools (z.B. Git, Gitlab, Jenkins) und Betriebssystemen auf Linux-Basis
Adressatengerechte Kommunikation komplexer, technischer Sachverhalte und Erfahrung in großen IT-Landschaften und -Organisationen, idealerweise im Public Sector
Sehr gute Deutschkenntnisse (ab C1 Niveau) sowie Englischkenntnisse runden dein Profil ab

Employment type
Full-time

Work arrangement
No