KI-Entwickler LLM / RAG / Agenten – Python oder TypeScript (m/w/d) at Rockstardevelopers GmbH

About this role

Du baust KI-Anwendungen, die beim Kunden im Regelbetrieb laufen: Dialogsysteme, semantische Suche, RAG-Pipelines, Agenten mit . Kein Prototyp für die Schublade.
Wer wir sind
, gegründet 2015 in Mannheim, Büros in Stuttgart und München. Aus hunderten Projekten für Enterprise- und wissen wir, wie man Software baut, die im Ernstfall trägt. Seit einer Weile verschiebt sich unser Schwerpunkt Richtung KI: LLM-Anwendungen, RAG, Agenten-Systeme, die beim Kunden produktiv gehen.
Worum es geht
Unsere Kunden sind die Deutsche Bahn und IT-Dienstleister im öffentlichen Sektor, ein reguliertes Umfeld mit hohen Ansprüchen an Datenschutz, EU AI Act und . Dort baust du KI-Lösungen in bestehende Fachanwendungen ein. Projektsprache ist Deutsch. Der Alltag läuft remote-first, Kundentermine meist in Frankfurt am Main.
Unsere Kunden stellen diese Projekte fast nur mit besetzt. Deshalb suchen wir dich in Festanstellung.
Aufgaben

Sprachmodelle in Fachanwendungen integrieren: RAG mit Retrieval und Reranking, Tool-Calling, MCP-Server, Multi-Agent-Abläufe
Evaluierung aufbauen: Antwortqualität messen, Halluzinationen eingrenzen, Kosten und Token-Verbrauch im Griff behalten
Modelle auswählen und wechselbar halten (Azure AI Foundry, AWS Bedrock, offene Modelle), Governance und Datenschutz mitdenken
Betrieb: Container, CI/CD, Monitoring, Alerting
Enge Abstimmung mit Fachbereich, Architektur und Betrieb des Kunden

Das musst du mitbringen
Jeder Punkt muss im Lebenslauf nachweisbar sein.

Mindestens drei Jahre in Python oder TypeScript, nach Ausbildung oder Studium
Mindestens eine LLM-Anwendung, die bei einem Kunden oder Arbeitgeber produktiv lief (RAG, Tool-Calling, Agenten), mit deinem Anteil daran
Docker, CI/CD und Git aus dem Projektalltag
Deutsch mindestens C1 in Wort und Schrift

Das bringst du idealerweise mit
Kein Muss, aber je mehr davon, desto besser:

Kubernetes oder OpenShift, Helm
MLOps-Werkzeuge (MLflow, Kubeflow, Model Serving) und klassisches ML im
, Embedding-Modelle, Reranker
Azure AI Foundry, AWS Bedrock oder Vertex AI
EU AI Act, ISO 27001,
Erfahrung bei Bahn, Behörden oder
Prometheus und Grafana, ArgoCD, SAFe

Benefits

Echte . KI, die beim Kunden in Betrieb geht. Kein Innovation-Lab, keine Folien.
Remote-first in der DACH-Region. Gelegentlich vor Ort, ansonsten arbeitest du von dort, wo du gut arbeitest.
Internes Upskilling. Wir investieren in deine KI-Skills.
MacBook
Flache Hierarchien. Die Gründer sind deine direkten Ansprechpartner.

Dann bewirb dich, ein Lebenslauf reicht, ein Anschreiben brauchst du nicht. Wenn du früh verfügbar bist, ist das ein klares Plus. Wir melden uns innerhalb weniger Tage. Find more English Speaking Jobs in Germany on Arbeitnow [Skills: Remote, Software Development]