AI Software Engineer (m/w/d)

Deine Rolle

Unser KI-Assistent ist direkt in das WHISE CRM integriert und hilft Maklerinnen und Maklern, jeden Tag mehr aus ihren Daten herauszuholen.

Wir suchen dich als AI Backend Developer (m/w/d), um die Weiterentwicklung des WHISE KI-Assistenten voranzutreiben. Du verantwortest das Agent-Backend von Anfang bis Ende, von der Orchestrierung und den Tools bis zur Datenzugriffsschicht.

Deine Aufgaben

• Konzeption, Entwicklung und Betrieb des Backends unseres KI-Assistenten: Orchestrierung, Tool-Integrationen und Datenzugriff.
• Integration des Assistenten in die WHISE CRM API.
• Weiterentwicklung des Evaluations- und Observability-Setups, damit jedes Release vor dem Go-live gemessen wird.
• Sicherstellen, dass Aktionen des Agenten sicher und nachvollziehbar sind, mit Freigabeprozessen für Datenänderungen.
• Zusammenarbeit mit unseren Product- und Development-Squads

Das zeichnet dich aus

• Neugierig. Du willst ständig dazulernen und gibst dein Wissen gern an andere weiter.
• Teamplayer. Du teilst dein Wissen, holst dir frühzeitig Hilfe und gibst Feedback, mit dem andere etwas anfangen können.
• Offen. Kritik an deiner Idee siehst du als Chance, sie besser zu machen, und du gibst dasselbe zurück.
• Positiv unter Druck. Deadlines und Stress bringen dich nicht aus der Ruhe. Wenn etwas nicht funktioniert, suchst du nach der Lösung, nicht nach einem Schuldigen.

Dein Profil

• Mindestens 5 Jahre Erfahrung in der Backend-Entwicklung.
• Sehr gute Programmierkenntnisse in Python und C#.
• Erfahrung in Architektur und Aufbau von KI-/LLM-Systemen: Agent-Frameworks, RAG-Pipelines, Multi-Modell-Orchestrierung und MCP-Server.
• Produktionserfahrung mit LLM-Frameworks wie Agno, Microsoft Agent Framework oder PydanticAI.
• Erfahrung in der Evaluation und im Monitoring von LLM-Systemen hinsichtlich Qualität, Drift, Latenz und Kosten (LLM-as-a-Judge, Rubrics, Regressionstests).
• Praxis in Prompt Design, Prompt Caching und Steuerung der Token-Kosten über mehrere LLM-Anbieter hinweg, über ein Gateway wie LiteLLM.
• Fundiertes Verständnis von Webanwendungssicherheit: Authentifizierung und Session-Management, sicherer Umgang mit Zugangsdaten und Tokens sowie Eingabevalidierung.
• Erfahrung mit der Integration umfangreicher REST-APIs von Drittanbietern in ein Produkt, z. B. E-Mail-Provider-APIs (Microsoft Graph, Gmail API).
• Fließende Deutsch- und Englischkenntnisse.
• Reisebereitschaft zu unseren Standorten in Deutschland, Belgien und Rumänien.

Pluspunkte

Nichts davon ist Pflicht. Wenn du ein oder zwei Punkte mitbringst, hast du einen Vorsprung. Den Rest lernst du bei uns:

• Cloud und DevOps auf Azure: Docker, Kubernetes (AKS), CI/CD mit Azure DevOps oder ArgoCD.
• LLM-Observability und Cloud-LLM-Plattformen (OpenTelemetry, Arize Phoenix, Azure AI Foundry, AWS Bedrock).
• Erste Frontend-Erfahrung, idealerweise mit React und TypeScript für Chat-Oberflächen.
• Vektorsuche (pgvector) oder Fine-Tuning von LLMs.
• Grundkenntnisse der DSGVO und des EU AI Act oder Erfahrung im SaaS- oder PropTech-Umfeld.
• Eine weitere europäische Sprache, z. B. Französisch, Niederländisch oder Spanisch.

Was wir dir bieten

• Gehalt: 60.000 – 90.000 € brutto pro Jahr
• 30 Tage bezahlter Urlaub.
• Hybrides Arbeiten: Wir fördern die Arbeit im Büro und Flexibilität im Arbeitsalltag. Wir erwarten 3 Tage pro Woche im Büro, die übrigen Tage kannst du im Homeoffice arbeiten.
• Benefits
• Ausstattung, z. B. Laptop nach Wahl
• Ein Team, in dem deine Architekturentscheidungen auch wirklich live gehen.
• Kontinuierliche Weiterbildung: internes Coaching, teamübergreifender Wissensaustausch und ein Budget für externe Kurse.
• Ein kleines, offenes Team, in dem Ideen zählen, egal von wem sie kommen, Entscheidungen pragmatisch getroffen und Erfolge geteilt werden.
• Spannende, herausfordernde Aufgaben, die dich wachsen lassen: ehrgeizige Ziele, echte Deadlines und ein Team, das hinter dir steht.
• Standort: Hamburg oder Nürnberg.