Wissenschaftlicher Mitarbeiter - Experte für vertrauenswürdige KI (all genders)

Job description

Am Fraunhofer IAIS erforschen und entwickeln rund 360 Mitarbeitende individuelle Lösungen zur Integration und Analyse von Daten für unsere Fördergeber*innen und unsere Kund*innen aus der Wirtschaft. Künstliche Intelligenz, Machine Learning, Big Data, Multimedia Content Analytics, Information Integration sowie Unternehmensmodellierung und -analyse sind die inhaltlichen Schwerpunkte unserer Arbeiten. In der Abteilung AI Assurance and Assessments (AAA) operationalisieren wir KI-Vertrauenswürdigkeit entlang von drei Schritten: Wir analysieren Anforderungen an KI-Systeme aus Gesetzen und Standards. Wir setzen diese Anforderungen um, indem wir technische Absicherungsmethoden für KI-Systeme entwickeln und diese auf organisatorischer Ebene durch effektive KI-Governance Mechanismen komplettieren. Wir entwickeln Prüfkriterien und Testverfahren für KI-Systeme und forschen zu der Frage, wie sich solche Prüfungen und Tests automatisieren lassen. Hierbei beschäftigen uns Fragestellungen wie: Wie lassen sich a priori inkommensurable KI-Risiken, etwa die Verletzung von Persönlichkeitsrechten und Safety-Risiken zu einem Gesamtrisiko aggregieren? Wie lassen sich die Unsicherheiten von Transformer-Modellen messen? Welche Controls in KI-Managementsystemen operationalisieren den AI Act? Wie lassen sich KI-Prüfworkflows automatisieren? Was sind die besten Redteaming Ansätze, um die Safeguards von LLMs zu testen? Wie lassen sich KI-Agenten im Betrieb absichern? Bei Fraunhofer IAIS zu arbeiten, heißt unternehmerisches Denken mit Spitzenforschung zu verbinden: Unsere Abteilung AAA hat weltweit Kunden, die von großen Technologiekonzernen bis hin zu Start-ups reichen. Auch viele Behörden zählen zu unseren Auftraggebern. Gleichzeitig entstehen aus unserer Forschung wissenschaftliche Publikationen und Doktorarbeiten. Unser interdisziplinäres Team hat Abschlüsse in Informatik, Naturwissenschaften, Rechtswissenschaften und Psychologie und freut sich auf Sie! Hier sorgen Sie für Veränderung Übersetzung von regulatorischen Vorgaben, wie etwa der KI-Verordnung, in technische Anforderungen an KI-Systeme Konzeption und Entwicklung von technischen Lösungen zur Absicherung von KI-Systemen Konzeption und Entwicklung von KI-Governance Frameworks Konzeption und Durchführung von KI-Prüfungen für konkrete Use Cases Entwicklung von Methoden zur Messung und Quantifizierung von Unsicherheiten in KI-Modellen (z. B. Transformer-Architekturen) Durchführung von Redteaming- und Stresstests zur Absicherung von LLMs und KI-Agenten im produktiven Einsatz Automatisierung von KI-Prüf- und Testworkflows Beratung von Kund*innen aus Wirtschaft und öffentlicher Verwaltung zur regulatorischen Einordnung und Absicherung ihrer KI-Systeme Hiermit bringen Sie sich ein Abgeschlossenes wissenschaftliches Hochschulstudium (Master, Diplom) der Informatik, Physik oder Mathematik mit sehr gutem Abschluss an einer Universität mit internationalem Renommee, gerne mit Promotion. Bei guter Passung zu einem der oben genannten Themen kommen auch andere Abschlüsse (z.B. Rechtswissenschaften, Psychologie) in Betracht Sehr gute Vorkenntnisse in den Bereichen Maschinelles Lernen, Künstliche Intelligenz (KI) und Agentische KI Sehr gute Kenntnisse zu Programmierung (insb. Python und ML-Frameworks with pytorch und tensorflow) und technischer Implementierung (Docker/Podman und Containerisierung, Azure, AWS oder andere Cloudprovider, Infrastructure as Code, CI/CD) und im Umgang mit Agent Frameworks/Harnesses (z.B. ClaudeCode, OpenAI Codex oder LangGraph) oder KI-Regulierung und Standardisierung (KI-Recht, insb. AI Act, internationale Standardisierung bei ISO, IEC und ITU, europäische Standardisierung bei CEN, CENELEC, ETSI, harmonisierte Normen) Exzellente analytische Fähigkeiten und Freude an abstraktem Denken Hohe Belastbarkeit sowie die Bereitschaft, sich schnell in neue Sachverhalte einzuarbeiten Freude daran, komplizierte technische Zusammenhänge für unterschiedliche Stakeholder aufzubereiten Ein hohes Maß an Eigeninitiative und Hands-on Mentalität Strukturiertes Arbeiten und professionelles Auftreten Sehr gute Deutschkenntnisse und Englischkenntnisse (beides mind. auf Niveau C1) Bitte gehen Sie in ihrem Anschreiben darauf ein, welche Themenschwerpunkte der Abteilung AAA Sie besonders interessieren, welche Vorerfahrungen Sie hierfür mitbringen, was Sie bei Fraunhofer IAIS erreichen möchten und warum wissenschaftliche Exzellenz und unternehmerisches Talent in ihrer Person vereint sind. Was wir für Sie bereithalten Wir bieten Ihnen vielfältige Angebote für Ihre persönliche Weiterbildung in den Bereichen Führung, Kommunikation, Projektmanagement, Vereinbarkeit von Beruf und Familie, Gesundheit, Kultur und Sport. Die Förderung der Chancengerechtigkeit unserer Mitarbeitenden ist ein wichtiges Ziel von Fraunhofer. Wir fördern die berufliche Entwicklung von Frauen in unserem Institut und ermutigen sie nachdrücklich, sich zu bewerben. Wir wertschätzen und fördern die Vielfalt der Kompetenzen unserer Mitarbeitenden und begrüßen daher alle Bewerbungen – unabhängig von Alter, Geschlecht, Nationalität, ethnischer und sozialer Herkunft, Religion, Weltanschauung, Behinderung sowie sexueller Orientierung und Identität. Schwerbehinderte Menschen werden bei gleicher Eignung und Qualifikation bevorzugt eingestellt. Unsere Aufgaben sind vielfältig und anpassbar – für Bewerber*innen mit Behinderung finden wir gemeinsam Lösungen, die ihre Fähigkeiten optimal fördern. Die wöchentliche Arbeitszeit beträgt 39 Stunden. Die Stelle ist zunächst auf 2 Jahre befristet; eine Weiterbeschäftigung wird angestrebt. Die Stelle kann auch in Teilzeit besetzt werden. Anstellung, Vergütung und Sozialleistungen basieren auf dem Tarifvertrag für den öffentlichen Dienst (TVöD). Zusätzlich kann Fraunhofer leistungs- und erfolgsabhängige variable Vergütungsbestandteile gewähren. Die Vergütung erfolgt bis TVöD EG 13. Mit ihrer Fokussierung auf zukunftsrelevante Schlüsseltechnologien sowie auf die Verwertung der Ergebnisse in Wirtschaft und Industrie spielt die Fraunhofer-Gesellschaft eine zentrale Rolle im Innovationsprozess. Als Wegweiser und Impulsgeber für innovative Entwicklungen und wissenschaftliche Exzellenz wirkt sie mit an der Gestaltung unserer Gesellschaft und unserer Zukunft. Haben wir Ihr Interesse geweckt? Dann bewerben Sie jetzt online mit Ihren aussagekräftigen Bewerbungsunterlagen. Bitte reichen Sie hierbei sowohl einen Lebenslauf als auch ein Anschreiben ein. Bewerbungen ohne diese beiden Unterlagen können leider nicht berücksichtigt werden. Nach Eingang Ihrer Online-Bewerbung erhalten Sie eine automatische Empfangsbestätigung. Dann melden wir uns schnellstmöglich und sagen Ihnen, wie es weitergeht Fragen zu dieser Position beantwortet Ihnen gerne Dr. Maximilian Poretschkin E-Mail: Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS Kennziffer: 85721 Bewerbungsfrist: