Doktorandin / Doktorand (w/m/d) im Bereich IT-Sicherheit und „Explainable AI“ (XAI)
Angebotsnr. 1342/2024
Beschreibung
Die Forschungsgruppe „Künstliche Intelligenz & IT-Sicherheit" betreibt Spitzenforschung an der Schnittstelle von künstlicher Intelligenz und IT-Sicherheit. Wir arbeiten an Themen wie der Angriffserkennung oder der Suche nach Schwachstellen in Software und Hardware. Ein weiteres zentrales und besonders wichtiges Thema unserer Forschung ist die Robustheit (im Sinne von Angriffssicherheit) von künstlicher Intelligenz.
In beiden Kernbereichen der Forschungsgruppe (Sicherheit von KI und KI für IT-Sicherheit) können Methoden der erklärbaren künstlichen Intelligenz (XAI) zur Angriffserkennung eingesetzt werden. Zum Beispiel:
- Erkennen und Vorbeugen von Angriffen auf Computersysteme
- Analyse von Angriffen und Schadcode
- Schwachstellensuche und Fuzz Testen (Fuzzing)
- Erkennung von Angriffen auf künstliche Intelligenz
- Hintertüren in ML Modellen ("ML Backdoors")
- Auslösen von Fehlverhalten ("Adversarial Examples")
- Datendiebstahl ("Model Stealing" und "Membership Inference")
Gleichzeitig ist aber auch die Angriffssicherheit von XAI Methoden besonders relevant. Neben der Demonstration von neuartigen Angriffen, ist vor allem die Entwicklung von robusten XAI Methoden zukünftig essentiell. Zum Beispiel:
- Eingabe- bzw. Modellmanipulationen und „Data Poisoning“
- "Fairwashing" von XAI-Ausgaben
- Zertifizierbar/ Beweisbar robuste XAI-Methoden
Wir suchen Sie für eine Promotionsstelle, um Forschung auf Spitzenniveau zu betreiben. Promovierende werden in die "KIT Graduate School Cyber Security" aufgenommen.
Darüber hinaus verfügt die Arbeitsgruppe über enge Kontakte zu nationalen und internationalen Forschungsinstituten. Wir betreiben außerdem eine eigene dedizierte Server-/Recheninfrastruktur zur Unterstützung unserer Forschung und statten unsere Mitarbeiter·innen mit der besten Hardware aus.
Persönliche Qualifikation
- Sie verfügen über einen Hochschulabschluss in der Fachrichtung Informatik (Master) oder einem verwandten Gebiet.
- Darüber hinaus sollten Sie sehr gute Kenntnisse zu maschinellem Lernen und der IT-Sicherheit mitbringen.
- Vor allem bedarf es aber der Begeisterung für Forschung an lernenden Systemen und der Neugier für neuartige Methoden.
Entgelt
EG 13 TV-L, sofern die fachlichen und persönlichen Voraussetzungen erfüllt sind.
Organisationseinheit
Institut für Informationssicherheit und Verlässlichkeit (KASTEL)Vertragsdauer
18 Monate
Die volle Finanzierung über die gesamte Promotionszeit und über die initiale Befristung hinaus ist vorgesehen.
Bewerbungsfrist bis zum
30.09.2024
Fachliche Ansprechperson
Fachliche Auskünfte erteilt Ihnen gerne Herr TT.-Prof. Christian Wressnegger.
Bewerbung
Die Bewerbung soll aus einem Anschreiben, einem Lebenslauf und Zeugnissen bestehen. Achten Sie bitte darauf hervorzuheben, warum Sie zu unserer Arbeitsgruppe und der Forschung im Bereich IT-Sicherheit passen.
Zur Bewerbung Zur offiziellen Anzeige
- Art der Anzeige
- Befristete Anstellung
- Gesuchter Karrierestatus
- Berufserfahrene/r > 2 Jahre
- Arbeitsregion
- Karlsruhe und Umgebung
- Unternehmensbereich
- Sonstige Bereiche
- Sprache am Arbeitsplatz
- Deutsch
- Art des Unternehmens
- Wissenschaftliche Einrichtung