KI-Unternehmen wie OpenAI und Anthropic fordern, das Entwicklungstempo zu drosseln. Wird das reichen, um die hohen Risiken für die Menschheit abzuwenden? Diese Frage treibt Manon Kempermann um, so sehr, dass sie vorübergehend nach Kalifornien gezogen ist. In unmittelbarer Nähe der Tech-Giganten schult sie an einem unabhängigen KI-Institut technisch vorgebildete Forscherinnen und Forscher für die Arbeit in der KI-Politik. Sie sollen mit aktuellem Expertenwissen auf die KI-Entwicklung reagieren und sie regulieren können.
Manon Kempermann arbeitet derzeit an einem KI-Institut in Kalifornien, um für die Risiken von Künstlicher Intelligenz zu sensibilisieren.
Ihr Rüstzeug für diese Tätigkeit erhielt Manon Kempermann im Studiengang „Data Science and Artificial Intelligence (DSAI)“ der Universität des Saarlandes. „KI ist sehr spannend. Mich haben von Beginn an die Möglichkeiten des maschinellen Lernens und der neuronalen Netzwerke fasziniert. Man bekommt nützliche Tools an die Hand, um Probleme in der Welt zu lösen“, erklärt die 21-Jährige. Als studentische Mitarbeiterin bei KI-Experte Ingmar Weber lernte sie die Schnittstellen zur Politik und Gesellschaft kennen. Für ihre Bachelorarbeit evaluierte sie etwa, wie sicher große Sprachmodelle bei Medizinthemen und in der Finanzberatung eingesetzt werden können.
Gemeinsam lernen auf dem Campus
„Der DSAI-Studiengang ist im Vergleich zum Informatik-Bachelor forschungsorientierter. Anstelle eines Praktikums in der Softwareentwicklung hatten wir ein Forschungspraktikum“, sagt Manon Kempermann. In den ersten Semestern hat sie sich dafür die Grundlagen erarbeitet, die wie im Informatikstudium stark von der Mathematik geprägt sind. „Mein Lieblingsfach war die theoretische Informatik, vor der etliche meiner Kommilitonen Respekt hatten. Dort muss man abstrakt denken, was viel mit Knobelei, Logik und mathematischen Beweisen zu tun hat“, erzählt die Bachelorabsolventin.
In dem arbeitsintensiven Studium mit Tests und Arbeitsblättern, die man wöchentlich abgeben muss, half ihr die Zusammenarbeit mit anderen Studierenden. „Ich war die meiste Zeit auf dem Campus und habe in der Informatikbibliothek gelernt. Wenn ich etwas nicht verstanden habe, bin ich zu den Tutoren gegangen, die immer offene Türen hatten und das Thema erklären konnten. Das kann ich jedem Erstsemester empfehlen, man kommt leichter durchs Studium, wenn man nicht allein zuhause lernt“, findet Manon Kempermann.
"Ich mache mir große Sorgen, dass wir die Kontrolle über KI verlieren in diesem unfassbar schnellen Entwicklungstempo."
Neben ihrem Studium gründete sie die Initiative „AI Safety Saarland“, später auch ein deutschlandweites Netzwerk, in dem sie Studierende zum Thema KI-Sicherheit ausbildet. „Der Vorfall im Juli, bei dem OpenAI-Modelle eigenständig in das System von Hugging Face eindrangen, hat der Welt vor Augen geführt, wie fähig und gefährlich die KI-Modelle werden. Ich mache mir große Sorgen, dass wir die Kontrolle über KI verlieren in diesem unfassbar schnellen Entwicklungstempo, und über die Machtkonzentration, solange große KI-Modelle in den Händen nur weniger großer Unternehmen oder einzelner Staaten liegen“, warnt Manon Kempermann. Sie hofft auf ein internationales Abkommen, ähnlich dem Atomabkommen, durch das führende Technologiemächte wie China und die USA externe Kontrollen zulassen und das Tempo drosseln.