Nutzung von künstlicher Intelligenz zu dienstlichen Zwecken
Präambel
Künstliche Intelligenz hat unseren Arbeitsalltag bereits erreicht und bietet insbesondere im Hochschulbereich vielfältige Anwendungsmöglichkeiten – von der Verwaltung über die Forschung bis hin zur Lehre. Als eines der transformativsten Werkzeuge des 21. Jahrhunderts wird KI unsere Gesellschaft nachhaltig prägen und sowohl bedeutende Chancen als auch erhebliche Risiken mit sich bringen.
Auf dieser Seite finden Sie alle wesentlichen Informationen für einen rechtssicheren und verantwortungsvollen Umgang mit KI-Anwendungen: Allgemeine Informationen, Richtlinien, rechtliche Rahmenbedingungen und praktische Hilfestellungen. Angesichts der dynamischen technologischen Entwicklung werden die Inhalte regelmäßig aktualisiert und erweitert. Eine Gewähr für Vollständigkeit, Richtigkeit und Aktualität kann jedoch nicht übernommen werden.
Richtlinie zur Nutzung von KI-Anwendungen zu dienstlichen Zwecken
Die Richtlinie soll als “Checkliste” dienen. Soweit alle dort genannten Punkte “abgehakt” wurden kann die KI-Anwendung eingesetzt werden. Bei Rückfragen wenden Sie sich bitte an die genannten Kontaktpersonen.
Hier finden Sie die Kurzversion der KI-Richtlinie als “Checkliste” dazu beigefügt finden Sie weitergehende Informationen und Erläuterungen zu den jeweiligen Punkten.
Fortbildungsmöglichkeiten
Das Hochschulnetzwerk Digitalisierung der Lehre Baden-Württemberg bietet ein KI-Kompetenzmodul zum Thema “Verstehen und Anwenden von generativer Künstlicher Intelligenz (KI)” an. Das Modul steht auch in englischer Übersetzung zur Verfügugng. Die englische Version finden Sie hier.
Der KI-Campus bietet eine kostenlose Lernplattform für künstliche Intelligenz in vielen unterschiedlichen Formaten. Der KI-Campus wird vom Bundesministerium für Bildung und Forschung gefördert. Für einen guten Überblick zur Funktionsweise von KI und Empfehlungen für effektives Prompting wird auf dem KI-Campus dieser Kurs angeboten.
Vom Netzwerk der Landeseinrichtungen für digitale Hochschullehre (NeL) werden weitere kostenfreie Qualifizierungsangebote angeboten.
Die Texterstellung ist wohl der bekannteste Anwendungsbereich von KI-Anwendungen. Dabei kann der Text durch Frage und Antwort Eingabe generiert werden oder auch durch Einspeisung ganzer Texte die durch die KI-Anwendung verarbeitet und ausgewertet werden können.
|
|
Zur Recherche werden KI-Anwendungen häufig als Ersatz für traditionelle Suchmaschinen (z.B. Google) verwendet. Die Tools liefern dabei häufig kontextbezogene und personalisierte Ergebnisse.
|
|
KI-Anwendungen können auch zur Datenanalyse und Erstellung von Schaubildern/Diagrammen verwendet werden.
|
|
| Texte können durch KI-Anwendungen übersetzt werden. |
|
- EU-KI-Verordnung
- Art. 3 Nr. 1 KI-VO enthält die Legaldefinition eines KI-Systems. Dabei ist es wichtig den Begriff des KI-Systems vom Begriff des KI-Modells abzugrenzen. Ein KI-Modell ist ein mathematisches oder statistisches Modell, das darauf trainiert wird, Muster in Daten zu erkennen und Vorhersagen oder Entscheidungen basierend auf diesen Mustern zu treffen. Es handelt sich um eine abstrakte Repräsentation eines Problems oder einer Aufgabe, die durch maschinelles Lernen oder andere KI-Techniken erstellt wird. Das KI-System ist die den Nutzenden zur Verfügung gestellte Oberfläche die oft auf mehreren KI-Modellen aufgebaut ist.
- Art. 3 Nr. 3 und Nr. 4 KI-VO Anbieter/Betreiber: Je nach Rolle und je nach Risikostufe der eingesetzten KI-Anwendung ergeben sich unterschiedliche Pflichten beim Einsatz von KI.
Art. 4 KI-VO KI-Kompetenz: Der Umfang der notwendigen KI-Kompetenz richtet sich nach derzeitigem Forschungsstand nach den drei Kriterien: Zweck, Risiko und Einsatzbereich.
Die Risikostufen der KI-VO:
Mit Inkrafttreten der KI-Verordnung der EU (KI-VO) soll die Entwicklung und die Nutzung von KI besser reguliert werden. Die KI-VO geht dabei von einem risikobasierten Ansatz aus, wonach KI-Systeme je nach ihrem Risikopotenzial einer entsprechenden Risikostufe zugeordnet werden. Aus dieser Einstufung ergeben sich unterschiedliche gesetzliche Pflichten, die jeweils von der Rolle als Anbieter oder als Betreiber der Systeme abhängt. Die Pflichten nehmen mit Risiko und Rolle zu.
- Inakzeptables Risiko: Darunter fallen alle KI-Systeme, die als eindeutige Bedrohung für die Sicherheit, den Lebensunterhalt und die Rechte der Menschen gelten. Diese Art der KI-Systeme ist verboten.
- Hohes Risiko: Die eingesetzte KI hat Auswirkungen auf die Gesundheit, Sicherheit oder Grundrechte. Hochrisiko-KI-Systeme unterliegen strengen Verpflichtungen, bevor sie in den Verkehr gebracht werden können. Es gelten unter anderem Transparenzanforderungen, angemessene menschliche Aufsichtsmaßnahmen, eine Risikobeurteilung und Risikominderung.
- Begrenztes Risiko: Durch den Einsatz der KI bestehen Risiken der Nachahmung, Manipulation oder Täuschung. Es gelten Offenlegungs- und Transparenzanforderungen und eine Kennzeichnungspflicht.
- Minimales Risiko: Einfache KI-Systeme (z.B. Spamfilter): d.h. keine weiteren Pflichten.
- Sonderfall KI-Modelle mit allgemeinem Verwendungszweck (GPAI): Die gesetzlichen Pflichten für GPAI Modelle hängen von der jeweiligen Anwendung, deren Risikopotenzial und deren Wirkungsgrad ab. Sie können potenziell jeder der vier Risikostufen zugeordnet werden.
Einsatz im Hochschulkontext:
Inwiefern KI-Anwendungen in der Hochschulverwaltung sicher und rechtmäßig genutzt werden können hängt von der Art der Verwendung des Tools ab. Für die Verwendung an der Hochschule ist deshalb zu klären, in welchem Bereich und in welchem Kontext die KI eingesetzt werden soll, da sich daraus die jeweilige Risikostufe ergibt und dementsprechend weitere Pflichten für einen Einsatz der KI gelten können. Zusätzlich muss geklärt werden, ob die Hochschule die Rolle des Anbieters oder des Betreibers der KI einnimmt.
Allgemeines
Dezernat I, Abteilung Recht und Organisation
Helmholtzstraße 16, 89081 Ulm
David Fischer: david.fischer(at)uni-ulm.de
Dezernat II, Studium, Lehre und Internationales
Helmholtzstraße 22, 89081 Ulm
Regina Nusser: regina.nusser(at)uni-ulm.de