4.3 Datenschutz und IT-Sicherheit

Der Schutz der Daten, die innerhalb von KI-Prompting-Systemen verarbeitet und gespeichert werden, ist von entscheidender Bedeutung, da in diesen Systemen häufig sensible und personenbezogene Daten genutzt werden, um personalisierte Antworten und Interaktionen zu ermöglichen. Darunter fallen etwa Sprachaufnahmen, Texte, persönliche Präferenzen oder sogar vertrauliche Informationen wie Zugangsdaten. Der Schutz dieser Daten ist aus mehreren Gründen wichtig.

Personenbezogene Daten sind eng mit den Grundrechten und der Freiheit des Einzelnen verbunden. Deren Schutz gewährleistet, dass die Persönlichkeitsrechte jedes Individuums respektiert werden und keinem Missbrauch, wie dem Ausspionieren oder der Profilbildung ohne Einwilligung, Vorschub geleistet wird. Datenmissbrauch kann zu Schädigungen von Personen im realen Leben führen; etwa durch Identitätsdiebstahl oder durch Manipulation auf Basis erlangter Informationen. Daher ist ein umfassender Schutz personenbezogener Daten notwendig, um solche Vorfälle zu verhindern.

Außerdem müssen Nutzende darauf vertrauen können, dass ihre Daten vertraulich behandelt werden, wenn sie KI-Prompting-Dienste in Anspruch nehmen. Wird dieses Vertrauen durch Datenlecks oder Sicherheitsvorfälle verletzt, kann das die Akzeptanz der Technologie und ihrer Vorteile langfristig stark beeinträchtigen.

Die Nutzung von KI-Prompting-Systemen, besonders im Bereich von Sprachassistenten, wird durch gesetzliche Datenschutzbestimmungen wie die DSGVO reguliert. Verstöße können zu erheblichen Bußgeldern führen. In diesem Zusammenhang ist es wichtig, dass sowohl Entwickler als auch Nutzer diese Bestimmungen verstehen und einhalten.

Eine weitere Initiative, die die Regulierung von KI auf politischer Ebene überwachen soll, ist der European AI Act. Das Gesetz, welches seit 2021 in Arbeit ist, steht kurz vor der Fertigstellung (Stand Januar 2024). Der Dezember 2023 war ein Meilenstein für das Gesetz, da dort eine Einigung der beiden Hauptorgane der Europäischen Union - dem Europäischen Parlament und der Europäischen Kommision - erzielt werden konnte. Diese Einigung wird aktuell in einen Gesetzestext formuliert und voraussichtlich in der ersten Hälfte des Jahres 2024 verabschiedet werden.

In dem Gesetz, welches in dieser Tragweite das erste weltweit ist, werden KI Modelle und Services in verschiedene Risikogruppen eingeteilt. Die Regulierung wird mit zunehmendem Risiko verstärkt.

Der AI Act ordnet KI-Anwendungen drei Risikokategorien zu:

• Unannehmbares Risiko: KI-Anwendungen, die die Sicherheit oder Grundrechte der Menschen gefährden, z. B. Social Scoring oder autonome Waffensysteme, sind verboten.
• Hohes Risiko: KI-Anwendungen, die ein hohes Risiko für die Sicherheit oder Grundrechte der Menschen bergen, z. B. KI-Systeme zur Gesichtserkennung oder zur Bewertung von Kreditwürdigkeit, unterliegen strengen Anforderungen.
• Geringes Risiko: KI-Anwendungen, die ein geringes Risiko für die Sicherheit oder Grundrechte der Menschen bergen, unterliegen weniger strengen Anforderungen.

Smart-Action: KI und Datenschutz 🕵️

Versetze dich in die Rolle einer Person, die Bedenken hinsichtlich des Datenschutzes bei der Verwendung einer bestimmten KI-Anwendung hat. Was wäre deine wichtigste Frage oder dein Hauptanliegen?

Sollte jede Entscheidung, die von KI getroffen wird, immer noch von einem Menschen validiert werden können?Warum oder warum nicht?

Jetzt wo du deine beiden Standpunkte formuliert hast, gehe in den Austausch mit einer Person in deinem Umfeld und erfrage die Meinung dieser Person zu dem Thema.

Quellen und Ressourcen

Ai regulation is coming. Harvard Business Review. (2021, August 30). https://hbr.org/2021/09/ai-regulation-is-coming

Future of Life Institute (o.D.). Der AI Act Explorer. https://artificialintelligenceact.eu/de/ai-act-explorer/

Europäisches Parlament (18.12.2023). KI-Gesetz: erste Regulierung der künstlichen Intelligenz. Themen. https://www.europarl.europa.eu/topics/de/article/20230601STO93804/ki-gesetz-erste-regulierung-der-kunstlichen-intelligenz