Kritik an ChatGPT nimmt zu

Einige werden meinen, dass die Überschrift “Kritik an ChatGPT nimmt zu” ggf. relativiert werden müsste mit der Einfügung “(zumindest in Europa)”.
Andere würden wahrscheinlich sogar weiter relativieren wollen und hinzufügen wollen: (“zumindest in Deutschland!)”.
Aber ist es tatsächlich so, dass sich Widerstand oder zumindest Besorgnis bezüglich der Nutzbarkeit von KI-Anwendungen nur in Europa regt – Besorgnis darüber, wie die Entwicklung von KI-Systemen wie ChatGPT aussehen könnte, ließe man die dahinter stehenden Organisationen walten, wie sie wollten?

Die italienische Datenschutzbehörde hat auf Grund von Datenschutzbedenken den ChatGPT-Dienst von OpenAI in Italien vorübergehend verboten und angekündigt untersuchen zu wollen, ob ChatGPT die verwendeten Daten rechtswidrig unter Verstoß gegen das EU-Recht verarbeitet. Die Aufsichtsbehörde machte von ihrer Abhilfebefugnis gem. Art. 58 Abs. 2 lit. f) DS-GVO Gebrauch, was zu einer Sperrung des Dienstes durch OpenAI führte.
Der kanadische Datenschutzbeauftragte hat ebenfalls eine Untersuchung zum US-Unternehmen OpenAI eröffnet. Als Grund wurde angegeben, dass eine Beschwerde über die mutmaßliche Sammlung, Verwendung und Weitergabe von persönlichen Daten ohne Zustimmung vorliege.

Ob nun ChatGPT von Cyberkiriminellen als Werkzeug missbraucht wird, ggf. Urheberrechte verletzt, Beschäftigte dazu “verleitet” Geschäftsgeheimnisse zu offenbaren, Fake News schafft, die geeignet sind, andere Menschen als zu verleumden – Nicht nur Datenschutzbehörden, sondern auch Stimmen aus Wirtschaft, Verwaltung und Wissenschaft erkennen, dass der unbedarfte Einsatz solcher Software zum Problem wird. Erste aus der Datenschutz-Community erstellte Datenschutz-Checklisten zeigen, dass der Einsatz von KI einen bunten Strauß an alten und neuen Datenschutz-Problemen generiert.

Als konstruktiver Versuch mit diesen Sorgen und Nöten umzugehen, dürfte der offene Brief zu verstehen sein, den

• Prof. Dr. Rolf Schwartmann (Vorsitzender der GDD),
• Dr. Stefan Brink (Geschäftsführender Direktor des Wissenschaftlichen Instituts für die Digitalisierung der Arbeitswelt (Berlin) und ehemaliger Landesbeauftragter für Datenschutz und Informationsfreiheit in Baden-Württemberg)
• und Axel Voss (Mitglied des Europäischen Parlaments und Berichterstatter der EVP für die Verordnung zur Künstlichen Intelligenz und Berichterstatter des Europäischen Parlaments zur Richtlinie über die Haftung für Künstliche Intelligenz)

verfasst haben, in dem sie den Verantwortlichen von ChatGPT zur Transparenz auffordern.
Sie stellen fest, dass die hochaktuelle Technik mit vielen Rechtsgütern  und  legitimen  Interessen kollidiert, die in unserer europäischen  Werteordnung einen festen Platz haben und richten konkrete Fragen an den Betreiber von ChatGPT:

• Wie  steht es  um  die Transparenz Ihrer Algorithmen? 
• Wie verlässlich sind die so plausibel anmutenden Ergebnisse der KI-Software? 
• Welchen Schutz gewähren Sie  vor  nicht  altersgerechten  Ergebnissen? 
• Wie  schützen  Sie  unsere  Gesellschaften  vor  Verwerfungen  durch  Blasenbildungen,  die  Verstärkung  von  Zentrifugalkräften  bis  hin  zum  breiten  Verlust  von  Arbeitsplätzen? 
• Wie schützen Sie unsere Persönlichkeitsrechte, das geistige Eigentum Dritter und wie  verhindern Sie Fake News? 

Der offene Brief ist hier abrufbar:
>> Offener Brief in deutscher Sprache
>> Open letter (english)

(Foto: Timon – stock.adobe.com)