Wichtige Erkenntnisse:

• Die Besorgnis in der Öffentlichkeit wächst, da britische Regierungsbehörden die obligatorische Nutzung von KI in den Bereichen Polizei, Sozialwesen und Einwanderung nicht offenlegen.
• Die Transparenz wird in Frage gestellt, da nur 9 KI-Tools registriert sind, obwohl in über 160 öffentlichen Verträgen automatisierte Technologien erwähnt werden.
• Bürgerrechtsgruppen warnen vor den Risiken des geheimen Einsatzes von KI für die Privatsphäre und fordern die Regierung auf, die Aufsichts- und Rechenschaftspflichtrichtlinien zu verbessern.

Die britische Regierung steht in der Kritik, weil sie ihrer eigenen Verpflichtung zur Veröffentlichung des Einsatzes von Systemen künstlicher Intelligenz (KI) in einem öffentlichen Register nicht nachgekommen ist. Obwohl sie im Februar angekündigt hatte, dass alle Ministerien ihre Algorithmennutzung offenlegen müssten, wurden von keiner der Behörden in Whitehall entsprechende Meldungen eingereicht. Dies hat Bedenken hinsichtlich der Transparenz von Entscheidungsprozessen geweckt, die Millionen von Bürgern betreffen.

Aktuell sind nur neun Systeme im Register erfasst. Dazu gehören ein Tool des Cabinet Office zur Archivierung historischer Aufzeichnungen, ein Verkehrsüberwachungssystem in Cambridge und ein Bewertungssystem für Patientenfeedback des NHS. 

Allerdings wurden keine der zunehmenden KI-Tools, die im Sozialwesen, in der Einwanderungspolitik oder bei der Polizei eingesetzt werden, berücksichtigt. Dieser Mangel an Transparenz hat Besorgnis über einen möglichen Missbrauch von Technologie in der öffentlichen Verwaltung ausgelöst.

Minister räumen Aufsichtsprobleme ein

Peter Kyle, der US-Staatssekretär für Wissenschaft und Technologie, räumte ein, dass mehr Anstrengungen nötig seien, um die öffentliche Transparenz beim Einsatz von Algorithmen in Regierungsprozessen zu gewährleisten. Gegenüber Reportern gab Kyle zu, 

„Wenn die Regierung Algorithmen im Auftrag der Öffentlichkeit einsetzt, hat die Öffentlichkeit ein Recht darauf, dies zu erfahren. Transparenz ist der einzige Weg, um zu zeigen, dass diese Instrumente zum Wohle der Menschen und nicht zu ihrer Kontrolle eingesetzt werden.“

Bürgerrechtsgruppen haben ebenfalls Bedenken hinsichtlich dieser mangelnden Rechenschaftspflicht geäußert. Big Brother Watch, eine Organisation für Datenschutz, kritisierte die Regierung für ihren intransparenten Umgang mit KI. Madeleine Stone, die Leiterin der Interessenvertretung der Gruppe, erklärte: 

„Der Einsatz von KI und Algorithmen, der das Leben der Menschen beeinflusst, darf nicht geheim gehalten werden. Die Behörden müssen offen und ehrlich über den Einsatz dieser Technologien zum Schutz der Bürgerrechte informieren.“

Das Ministerium für Wissenschaft und Technologie bestätigte, dass die Registrierungspflicht besteht und fügte hinzu, dass in Kürze weitere Datensätze veröffentlicht werden sollen. Ein konkreter Zeitplan hierfür wurde jedoch nicht genannt.

Ausweitung des Einsatzes automatisierter Systeme im öffentlichen Dienst

Trotz mangelnder Transparenz beeinflussen automatisierte Systeme bereits wichtige Bereiche des öffentlichen Dienstes. Das britische Ministerium für Arbeit und Pensionen (DWP) hat Systeme eingeführt, die bei der Zusammenfassung von Dokumenten, der Aufdeckung von Betrug bei Leistungsanträgen und der Unterstützung der Mitarbeiter von Jobcentern bei der Beratung von Leistungsbeziehern helfen. Diese Tools sollen die Effizienz steigern, wobei Entscheidungen letztendlich von Mitarbeitern überprüft werden.

Das britische Innenministerium nutzt automatisierte Systeme zur Unterstützung der Bearbeitung von Einwanderungsangelegenheiten. Laut Behördenangaben trägt dies zur Priorisierung der Arbeitsabläufe und zur Optimierung von Vollstreckungsmaßnahmen bei. Obwohl das System offiziell als regelbasiert und nicht auf maschinellem Lernen beruhend beschrieben wird, äußerten Kritiker Bedenken hinsichtlich des Risikos von Fehlern und Voreingenommenheit in diesen Prozessen.

Mehrere Polizeibehörden, darunter die Metropolitan Police und die Polizei von Südwales, setzen Gesichtserkennungstechnologie zur Verfolgung von Verdächtigen ein. Befürworter argumentieren, sie erhöhe die öffentliche Sicherheit, während Kritiker warnen, sie könne die Privatsphäre verletzen, indem sie öffentliche Räume potenziell in Zonen der Massenüberwachung verwandle.

Forderungen nach mehr Verantwortlichkeit

Forschungseinrichtungen und Interessengruppen fordern dringende Maßnahmen gegen die mangelnde Transparenz der Regierung. Das Ada Lovelace Institute, eine Forschungsorganisation mit Schwerpunkt auf Technologie und Gesellschaft, warnte davor, dass unzureichende Aufsicht zu Instrumenten führen könnte, die eher schaden als nutzen. Imogen Parker, stellvertretende Direktorin des Instituts, erklärte: 

„Ohne Transparenz ist der öffentliche Sektor nicht in der Lage zu beurteilen, ob diese Systeme effektiv funktionieren oder Schaden anrichten.“

Big Brother Watch kritisierte die Regierung außerdem dafür, dass sie KI-Tools wie Gesichtserkennungssoftware ohne klare Sicherheitsvorkehrungen vorantreibt. Stone betonte die Risiken für die Privatsphäre und die individuellen Freiheiten und forderte die Regierung nachdrücklich auf, der Rechenschaftspflicht höchste Priorität einzuräumen.

Der öffentliche Sektor erhöht die Ausgaben für Technologie

Während das Transparenzregister weiterhin lückenhaft ist, steigen die öffentlichen Ausgaben für automatisierte Werkzeuge weiter an. Ein Bericht von Tussell, einem Unternehmen, das öffentliche Aufträge überwacht, ergab, dass seit 2022 164 Verträge unterzeichnet wurden, in denen Automatisierung erwähnt wird.

Ein Beispiel hierfür ist die 330 Millionen Pfund teure Partnerschaft des NHS England mit dem US-amerikanischen Unternehmen Palantir zur Schaffung einer zentralen Datenplattform. Obwohl Palantir versichert, dass die Datenkontrolle beim NHS verbleibt, haben Datenschutzgruppen Bedenken hinsichtlich des Umgangs mit sensiblen Daten geäußert.

Weitere Aufträge umfassen 4.5 Millionen Pfund für das Bildungsministerium zur Verbesserung von Lehrmitteln und 7 Millionen Pfund für den Stadtrat von Derby zur Integration von Automatisierung in seine Abläufe. Die Regierung hat außerdem virtuelle Assistenten eingeführt, um Nutzern die Navigation durch ihre Online-Dienste zu erleichtern; ein System basiert dabei auf … OpenAIChatbot-Technologie von .

Regierungsbeamte haben auf das Potenzial solcher Instrumente hingewiesen, öffentliche Dienstleistungen zu verbessern und Kosten zu senken. Experten warnen jedoch, dass diese Instrumente ohne klare Aufsicht und öffentliche Rechenschaftspflicht zu Misstrauen und unbeabsichtigten Folgen führen könnten.

Bei Tokenhell helfen wir über 5,000 Menschen. Krypto Unternehmen vergrößern die Reichweite ihrer Inhalte – und Sie können dabei sein! Bei Fragen kontaktieren Sie uns unter info@tokenhell.comBitte beachten Sie, dass Kryptowährungen sehr volatile Vermögenswerte sind. Führen Sie stets gründliche Recherchen durch, bevor Sie Anlageentscheidungen treffen. Einige Inhalte auf dieser Website, einschließlich Beiträge unter [Link/Kategorie einfügen], unterliegen diesem Risiko. Kryptokabel, Gesponserte Artikel und PressemitteilungenDie Inhalte stammen von Gastautoren oder bezahlten Sponsoren. Die in diesen Beiträgen geäußerten Ansichten spiegeln nicht zwangsläufig die Meinung von Tokenhell wider. Wir übernehmen keine Verantwortung für die Richtigkeit, Qualität oder Zuverlässigkeit von Inhalten, Werbung, Produkten oder Bannern Dritter, die auf dieser Website angezeigt werden. Weitere Informationen finden Sie in unseren Nutzungsbedingungen. vollständige Geschäftsbedingungen / Haftungsausschluss.