Ideas clave:

• La preocupación pública aumenta a medida que los departamentos del gobierno del Reino Unido no revelan el uso obligatorio de IA en los sistemas policiales, de bienestar social y de inmigración.
• Se cuestiona la transparencia ya que solo están registradas 9 herramientas de IA, a pesar de que más de 160 contratos del sector público mencionan tecnologías automatizadas.
• Los grupos de libertades civiles advierten que el uso secreto de la IA pone en riesgo la privacidad e instan al gobierno a mejorar las políticas de supervisión y responsabilidad pública.

El gobierno del Reino Unido está bajo escrutinio por incumplir su propio requisito de incluir el uso de sistemas de inteligencia artificial (IA) en un registro público. A pesar de anunciar en febrero la obligatoriedad de que todos los departamentos revelen el uso de algoritmos, los departamentos de Whitehall no han presentado ninguna información, lo que ha suscitado inquietudes sobre la transparencia en los procesos de toma de decisiones que afectan a millones de ciudadanos.

Actualmente, solo se han registrado nueve sistemas. Estos incluyen una herramienta del Gabinete para archivar registros históricos, un sistema de monitoreo de tráfico en Cambridge y un sistema de revisión para la retroalimentación de los pacientes del NHS. 

Sin embargo, no se ha incluido ninguna de las crecientes herramientas de IA utilizadas en el bienestar social, la inmigración o la policía. Esta falta de transparencia ha alertado sobre el posible uso indebido de la tecnología en la administración pública.

Los ministros admiten problemas de supervisión

Peter Kyle, Secretario de Estado de Ciencia y Tecnología, reconoció que se necesitan más esfuerzos para garantizar la visibilidad pública del uso de algoritmos en las operaciones gubernamentales. En declaraciones a la prensa, Kyle admitió: 

Si el gobierno utiliza algoritmos en nombre del público, este tiene derecho a saberlo. La transparencia es la única manera de demostrar que estas herramientas se utilizan para beneficiar a la gente, no para controlarla.

Los grupos de libertades civiles también han expresado su preocupación por esta falta de rendición de cuentas. Big Brother Watch, una organización de defensa de la privacidad, criticó al gobierno por su enfoque hermético hacia la IA. Madeleine Stone, directora de defensa del grupo, declaró: 

El uso de la IA y los algoritmos que afectan la vida de las personas no debe ocultarse. Los departamentos deben ser transparentes y honestos sobre el uso de estas tecnologías para proteger los derechos de las personas.

El Departamento de Ciencia y Tecnología confirmó que el estándar de registro obligatorio ya está en vigor y añadió que se espera la publicación de más registros próximamente. Sin embargo, no se ha comunicado un plazo claro para ello.

Ampliación del uso de sistemas automatizados en los servicios públicos

A pesar de la falta de divulgación, los sistemas automatizados ya influyen en áreas clave del servicio público. El Departamento de Trabajo y Pensiones (DWP) ha implementado sistemas para facilitar la recopilación de documentos, la detección de fraudes en las solicitudes de prestaciones y el apoyo al personal de los centros de empleo para orientar a los solicitantes. Según se informa, estas herramientas se utilizan para mejorar la eficiencia, y las decisiones son revisadas en última instancia por personal humano.

El Ministerio del Interior utiliza sistemas automatizados para respaldar la gestión de casos de inmigración, lo que, según los funcionarios, ayuda a priorizar la carga de trabajo y agilizar las medidas de cumplimiento. Si bien los funcionarios describen el sistema como basado en reglas y no dependiente del aprendizaje automático, los críticos han expresado su preocupación por el riesgo de errores y sesgos en estos procesos.

Varias fuerzas policiales, como la Policía Metropolitana y la Policía de Gales del Sur, han adoptado la tecnología de reconocimiento facial para rastrear a sospechosos. Quienes la defienden argumentan que mejora la seguridad pública, mientras que quienes la critican advierten que podría vulnerar el derecho a la privacidad al convertir los espacios públicos en zonas de vigilancia masiva.

Pide una mayor rendición de cuentas

Organismos de investigación y grupos de defensa han pedido medidas urgentes para abordar la falta de transparencia del gobierno. El Instituto Ada Lovelace, una organización de investigación centrada en la tecnología y la sociedad, advirtió que una supervisión inadecuada podría dar lugar a herramientas que perjudican en lugar de ayudar. Imogen Parker, directora asociada del instituto, declaró: 

“Sin transparencia, el sector público no puede evaluar si estos sistemas funcionan eficazmente o causan daños”.

Big Brother Watch también ha criticado al gobierno por impulsar herramientas de inteligencia artificial, como el software de reconocimiento facial, sin contar con garantías claras. Stone enfatizó los riesgos para la privacidad y las libertades individuales, instando al gobierno a priorizar la rendición de cuentas.

El sector público aumenta el gasto en tecnología

Si bien el registro de transparencia sigue siendo escaso, el gasto público en herramientas de automatización continúa aumentando. Un informe de Tussell, empresa que monitorea los contratos del sector público, reveló que desde 2022 se han firmado 164 acuerdos que mencionan la automatización.

Algunos ejemplos incluyen la colaboración de 330 millones de libras entre el NHS England y la empresa estadounidense Palantir para crear una plataforma de datos centralizada. Si bien Palantir afirma que el control de los datos sigue estando en manos del NHS, grupos de defensa de la privacidad han expresado su preocupación por el manejo de la información sensible.

Otros contratos incluyen 4.5 millones de libras para el Departamento de Educación, destinados a mejorar las herramientas educativas, y 7 millones de libras para el Ayuntamiento de Derby, destinados a integrar la automatización en sus operaciones. El gobierno también ha introducido asistentes virtuales para ayudar a los usuarios a navegar por sus servicios en línea, con un sistema basado en OpenAILa tecnología de chatbot de.

Los funcionarios gubernamentales han señalado el potencial de estas herramientas para mejorar los servicios públicos y reducir costos. Sin embargo, los expertos advierten que, sin una supervisión clara y una rendición de cuentas pública, estas herramientas podrían generar desconfianza y resultados no deseados.

En Tokenhell, ayudamos a más de 5,000 criptomonedas Las empresas amplían el alcance de su contenido, ¡y tú también puedes unirte a ellas! Para consultas, contáctanos en [email protected]Recuerde que las criptomonedas son activos altamente volátiles. Investigue siempre a fondo antes de tomar cualquier decisión de inversión. Parte del contenido de este sitio web, incluidas las publicaciones en Cable criptográfico, Artículos patrocinados, y Comunicados de Prensa, es proporcionada por colaboradores invitados o patrocinadores pagados. Las opiniones expresadas en estas publicaciones no necesariamente representan las de Tokenhell. No nos responsabilizamos de la exactitud, calidad ni fiabilidad del contenido, los anuncios, los productos o los banners de terceros que aparecen en este sitio. Para más detalles, consulte nuestra Términos y condiciones completos / Descargo de responsabilidad.