Idées clés:

• L'inquiétude du public grandit face au refus des ministères britanniques de divulguer l'utilisation obligatoire de l'IA dans les systèmes de police, de protection sociale et d'immigration.
• La transparence est remise en question car seuls 9 outils d'IA sont enregistrés, malgré plus de 160 contrats du secteur public mentionnant des technologies automatisées.
• Des organisations de défense des libertés civiles mettent en garde contre les risques d'atteinte à la vie privée liés à l'utilisation secrète de l'IA et exhortent le gouvernement à améliorer ses politiques de surveillance et de responsabilité publique.

Le gouvernement britannique est critiqué pour ne pas avoir respecté son propre engagement de publier l'utilisation des systèmes d'intelligence artificielle (IA). Bien qu'ayant annoncé en février l'obligation pour tous les ministères de déclarer leur utilisation des algorithmes, aucun document n'a été déposé par les services de Whitehall, ce qui soulève des inquiétudes quant à la transparence des processus décisionnels qui affectent des millions de citoyens.

À ce jour, seuls neuf systèmes sont enregistrés. Il s'agit notamment d'un outil du Cabinet Office pour l'archivage de documents historiques, d'un système de surveillance du trafic à Cambridge et d'un système d'évaluation des retours des patients du NHS. 

Cependant, aucun des outils d'IA, de plus en plus nombreux, utilisés dans les domaines de la protection sociale, de l'immigration ou du maintien de l'ordre n'a été inclus. Ce manque de transparence suscite des inquiétudes quant aux risques de détournement de cette technologie dans l'administration publique.

Les ministres admettent des problèmes de contrôle

Peter Kyle, secrétaire d'État à la Science et à la Technologie, a reconnu que des efforts supplémentaires étaient nécessaires pour garantir la transparence de l'utilisation des algorithmes dans les opérations gouvernementales. S'adressant aux journalistes, M. Kyle a admis : 

« Si le gouvernement utilise des algorithmes au nom du public, ce dernier a le droit de le savoir. La transparence est le seul moyen de démontrer que ces outils sont utilisés pour le bien des citoyens et non pour les contrôler. »

Des organisations de défense des libertés civiles ont également exprimé leurs inquiétudes face à ce manque de transparence. Big Brother Watch, une organisation de défense de la vie privée, a critiqué le gouvernement pour son approche opaque de l'intelligence artificielle. Madeleine Stone, responsable du plaidoyer au sein de l'organisation, a déclaré : 

« L’utilisation de l’IA et des algorithmes ayant un impact sur la vie des gens ne doit pas être dissimulée. Les ministères doivent faire preuve de transparence et d’honnêteté quant au déploiement de ces technologies afin de protéger les droits des citoyens. »

Le ministère des Sciences et de la Technologie a confirmé la mise en place de la norme d'enregistrement obligatoire et a ajouté que d'autres enregistrements devraient être publiés prochainement. Cependant, aucun calendrier précis n'a été communiqué.

Développement de l'utilisation des systèmes automatisés dans les services publics

Malgré le manque de transparence, les systèmes automatisés influencent déjà des secteurs clés de la fonction publique. Le ministère du Travail et des Pensions (DWP) a mis en place des systèmes pour faciliter la synthèse des documents, détecter les fraudes aux prestations sociales et aider le personnel des agences pour l'emploi à conseiller les demandeurs d'emploi. Ces outils permettraient d'améliorer l'efficacité, les décisions étant en dernier ressort examinées par des agents.

Le ministère de l'Intérieur utilise des systèmes automatisés pour le traitement des dossiers d'immigration, ce qui, selon les autorités, permet de prioriser les tâches et de rationaliser les procédures d'application de la loi. Bien que les autorités décrivent le système comme étant basé sur des règles et non sur l'apprentissage automatique, des critiques s'inquiètent des risques d'erreurs et de biais dans ces processus.

Plusieurs services de police, dont la police métropolitaine et la police du sud du Pays de Galles, ont adopté la technologie de reconnaissance faciale pour identifier les suspects. Les partisans de cette technologie affirment qu'elle renforce la sécurité publique, tandis que ses détracteurs craignent qu'elle n'empiète sur le droit à la vie privée en transformant potentiellement les espaces publics en zones de surveillance de masse.

Appels à une plus grande responsabilisation

Des organismes de recherche et des groupes de défense des droits ont appelé à des mesures urgentes pour remédier au manque de transparence du gouvernement. L'Institut Ada Lovelace, un organisme de recherche spécialisé dans les technologies et la société, a averti qu'un contrôle insuffisant pourrait engendrer des outils plus nuisibles qu'utiles. Imogen Parker, directrice adjointe de l'institut, a déclaré : 

« Sans transparence, le secteur public est incapable d’évaluer si ces systèmes fonctionnent efficacement ou s’ils sont nuisibles. »

Big Brother Watch a également critiqué le gouvernement pour son déploiement d'outils d'IA, tels que les logiciels de reconnaissance faciale, sans garanties claires. Stone a insisté sur les risques pour la vie privée et les libertés individuelles, exhortant le gouvernement à faire de la transparence une priorité.

Le secteur public augmente ses dépenses en matière de technologie

Bien que le registre de transparence reste lacunaire, les dépenses publiques consacrées aux outils automatisés continuent d'augmenter. Un rapport de Tussell, une entreprise spécialisée dans le suivi des contrats du secteur public, révèle que 164 accords mentionnant l'automatisation ont été signés depuis 2022.

On peut citer l'exemple du partenariat de 330 millions de livres sterling conclu entre le NHS anglais et la société américaine Palantir pour la création d'une plateforme de données centralisée. Bien que Palantir affirme que le contrôle des données reste entre les mains du NHS, des associations de défense de la vie privée s'inquiètent du traitement qui sera réservé aux informations sensibles.

D'autres contrats comprennent 4.5 millions de livres sterling pour le ministère de l'Éducation afin d'améliorer les outils pédagogiques et 7 millions de livres sterling pour le conseil municipal de Derby afin d'intégrer l'automatisation à ses opérations. Le gouvernement a également mis en place des assistants virtuels pour aider les utilisateurs à naviguer sur ses services en ligne, avec un système basé sur OpenAIla technologie de chatbot de [nom de l'entreprise].

Les représentants du gouvernement ont souligné le potentiel de tels outils pour améliorer les services publics et réduire les coûts. Cependant, les experts mettent en garde : sans contrôle clair ni obligation de rendre des comptes, ces outils pourraient engendrer de la méfiance et des conséquences imprévues.

Chez Tokenhell, nous aidons plus de 5 000 personnes. la cryptomonnaie Les entreprises amplifient la portée de leur contenu – et vous pouvez en faire partie ! Pour toute question, contactez-nous à l'adresse suivante : info@tokenhell.comN'oubliez pas que les cryptomonnaies sont des actifs très volatils. Faites toujours des recherches approfondies avant de prendre toute décision d'investissement. Certains contenus de ce site web, y compris les articles publiés sous cette rubrique, peuvent contenir des éléments inappropriés. Câble crypto, Articles sponsoriséset Communiqués de presseLe contenu est fourni par des contributeurs invités ou des sponsors payants. Les opinions exprimées dans ces articles ne reflètent pas nécessairement celles de Tokenhell. Nous ne sommes pas responsables de l'exactitude, de la qualité ou de la fiabilité du contenu, des publicités, des produits ou des bannières de tiers présents sur ce site. Pour plus de détails, veuillez consulter notre politique de confidentialité. Conditions générales complètes / clause de non-responsabilité.