Régulation des algorithmes - Regulation of algorithms

A ne pas confondre avec Régulation par algorithme .

La régulation des algorithmes , ou régulation algorithmique , est la création de lois, de règles et de politiques du secteur public pour la promotion et la régulation des algorithmes , en particulier dans l' intelligence artificielle et l'apprentissage automatique . Pour le sous-ensemble des algorithmes d'IA, le terme régulation de l'intelligence artificielle est utilisé. Le paysage réglementaire et politique de l'intelligence artificielle (IA) est un problème émergent dans les juridictions du monde entier, y compris dans l'Union européenne. La réglementation de l'IA est considérée comme nécessaire à la fois pour encourager l'IA et gérer les risques associés, mais elle est difficile. Un autre sujet émergent est la régulation des algorithmes de blockchain et est mentionné à côté de la régulation des algorithmes d'IA. De nombreux pays ont promulgué des réglementations sur les échanges à haute fréquence , qui évoluent en raison des progrès technologiques dans le domaine des algorithmes d'IA.

La motivation de la régulation des algorithmes est l'appréhension de perdre le contrôle sur les algorithmes , dont l'impact sur la vie humaine augmente. Plusieurs pays ont déjà introduit des réglementations en cas de calcul automatisé du pointage de crédit – le droit à l'explication est obligatoire pour ces algorithmes. Des problèmes de partialité, de transparence et d'éthique sont apparus concernant l'utilisation d'algorithmes dans divers domaines allant de la justice pénale aux soins de santé. Beaucoup craignent que l'intelligence artificielle ne reproduise les inégalités sociales existantes selon la race, la classe, le sexe et la sexualité.

Régulation de l'intelligence artificielle

Article détaillé : Régulation de l'intelligence artificielle

Débat public

En 2016, Joy Buolamwini a fondé Algorithmic Justice League après une expérience personnelle avec un logiciel de détection faciale biaisée afin de sensibiliser aux implications sociales de l'intelligence artificielle à travers l'art et la recherche.

En 2017, Elon Musk a prôné la régulation des algorithmes dans le contexte du risque existentiel lié à l'intelligence artificielle générale . Selon NPR , le PDG de Tesla n'était "clairement pas ravi" de plaider en faveur d'un examen minutieux du gouvernement qui pourrait avoir un impact sur son propre secteur, mais pensait que les risques de passer complètement sans surveillance étaient trop élevés : "Normalement, la réglementation est mise en place lorsqu'un un tas de mauvaises choses arrivent, il y a un tollé général, et après de nombreuses années, un organisme de réglementation est mis en place pour réglementer cette industrie. Cela prend une éternité. Cela, dans le passé, a été mauvais mais pas quelque chose qui représentait un risque fondamental pour l'existence de civilisation."

En réponse, certains politiciens ont exprimé leur scepticisme quant à la sagesse de réglementer une technologie encore en développement. Répondant à la fois à Musk et aux propositions de février 2017 des législateurs de l'Union européenne visant à réglementer l'IA et la robotique, le PDG d'Intel, Brian Krzanich, a fait valoir que l'intelligence artificielle en était à ses balbutiements et qu'il était trop tôt pour réglementer la technologie. Au lieu d'essayer de réglementer la technologie elle-même, certains chercheurs suggèrent plutôt de développer des normes communes, y compris des exigences pour les tests et la transparence des algorithmes, éventuellement en combinaison avec une certaine forme de garantie. Une suggestion a été la création d'un conseil de gouvernance mondial pour réglementer le développement de l'IA. En 2020, l'Union européenne a publié son projet de document stratégique pour la promotion et la régulation de l'IA.

La collusion tacite algorithmique est une pratique antitrust juridiquement douteuse commise au moyen d'algorithmes, que les tribunaux ne sont pas en mesure de poursuivre. Ce danger concerne les scientifiques et les régulateurs de l'UE, des États-Unis et au-delà. La commissaire européenne Margrethe Vestager a mentionné un premier exemple de collusion algorithmique tacite dans son discours sur « Algorithmes et collusion » le 16 mars 2017, décrit comme suit :

« Il y a quelques années, deux sociétés vendaient un manuel intitulé The Making of a Fly. L'un de ces vendeurs utilisait un algorithme qui correspondait essentiellement au prix de son rival. Ce rival avait un algorithme qui fixait toujours un prix 27 % plus élevé que le premier. Le résultat a été que les prix ont continué à monter en flèche, jusqu'à ce que finalement quelqu'un remarque ce qui se passe et ajuste le prix manuellement. À ce moment-là, le livre se vendait - ou plutôt ne se vendait pas - pour 23 millions de dollars l'exemplaire. "

En 2018, les Pays-Bas ont utilisé un système algorithmique SyRI (Systeem Risico Indicatie) pour détecter les citoyens perçus comme étant à haut risque de commettre une fraude à l'aide sociale , qui a discrètement signalé des milliers de personnes aux enquêteurs. Cela a provoqué une protestation publique. Le tribunal de district de La Haye a fermé SyRI en se référant à l' article 8 de la Convention européenne des droits de l'homme (CEDH).

En 2020, des algorithmes attribuant des notes d'examen aux étudiants au Royaume-Uni ont déclenché une protestation ouverte sous la bannière « Fuck the algorithm ». Cette protestation a été couronnée de succès et les notes ont été reprises.

Mise en œuvre

La loi et les réglementations sur l'IA peuvent être divisées en trois sujets principaux, à savoir la gouvernance des systèmes de renseignement autonomes, la responsabilité et l'obligation de rendre compte des systèmes, et les questions de confidentialité et de sécurité. Le développement de stratégies du secteur public pour la gestion et la réglementation de l'IA est de plus en plus jugé nécessaire aux niveaux local, national et international et dans divers domaines, de la gestion de la fonction publique à l'application de la loi, le secteur financier, la robotique, l'armée, et le droit international. Il existe de nombreuses inquiétudes quant au manque de visibilité et de suivi de l'IA dans ces secteurs. Dans le secteur financier, par exemple, des appels ont été lancés pour que le Consumer Financial Protection Bureau examine de plus près le code source et les algorithmes lors des audits des données non publiques des institutions financières.

Aux États-Unis, le 7 janvier 2019, à la suite d'un décret sur le « Maintenir le leadership américain en matière d'intelligence artificielle », le Bureau de la politique scientifique et technologique de la Maison Blanche a publié un projet de directives pour la réglementation des applications d'intelligence artificielle , qui comprend dix principes pour Agences américaines lorsqu'elles décident si et comment réglementer l'IA En réponse, le National Institute of Standards and Technology a publié un document de position, la Commission nationale de sécurité sur l'intelligence artificielle a publié un rapport intérimaire et le Defense Innovation Board a émis des recommandations sur l'utilisation éthique de l'IA.

En 2016, la Chine a publié un document de position remettant en question l'adéquation du droit international existant pour faire face à l'éventualité d' armes entièrement autonomes , devenant le premier membre permanent du Conseil de sécurité de l'ONU à aborder la question et conduisant à des propositions de réglementation mondiale . Aux États-Unis, le pilotage de la réglementation de l'IA liée à la sécurité est assuré par la National Security Commission on Artificial Intelligence.

Régulation des algorithmes blockchain

Voir aussi : Bitcoin § Statut juridique, fiscal et réglementaire ; Légalité du bitcoin par pays ou territoire ; Droit de la technologie du grand livre distribué ; et contrat intelligent

Les systèmes de blockchain fournissent des enregistrements transparents et fixes des transactions et contredisent ainsi l'objectif du RGPD européen , qui est de donner aux individus le contrôle total de leurs données privées.

En mettant en œuvre le décret sur le développement de l'économie numérique , la Biélorussie est devenue le premier pays à légaliser les contrats intelligents . L'avocat biélorusse Denis Aleinikov est considéré comme l'auteur d'un concept juridique de contrat intelligent introduit par le décret. Il existe de solides arguments selon lesquels les lois existantes des États américains constituent déjà une base solide pour l'applicabilité des contrats intelligents - l' Arizona , le Nevada , l' Ohio et le Tennessee ont modifié leurs lois spécifiquement pour permettre néanmoins l'applicabilité des contrats basés sur la blockchain.

Dans la culture populaire

En 1942, l'auteur Isaac Asimov a abordé la régulation des algorithmes en introduisant les trois lois fictives de la robotique :

  1. Un robot ne peut pas blesser un être humain ou, par inaction, permettre à un être humain de subir un préjudice.
  2. Un robot doit obéir aux ordres qui lui sont donnés par les êtres humains, sauf si de tels ordres entreraient en conflit avec la Première Loi.
  3. Un robot doit protéger sa propre existence tant qu'une telle protection n'entre pas en conflit avec la Première ou la Deuxième Loi.

La principale alternative à la réglementation est l'interdiction, et l'interdiction des algorithmes est actuellement hautement improbable. Cependant, Frank Herbert de Dune univers , machines pensantes est un terme collectif pour l' intelligence artificielle de , qui ont été complètement détruits et interdit après une révolte connue sous le nom Butlerian Jihad :

JIHAD, Butlérien: (voir aussi la Grande Révolte) - la croisade contre les ordinateurs, les machines de pensée, et les robots conscients commencé en 201 BG et conclu en 108 BG Ses restes principaux de commandement de la Bible OC comme « Tu ne faire une machine à l'image d'un esprit humain."

Voir également

Les références