C’est une semaine exceptionnelle pour la répression du gouvernement sur l’utilisation abusive de l’intelligence artificielle.
Aujourd’hui, l’UE a publié son ensemble tant attendu de Réglementation de l’IA, un premier projet dont fuite la semaine dernière. Les réglementations sont très variées, avec des restrictions sur la surveillance de masse et l’utilisation de l’IA pour manipuler les gens.
Mais une déclaration d’intention de la Federal Trade Commission des États-Unis, présentée dans un Court article de blog par l’avocate du personnel Elisa Jillson le 19 avril, pourrait avoir plus de dents dans un avenir immédiat. Selon l’article, la FTC prévoit de s’en prendre aux entreprises utilisant et vendant des algorithmes biaisés.
Un certain nombre d’entreprises auront peur en ce moment, dit Ryan Calo, professeur à l’Université de Washington, qui travaille sur la technologie et le droit. «Ce n’est pas vraiment un seul article de blog», dit-il. «Cet article de blog est un exemple très frappant de ce qui semble être un changement radical.»
L’UE est connue pour sa ligne dure contre les Big Tech, mais la FTC a adopté une approche plus douce, du moins ces dernières années. L’agence a pour but de contrôler les pratiques commerciales déloyales et malhonnêtes. Son mandat est restreint – il n’a pas de juridiction sur les agences gouvernementales, les banques ou les organisations à but non lucratif. Mais elle peut intervenir lorsque les entreprises déforment les capacités d’un produit qu’elles vendent, ce qui signifie que les entreprises qui prétendent que leurs systèmes de reconnaissance faciale, leurs algorithmes de police prédictive ou leurs outils de soins de santé ne sont pas biaisés peuvent désormais être dans la ligne de mire. «Là où ils ont du pouvoir, ils ont un pouvoir énorme», dit Calo.
Prendre part
La FTC n’a pas toujours été disposée à exercer ce pouvoir. Après avoir été critiqué dans les années 80 et 90 selon lequel il était trop agressif, il a reculé et a choisi moins de combats, en particulier contre les entreprises technologiques. Cela semble changer.
Dans le billet de blog, la FTC avertit les fournisseurs que les allégations concernant l’IA doivent être «véridiques, non trompeuses et étayées par des preuves».
«Par exemple, disons qu’un développeur d’IA dit à ses clients que son produit fournira des« décisions d’embauche 100% impartiales », mais l’algorithme a été construit avec des données dépourvues de diversité raciale ou de genre. Il peut en résulter une tromperie, de la discrimination et une action d’application de la loi de la FTC. »
L’action de la FTC bénéficie d’un soutien bipartisan au Sénat, où les commissaires ont été interrogés hier ce qu’ils pouvaient faire de plus et ce dont ils avaient besoin pour le faire. «Il y a du vent derrière les voiles», dit Calo.
Pendant ce temps, bien qu’ils tracent une ligne claire dans le sable, les règlements de l’UE sur l’IA ne sont que des lignes directrices. Comme pour les règles du RGPD introduites en 2018, il appartiendra aux États membres de l’UE de décider de la manière de les mettre en œuvre. Une partie de la langue est également vague et sujette à interprétation. Prenez une disposition contre les «techniques subliminales au-delà de la conscience d’une personne afin de déformer matériellement le comportement d’une personne» d’une manière qui pourrait causer un préjudice psychologique. Cela s’applique-t-il aux fils d’actualité des médias sociaux et à la publicité ciblée? «Nous pouvons nous attendre à ce que de nombreux lobbyistes tentent d’exclure explicitement les systèmes de publicité ou de recommandation», déclare Michael Veale, membre du corps professoral de l’University College London qui étudie le droit et la technologie.
Il faudra des années de contestations judiciaires devant les tribunaux pour débusquer les détails et les définitions. «Ce ne sera qu’après un processus extrêmement long d’enquête, de plainte, d’amende, d’appel, de contre-appel et de saisine de la Cour européenne de justice», déclare Veale. «À quel moment le cycle recommencera.» Mais la FTC, malgré son mandat restreint, a l’autonomie d’agir maintenant.
Une grande limitation commune à la fois à la FTC et à la Commission européenne est l’incapacité de freiner l’utilisation par les gouvernements de technologies d’IA nocives. Les règlements de l’UE prévoient des exceptions pour l’utilisation de la surveillance par l’État, par exemple. Et la FTC n’est autorisée qu’à s’en prendre aux entreprises. Il pourrait intervenir en empêchant les fournisseurs privés de vendre des logiciels biaisés aux forces de l’ordre. Mais la mise en œuvre sera difficile, étant donné le secret entourant ces ventes et le manque de règles sur ce que les agences gouvernementales doivent déclarer lors de l’achat de technologie.
Pourtant, les annonces de cette semaine reflètent un énorme changement mondial vers une réglementation sérieuse de l’IA, une technologie qui a été développée et déployée avec peu de surveillance jusqu’à présent. Les chiens de garde en matière d’éthique réclament depuis des années des restrictions sur les pratiques d’IA déloyales et nuisibles.
L’UE considère que ses réglementations placent l’IA sous les protections existantes pour les libertés humaines. «L’intelligence artificielle doit être au service des personnes, et par conséquent, l’intelligence artificielle doit toujours respecter les droits des personnes», dit Ursula von der Leyen, président de la Commission européenne, dans un discours avant la sortie.
La réglementation aidera également l’IA à résoudre son problème d’image. Comme l’a également déclaré von der Leyen: «Nous voulons encourager nos citoyens à se sentir en confiance pour l’utiliser.»
L’article Cela vient de devenir une grande semaine pour la réglementation de l’IA est apparu en premier sur zimo news.
