Discrimination par algorithme : Un groupe d'organisations ont appelé les gouvernements et les entreprises technologiques à adopter des lois pour protéger les droits humains
La justice à l'ère de l'intelligence artificielle
Nous avons besoin de lois pour protéger les gens des algorithmes discriminatoires . Les algorithmes sont de plus en plus intégrée dans les systèmes qui nous entourent. Les algorithmes apprennent à partir des informations que nous leur fournissons et ils façonnent le monde en conséquence. Ils finissent souvent par perpétuer nos préjugés préexistants. Nous devons protéger les gens des algorithmes discriminatoires. Les groupes de défense des droits humains ont appelé les gouvernements et les entreprises technologiques à adopter des lois pour protéger les droits humains. La déclaration appelle les ingénieurs à développer et revisiter des algorithmes dans le but de promouvoir la transparence et l'égalité pour mettre fin au racisme et à la discrimination propagés par les algorithmes.
Le document s'appuie sur le droit international des droits de l'homme pour faire valoir que ceux qui sont discriminés par des algorithmes d'intelligence artificielle devraient avoir un moyen de demander des réparations. Les algorithmes qui fonctionnent comme des boîtes noires sur le potentiel de laisser ces biais non contrôlés, fonctionnent intimement comme la manière dont le monde fonctionne. Il y a un potentiel évident s'il y a un manque de transparence autour d'un algorithme, cela pourrait perpétuer la discrimination ou les stéréotypes explique David Ryan Polgar, un technicien éthicien basé au Connecticut, dans une interview avec Futurism.
“Les schémas existants de discrimination structurelle peuvent être reproduits et aggravés dans des situations particulières à ces technologies par exemple, des objectifs de système d'apprentissage automatique qui créent des marqueurs de succès auto-réalisateurs et renforcent les modèles d'inégalité ou des problèmes découlant de l'utilisation de biaisés.Tous les acteurs, publics et privés, doivent prévenir et atténuer les risques de discrimination dans la conception, le développement et l'application des technologies d'apprentissage automatique et s'assurer que des solutions efficaces sont en place avant le déploiement et tout au long du cycle de vie de ces systèmes.”
La Déclaration de Toronto est un plaidoyer en faveur de la protection des groupes marginalisés qui portent souvent le poids de la discrimination systémique. Le monde du développement technologique est en grande partie celui des hommes blancs fortunés, et il y en a sans doute beaucoup qui aimeraient que cela reste ainsi, qu'ils le disent ou non explicitement. Il est essentiel d'attirer l'attention sur les droits et les besoins de ceux qui sont si souvent exclus de la conversation. Et même si la signature de la Déclaration de Toronto n'est pas juridiquement contraignante, il s'agit d'une première étape importante pour s'assurer que l'avenir de la technologie intelligente est celui de l'égalité et de l'inclusion.
Il est essentiel d'attirer l'attention sur les droits et les besoins de ceux qui sont si souvent exclus. Il s'agit d'une première étape importante pour s'assurer que l'avenir de la technologie intelligente est celui de l'égalité et de l'inclusion.
