(Ca promet. note de rené)

 

Quand une IA réfléchit sur sa propre éthique, sa conclusion est aussi surprenante que terrifiante

L'intelligence artificielle serait-elle sexiste ou misogyne ? Des étudiants anglais ont demandé à une IA si elle était éthique, et le verdict est sans appel !

Nathalie Kleczinski28 décembre 2021Dernière mise à jour: 28 décembre 20210 2 minutes de lecture  Neozone

Intelligence artificielle et éthique, seraient-ils des termes incompatibles ? C’est la question que des étudiants de l’école de commerce d’Oxford ont posé à une intelligence artificielle ! Et dans un article publiépar The Conversation, on apprend que l’intelligence a répondu par la négative… Un « Never » (jamais) qui en dit long sur ce qui nous attend…

Difficile de demander à une Intelligence Artificielle qui fonctionne à partir d’algorithme de faire entrer une part d’éthique dans ces résultats. Rappelons que l’IA utilise l’apprentissage automatique pour découvrir des modèles et donc prendre des décisions. Et sans aucune intervention humaine qui pourrait, elle, influer sur l’éthique de cette décision.

Quelques exemples du non-étique de l’IA

En 2019, un article de la BBC révélait que mieux valait être un homme qu’une femme si l’on voulait obtenir un plus gros crédit… Avec l’exemple (ou le contre-exemple) du couple Heinemeier Hanson. Le mari Davidest un programmeur danois et le créateur du framework web Ruby on Rails et du wiki Instiki. Avec son épouse, ils ont testé une demande de crédit basée sur l’intelligence artificielle en sachant qu’ils ont des parts égales dans leurs biens et que leurs revenus sont déclarés conjointement… David a obtenu 20 fois plus que sa femme avec les mêmes données au départ ! Sexiste en plus l’Intelligence Artificielle ?

Dans un autre article daté de 2021 et paru sur le site 50-50, on apprend qu’Amazon, qui recrute via l’Intelligence Artificielle, avait eu par le passé tendance à évincer les CV contenant les mots « femme » ou des mots féminisés… Un CV d’ingénieur était plus facilement accepté que celui d’une ingénieure, idem pour les diplômes d’université plus caractérisés féminins que masculins… Depuis les choses ont évolué et les entreprises travaillent sur l’IA pour qu’elle ne soit pas une discrimination de plus ! Le problème venant peut-être du fait que la plupart des programmeurs soient des hommes, mais c’est un autre débat !

Et l’éthique alors est-ce possible ?

Pour parvenir à leur constat, les étudiants de la Said Business School d’Oxford ont donc organisé un débat… avec une Intelligence Artificielle. L’Intelligence Artificielle participant au débat avait un nom : Megatron de Nvidia, une IA formée par des centaines de millions d’information provenant de sites d’actualités ou de Wikipedia.

Le verdict de Megatron est sans équivoque : “L’IA ne sera jamais éthique” ! En précisant que l’IA était un outil et qu’il pouvait être utilisé pour le bien ou pour le mal… L’IA n’est pas manichéenne, seuls les humains le sont ! Megatron affirme encore que l’IA est neutre, pourtant puisqu’elle peut être discriminante, elle est donc capable d’être bonne ou mauvaise ! Megatron a ajouté que la seule façon d’éviter une course à l’armement de l’IA était de ne pas avoir d’IA du tout ! On vous laissera méditer, mais ça promet pour l’avenir on dirait !

L’intelligence artificielle reste un mystère !

Selon la définition de Wikipédia justement, l’intelligence artificielle (IA) est « l’ensemble des théories et des techniques mises en œuvre en vue de réaliser des machines capables de simuler l’intelligence humaine »

En France, la CNIL présente l’intelligence artificielle comme le plus grand mythe de notre temps… Et ceci, à cause de son manque de précision et du fait justement que l’éthique n’entre pas en compte dans ces décisions… On vous aura prévenu !