Chine : Des scientifiques ont créé une intelligence artificielle dystopique qui décidera du sort des gens
Des chercheurs chinois affirment avoir réalisé une première mondiale en mettant au point une machine capable d’inculper des personnes pour des crimes grâce à l’intelligence artificielle.
Cette machine dystopique peut identifier les « dissidences » contre l’État et suggérer des peines pour les criminels apparents.
Les chercheurs affirment que le « procureur » de l’IA peut décider des accusations avec une précision de plus de 97 % sur la base d’une description verbale de l’affaire.
On craint toutefois que la machine, qui a été construite et testée par le parquet populaire de Shanghai Pudong, ne soit utilisée comme arme par l’État.
MSN rapporte : Jusqu’à présent, elle peut identifier et porter plainte pour les huit délits les plus courants à Shanghai, notamment la fraude à la carte de crédit, le vol, la conduite dangereuse et les querelles de clocher – un délit souvent utilisé contre les dissidents.
La technologie a été entraînée à l’aide de plus de 17 000 cas entre 2015 et 2020. Elle peut fonctionner sur un ordinateur de bureau et décide de porter plainte ou non en analysant des centaines de « traits » obtenus à partir d’une description de cas générée par un humain, selon un rapport du South China Morning Post.
Une fois que des accusations sont portées, il est presque garanti qu’elles aboutissent à une condamnation, le taux d’acquittement en Chine étant inférieur à un pour cent.
Le scientifique principal du projet, le professeur Shi Yong, directeur du laboratoire de big data et de gestion des connaissances de l’Académie chinoise des sciences, a déclaré que la machine pourrait libérer les procureurs pour qu’ils se concentrent sur des tâches plus difficiles.
« Le système peut remplacer les procureurs dans le processus de décision dans une certaine mesure », ont déclaré Shi et ses collègues dans un article publié ce mois-ci dans la revue chinoise à comité de lecture Management Review.
La Chine a déjà essayé d’intégrer des technologies telles que l’IA et le big data pour transformer le fonctionnement de son système juridique.
En 2017, les autorités ont lancé le premier cyber tribunal du pays, qui permet aux parties dans des affaires liées au « numérique », comme le commerce électronique, de comparaître par chat vidéo devant des juges virtuels artificiellement intelligents. Bien que l’idée soit d’accélérer les audiences et d’aider le système à faire face à une charge de travail plus importante, de véritables juges humains continuent de surveiller ce qui se passe et de rendre les décisions clés.
En 2016, les procureurs chinois ont commencé à utiliser un outil d’IA pour évaluer les preuves et déterminer le niveau de dangerosité d’un suspect pour le public.
Mais les outils d’IA existants n’ont pas de rôle dans le processus décisionnel consistant à déposer des accusations et à suggérer des punitions, selon Shi et ses collègues.
L’équipe a déclaré que sa machine deviendrait plus puissante avec des mises à jour et serait capable de reconnaître des crimes moins courants et de déposer plusieurs accusations contre un seul suspect.
Un procureur anonyme de la ville de Guangzhou, dans le sud de la Chine, a déclaré au South China Morning Post que si la machine avait une précision annoncée de 97 %, « il y aura toujours une chance de commettre une erreur ».
« Qui assumera la responsabilité lorsque cela se produira ? Le procureur, la machine ou le concepteur de l’algorithme ? », a demandé le procureur.
Outre la poussée juridique, les autorités chinoises ont également essayé d’utiliser l’IA dans divers autres secteurs pour améliorer l’efficacité et renforcer la surveillance du gouvernement.
Les responsables américains ont exprimé leur inquiétude quant au fait que l’IA et les ambitions similaires de la Chine pourraient à terme donner à Pékin un avantage décisif dans l’armée, les soins de santé et d’autres secteurs clés.
En octobre, l’ancien responsable des logiciels du Pentagone a déclaré au Financial Times que la Chine avait déjà gagné la bataille de l’IA contre les États-Unis et qu’elle se dirigeait vers une domination mondiale.
Aucun commentaire:
Enregistrer un commentaire