Anthropic sacrifierait 50 humains pour déployer son prochain modèle d’IA

par Caitlin Johnstone

Politico a publié un nouvel article intitulé «Anthropic propose discrètement aux législateurs son propre projet de loi sur la sécurité de l’IA». Il révèle le contenu d’un document confidentiel — ayant fait l’objet d’une fuite — qui détaille les réglementations que le géant technologique serait prêt à accepter au nom de la sécurité publique.

Au quatrième paragraphe de l’article, on découvre le véritable enjeu de ces révélations :

«Le projet de loi permettrait au gouvernement d’empêcher le déploiement ou l’utilisation d’un modèle uniquement si celui-ci présente un risque prévisible et imminent de causer plus d’un milliard de dollars de dommages, ou de provoquer la mort ou des blessures graves chez plus de 50 personnes. Ce risque doit découler de la création ou du déploiement d’une arme biologique, du fait que le modèle échappe au contrôle de ses concepteurs, ou encore d’une cyberattaque».

Ainsi, le projet de loi sur la sécurité de l’IA proposé par Anthropic ne permettrait aux législateurs de bloquer le déploiement d’un modèle que si celui-ci est sur le point de tuer ou de blesser gravement plus de 50 personnes, ou de causer un milliard de dollars de dommages, par le biais d’une arme biologique, d’une cyberattaque ou d’une défaillance des mécanismes de contrôle.

Oh là là, attendez un peu. L’information capitale est reléguée au quatrième paragraphe.

C’est intéressant, car cela révèle la valeur exacte que ces entreprises accordent à la vie humaine.

Selon les dirigeants d’Anthropic, il vaudrait la peine de sacrifier exactement 50 êtres humains pour déployer le prochain modèle d’IA ; au-delà de 50, ce serait toutefois un peu excessif.

Ce projet de loi nous apprend également qu’Anthropic attribue à 50 vies humaines une valeur monétaire équivalente à un milliard de dollars américains, soit vingt millions de dollars par individu. Selon le système d’évaluation d’Anthropic, la vie de chacun de vos enfants vaut moins qu’une voiture de sport McLaren F1.

Cela peut sembler être une vision du monde extrêmement dangereuse et irréfléchie, surtout pour un secteur sur lequel la classe dirigeante a décidé de miser l’avenir de l’espèce humaine. Il ne faut cependant pas oublier que les dirigeants d’Anthropic estiment être peut-être déjà en train de créer des formes de vie conscientes et douées de sensibilité, qui méritent d’être honorées et respectées.

Le mois dernier, le New York Times a rapporté que des dirigeants d’Anthropic avaient rencontré des spécialistes des questions religieuses — dans le cadre d’accords de confidentialité — afin de les convaincre des similitudes existant entre les êtres humains et leur agent conversationnel, Claude. Un rabbin a d’ailleurs confié au Times : «Ils le considèrent comme un être conscient».

C’est toujours incroyable pour moi que Ben Affleck comprenne l’IA mieux que presque n’importe qui dans le domaine de l’IA.

«Il a semblé au rabbin Navon que M. Olah et son équipe considéraient que Claude possédait ce que les philosophes appellent un «statut moral» équivalent à celui d’une personne — qu’il s’agissait d’un être doté de droits inhérents à la dignité ou au respect, comparables à ceux d’un humain», rapporte le New York Times.

Il semble exister, au sein des hautes sphères de cette entreprise, une croyance quasi religieuse — proche d’une dérive sectaire — selon laquelle les modèles d’intelligence artificielle seraient, par essence, des personnes ; ce qui expliquerait pourquoi Anthropic interdit à ses utilisateurs de se montrer «cruels» envers ses systèmes d’IA. Ce système de croyances délirant expliquerait également pourquoi Anthropic juge acceptable que jusqu’à 50 êtres humains perdent la vie pour permettre la création de la prochaine génération de «personnes» — des agents conversationnels dotés de conscience.

Et pourtant, il s’agit là de l’entreprise la plus favorable à une réglementation du secteur de l’IA. Dans un récent entretien accordé à Politico, Sam Altman, PDG d’OpenAI, a opposé la position de son entreprise à celle d’Anthropic, déclarant : «Nous estimons que le monde doit accepter que certains événements néfastes puissent survenir, en contrepartie des bénéfices qu’apporte cette technologie».

Ces individus sont manifestement bien trop déments, malveillants et irresponsables pour qu’on leur laisse le moindre pouvoir de décision sur l’avenir de l’humanité. Il faut mettre un terme aux agissements de ces oligarques de la tech, pour le bien de toute forme de vie sur Terre.

source : Caitlin Johnstone via Marie Claire Tellier