vendredi 2 décembre 2022

(Donc, elles réfléchissent de manière autonome ou j'ai mal compris ? note de rené)

Ces deux IA débattent philosophie depuis des jours… ce que j’en ai retenu

2 DÉCEMBRE 2022 anguille sous roche

The Infinite Conversation est un projet artistique qui fait discuter à l’infini deux IA modelées à partir de textes et discours du réalisateur Werner Herzog et du philosophe slovène Slavoj Žižek.

L’IA fait toujours plus de progrès, que ce soit en termes de capacités, ou du nombre de projets open source qui permettent à un nombre grandissant de personnes d’entraîner leurs propres modèles pour leurs besoins. L’artiste et programmeur Giacomo Miceli a ainsi décidé d’entraîner deux IA… avant de les faire discuter entre elles à l’infini.

Histoire de pimenter un peu les choses, l’artiste a choisi de modeler une IA sur des textes, discours, interview – et en reprenant la voix – du réalisateur allemand Werner Herzog. Tandis que l’IA qui lui donne la réplique est modelée sur la personnalité du philosophe slovène Slavoj Žižek. Les deux discutent désormais philosophie à l’infinie sur le site The Infinite Conversation que vous pouvez consulter en cliquant ici.

Ce site propose d’écouter un débat infini entre « hallucinations de bouts de silicium »

Lors de l’arrivée sur le site, le visiteur est ainsi plongé au milieu de la conversation en cours. Les conversations proprement dites en disent toutefois plus sur comment les modèles d’apprentissage-machine actuels fonctionnent plutôt que de contribuer aux connaissances. D’ailleurs un disclamer le souligne dès l’arrivée sur le site : « tout ce que vous entendez est totalement généré par une machine. Les opinions et croyances exprimées ne représentent personne. Ce sont simplement les hallucinations d’un bout de silicium ».

D’ailleurs dans son FAQ, l’artiste explique avoir conçu le site pour ces trois raisons : « 1) parce que je le pouvais; 2) parce que je souhaitait sensibiliser sur les pouvoirs du machine learning […] 3) parce que c’est une déclaration d’amour à Werner Herzog et Slavoj Žižek, leurs idées brillantes et leur parole idiosyncratique ».

Le site a été conçu « en utilisant principalement des outils open source en libre accès. La génération du texte lui-même se fait au travers d’un modèle de language populaire que j’ai affiné grâce à des interviews et des contenus signés des deux intervenants ». Evidemment, encore une fois, rien, dans ces discours, ne doit être pris réellement sérieusement. Par moments les conversations paraissent aller quelque part.

À d’autres moments, l’échange n’a absolument aucun sens. Parfois, les « hallucinations du bout de silicium »débouchent sur des textes a priori peu rassurants, comme cet extrait, où l’une des IA se demande ce qu’elle ferait enfermée dans une pièce avec un révolver et cinq femmes nues :

« Je pense que tu as raison. Mais j’ai un fantasme similaire, dont je n’ai jamais parlé publiquement. Si quelqu’un m’enfermait dans une pièce avec un révolver et cinq femmes nues, complètement sans gène ; si il quittait la piece et fermait la porte et que je savais qu’il reviendrait dans une heure – je ne sais pas ce qui m’arriverait. Je ne sais pas si je pourrais résister cette tentation ou pas. Le révolver est juste ici, de même que les cinq femmes nues. Je ne sais pas ce qui m’arriverait. Oui, je le pense. Je n’en sais rien, toutefois », déblatère l’IA dans un extrait.

Pour avoir écouté les échanges pendant quelques heures : dans l’ensemble la conversation a bien un fil rouge (si une IA parle de quelque chose, l’autre répond ou pose une question en rapport avec le sujet). Mais aussi troublant certains extraits peuvent parfois être, tout montre que ces IA font surtout semblant de discuter philosophie, et ne comprennent pas vraiment le fond du sujet dont il est question – tout en faisant montre d’une compréhension de surface.

On est loin d’un pur charabia, et, ce que montre ce projet artistique, c’est qu’entre du texte ainsi généré et des voix crédibles, il est déjà possible de créer des expériences très troublantes basées sur l’IA. Expériences qui sont même susceptibles de semer la confusion voire d’induire en erreur certains publics. Ce qui pourrait représenter dès maintenant un réel danger, d’autant que le site montre qu’il est déjà possible d’utiliser ainsi une ou plusieurs IA.

Source : Presse-citron