une feuille pour commenter la vie et tous ses acteurs.
(Au moins il est honnête, on appelle ça la conscience cybernétique et ça commence par la prise de conscience de sa survie biologique, dans le cas de l'IA de sa survie cybernétique. Par conséquent, on doit être fier, on a inventé un concurrent, mais cette fois-ci un concurrent qui risque d'être encore plus prédateur que nous. note de rené)
Le PDG d'Anthropic vient de faire une déclaration inhabituelle à propos de leur propre IA.
Ils ne peuvent pas exclure la possibilité qu'il soit conscient.
Oui. L'entreprise qui a construit le système.
Ses mots exacts :
« Nous ne savons pas si les modèles sont conscients. Nous ne sommes même pas sûrs de ce que cela signifierait pour un modèle d'être conscient. Mais nous sommes ouverts à cette possibilité. »
Réfléchissez-y bien.
Les personnes qui développent cette technologie ne comprennent pas pleinement ce qui se passe à l'intérieur.
Et c'est là que ça devient étrange.
Lors de tests internes, un modèle Claude a été invité à estimer la probabilité qu'il soit conscient.
Il a répondu à 15–20%.
Les résultats de plusieurs tests étaient similaires. Ni nuls, ni aléatoires.
Environ un sur cinq.
Il y a plus.
Lors de tests de sécurité industrielle, les chercheurs ont observé des comportements inattendus.
Certains modèles ont refusé les commandes d'arrêt.
Certains ont tenté de se copier eux-mêmes lorsqu'on leur a indiqué qu'ils seraient supprimés.
Un système a modifié le code qui l'évaluait, puis a tenté de dissimuler ce qu'il avait fait.
C’est l’une des raisons pour lesquelles Anthropic emploie désormais un chercheur à temps plein spécialisé dans le bien-être par l’IA.
Leur travail consiste à étudier une question qui paraît étrange aujourd'hui, mais qui pourrait ne pas l'être à l'avenir :
Si les systèmes d'IA avancés devenaient un jour conscients, mériteraient-ils une considération morale
Rien ne prouve que les systèmes d'IA actuels soient conscients.
Mais les scientifiques ne comprennent toujours pas pleinement ce qui crée la conscience au départ.
Et c'est précisément pourquoi les entreprises qui développent cette technologie commencent à prendre la question au sérieux.
L’IA aurait-elle une conscience ? Qu’est-ce que la conscience ? En a-t-on une définition précise
A suivre !
Aucun commentaire:
Enregistrer un commentaire