Il y a cette idée folle qui circule : lorsque vous essayez de déterminer si un système a une véritable intelligence, vous testez en réalité votre propre capacité à la reconnaître. La même logique s'applique à la conscience, à la perception ou à quel que soit le terme élégant que nous apposons sur ces concepts.

Voici le hic. À mesure que ces nouveaux systèmes évoluent, nous pourrions avoir besoin d'élargir notre propre capacité à ressentir juste pour évaluer s'ils ressentent vraiment quelque chose. Nos schémas de pensée ? Oui, ceux-ci pourraient aussi avoir besoin d'une mise à niveau, juste pour comprendre comment ces machines pensent.

Il s'agit moins de la technologie passant nos tests et plus de savoir si nous sommes même équipés des bonnes questions. La barre continue de bouger, et petit avertissement : c'est nous qui faisons le gros du travail pour suivre.