[METAPHYSIQUE] QUI SUIS-JE, OU VAIS-JE, DANS QUELLE ETAGERE ?

[Inirius]

Par quel moyen est-ce qu'on peut prouver qu'un programme devient conscient?

De la même façon qu'on prouve qu'un humain l'est

Comment prouve-t-on que l'humain l'est ?

[drfloyd]

pour un scientifique matérialiste tout n'est il pas mécanique dans l'univers ? même le cerveau et donc la conscience fabriquée par le cerveau... donc aucun libre arbitre pour personne, humaine ou robot ?

[dav1974]

Par quel moyen est-ce qu'on peut prouver qu'un programme devient conscient?

De la même façon qu'on prouve qu'un humain l'est

Comment prouve-t-on que l'humain l'est ?

 la peur, l'envie, l'amouuuur, les trucs et actions fais pour rien.

[Captain Obvious]

pour un scientifique matérialiste tout n'est il pas mécanique dans l'univers ? même le cerveau et donc la conscience fabriquée par le cerveau... donc aucun libre arbitre pour personne, humaine ou robot ?

Même si c'est le cas, nos cerveaux ne fonctionnent pas comme nos ordinateurs.

[Urbinou]

pour un scientifique matérialiste tout n'est il pas mécanique dans l'univers ? même le cerveau et donc la conscience fabriquée par le cerveau... donc aucun libre arbitre pour personne, humaine ou robot ?

Je ne comprends pas pourquoi tu opposes systématiquement conscience biologique et libre arbitre.

[Tryphon]

Par quel moyen est-ce qu'on peut prouver qu'un programme devient conscient?

De la même façon qu'on prouve qu'un humain l'est

C'est à dire?

Tu sais prouver qu'un humain est conscient ?

Non, tu le déduis d'un certain nombre de ses réactions, parce qu'elles correspondent à ce que toi, en tant qu'humain, considère comme de la conscience (et c'est d'ailleurs bien pour ça qu'on a du mal à s'entendre exactement sur ce qui est conscient et ce qui ne l'est pas).

Pour un programme, ce serait pareil. Si tu te places en aveugle (tu ne sais pas si tu parles à un humain ou à un programme) et qu'en dialoguant, les réponses que tu reçois sont celles que tu attends d'un organisme conscient, tu n'as pas d'autre choix que de ne pas renier la qualité de conscience.

Un être humain est différent d'une machine qui aurait été programmée par un être humain.

J'ai envie de dire : et alors ?

[Urbinou]

et qu'en dialoguant, les réponses que tu reçois sont celles que tu attends d'un organisme conscient, tu n'as pas d'autre choix que de ne pas renier la qualité de conscience

un test de turing réussi serait pour toi signe de conscience ?

[Tryphon]

Jusqu'à un certain point.

Le protocole est à affiner (un programme l'a passé récemment, en faisant passer l'incohérence de certaines réponses comme une non-maîtrise de la langue).

Mais note bien ma formulation : je ne pense pas qu'on puisse montrer que quelque chose est conscient (toi compris). Par contre on peut échouer à montrer que quelque chose n'est pas conscient (ce qui n'est pas équivalent), et dans ce cas, on est obligé de faire "comme si" ça l'était.

Tu connais des tests de conscience plus fiables ?

[Anarwax]

ce qui suppose que l'état même de conscience existe non ?

[drfloyd]

quoi qu'il arrive il est en effet impossible de prouver la conscience (du moins actuellement, car de toute façon on ne sait pas ce que c'est)

on pourrait juste dire d'une machine qu'elle simule parfaitement la conscience

(on pourrait en revenir à la théorie du melon ou il est impossible d'affirmer que chaque individu autour de nous soit conscient, mais je redeviens lourd )

[drfloyd]

ce qui suppose que l'état même de conscience existe non ?

ca c'est une certitude absolue (j'en fais l'expérience là actuellement  )

[Tryphon]

ce qui suppose que l'état même de conscience existe non ?

Justement non. Si l'était de conscience existait et était parfaitement défini, alors il y aurait des protocoles sûrs pour affirmer qu'on est dedans ou pas.

Or là, non. C'est assez similaire aux enquêtes médicales. Par exemple l'homéopathie : tu ne sais pas comment ça marche, mais tu veux savoir si ça marche. Pour ça, tu prends un médicament que tu sais fonctionner, et tu administres le médicament à un groupe, l'homéopathie (ou autre) à un autre groupe, tu les fais surveiller par des médecins, mais tu te démerdes pour que les malades ne sachent pas ce qu'ils ont pris, et les médecins non plus. Puis tu compares...

[Anarwax]

"et était parfaitement défini" mais par qui :) ??

Science sans conscience n'est que ruine de l'âme
Je pense donc je suis

reste à prouver

[drfloyd]

je pourrai d'ailleurs reprendre Descartes pour ma théorie du melon :

"Je pense donc je suis, je suis donc Dieu"

[drfloyd]

et j'adore ce passage culte :

"je connus de là que j’étais une substance dont toute l’essence ou la nature n’est que de penser, et qui, pour être, n’a besoin d’aucun lieu, ni ne dépend d’aucune chose matérielle. En sorte que ce moi, c’est-à-dire l’âme par laquelle je suis ce que je suis, est entièrement distincte du corps, et même qu’elle est plus aisée à connaître que lui"


Le discours de la Méthode, ou du melon ? 

[Urbinou]

Tu connais des tests de conscience plus fiables ?

Non, il n'y a guère que l'intéressé qui puisse l'affirmer en son "âme et conscience"

[drfloyd]

d'où l'univers bulle ou nous sommes chacun enfermé.....

[Anarwax]

Par quel moyen est-ce qu'on peut prouver qu'un programme devient conscient?

De la même façon qu'on prouve qu'un humain l'est

C'est à dire?

Un être humain est différent d'une machine qui aurait été programmée par un être humain.

qqun connait ça :

https://www.frandroid.com/marques/samsung/656796_samsung-neon-que-devons-nous-attendre-du-projet-dhumain-artificiel

[Tryphon]

Jamais entendu parler. Certainement que de la comm'...

[Inirius]

Ca fait penser au concept de zombie philosophique votre truc.
Un être qui ferait tout comme un humain mais sans aucune conscience.
(typiquement une IA).

S'il a l'apparence d'un humain en plus, rien ne pourrait alors faire la différence avec un humain.


Quant à la théorie du melon de Doc, ça ressemble à une forme de solipsisme (cf wikipedia : https://fr.wikipedia.org/wiki/Solipsisme).

[dav1974]

N'empeche que ce que je dis plus haut reste vrai, en dehors de tous les tests et machins trucs philosophiques pour arriver "visuellement" a séparer l'humain de l'IA :
 Les choses ou les gestes qui ne servent a rien. (le mec qui m'avait expliqué ça appelle ça les actes déchets).
 Ça peut paraitre péjoratif dit comme ça, mais en fait il veux parler de tout ce qu'on fait gratuitement sans raison.
 Devant une œuvre d'art, on peux bloquer pour l'analyser (comme le ferai une machine aussi) mais on peut tout simplement "perdre" du temps devant parce que quelque chose se passe et on apprécie, ou ça nous rappelle klk chose mais on sait pas quoi.

[Tryphon]

Ca fait penser au concept de zombie philosophique votre truc.
Un être qui ferait tout comme un humain mais sans aucune conscience.
(typiquement une IA).

C'est exactement ça, en virant le "mais sans aucune conscience", car ça sous-entend :

* que les humains en ont une (ce qui n'est pas prouvable en l'absence de définition de "conscience"
* que l'IA n'en aurait pas, or comme tu le dis toi-même : si rien ne permet de faire la différence avec un objet conscient, pourquoi lui dénier la qualité d'être conscient ?

En fait, j'ai l'impression que beaucoup ici ne sont pas conscients (joke) du flou de la notion de conscience. Certains le mélangent avec la notion de vie au sens biologique, tandis que d'autres l'identifient plus ou moins au concept d'humain.

Quant à la théorie du melon de Doc, ça ressemble à une forme de solipsisme (cf wikipedia : https://fr.wikipedia.org/wiki/Solipsisme).

On lui a déjà dit, il en est très fier

@dav1974 : un bon test de conscience devrait aussi évaluer ce genre de comportements (qui, je le pense, émergeraient assez facilement d'une IA ; on peut d'ailleurs trouver des similitudes dans les IA actuelles, encore très spécialisées).

[dav1974]

Pour une IA évoluée, faire un test "encadré" peut être foireux non ?
Deja un humain, quand il sait qu'il passe un "test" il ne réagi pas de la même façon que spontanément. Une IA pourrai simuler le meme genre de réaction.
 C’était avec toi qu'on a parlé du jeu NEO CAB sur switch ?

[Tryphon]

Pour une IA évoluée, faire un test "encadré" peut être foireux non ?
Deja un humain, quand il sait qu'il passe un "test" il ne réagi pas de la même façon que spontanément. Une IA pourrai simuler le meme genre de réaction.

Un humain qui simule est-il moins conscient ?

D'où l'intérêt de faire des tests en aveugle.

C’était avec toi qu'on a parlé du jeu NEO CAB sur switch ?

Je ne crois pas. Ça parle de quoi ?

[Inirius]

Ca fait penser au concept de zombie philosophique votre truc.
Un être qui ferait tout comme un humain mais sans aucune conscience.
(typiquement une IA).

C'est exactement ça, en virant le "mais sans aucune conscience", car ça sous-entend :

* que les humains en ont une (ce qui n'est pas prouvable en l'absence de définition de "conscience"
* que l'IA n'en aurait pas, or comme tu le dis toi-même : si rien ne permet de faire la différence avec un objet conscient, pourquoi lui dénier la qualité d'être conscient ?

En fait, j'ai l'impression que beaucoup ici ne sont pas conscients (joke) du flou de la notion de conscience. Certains le mélangent avec la notion de vie au sens biologique, tandis que d'autres l'identifient plus ou moins au concept d'humain.

Quant à la théorie du melon de Doc, ça ressemble à une forme de solipsisme (cf wikipedia : https://fr.wikipedia.org/wiki/Solipsisme).

On lui a déjà dit, il en est très fier

@dav1974 : un bon test de conscience devrait aussi évaluer ce genre de comportements (qui, je le pense, émergeraient assez facilement d'une IA ; on peut d'ailleurs trouver des similitudes dans les IA actuelles, encore très spécialisées).

Ça sous entend nullement que l'humain est conscient :)
Tout le monde peut être un zombie philosophique, c'est une vision solipsiste de la réalité qui a le mérite d' être parfaitement cohérente ^^

Donc vu que c'est cohérent il faut bien considérer que l'homme est conscient si on veut avancer.

Du coup le problème c'est que chacun a son expérience consciente, mais ne peut pas généraliser autrement qu'en voyant les autres hommes.

C'est très similaire à la complexité de trouver une définition du vivant, mais je crois que vous l'avez déjà dit.

[dav1974]

Pour une IA évoluée, faire un test "encadré" peut être foireux non ?
Deja un humain, quand il sait qu'il passe un "test" il ne réagi pas de la même façon que spontanément. Une IA pourrai simuler le meme genre de réaction.

Un humain qui simule est-il moins conscient ?

D'où l'intérêt de faire des tests en aveugle.

C’était avec toi qu'on a parlé du jeu NEO CAB sur switch ?

Je ne crois pas. Ça parle de quoi ?

 Je vais tenter de résumer.
Dans le futur, tu joues le rôle d'une "chauffeur" de taxi type Uber qui retourne en ville après des années passé a galérer, pour rejoindre une amie d'enfance qui a soit disant un super plan pour du boulot et logement etc....
 Dans cette ville, prise entre un conflit pro ecolo et pro cybernetique , la situation est super explosive. tu te retrouve dans un monde ou les voitures conduites par des humains sont super mal vues par exemple.
 Donc dans un concept de jeu ou tout est basé sur la discutions avec tes clients, pour garder ta "renommée"tu dois faire des choix cornéliens pour ne pas les vexer, sans non plus devoir faire trop de concession sur ton avis personnel.Surtout que ton état de stress et ton humeur sont visibles a cause d'un bijou connecté qui change de couleur suivant ton état d'esprit. (donc les gens voient si tu ment trop).
 Et je te parlais de ce "super jeu" (j'ai kiffé), parce que tu te retrouve a devoir discuter avec des gens qui te meprisent parce que tu est humaine, ou qui te testent pour voir si tu es pas une IA dernière generation, et même avec une scientifique qui est une analyste "quantique" qui étudie les "risques" lors de grosses decisions pour une grosse boite du coin.
 Je pense que tu trouverai les joutes verbales avec cette analyste (la sorciere...) super intéressantes, et les tests que te font passer certains clients (des questions super chelous) pour voir si tu es humaine ou pas, super bien chiadées.
 On voit que les dev du jeu ont vraiment fait leur boulot niveau recherches (ou qu'ils sont aussi super passionnés) par les meme sujet que tu evoque souvent.

[Tryphon]

Ca tombe bien, j'ai une Souichte depuis peu

[dav1974]

demo gratuite tu trouvera. (mais dans la demo, je sais plus si les clients "profonds" sont la)

[Captain Obvious]

ce qui suppose que l'état même de conscience existe non ?

Justement non. Si l'était de conscience existait et était parfaitement défini, alors il y aurait des protocoles sûrs pour affirmer qu'on est dedans ou pas.

Je crois que le problème vient du fait que ce mot peut avoir de nombreuses significations.
Personnellement, quand je parle de conscience, je fait surtout référence à une qualité réflexive : une entité qui à la faculté de s'observer de l’intérieur et de se connaître elle-même. Il y a de bonnes choses là dessus sur wikipedia :
https://fr.wikipedia.org/wiki/Conscience

« Conscience de soi : la conscience est la présence de l’esprit à lui-même dans ses représentations, comme connaissance réflexive du sujet qui se sait percevant. »

Par quel moyen est-ce qu'on peut prouver qu'un programme devient conscient?

De la même façon qu'on prouve qu'un humain l'est

C'est à dire?

Tu sais prouver qu'un humain est conscient ?

Non pas de manière absolue, c'est pour ça que je te demande comment tu fais.

Non, tu le déduis d'un certain nombre de ses réactions, parce qu'elles correspondent à ce que toi, en tant qu'humain, considère comme de la conscience (et c'est d'ailleurs bien pour ça qu'on a du mal à s'entendre exactement sur ce qui est conscient et ce qui ne l'est pas).

Je ne le déduis pas d'un test de turing donc.
Je le déduis comme tu dis par analogie : d'abord en ayant l’expérience et donc la preuve de ma propre conscience.
Je constate que les êtres humains qui m'entourent ont un système nerveux qui fonctionnent selon les mêmes principes que le mien, que nous avons le même type d'interaction avec notre environnement...etc

Pour un programme, ce serait pareil. Si tu te places en aveugle (tu ne sais pas si tu parles à un humain ou à un programme) et qu'en dialoguant, les réponses que tu reçois sont celles que tu attends d'un organisme conscient, tu n'as pas d'autre choix que de ne pas renier la qualité de conscience.

Ça ressemble juste à un jeu de dupe, un simulacre basé sur le langage, qui prouverait juste que le programme est efficace pour tromper son interlocuteur.
L'ordinateur ne fait qu’exécuter une série d'instruction, à aucun moment il n'a la qualité réflexive que j'évoquais plus haut, il ne sait ni ce que sont les mots, ni ce qu'il est lui même. C'est juste un boulier électrique, pas plus conscient qu'un fer à repasser.
La différence entre une machine à calculer comme Deepblue et Kasparov, c'est que Kasparov lui comprend ce qu'est le jeu et il a conscience d'avoir perdu. Et comme dans ton test, le fait que la machine batte l'humain ne prouve pas que la machine est consciente, juste qu'elle est plus efficace que notre cerveau pour calculer.


Connais-tu les critiques concernant le test de Turing ? Notamment celle de Searle ?

[drfloyd]

il semble y avoir tellement de niveau de conscience...

entre l'humain
l'animal (qui n'aurait par exemple quasi pas notion du temps qui passe)
une fourmie
une plante
...