Re: la conscience chez les robots

[M'enfin]

Les éléments nerveux qui concernent nos réflexes de survie ont évolué en même temps que notre physiologie, ce sont des automatismes inhérents à la survie animale. S'ils ne s'étaient pas développés en premier, les animaux ne seraient pas apparus. Il ne s'agit pas d'une acquisition comme nous en faisons de manière consciente pour apprendre ou développer de nouveaux geste au cas où ils seraient utiles un jour, mais pour conserver immédiatement ce qui existe déjà.

[Gerard]

 L'instinct de conservation relève du réflexe de survie, il est inhérent à tout ce qui possède un système nerveux

  Par quel miracle serait-il inhérent ? Tout effet à une cause.

quand elle a mal, la main s'enlève toute seule, elle n'a pas besoin de programmation pour faire ça

  Mais si, elle a besoin d'une programmation, puisque la douleur n'est qu'une information, à nous de définir ce qu'il faut en faire. Y a des masos qui décident d'en jouir.. et y a des suicidaires qui refusent d'obéir à leur instinct de conservation.

Donc, y a rien d'automatique. Si tu veux que le robot réagisse comme toi tu réagirais, alors faut le programmer dans ce sens. Et dès lors, ce n'est plus "son choix".

Je n'ai pas senti le besoin de me reproduire, mais j'ai senti le besoin de créer du nouveau, et un humanoïde devrait sentir le même besoin s'il est intelligent, car l'imagination est la clef de l'intelligence.

  He ben alors ? L'instinct de reproduction entre bien dans ce cadre, non ?

J'ai été aussi attaché aux inventions que j'ai faites que ceux qui sont attachés à leurs enfants. Y aurait-il un instinct d'attachement?

  Absolument. C'est pas pour rien que le mot "paternité" est appliqué à tout créateur vis à vis de sa création. Donc les robots devront aussi avoir cet instinct, si l'on veut qu'ils "créent". A quoi bon créer sinon ?

Alors un robot qui n'aurait d'autre but que celui de ne pas mourir, quel serait le sens de sa vie ?

Le sens de la vie est donné par l'imagination, qui peut donner n'importe quel sens à n'importe quel geste.

  Avant de faire appel à son imagination pour définir le sens de sa vie, il faut déjà avoir un sens de la vie basique, non-défini par l'imagination. Un bébé n'a pas d'imagination. Son but c'est de manger, boire, dormir, être au chaud, etc...

  Donc si tu veux que ton robot puisse "avoir de l'imagination", faut déjà lui donner un sens pré-existant. Surtout, qu'après, tout comme pour les humains, trouver un sens à la vie peut se solder par un échec. Dès lors, comme pour la majorité des humains, la seule solution est de se rabattre sur les sens initiaux pré-existants : satisfaire nos instincts et pulsions (boire, manger, dormir, copuler...). Et comme je te le disais, il a fallu des centaines de millions d'années pour définir ces instincts par "le hasard". Si tu veux un robot fonctionnel sans attendre cette durée, il faudra donc les programmer et comme, contrairement à la Nature, un informaticien ne programme pas pour échouer, ces instincts seront totalement incontournables.

Par exemple, un robot ne pourra jamais se suicider, tu ne crois pas ?

Pour moi, la conscience est donnée par la résistance au changement de chacun de nos neurones, et les humanoïdes dont je parle auraient justement des neurones électroniques.

  ... lesquels n'auront aucune raison de résister au changement, puisqu'ils sont électroniques. Soit c'est 1, soit c'est 0. Donc pas de "conscience" pour un robot.

...

[Gerard]

Si l'intensité d'une sensation dépasse une certaine intensité, elle ne se rend pas au cerveau, elle déclenche un geste tout aussi intense que l'on appelle un réflexe dès qu'elle atteint la colonne vertébrale ou le tronc cérébral. Je cite wiki:

Un réflexe est une réponse musculaire involontaire, stéréotypée et très rapide à un stimulus. Une activité réflexe est induite par un arc réflexe, le mécanisme de réponse intégrée d'un centre nerveux sans intervention du cerveau et de la volonté consciente. Les réflexes sont souvent des réactions de défense, comme le retrait du membre en cas de brûlure, avant que le cerveau ait perçu la douleur.

  Seul le "Réflexe ostéotendineux" (le coup sur le genou) est un réflexe irrésistible. On ne peut pas l'empêcher, même si on le veut. Mais un réflexe sur la douleur en général est résistible. Si je décide de poser délibérément ma main sur une plaque chauffante, elle ne va pas se retirer malgré moi.

Un robot, si tu lui programmes des réflexes artificiellement, n'aura QUE des réflexes IRRESISTIBLES. Donc faudra pas espérer avoir des robots pompiers : ils s'enfuiraient devant les flammes. Sauf, si tu leur programmes des exceptions...

  Ce qui fait beaucoup de programmation, de moins en moins de décisions autonomes, donc pas de conscience.

...

[Zarzou]

Evil or Very Mad Seul le "Réflexe ostéotendineux" (le coup sur le genou) est un réflexe irrésistible. On ne peut pas l'empêcher, même si on le veut. Mais un réflexe sur la douleur en général est résistible. Si je décide de poser délibérément ma main sur une plaque chauffante, elle ne va pas se retirer malgré moi.

Un robot, si tu lui programmes des réflexes artificiellement, n'aura QUE des réflexes IRRESISTIBLES. Donc faudra pas espérer avoir des robots pompiers : ils s'enfuiraient devant les flammes. Sauf, si tu leur programmes des exceptions...

Wink Ce qui fait beaucoup de programmation, de moins en moins de décisions autonomes, donc pas de conscience.

Je remplacerais volontiers "irrésistible" par inconscience... Un reflexe est généré par un principe inconscient de recul oud e retrait raison pour laquelle il est irrésistible. Pour qu'un robot puisse fonctionner sur le mode humain, il faudrait déjà qu'il possède un conscient et un inconscient. Un inconscient joue le rôle chez l'homme de sous programme. Il n'est pas inscrit dans ce sous programme que le feu est dangereux, c'est la douleur qui va coder les données tout au long de sa vie. La douleur et le plaisir forment l'inconscient et le souvenir. Ce sont les sens et les émotions qui forment la psyché complète chez un individu. Si un jour nous voulons créer des robots à l'image de l'homme, il faudra commencer par la simulation des sens et après avoir tapé dessus comme un sourd nous verrons si son système fonctionne suffisamment bien pour en faire un enragé ou alors, nous le bercerons d'amour pour en faire un curé bionique.

[Gerard]

Les éléments nerveux qui concernent nos réflexes de survie ont évolué en même temps que notre physiologie, ce sont des automatismes inhérents à la survie animale. S'ils ne s'étaient pas développés en premier, les animaux ne seraient pas apparus.

C'est bien ce que je disais : il a fallu des centaines de millions d'années pour développer ces automatismes (la reproduction sexuée est très récente au niveau de l'évolution de la vie). Et toi tu voudrais les retranscrire directement dans le cerveau d'un robot. Mais dès lors ce n'est pas SA base instinctive, c'est la nôtre.

  Et dès lors, il ne s'agit plus "d'instinct", il s'agit d'une commande directe.

...

[Gerard]

Je remplacerais volontiers "irrésistible" par inconscience... Un reflexe est généré par un principe inconscient de recul oud e retrait raison pour laquelle il est irrésistible..

  Un réflexe est par définition "inconscient", la vraie question c'est de savoir s'il est résistible.

Car on peut résister à un ordre inconscient, c'est même la définition de la conscience : résister à l'inconscient.

  Evidemment je comprends ce que tu veux dire : un robot ne pourrait pas avoir d'inconscient, il serait forcément conscient de son inconscient. Et si cet "inconscient" est automatique, cela veut dire que son conscient l'est aussi. Dès lors, il ne peut pas décider de l'ignorer. Dès lors, sa conscience personnelle n'existe pas. C'est juste une marionnette.

...

[_dede 95]

 
Merci Gérard, c'est exactement ma pensée!
J'attend avec impatience la réponse du Reptueux!

[Jipé]

Car on peut résister à un ordre inconscient, c'est même la définition de la conscience : résister à l'inconscient.

"Ordre inconscient"   ...C'est une contradiction à mon sens, pour comprendre que l'on reçoit un ordre faut-il encore en avoir conscience.
Je dirais plutôt une "pulsion" est inconsciente...on peut résister à une pulsion une fois parvenue à la conscience.

[M'enfin]

 L'instinct de conservation relève du réflexe de survie, il est inhérent à tout ce qui possède un système nerveux

 Par quel miracle serait-il inhérent ? Tout effet a une cause.

Le terme inhérent est synonyme de lié. Un système nerveux sert à avoir des réactions et, au début des systèmes nerveux, ces réactions étaient forcément des réflexes.

quand elle a mal, la main s'enlève toute seule, elle n'a pas besoin de programmation pour faire ça

  Mais si, elle a besoin d'une programmation, puisque la douleur n'est qu'une information, à nous de définir ce qu'il faut en faire. Y a des masos qui décident d'en jouir.. et y a des suicidaires qui refusent d'obéir à leur instinct de conservation.

Je parle du réflexe Gérard, un geste subconscient! Si tu mets involontairement ta main sur le poêle, elle va s'enlever toute seule.

Donc, y a rien d'automatique. Si tu veux que le robot réagisse comme toi tu réagirais, alors faut le programmer dans ce sens. Et dès lors, ce n'est plus "son choix".

Dans ce cas, nous sommes programmés aussi, et ce n'est plus notre choix de survivre non plus. Conclusion: nous sommes des robots! C'est ça que tu veux dire?

Je n'ai pas senti le besoin de me reproduire, mais j'ai senti le besoin de créer du nouveau, et un humanoïde devrait sentir le même besoin s'il est intelligent, car l'imagination est la clef de l'intelligence.

  He ben alors ? L'instinct de reproduction entre bien dans ce cadre, non ?

Non, un instinct fonctionne de manière subconsciente, alors que l'imagination fonctionne de manière consciente. Essayer de créer un robot à notre image, c'est vouloir consciemment nous reproduire en mieux, l'inverse de ce que Dieu a fait avec nous. Conclusion, Dieu n'était pas plus intelligent que nous, ou alors, il a manqué son coup.   

J'ai été aussi attaché aux inventions que j'ai faites que ceux qui sont attachés à leurs enfants. Y aurait-il un instinct d'attachement?

 Absolument. C'est pas pour rien que le mot "paternité" est appliqué à tout créateur vis à vis de sa création. Donc les robots devront aussi avoir cet instinct, si l'on veut qu'ils "créent". A quoi bon créer sinon ?

Nous ne nous attachons pas à nos automatismes acquis, ce sont eux qui résistent au changement mais, contrairement à nos instincts, ils peuvent changer. L'attachement relève de nos apprentissages, et non de nos instincts.

Alors un robot qui n'aurait d'autre but que celui de ne pas mourir, quel serait le sens de sa vie ?

Le sens de la vie est donné par l'imagination, qui peut donner n'importe quel sens à n'importe quel geste.

  Avant de faire appel à son imagination pour définir le sens de sa vie, il faut déjà avoir un sens de la vie basique, non-défini par l'imagination. Un bébé n'a pas d'imagination. Son but c'est de manger, boire, dormir, être au chaud, etc...

L'instinct de survie ne donne pas consciemment de sens nouveau à la vie comme l'imagination est capable de faire, il préserve subconsciemment le seul vrai sens de la vie: la survie.

  Donc si tu veux que ton robot puisse "avoir de l'imagination", faut déjà lui donner un sens pré-existant. Surtout, qu'après, tout comme pour les humains, trouver un sens à la vie peut se solder par un échec. Dès lors, comme pour la majorité des humains, la seule solution est de se rabattre sur les sens initiaux pré-existants : satisfaire nos instincts et pulsions (boire, manger, dormir, copuler...). Et comme je te le disais, il a fallu des centaines de millions d'années pour définir ces instincts par "le hasard". Si tu veux un robot fonctionnel sans attendre cette durée, il faudra donc les programmer et comme, contrairement à la Nature, un informaticien ne programme pas pour échouer, ces instincts seront totalement incontournables.

Encore là, nos instincts sont incontournables aussi dans le sens où, si on n'y pense pas, ils s'expriment tout seuls. La vraie question pour moi c'est: comment notre imagination fait-elle pour développer son premier apprentissage à partir de nos instincts puisqu'elle ne peut pas modifier nos gestes instinctifs? Si tu peux répondre à cette question, je t'engage toi aussi pour fabriquer le premier robot intelligent!   

Par exemple, un robot ne pourra jamais se suicider, tu ne crois pas ?

Moi non plus, en tout cas pas tout de suite!   

Pour moi, la conscience est donnée par la résistance au changement de chacun de nos neurones, et les humanoïdes dont je parle auraient justement des neurones électroniques.

  ... lesquels n'auront aucune raison de résister au changement, puisqu'ils sont électroniques. Soit c'est 1, soit c'est 0. Donc pas de "conscience" pour un robot.

Tu as oublié la première règle de la roboreptique:  tout ce qui existe résiste au changement, absolument tout!

[M'enfin]

... un robot ne pourrait pas avoir d'inconscient, il serait forcément conscient de son inconscient. Et si cet "inconscient" est automatique, cela veut dire que son conscient l'est aussi. Dès lors, il ne peut pas décider de l'ignorer. Dès lors, sa conscience personnelle n'existe pas. C'est juste une marionnette.

On n'arrivera jamais à construire un robot intelligent en discutant philosophie. J'ai proposé une explication bien concrète de la conscience: la conscience serait causée par la résistance au changement de chacun de nos neurones corticaux. Partons de ça et voyons où ça peut nous mener, sinon on n'arrivera nulle part. Le subconscient ce sont nos automatismes, donc nos apprentissages et nos instincts, le conscient vient de ce qui peut changer, donc uniquement de nos apprentissages. Comme nous, un robot pourrait parfaitement posséder des automatismes innés, donc programmés pour la survie, et des automatismes acquis, donc modifiables à volonté et au besoin. Au départ par contre, il n'aurait que des instincts, donc, pour qu'il devienne intelligent, il faudrait trouver comment il pourrait faire des apprentissages sans utiliser ses automatismes instinctifs. Tu as une idée ou pas? Parce que moi, j'en ai une...

[Geveil]

Donc, y a rien d'automatique. Si tu veux que le robot réagisse comme toi tu réagirais, alors faut le programmer dans ce sens. Et dès lors, ce n'est plus "son choix".

Mais non, il ne faut rien programmer du tout, ou peut-être quelques réponses automatiques à certains stimuli. Il faut juste construire une mécanique et un cerveau aussi complexe que celui d'un insecte, pour commencer, puis d'une plus grosse bête, etc..... Il faut des canaux qui véhiculent les stimuli jusqu'au cerveau, une mémoire, un centre de curiosité, etc, etc.

Mais, je le répète, ne sachant pas si ceux qui me lisent actuellement sont conscients je ne peux savoir si un robot le sera, on pourra peut-être le supposer, comme je le fais pour vous, je suppose que vous êtes conscients.

[M'enfin]

Si je te comprend bien geveil, tu ne te trouves pas si conscient que ça!?

[Geveil]

En effet, je ne suis conscient que d'une toute petite partie du grand tout, donc à moitié vivant et à moitié mort.

[_dede 95]

 Question de Gérard à M'enfin:

Par exemple, un robot ne pourra jamais se suicider, tu ne crois pas ?

Réponse de M'enfin à Gérard:

Moi non plus, en tout cas pas tout de suite!

Un coup tu affirmes que tu ne pourra jamais te suicider, et tu fais suivre par je pourrais mais pas tout de suite!
Il y aurait pas un smililiblik dans ta pensée? Tu peux ou tu peux pas?   

[M'enfin]

En effet, je ne suis conscient que d'une toute petite partie du grand tout, donc à moitié vivant et à moitié mort.

Si le vrai avantage pour un être conscient est effectivement de pouvoir changer ses apprentissages au besoin, que ce changement ne peut se faire que par essai et erreur, que ce processus nécessite l'apport du hasard dans l'imagination, et que ce hasard vient de l'imprécision de nos synapses, il est possible qu'un robot intelligent puisse faire d'avantage d'apprentissages que nous dans un même temps, qu'il puisse en retenir d'avantage s'il est pourvu d'un espace mémoire plus grand, que ces apprentissages soient retenus plus longtemps et de manière plus précise si son électronique le permet, mais surtout, que l'imprécision de ses synapses puisse être plus grande que la nôtre, ce qui lui donnerait plus d'imagination, plus de capacité à modifier ses apprentissages, donc le rendrait plus intelligent. Malgré cela, il ne pourrait pas tout percevoir de manière instantanée comme ce que nous imaginons de Dieu. L'imagination peut tout imaginer, à nous de vérifier si elle a raison ou tord en nous brûlant parfois les sourcils.   

[M'enfin]

 Question de Gérard à M'enfin:

Par exemple, un robot ne pourra jamais se suicider, tu ne crois pas ?

Réponse de M'enfin à Gérard:

Moi non plus, en tout cas pas tout de suite!

Un coup tu affirmes que tu ne pourra jamais te suicider, et tu fais suivre par je pourrais mais pas tout de suite! Il y aurait pas un schmilblick dans ta pensée? Tu peux ou tu peux pas?   

Je parlais du suicide assisté, bien sûr! Qui peut dire s'il pourra, toi? Je crois donc qu'un robot intelligent ne saura pas non plus s'il aura le courage de traverser la rivière avant d'y être, voili!   

[_dede 95]

 Question de Gérard à M'enfin:

Par exemple, un robot ne pourra jamais se suicider, tu ne crois pas ?

Réponse de M'enfin à Gérard:

Moi non plus, en tout cas pas tout de suite!

Un coup tu affirmes que tu ne pourra jamais te suicider, et tu fais suivre par je pourrais mais pas tout de suite! Il y aurait pas un schmilblick dans ta pensée? Tu peux ou tu peux pas?   

Je parlais du suicide assisté, bien sûr! Qui peut dire s'il pourra, toi? Je crois donc qu'un robot intelligent ne saura pas non plus s'il aura le courage de traverser la rivière avant d'y être, voili!   

Bien sur que je peux dire que je pourrais! La preuve le suicide assisté! Mais j'avais bien compris que tu t'étais trompé, ça arrive quand on va trop vite dans la transmission écrite de sa pensée! Reconnais le!

[M'enfin]

Je disais que je ne voulais pas me suicider maintenant, mais que j'envisageais de le faire plus tard. Je ne vois pas ce qu'il y a de contradictoire là-dedans!

[_dede 95]

Je disais que je ne voulais pas me suicider maintenant, mais que j'envisageais de le faire plus tard. Je ne vois pas ce qu'il y a de contradictoire là-dedans!

Bah non, relis toi, ce n'est pas du tout ce que tu disais! Tu disais Moi non plus [je ne pourrais jamais me suicider]!
Alors je relevais tu peux ou tu peux pas!
Maintenant stop on va pas en faire un drame!   

[M'enfin]

Sisi, on pourrait en faire un drame, juste pour trouver le moyen d'empêcher nos futurs robots de s'entretuer en discutant!   

[Gerard]

Car on peut résister à un ordre inconscient, c'est même la définition de la conscience : résister à l'inconscient.

"Ordre inconscient"   ...C'est une contradiction à mon sens, pour comprendre que l'on reçoit un ordre faut-il encore en avoir conscience.
Je dirais plutôt une "pulsion" est inconsciente...on peut résister à une pulsion une fois parvenue à la conscience.

  Pas du tout : si tu vois une fille sexy, tu vas la trouver sexy tout simplement, sans être "conscient" du fait que c'est ta programmation génétique qui te donne cette appréciation.

Et cette programmation inconsciente va te donner un ordre tout à fait "conscient" :
  - Vas-y saute lui dessus ! Viole-la ! Qu'est-ce t'attends ?!

  Heureusement, ton conscient va rejeter cette pulsion, parce que c'est contradictoire avec les impératifs de notre vie sociale. C'est ça, la conscience "morale".

Un animal n'en a pas (ou peu). Et un robot n'en aurait pas non plus, car si un programmeur se donne le mal de programmer une instruction, ce n'est pas pour qu'elle soit ignorée. Mais la Nature, elle, nous a programmé à une époque où nous n'étions pas encore des animaux sociaux. Depuis, une nouvelle programmation est apparue, mais l'ancienne n'a pas disparue pour autant.

  Ce sont ces incohérences cumulatives qui ne sont pas reproductibles dans une intelligence artificielle : un programmeur ne va pas créer délibérément des "faiblesses" pour pousser l'intelligence à éprouver des frustrations provoquées par la non-réalisation des buts programmés. Au contraire, on fera tout pour donner à l'intelligence artificielle des objectifs qu'elle peut réaliser. De ce fait, on bride sa créativité, car la créativité n'apparaît que pour faire face à une frustration.

...

[Geveil]

Si le vrai avantage pour un être conscient est effectivement de pouvoir changer ses apprentissages au besoin, que ce changement ne peut se faire que par essai et erreur, que ce processus nécessite l'apport du hasard dans l'imagination, et que ce hasard vient de l'imprécision de nos synapses, il est possible qu'un robot intelligent puisse faire d'avantage d'apprentissages que nous dans un même temps, qu'il puisse en retenir d'avantage s'il est pourvu d'un espace mémoire plus grand, que ces apprentissages soient retenus plus longtemps et de manière plus précise si son électronique le permet, mais surtout, que l'imprécision de ses synapses puisse être plus grande que la nôtre, ce qui lui donnerait plus d'imagination, plus de capacité à modifier ses apprentissages, donc le rendrait plus intelligent. Malgré cela, il ne pourrait pas tout percevoir de manière instantanée comme ce que nous imaginons de Dieu. L'imagination peut tout imaginer, à nous de vérifier si elle a raison ou tord en nous brûlant parfois les sourcils.   

Voilà ! 

[Jipé]

  Heureusement, ton conscient va rejeter cette pulsion, parce que c'est contradictoire avec les impératifs de notre vie sociale. C'est ça, la conscience "morale".

C'est ce que je disais :

"on peut résister à une pulsion une fois parvenue à la conscience"

[Geveil]

un programmeur ne va pas créer délibérément des "faiblesses" pour pousser l'intelligence à éprouver des frustrations provoquées par la non-réalisation des buts programmés. Au contraire, on fera tout pour donner à l'intelligence artificielle des objectifs qu'elle peut réaliser. De ce fait, on bride sa créativité, car la créativité n'apparaît que pour faire face à une frustration....

Tu n'es apparemment pas frustré, car tu ne fais pas preuve de créativité, en effet, tu ne conçois les robots que comme des êtres programmés.  Je ne sais comment te frustrer   pour que tu puisses imaginer que les roboticiens ne programmeraient pas nécessairement leurs créatures, sauf quelques fonctions élémentaires, et se contenteraient de les munir d'un système d'apprentissage permanent, qui permettrait aux robots de se perfectionner et pourquoi pas de dépasser leurs créateurs en force, intelligence, sensibilité, empathie, sociabilité, courage, etc, etc.

[cana]

bonjour
je suis tout à fait d'accord avec gérard
personnellement je ne pense pas qu'il soit possible de programmer un robot pour de l'empathie
ce n'est pas pour demain les robots humanistes
un robot ne peut souffrir et éprouver
il ne pourra jamais évoluer à ce niveau
il sera à l'image du programme
froid automatique et performant.
et bien sur qu'ils dépasseront leur créateurs ! mais surement pas dans le "bon sens" du terme