robot "vivant"

[_Spin]

Bonjour,

Je fréquente les listes et forums zététiques, et je vois un sujet récurrent : la possibilité de construire un robot qui soit doué de vie, de sensibilité, d'émotions.

Ce serait le triomphe définitif du matérialisme sur toute forme de religion ou spiritualité.

Il y a quand même un hic, je pose à chaque fois la même question toute bête, et c'est à qui répondra le plus à côté, ou pas du tout, ou en supposant le problème résolu. Cette question, c'est : comment saura-t-on si la sensibilité, les émotions, etc. y sont ou n'y sont pas ?

Et ici, a-t-on des solutions ?

à+

[Invité]

On peut savoir quelles informations le robot a de son environnement, mais je ne vois pas comment on pourrait savoir si le robot a des émotions. Si on sait que le robot a des capteurs sensitifs, ça ne le rend pas pour autant susceptible de ressentir la douleur. Il faudrait pour être sûr vivre dans la tête du robot. A la limite en observant son comportement et en faisant le parallèle avec l'homme ou l'animal, on pourrait faire des suppositions sur ses émotions. C'est un peu ce que l'on fait avec les autres hommes. On observe un homme pleurer, on connait les conditions qui ont préludé aux larmes, on suppose donc que l'homme pleure de tristesse ou de joie, parce qu'on a ressentie la même chose. C'est l'empathie. Ainsi plus besoin d'être dans la tête de quelqu'un pour savoir à peu près son ressenti. Maintenant faire la même chose avec le robot est plus dur, parce qu'on ne fait pas le parallèle avec un autre robot qui pourrait nous dire ce qu'il ressent mais avec un homme. Dans ce cas, comportement similaire ne veut pas dire ressenti similaire. Le même problème se pose avec les animaux. C'est pas évident, je n'ai pas de solution toute faites.

[_Spin]

Bonjour,

Pour aller au bout de ma pensée, je pense qu'on ne pourra jamais le faire dans une optique purement matérialiste (au sens : tout est matière, la vie une infime et accidentelle partie de la matière, l'esprit une infime et accidentelle partie de la vie).

à+

[Invité]

Il faudrait que tu définisses la matière.
En physique, la matière a nécessairement une masse. Elle est composée de fermions (lepton et quark). C'est en gros tous les atomes. Mais le photon (particule de lumière), qui est un boson, peut aussi être considéré comme de la matière au sens général. Je dirais même tous les bosons (qui sont les particules vecteur de force comme les gluons pour l'interaction forte ou l'hypothétique graviton pour la gravité).

Pour moi, un sentiment a pour origine la matière au sens général (des fermions, des bosons), parce que tout part du cerveau, composé de matière et rien d'autre (jusqu'à preuve du contraire). Alors oui, on pourrait dire que l'on est pas sûr que la matière tel qu'on la connait suffit a expliquer la naissance d'une émotion. On ne sait pas comment cela fonctionne du point de vue physique, quel sont les mécanismes qui rentrent en jeux précisément. Et même si on savait comment cela fonctionne pour l'homme, on ne pourrait pas pour autant prétendre savoir comment naissent toutes les émotions comme la tristesse. Qui dit qu'il n'y a pas d'autre moyen d''atteindre cet état de tristesse que la "méthode humaine"? Aussi pour en revenir au robot, comme on ne sera: A) jamais sûr d'avoir reproduit un cerveau humain dans toutes ses composantes, B) jamais toutes les différentes combinaisons de la matière permettant de créer des émotions, on ne peut pas se baser sur une vision matérielle (le robot a tel circuit électronique etc) pour savoir si un robot a des sentiments. Il nous faut passer par l'analogie comportementale (et autre).

Tu dis que l'esprit et la vie ne sont pas matériel. Mais elles sont physique pour autant? Alors de quelle matière parles tu? Le sens physique ou le sens générale? Si tu parles physique alors oui, la vie (et par delà l'esprit (la conscience tu veux dire?)), ne sont pas purement matériel. Mais au sens général, pour l'instant on ne connait que les bosons et les fermions, donc a priori la vie n'est basée que là dessus.

[Gerard]

Je pense que vous compliquez la question en la prenant par le mauvais bout...

De quoi parle-t-on ? D'une simulation d'émotion.

1er exemple : Un NOUNOURS
Il arbore un sourire, il a l'air heureux. Ressent-il vraiment cette émotion ? Bien sûr que non ! Car c'est la seule émotion qu'il affiche, c'est une simulation d'émotion.

2ème exemple : Une MARIONETTE
Elle peut arborer plein d'émotions et réagir en temps direct à tout évènement. Seul problème : ses émotions ne sont que la retransmission des émotions du marionetiste qui LUI a effectivement des émotions.

3ème exemple : Un ROBOT (actuel)
De nos jours, nous sommes déjà capables de regrouper les deux exemples précédents avec des robots capables de traduire une émotion pré-définie, suivant un protocole défini par les programmateurs (marionnetistes modernes). On le voit bien sur le plan du principe : bien que plus complexe, cela reste une simulation. Alors la question se pose :

A partir de quel niveau de complexité de la simulation, pourra-t-on se demander si la créature artificielle ressent vraiment l'émotion qu'elle affiche ?

Pour moi la réponse est évidente : JAMAIS.

Complexe ou simple, une simulation reste une simulation. Un vrai être vivant n'est pas qu'une "machine à afficher des émotions", il est beaucoup de choses d'autre. Or, un roboticien fabrique un être qui n'a que des objectifs définis et ce n'est pas parce que son objectif principal est d'afficher des émotions qu'il est vraiment vivant et qu'il ressent ces émotions.

Une marionette reste une marionette, elle n'est que le reflet de son créateur.

:roll: Sinon, on est en plein Spielberg, dans un conte de fée, avec un PINOCCHIO qui devient un vrai petit garçon, à cause du regard porté sur lui par les vrais êtres vivants...

...

[Invité]

Or, un roboticien fabrique un être qui n'a que des objectifs définis et ce n'est pas parce que son objectif principal est d'afficher des émotions qu'il est vraiment vivant et qu'il ressent ces émotions.

Il existe des robots sans objectifs définis, des robots qui évoluent, qui apprennent de manière autonome. C'est fini la robotique à papa qui se contentait de faire des automates. Maintenant place à la robotique évolutive. Des robots qui réfléchissent et ne se contentent plus de suivre un script en faisant correspondre à tel événement telle action. Alors on peut raisonnablement penser qu'à terme ils auront des émotions, feront des rêves. Qui êtes vous pour prétendre qu'on ne pourra jamais créer un robot capable d'émotion? Des voyants? C'est pas croyable comment vos dogmes vous empêchent de voir plus loin. Vous posez directement des limites prétendument évidentes. Ce n'est pas ce que j'appelle faire preuve de zététique.

[Gerard]

C'est fini la robotique à papa qui se contentait de faire des automates. Maintenant place à la robotique évolutive. Des robots qui réfléchissent et ne se contentent plus de suivre un script en faisant correspondre à tel événement telle action.

Il n'empêche qu'on est bien obligé de leur donner un champ d'application à leur "intelligence".

Quand on demande à un robot d'aller d'un point "A" à un point "B". Ceux qui sont intelligents vont effectivement définir tout seul leurs trajets, leur façon de marcher.. etc.. mais aucun ne va inventer des "émotions".

Pour qu'ils le fassent, il faudra leur demander de le faire. Donc même s'ils sont autonomes, ils ne font que répondre à une demande et à une attente : manifester des émotions HUMAINES. Pourquoi donc ? Les singes ne rient jamais, pourtant, ils ont des émotions.

Donc si des robots sont vraiment autonomes, ils pourraient développer des émotions qui n'ont rien à voir avec des émotions humaines. Dès lors, quel intérêt ? On ne pourrait pas les comprendre, et ils ne pourraient pas nous comprendre. Il est donc bien évident qu'ils seront guidés dans leur création "libre et autonome" d'émotions AFIN qu'ils deviennent des fac-similés humains.

:roll: Du coup... leur autonomie devient trés discutable...

C'est pas croyable comment vos dogmes vous empêchent de voir plus loin. Vous posez directement des limites prétendument évidentes.

Alors répondez à ma question :

A partir de quel niveau de complexité de la simulation, pourra-t-on se demander si la créature artificielle ressent vraiment l'émotion qu'elle affiche ?

Pour moi quelle que soit la complexité, ce ne sera jamais qu'une version améliorée du sourire du nounours. Ce n'est pas un dogme, c'est la dérivé d'une constat simple : une simulation reste une simulation, son niveau de complexité n'a rien à voir avec sa NATURE REELLE.

...

[_Spin]

Bonsoir,

Qui êtes vous pour prétendre qu'on ne pourra jamais créer un robot capable d'émotion? Des voyants? C'est pas croyable comment vos dogmes vous empêchent de voir plus loin. Vous posez directement des limites prétendument évidentes. Ce n'est pas ce que j'appelle faire preuve de zététique.

La question pour moi n'est pas d'être capable de le produire ou non, mais de pouvoir s'assurer qu'il éprouve ou n'éprouve pas des émotions.

Pour répondre à ta question, j'entends bien sûr "matière" au sens plus large que les atomes, incluant donc les champs (ondes), etc.

à+

[Invité]

Il n'empêche qu'on est bien obligé de leur donner un champ d'application à leur "intelligence".

Quand on demande à un robot d'aller d'un point "A" à un point "B". Ceux qui sont intelligents vont effectivement définir tout seul leurs trajets, leur façon de marcher.. etc.. mais aucun ne va inventer des "émotions".

Pour qu'ils le fassent, il faudra leur demander de le faire. Donc même s'ils sont autonomes, ils ne font que répondre à une demande et à une attente

Les robots qui agissent sans qu'on ne comprenne pourquoi, ça existe.

Donc si des robots sont vraiment autonomes, ils pourraient développer des émotions qui n'ont rien à voir avec des émotions humaines.

Oui, c'est tout à fait possible. ça contredit d'ailleurs votre "jamais" de la réponse précédente m'enfin...

Il est donc bien évident qu'ils seront guidés dans leur création "libre et autonome" d'émotions AFIN qu'ils deviennent des fac-similés humains.

Le fait qu'ils soient guidés n'empêche pas forcément l'apparition d'émotion. On pourrait éventuellement dire qu'il ne sont pas libres tant qu'ils ne passent pas outre les règles qu'on leur impose, dans leur programme. Mais cela n'empêche pas qu'ils peuvent avoir des sentiments. Si on arrive à recréer de manière parfaite un cerveau, que croyez vous qu'il va se passer? Pourtant ici toute la conception sera guidé. Il ne faudrait pas confondre conception et vie du robot. Alors oui, le cerveau humain, on en est loin. Mais en même temps, il n'y a pas besoin d'aller jusqu'à la reproduction parfaite d'un cerveau humain pour que le robot ait des émotions. Vous l'avez dit vous même, il peut se créer des émotions nouvelles, non humaines.
Et ne parlons pas de toutes les variables qu'on ne maitrise pas, les choses aléatoires qui se créent parfois dans un programme.

Alors répondez à ma question :

A partir de quel niveau de complexité de la simulation, pourra-t-on se demander si la créature artificielle ressent vraiment l'émotion qu'elle affiche ?

Premièrement il n'y a pas que la simulation. On n'est pas obligé de copier la nature, on peut aussi inventer. Deuxièmement, si on reproduit à l'identique quelque chose dont on est sur qu'il ressent (un cerveau humain par exemple) on saura que cette création ressent aussi, par analogie. Mais comme on ne sait pas à coup sûr si on a bien reproduit à l'identique le cerveau (peut être des variables cachées), on ne pourra pas être sûr que le robot a des émotions. Je l'ai déjà expliqué plus haut dans le sujet. Et si on crée une chose qui n'a pas son pareil dans la nature, alors on fera comme avec les animaux, par de simples suppositions, qui ne font encore aujourd'hui pas l'unanimité.
Mais vous croyez vraiment que je vais répondre concernant le degré de complexité nécessaire? comme ça, en toute innocence? L'humilité vous connaissez? ça commence par ne pas prétendre tout savoir. Par ne pas dire "il est évident que".
Toujours la foi qui parle j'ai l'impression. Dogme numéro 1: L'homme ne peut être dieu. Alors nions en bloc.

[Invité]

Bonsoir,
La question pour moi n'est pas d'être capable de le produire ou non, mais de pouvoir s'assurer qu'il éprouve ou n'éprouve pas des émotions.

j'ai bien compris la question et j'y ai répondu plus haut. Mais le sujet a dévié.

Pour répondre à ta question, j'entends bien sûr "matière" au sens plus large que les atomes, incluant donc les champs (ondes), etc.

à+

J'aime bien le etc, ça veut tout dire. En fait, vous êtes en train de dire que la vie a pour origine quelque chose de non-physique? c'est à dire de non observable (car sans observation, pas de science)? Une chose qui a des répercutions sur l'observable mais qui n'est pas observable en lui même? Allez on va le dire le mot magique: Dieu?

[Gerard]

Tony dit :

Les robots qui agissent sans qu'on ne comprenne pourquoi, ça existe.

:shock: Comment sait-on qu'ils ne sont pas tout simplement en DYSFONCTIONNEMENT alors ?

De la même façon, si des robots développent une logique d'émotion qui n'est pas humaine, comment pourra-t-on savoir qu'ils ne sont pas tout simplement en état de "dysfonctionnement" ?

si on reproduit à l'identique quelque chose dont on est sur qu'il ressent (un cerveau humain par exemple) on saura que cette création ressent aussi, par analogie.

:roll: Sans doute, mais on pourra alors se poser la question de son utilité.

Comme disait un ami de Frankenstein au bon Docteur :
:lol: - Vous savez Docteur, il existe déjà un moyen trés simple de fabriquer un être humain : le rapport sexuel !

Et c'est bien le paradoxe d'une telle démarche :

- Soit la reproduction est imparfaite et alors, ce n'est qu'une simulation.

- Soit la reproduction est parfaite et alors on aura réussi à fabriquer un être humain avec des moyens trés compliqués, alors qu'on serait arrivé au même résultat, avec un bon coup de rein...

Ce n'est pas une question de dogme. C'est juste de se demander à quoi ça sert de réinventer le fil à couper le beurre...

:lol:

[Invité]

:shock: Comment sait-on qu'ils ne sont pas tout simplement en DYSFONCTIONNEMENT alors ?

De la même façon, si des robots développent une logique d'émotion qui n'est pas humaine, comment pourra-t-on savoir qu'ils ne sont pas tout simplement en état de "dysfonctionnement" ?

ah, ça y est, on en a fini avec la question du "possible". On en revient à la question initiale. Tant mieux. Et pour y répondre: j'en sais rien.

:roll: Sans doute, mais on pourra alors se poser la question de son utilité.

j'y vois une utilité: la compréhension de l'homme, et aussi une flopée d'avancée techniques utile pour le reste.
C'est pas tant le résultat qui compte, mais la démarche. En mathématiques c'est pareil. Le théorème importe peu, l'important étant la démonstration.

- Soit la reproduction est imparfaite et alors, ce n'est qu'une simulation.

- Soit la reproduction est parfaite et alors on aura réussi à fabriquer un être humain avec des moyens trés compliqués, alors qu'on serait arrivé au même résultat, avec un bon coup de rein...

Ce n'est pas une question de dogme. C'est juste de se demander à quoi ça sert de réinventer le fil à couper le beurre...

:lol:

Et tu oublies les robots ayant des émotions mais n'étant pas la copie de quoi que ce soit d'existant.

[Gerard]

Tony a dit :

Et tu oublies les robots ayant des émotions mais n'étant pas la copie de quoi que ce soit d'existant.

Tu peux faire la même chose avec un humain.

Va voir (ou revoir) L'ENFANT SAUVAGE de François Truffaut.

C'est l'histoire vraie d'un gamin qui a survécu seul en fôret pendant 10 ans.. Et on s'est aperçu qu'il avait dévellopé toute une logique d'émotion qui n'avait rien à voir avec les émotions "humaines". L'incompréhension était totale, il a fallu tenter de le "reprogrammer" et ça n'a pas vraiment marché...

[_Spin]

Bonjour,

Et tu oublies les robots ayant des émotions mais n'étant pas la copie de quoi que ce soit d'existant.

Toujours la même question : comment sait-on qu'ils ont des émotions ?

à+

[Invité]

Bonjour,

Et tu oublies les robots ayant des émotions mais n'étant pas la copie de quoi que ce soit d'existant.

Toujours la même question : comment sait-on qu'ils ont des émotions ?

à+

j'avais déjà répondu qu'on pourrait faire une analogie avec des choses vivantes dont on sait qu'elles ont des émotions. On observe le comportement du robot, sa façon de penser aussi.
Un exemple tiré du film i-robot (tiré d'un bouquin): Tu as un enfant qui a 90% de chance de mourir, et un adulte qui en a 50%. Tu ne peux essayer d'en sauver qu'un. Lequel choisiras tu? Le gosse n'est ce pas? Si le robot fait aussi ce choix, on pourra supposer que le robot a choisi en fonction de ses émotions (à moins qu'il ait un programme qui permette de pondérer les enfants par rapport au adulte. Mais s'il n'a pas ce programme?). Ce n'est pas un test parfait, je ne crois pas que ça existe. Mais c'est quand même pertinent.

[BlingBlingTheGod]

Je suis vraiment surpris de lire vos posts : vous êtes des chrétiens qui s'ignorent ! :salut:

Tu as un enfant qui a 90% de chance de mourir, et un adulte qui en a 50%. Tu ne peux essayer d'en sauver qu'un. Lequel choisiras tu? Le gosse n'est ce pas?

Je tenterai de sauver celui qui a le plus de chance de survi, cela fait de moi un robot ?

- Soit la reproduction est parfaite et alors on aura réussi à fabriquer un être humain avec des moyens trés compliqués, alors qu'on serait arrivé au même résultat, avec un bon coup de rein...

Non on aura réussi a créer un autre être conscient dans l'univers, et ce sera pas un humain.

La biologie du corps humain fonctionne de manière mécanique, nous somme des robots de chairs et de sang :diable:

Croire que l'on ne peut pas créer une conscience par des moyens scientifique revient à dire "je crois en l'âme sparée du corps" bref vous êtes platoniciste ou chrétien :shock:

[_Spin]

Bonjour,

Un exemple tiré du film i-robot (tiré d'un bouquin): Tu as un enfant qui a 90% de chance de mourir, et un adulte qui en a 50%. Tu ne peux essayer d'en sauver qu'un. Lequel choisiras tu? Le gosse n'est ce pas? Si le robot fait aussi ce choix, on pourra supposer que le robot a choisi en fonction de ses émotions (à moins qu'il ait un programme qui permette de pondérer les enfants par rapport au adulte. Mais s'il n'a pas ce programme?). Ce n'est pas un test parfait, je ne crois pas que ça existe. Mais c'est quand même pertinent.

Ben, moi pas. :whistle:

Parce que tout ça, on sait déjà le simuler. Et alors ?

Je reprends une analogie que j'ai déjà balancée sur le forum zététique : quelle différence entre obtenir d'un robot un comportement imprévisible qui peut faire sens, et obtenir un message imprévisible qui peut faire sens au moyen du marc de café, des tarots, du Yi King, de la géomancie, d'une boule de cristal, etc. etc. ? Y a-t-il de la vie derrière tous ces artifices ? Si oui pourquoi et si non pourquoi ? Et quelle différence avec ton robot à part une plus grande autonomie de ce dernier ?

à+

[Invité]

Parce que tout ça, on sait déjà le simuler. Et alors ?

mais si on sait qu'on a pas installé de programme capable de simuler un tel comportement mais que ça arrive quand même, on pourra bien se douter qu'il y a une émotion derrière? Sans en être sûr ok, mais c'est tout l'intérêt de multiplier ce genre de test.

Je reprends une analogie que j'ai déjà balancée sur le forum zététique : quelle différence entre obtenir d'un robot un comportement imprévisible qui peut faire sens, et obtenir un message imprévisible qui peut faire sens au moyen du marc de café, des tarots, du Yi King, de la géomancie, d'une boule de cristal, etc. etc. ?

Pourquoi tu penses qu'un chien a des émotions? Tu le frappes, il couine=> tu en déduis qu'il a mal car toi aussi quand on te frappe tu couines (à quelque chose près ). Pourtant le chien n'est pas un humain, ce qui ne t'empêche pas de faire une analogie. Ces réactions chez un robot peuvent être simulées c'est vrai, mais si on sait qu'on a rien installé pour simuler cela, on peut raisonnablement en déduire que ces réactions ont la même cause que chez nous: la douleur. C'est ce qu'on fait avec le chien. On sait qu'il n'y a pas de simulateur d'émotion à l'intérieur. Mais on est jamais sûr que l'analogie avec l'homme est correcte. Et tu en trouveras toujours pour dire que le chien quand tu le frappes et qu'il couine, c'est juste un bête phénomène mécanique qui a lieu (demande à descarte). Paradoxalement je dirais que c'est toi qui a une vision trop cartésienne des choses. Tu considères les robots comme autrefois on considérait les animaux, à avoir comme de simple machine.

[_Spin]

Tu considères les robots comme autrefois on considérait les animaux, à avoir comme de simple machine.

Bon, connais-tu des robots dont tu es raisonnablement sûr qu'ils éprouvent ou au moins peuvent éprouver des émotions ?
NB Je ne nie pas qu'un robot ou quoi que ce soit puisse peut-être éprouver des émotions, je demande comment on peut le savoir autrement qu'en donnant arbitrairement du sens à quelque chose de non automatique, quelle différence entre observer le comportement d'un robot et fantasmer sur un tas de marc de café qui a pris telle ou telle forme.

Est-ce qu'un logiciel d'échecs se sent fier de gagner, honteux de perdre, admiratif si son adversaire joue bien, agacé si son adversaire joue trop mal ?

à+

[Invité]

connais-tu des robots dont tu es raisonnablement sûr qu'ils éprouvent ou au moins peuvent éprouver des émotions ?

pour l'instant je ne pense pas qu'un seul connaisse une quelconque émotion. Mais ça viendra, un jour ou l'autre.

Je ne nie pas qu'un robot ou quoi que ce soit puisse peut-être éprouver des émotions, je demande comment on peut le savoir autrement qu'en donnant arbitrairement du sens à quelque chose de non automatique, quelle différence entre observer le comportement d'un robot et fantasmer sur un tas de marc de café qui a pris telle ou telle forme.

Et bien je t'ai répondu. ça vaut ce que ça vaut. Tu ne t'attendais quand même pas à la réponse miracle qui permet de savoir à coup sûr?

[BlingBlingTheGod]

Vous parlez de connaissances ou de comportement que l'on installerait dans le robot...

...or vous oubliez de dire qu'un enfant est "programmer" pour apprendre, alors pourquoi pas un robot ?

La "conscience" n'est que le résultat d'une pensée assez développée pour projeter des idées abstraites.

Un article sur l'IA : [Vous devez être inscrit et connecté pour voir ce lien]

[_Spin]

Bonsoir,

La "conscience" n'est que le résultat d'une pensée assez développée pour projeter des idées abstraites.

Et les émotions, le désir, la peur, l'amour, la haine, dans tout ça ?

à+

[Jonathan l]

ON le sera lorsqu'un robot dira tu me fait chier et mettra une balle dans la tête de quelqu'un. Ou lorsqu'il se suicidera.

[Gerard]

L'Architecte dit :

La "conscience" n'est que le résultat d'une pensée assez développée pour projeter des idées abstraites.

ça ce n'est pas prouvé !

Les scientifiques ont pu mettre en évidence l'importance des connexions synaptiques dans le fonctionnement de la pensée, mais cela ne prouve nullement que les connexions soient les seules conditions nécessaires à l'établissement d'une conscience. Il ne faut pas oublier que nous "sommes" aussi un corps vivant.

Donc ce n'est pas parce qu'on reproduit ces connexions via des circuits mécaniques qu'on a forcément créé une conscience.

:flower: Une fleur n'a pas de cerveau, pas de connexions, pourtant je pense qu'elle a plus de conscience que mon ordinateur. Pas vous ?

[_Spin]

Bonjour,

ON le sera lorsqu'un robot dira tu me fait chier et mettra une balle dans la tête de quelqu'un. Ou lorsqu'il se suicidera.

On en revient à ce que je disais : on produit un bidule capable d'un comportement non programmé, et on cherche un sens à ce comportement. Quelle différence avec le marc de café qui prend une forme non programmée à laquelle on cherche un sens ?

Et le revolver qui sert à la roulette russe, a-t-il une conscience ?

à+