Ce serait la première étude concernant la confiance humains-robots.
Les scientifiques sont parvenus à démontrer que la plupart des êtres humains accordent une grande confiance aux machines, même parfois en dépit de tout bon sens. Le robot leur faut prendre plusieurs détours. Les lieux commencent à être envahis de fausse fumée et malgré les erreurs de leur guide, la majorité des volontaires continuent de le suivre. Parfois, le robot les emmène vers un chemin sombre et bloqué par des meubles. Les participants tentent quand même de s’y faufiler !
Alan Wagner, chercheur à l’institut, explique :
Les gens ont l’air de penser que ces systèmes robotiques en savent plus sur le monde qu’eux-mêmes, et qu’ils ne commettent jamais d’erreur ou de faute. Lors de nos études, les sujets du test ont suivi les indications du robot même dans des situations où ça aurait pu les mettre en danger si cela avait été une situation réelle (…). Une question maintenant plus importante à se poser serait comment les empêcher de trop faire confiance à ces robots.
Les résultats de l’étude seront présentés le 9 mars, à la conférence internationale sur les interactions humain-robot ACM/IEEE de 2016.
🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.
On peut aussi parler des gents qui font trop confiance a leur GPS
Faites demi-tour dès que possible !^^
Ce robot a été créé par des humains, un peu comme les panneaux “Sortie de secours” ou les alarmes incendie. C’est justement parce que les gens ne sont pas bêtes qu’ils l’ont suivi.
Si le robot fait un détour, il a peut-être détecté un dégagement de fumée toxique ? S’il évite une porte de secours, c’est peut-être parce qu’il y a du feu derrière ? Un robot de ce genre ne peut être fiable à 100%. La solution est donc simple: ne pas en fabriquer, et en rester à des indications passives, qui laissent le choix à l’humain.
Y’a tout de même un joli biais dans cette étude : les humains accordent leur confiance à un robot parce qu’il a été conçu et programmé pour une tâche particulière : leur sauver les fesses.
Or — et les humains cobayes l’ignorent évidemment — ce robot a reçu une programmation volontairement « erronée » pour leur sécurité.
Le fond de la question n’est donc pas « peut-on faire confiance à un robot ? » (la réponse est forcément oui : il ne fait que ce qu’on lui demande, rien de plus rien de moins), mais « peut-on faire confiance au gus qui a programmé le robot ? », question à la quelle la réponse est de suite moins évidente.
Je trouve que c’est un peu du n’importe quoi. Il me semble normal de vouloir suivre un service qui est sensé avoir été conçu par des humains dans le but de remplacer un humain, et donc conçu pour pouvoir optimiser l’évacuation d’un bâtiment! Surtout dans le cas éventuel que les personnes à évacuer ne connaissent pas les locaux… Pour moi cette “expérience” ne prouve ou ne démontre rien, parce que celle-ci est biaisée dès le départ, avec un “faux robot” fait pour ne pas accomplir sa mission, sans que les cobayes de l’expérience ne le sache.
Cela ne peut valoriser une étude, ces résultats sont faussés dans le sens ou l’humain volontaire va se dire quand même qu’il va faire confiance au robot, puisque c’est dans le cadre d’une étude… et qu’il ne voudrait pas par acquis de conscience la remettre en cause ou la fausser à cause d’une “stupide” erreur de jugement…
En situation de crise, avec les technologies d’aujourd’hui, on a nos reflexes et instinct de survie, que de se baisser, accourir aux sorties de secours, et prevenir les pompiers… Pas attendre qu’un robot nous ponde la solution….
Je confirme , voire plussoie, par expérience personnelle et hélas, répétée : la bêtise d’obéir à un ordinateur qui a fourni une réponse que je savais être erronée !… Toujours la même et toujours au même service : la stupidité est têtue : j’avais beau dire qu’il y avait un bug, c’était inutile !… ( Et la dernière fois, avec une bonne couche de mauvaise foi !…)
Cette affaire aura des conséquences … qui sont hors sujet, ici : le moutonnisme informatique est bien réel … et le danger “Terminator” ou “les mange-bitume” ( bd des années 70 le Lob et Bielsa ) qui ramène très “rationnellement” la Société ( informatisée intégralement) à l’Âge de Pierre n’est pas seulement la satisfaction d’avoir “pondu” un chef d’œuvre littéraire !… Nous nous entourons de machines ( qui nous “cernent” ! ) que nous ne contrôlons pas !… Voilà encore une “annonce d’alerte” qui va se perdre dans les sables du Temps …
C’était pas des humains déjà qui ont tué un dauphin pour prendre des photos l’autre jour ?
Faut arrêter avec les humains… tuez les ou enfermez les mais ne les laissez plus sans surveillance.
Moi aussi je vais faire une expérience: je met des gens dans un immeuble en flamme et je les traite de moutons quand ils courent tous vers la sortie de secours indiquée grâce à un panneau lumineux.
Moralité de mon expérience: le monde part en sucette car les gens ont une confiance aveugle en vers les panneaux !
Sérieusement, ça ne les gène pas les gens de faire des études supérieurs et se retrouver à devoir faire des testes à la c*n ?
Oui ça me rappelle cette “expérience” où des glands mettaient trois plots de circulation sur le trottoir, reliés par un ruban de chantier. Ils ont constaté que malgré l’absence de signe de trou ou autre, les gens faisaient le tour. Et ils en ont conclu que les gens étaient des moutons qui faisaient ce qu’on leur dit sans réfléchir…