Viquipèdia

Efecte ELIZA

tendència a assumir, inconscientment, que els comportaments informàtics són anàlegs als comportaments humans

L'efecte ELIZA, en ciències computacionals, és la tendència a assumir, inconscientment, que els comportaments informàtics són anàlegs als comportaments humans.

En la seva forma més específica, l'efecte ELIZA es refereix només a "la susceptibilitat de les persones a buscar una major comprensió en cadenes de símbols -especialment les paraules- enfilats per computadores".[1] Un exemple trivial d'aquesta forma de l'efecte Eliza, donada per Douglas Hofstadter, implica un caixer automàtic que mostra la paraula "GRÀCIES" al final d'una transacció. Algú poc observador podria pensar que la màquina està en realitat expressant gratitud; no obstant això, la màquina només està imprimint una cadena pre programada de símbols.

Més general, l'efecte ELIZA descriu qualsevol situació on,[2][3] basant-se únicament en la sortida del sistema, els usuaris perceben els sistemes informàtics com si tinguessin "qualitats i habilitats intrínseques controlades pel programari que possiblement no podrien aconseguir"[4] o "assumeixen que les sortides reflecteixen una major causalitat del que realment signifiquen."[5] Tant en la seva forma específica com en la general, l'efecte ELIZA és notable, ja que ocorre fins i tot quan els usuaris del sistema són conscients de la naturalesa determinada de la sortida produïda pel sistema. Des d'un punt de vista psicològic, l'efecte ELIZA és el resultat d'una dissonància cognitiva subtil entre la consciència de l'usuari davant les limitacions de programació i el seu comportament cap a la sortida del programa.[6] El descobriment de l'efecte ELIZA va ser molt important per al desenvolupament en la intel·ligència artificial, demostrant el principi d'utilitzar l'enginyeria social en lloc de la programació explícita passar la prova de Turing.[7]

Origen modifica

L'efecte és nomenat el 1966 a partir del bot conversacional ELIZA, desenvolupat per l'informàtic del MIT Joseph Weizenbaum. En executar el script DOCTOR de Weizenbaum, ELIZA va parodiar a un psicoterapeuta de l'escola de Rogers, en gran part en reformular les respostes del "pacient" com a preguntes:

Humà: Bé, el meu promès m'ha fet venir.
ELIZA: El teu nuvi promès fet venir?
Humà: Ell diu que estic deprimida molt sovint.
ELIZA: Em sap greu escoltar que estiguis deprimida.
Humà: És cert. Sóc infeliç.
ELIZA: Creu vostè que venir aquí li ajudarà a no ser infeliç?[8]

Encara que va ser dissenyat estrictament com un mecanisme per mantenir "converses en llenguatge natural" amb un ordinador, el script DOCTOR de ELIZA va resultar ser un èxit sorprenent en l'obtenció de respostes emocionals dels usuaris que, en el curs de la interacció amb el programa, van començar a atribuir comprensió i motivació en les sortides del programa.[9] Com Weizenbaum més tard va escriure: "No m'havia adonat... que exposicions extremadament curtes a un programa d'ordinador relativament simple podrien induir un poderós pensament delirant en persones bastant normals." [10] De fet, el codi de ELIZA no havia estat dissenyat per evocar aquesta reacció en el primer lloc. A partir d'aquesta observació, els investigadors van descobrir que els usuaris assumien, inconscientment, que les preguntes de ELIZA implicaven interès i involucración emocional en els temes tractats, tot i que conscientment sabien que ELIZA no simula emoció.[11]

Referències modifica

  1. ↑ Hofstadter, Douglas R. Basic Books. ISBN 978-0-465-02475-9.
  2. ↑ Fenton-Kerr, Tom. «GAIA: An Experimental Pedagogical Agent for Exploring Multimodal Interaction». A: Computation for Metaphors, Analogy, and Agents. 1562. Springer, 1999, p. 156. DOI 10.1007/3-540-48834-0_9. ISBN 978-3-540-65959-4. «Although Hofstadter is emphasizing the text mode here, the "Eliza effect" can be seen in almost all modes of human/computer interaction.» 
  3. ↑ Ekbia, Hamid R. Artificial Dreams: The Quest for Non-Biological Intelligence. Cambridge University Press, 2008, p. 8. ISBN 978-0-521-87867-8. 
  4. ↑ King, W. (1995). Anthropomorphic Agents: Friend, Foe, or Folly (Technical report). University of Washington. M-95-1.
  5. ↑ Rouse, William B.; Boff, Kenneth R. Organizational Simulation. Wiley-IEEE, 2005, p. 308–309. ISBN 978-0-471-73943-2. «This is a particular problem in digital environments where the "Eliza effect" as it is sometimes called causes interactors to assume that the system is more intelligent than it is, to assume that events reflect a greater causality than they actually do.» 
  6. ↑ [1]. Cambridge University Press. ISBN 978-0-521-87867-8.
  7. ↑ Trappl, Robert; Petta, Paolo; Payr, Sabine. Emotions in Humans and Artifacts. Cambridge, Mass.: MIT Press, 2002, p. 353. ISBN 978-0-262-20142-1. «The "Eliza effect" — the tendency for people to treat programs that respond to them as if they had more intelligence than they really do (Weizenbaum 1966) is one of the most powerful tools available to the creators of virtual characters.» 
  8. ↑ Güzeldere, Güven; Franchi, Stefano. «dialogues with colorful personalities of early ai». Arxivat de l'original el 2007-07-11. [Consulta: 30 juliol 2007].
  9. ↑ Suchman, Lucy A. Plans and Situated Actions: The problem of human-machine communication. Cambridge University Press, 1987, p. 24. ISBN 978-0-521-33739-7. 
  10. ↑ Weizenbaum, Joseph. Computer power and human reason: from judgment to calculation. W. H. Freeman, 1976, p. 7. 
  11. ↑ Billings, Lee «Rise of Roboethics Arxivat 2009-02-28 a Wayback Machine.». Seed, 16-07-2007. «(Joseph) Weizenbaum had unexpectedly discovered that, even if fully aware that they are talking to a simple computer program, people will nonetheless treat it as if it were a real, thinking being that cared about their problems - a phenomenon now known as the "Eliza Effect."»

Vegeu també modifica

Bibliografia modifica

  • Hofstadter, Douglas. Preface 4: The Ineradicable Eliza Effect and Its Dangers. (from Fluïu Concepts and Creative Analogies: Computer Models of the Fonamental Mechanisms of Thought, Basic Books: New York, 1995)
  • Turkle, S., Eliza Effect: tendency to accept computer responses as more intelligent than they really are (from Life on the screen- Identity in the Age of the Internet, Phoenix Paperback: London, 1997)
  • ELIZA effect, des de Jargon File, version 4.4.7. Accesado el 8 d'octubre de 2006.
Obtingut de «https://ca.wikipedia.org/w/index.php?title=Efecte_ELIZA&oldid=31696246»