Tristan Harris: La Trampa Invisible de la IA

Tristan, nuevamente, muchas gracias por estar con nosotros. Primera pregunta, ¿qué es la verdad en la era digital y quién se define? Creo que en lugar de hablar de la verdad, una buena pregunta es ¿qué significa hacer sentido de la realidad bien? ¿Cómo integramos múltiples perspectivas? Porque parte de lo que está sucediendo con la AI y los medios sociales es que los antiguos valores de la revisión de los hechos no nos defienden contra las nuevas amenazas que poseen las redes sociales o la AI. Por ejemplo, yo podría decir, GPT-5, escríbeme un papel de investigación de 20 páginas sobre por qué las vacunas no son seguras citando reales hechos y reales estadísticas sobre las personas que murieron y citando reales hechos sobre los intereses intereses de las personas que decían que la vacuna era segura. Entonces, todos esos son pasos de un fact-checker, pero todo es propaganda. De un lado. Y, por cierto, también podría ser el otro lado. No estoy tratando de decir esto o eso sobre las vacunas. Entonces, el punto es que, en vez de preguntar si algo es verdadero, tenemos que preguntar si es verdadero, sincero, en términos de intención, y representativo de la verdad. ¿Es representativo? Sí, esas dos personas murieron de esta cosa, pero ¿fue eso representativo de todo el ejemplo colectivo? Entonces, parte de lo que estoy hablando es que necesitamos mejorar los valores que tenemos. No es sólo cierto o falso, sino más comprensivamente representativo de la verdad como lo vemos. Y eso significa también poder no solo mantener fuerte la perspectiva de alguien más, ¿cuál es la versión más frágil de su argumento? Pero también mantener fuerte su argumento. ¿Cuál es la versión más fuerte de su argumento? ¿Hay valores compartidos entre lo que están tratando de apuntar y lo que estamos tratando de apuntar? Se trata de la confianza, como dijiste. Más que nada, ¿cómo construyes la confianza? ¿Cómo creas un ambiente en el que la confianza es el denominador común? Sí, y este es un problema insolvido. Pero sabemos que el ordenamiento de nuestro ambiente de información, no por lo que es más confiable, sino por lo que es más engajante y gana más clics. Si manejas toda la sociedad a través de esa lógica de lo que gana más clics, manejas la identidad de los niños a través de eso, manejas la información a través de eso, manejas la media a través de eso, manejas la política a través de eso, y acabas con una sociedad muy distorsionada que no es basada en confianza, sino en sensacionalismo. Y eso no es saludable para hacer que las democracias funcionen. Pero imaginemos que podríamos cambiar nuestro medio ambiente a ser basado en lo que confiamos, y no basado en lo sensacional. Vivimos en un mundo muy diferente. Y creo que lo difícil de la situación actual es que la gente está tan atrapada en ver el mundo desde dentro del mal paradigma que estamos en, que no imaginamos lo diferente que podría ser. ¿Crees que la tecnología, hasta este punto, ha afectado o fortalecido nuestra percepción colectiva de la realidad? Definitivamente afectada. Los humanos siempre son biasados, siempre tenemos un bias de confirmación. Tendemos a prestar atención a la evidencia que confirma nuestra visión existente de la realidad. Y puedes decirlo tú mismo, pero yo lo hago también. Es parte de la naturaleza humana. Y si te lo dices a alguien, no cambia demasiado la manera en que lo hacemos. Porque cada uno tiene su punto de vista. Así que veo las maneras en las que la tecnología atrapa al mundo. Y veo mucha evidencia de la manera en la que la tecnología atrapa al mundo. Pensé que sería interesante hablar de una percepción colectiva de la realidad y de cómo la tecnología ha jugado un papel en aflojar eso. Sí. Una cosa muy simple y obvia es que nos enganchamos por un doble truco de sobrerepresentación de las vistas más extremas sobre cada tema. ¿Por qué es eso? Hubo un estudio por un grupo llamado More in Common que descubrieron que las voces extremas en las redes sociales publican más frecuentemente que las voces moderadas. Si eres moderado, siéntate allí y mira lo que la gente dice. No estás publicando y gritando todos los días. Así que las voces extremas publican más frecuentemente y lo que publican también es más extremo, así que va más viral. Así que tienes más frecuente y más viral las vistas extremas que obtienen la mayor distribución. Y lo que este grupo descubrió más común es que más usas las redes sociales, peor eres en estimar lo que la gente del otro lado cree. Porque estás constantemente bombardeado con las cosas más sensacionales. Y hemos estado viviendo en esto por tanto tiempo que parece normal para nosotros. Es por eso que cuando vas al mundo y hablas con gente normal, la mayoría de las personas parecen ser mucho más racionales que lo que ves en línea. Por supuesto, si sigues dirigiendo a la sociedad a través de ese filtro extremo de la realidad, se empieza a afectar a la gente hacia ser más extrema, porque también ves una visión extrema que debes luchar contra, y tomas una visión aún más extrema de la otra. Y así, se ríen, como una carrera de armas, en una cultura más extrema. El papel que los periodistas, los tecnólogos, los científicos toman en intentar reconstruir esa confianza, tú estabas diciendo, no hemos conseguido una respuesta, Pero hablando de no solo el sector específico de la sociedad como periodistas, tecnólogos, filósofos, la sociedad en general, ¿cómo empezamos a reconstruir esa confianza, curando las fracturas que la media social ha causado en este momento? Es difícil, pero deberíamos intentar hacer todo lo que podamos, obviamente. Así que creo que lo primero es, ¿cómo podemos incluir las diferentes perspectivas sobre un tema, en lugar de decir solo una parte? Creo que la gente que ofrece información más confiable admitirá cuando se ha equivocado sobre algo en el pasado. Si ves a alguien publicamente reconocer un error que hacen, yo estaba equivocado sobre la AI, no usaba a tomarlo en serio. Llevó hasta 2023 y de repente lo tomé en serio. Alguien que está diciendo que tengo algo malo es más confiable que alguien que está constantemente mirando la siguiente declaración extrema. Les daré un ejemplo. Audrey Tang, que es la ministra digital de Taiwán, pioneó métodos de lo que llaman el rango del puente, que es básicamente, ¿cómo se ranga para lo que se llama el consenso improbable? Imaginen que estás escribiendo tu mensaje de noticias, y para cada tópico político, en vez de buscar lo que es más emocionante o sensacional, es que cuando se trata de un tema que es sensacional, se trata de lo que tiene el consenso más improbable. Entonces, toma un tema, y entonces, ¿dónde la gente de diferentes tribus, o sea, la gente que clica en diferentes contenidos, clica en diferentes universos de contenidos, pero dónde en realidad ambos les gustan los mismos contenidos, tienen una emoción positiva sobre los mismos contenidos? Eso se trata de un consenso improbable. Y imagina cómo, cuando ves a la gente de diferentes partes que no normalmente se acuerdan, les daré un ejemplo. Ahora mismo en los Estados Unidos, como Steve Bannon en un lado, en el lado de Trump, y muchas personas en la seguridad de la AI, de hecho, se acuerdan de que la AI es muy peligrosa. Y eso es un acuerdo interesante, donde diferentes grupos de personas tienden a concordarse. Entonces, imagina que estás escribiendo en tu página de noticias, y en lugar de ver ejemplos infinitos de cosas divisivas, odiosas, enojadas, estás viendo cosas donde la gente se acuerda a través de muchas perspectivas diferentes. Eso aceleraría radicalmente las respuestas y soluciones a los problemas, porque estaríamos hablando de lo que queremos hacer, en lugar de gritarle a los demás sobre lo que nos disagreemos. Eso ha sido usado para acelerar la participación de los ciudadanos en resolver los problemas. Entonces, descubriendo que los ciudadanos se acordaron sobre cómo lidiar con Uber y taxis, y cómo queremos manejar esto de una manera justa. Y eso lleva a un ambiente en el que los ciudadanos se sienten como si su democracia y sus instituciones estuvieran funcionando para ellos, porque ves que el ambiente de información es como un espejismo que refleja el acuerdo, en lugar de reflejar el desacuerdo. Ahora, si miras el espejismo de información de las redes sociales, es un espejismo que te muestra lo que todos odian a los demás. Es un espejismo muy distorsionado, es como un espejismo de Funhaus, no sé cómo se dice en español. Pero si miras el espejismo y ves lo que todos, invisiblemente, se acuerdan, no las cosas obvias que se acuerdan, pero las áreas invisibles de acuerdo. Ese sería un punto de vista muy diferente para mirar a tu sociedad. Dijiste algo que creo que es increíblemente importante que son las personas que piensan que las democracias funcionan para ellos, porque creo que la democracia es tan mucho acerca de la legitimidad como es acerca de la performance y los resultados. Y creo que eso es parte de lo que está siendo fracturado y distorcido. Porque cuando la gente está constantemente en desacuerdo o cualquier error que alguien haga, cualquier institución haga. Las instituciones han hecho errores a lo largo de la historia, pero también fueron muy escondidas, ¿verdad? Hoy, si hay algún error, se viraliza a todos, y la gente sigue pilando encima y creando más y más historias. Quiero decir, cualquiera, no recuerdo qué específicamente ahora, pero cualquiera que ha sido la víctima de algo que hizo mal, y ves cómo hay millones de personas que pueden pilar, pero no con accuracía, sino que están recorriendo a otras personas y es como el juego de teléfono, las vistas de la gente se vuelven más locas y más locas con el tiempo que pasa. Antes de comenzar a hablar, también estabas diciendo que estamos casi figurando en las redes sociales y aquí viene la inteligencia artificial, la AI. ¿Puede la inteligencia artificial ser diseñada de una manera ¿Es eso lo que ayuda? No la verdad, sino la confianza, o es una distorsión construida en su DNA? Bueno, hay muchas maneras de responder a esa pregunta. Hasta ahora, creo que lo que hemos visto es que la distorsión es parte de... La AI puede ser diseñada y desarrollada de muchas maneras diferentes, pero los incentivos actuales son para la carrera para obtener lo más de comunicación posible, Es por eso que acabamos de ver que las empresas de AI, Sora y Meta, lanzaron estas aplicaciones de AI Slop, donde literalmente no se apologizan. Todo es contenido de mentira. Y si te miras, todo es contenido generado por la AI. No tiene valor de información, no es verdadero, no es real. Es mentira que es para entretener a la gente, pero es muy efectivo en entretener a la gente. Y si te preguntas, ¿qué va a hacer la AI? ¿Qué voy a hacer? Bueno, actualmente es simplemente que nos veamos más y más nonsenso en vez de ser aplicado para ayudarnos a ver más verdad y confianza. Y no es que no pudiéramos hacerlo de una manera diferente, pero necesitamos cambiar el incentivo para maximizar los ojos. Y podríamos hacerlo. Yo creo, pensamos sobre esto en nuestro trabajo en el Centro para la Tecnología Humana, que, imagínate si volvieras a 2010, justo mientras que los medios sociales estaban funcionando con teléfonos móviles. Y dijimos que nadie, ninguna aplicación puede maximizar la comunicación. Así que no lo hicimos con los niños, no lo hicimos con las noticias. Sé que es difícil para la gente imaginar, pero imagina reivindicar 15 años de historia en los que esa lógica no pervertía el espejo que hemos estado mirando. Te iba a preguntar si pudieras redesar el ecosistema de información desde cero. ¿Qué principio pondrías en su corazón? Creo que, mucho como nuestra economía global es una tecnosphera de nuestra tecnología industrial y se sienta encima de una biosfera de nuestra realidad física y biológica, y la tecnosphera es como comer la biosfera. En el caso de los medios sociales, tenemos una tecnosphera que come la sfera social, Está comiendo lo que nos hace humanos, está comiendo el desarrollo de los niños, está comiendo nuestra atención. Para tomar a Marc Andreessen, el cofundador de Netscape, dijo en un esfuerzo en 2:11que el software está comiendo el mundo, el software va a comer el mundo, porque el software hará todo lo que las empresas pueden hacer, pero lo hará más eficazmente. Pero si el software come el desarrollo de los niños, si come nuestro ambiente de información, si come el periodismo, y el software no está diseñado para proteger esas cosas, Creo que el principal principal que deberíamos ir por es que lo que comas tienes que gestionar y proteger con la sabiduría. Tenemos un cuerpo. Si el software come mi sangre, pero no se importa que mi sangre sea saludable, y que colapse mi sangre, no voy a respirar. La sociedad tiene un cuerpo. Y el desarrollo de los niños es como la sangre. Así que si comes el desarrollo de los niños, tienes que proteger el desarrollo de los niños. Ese es el principal principal. Si comes las elecciones, tienes que proteger las elecciones. Si comes el medio ambiente informativo y el periodismo, tienes que proteger el medio ambiente informativo y el periodismo. Así que es como cualquier software que virtualice, tiene que proteger la cosa que da risa a esa fecha de la sociedad. Última pregunta, te prometo, porque tienes que ir. A nivel humano, ¿qué te da la esperanza de que la verdad, la confianza, la democracia puedan sobrevivir en el siglo algorítmico? Creo que es menos que tengo esperanzas sobre eso y más que me enfoco en lo que podemos hacer para cambiarlo. Los incentivos de origen no ponen en una buena dirección, pero eso no significa que tenemos que aceptarlos. En nuestro trabajo, a menudo decimos que la claridad crea coraje y la claridad crea agencia. Si podemos ser claros de que los malos incentivos no nos dan los buenos resultados que queremos, podemos cambiar esos incentivos. Y podríamos pasar leyes que digan que las compañías de medios sociales no tienen que maximizar su participación. Y podríamos tener sistemas diferentes que organizan nuestro ambiente de información.

Transcripción

Tristan Harris: La Trampa Invisible de la IA

Transcripción

Resumen del video