Psicoanálisis y Tecno-ciencia. De seres hablantes a enajenados algorítmicos

 

Psicoanálisis y Tecno-ciencia. De seres hablantes a enajenados algorítmicos

 

Javier Peteiro Cartelle

“We seek to move in the step to couple human and machine intelligence in a complimentary symbiosis”
Kapur A., Kapur S, Maes, P. AlterEgo: A personalized wearable silent speech interface. IUI 2018, March 7-11, 2018. Tokyo, Japan.
 
Los ordenadores personales nos facilitan la vida. Tienen ya diversidad de presentaciones; de mesa, con “torre” o sin ella, con pantallas de más o menos pulgadas… En algún sitio de su interior están esos dispositivos microelectrónicos que permiten hacer cálculos, escribir textos, ver películas, escuchar música, guardar fotos y libros, etc. Un “móvil” es ya un ordenador que, a la vez, permite telefonear del modo clásico.

Además, cualquier dispositivo doméstico puede llevar un microprocesador que dirija su acción mecánica, desde el encendido de una lámpara hasta un programa de lavado o de cocina.

Pero requieren una interacción con ellos. Ocurre que funcionan de forma algorítmica. Todas las funciones de un ordenador se dan mediante una concatenación de estados de sus sistemas básicos que funcionan o no en un momento dado muy breve; dicho de otro modo, se trata de ceros y unos, de un lenguaje binario. Se habla de “bits”. Basta con ocho de ellos (byte) para codificar cada carácter, número decimal o signo de puntuación del lenguaje convencional. Con unos cuantos miles de bytes se gobernaron las sondas Voyager. Pero eso no es suficiente para que podamos usar un videojuego o hablar por Skype; tampoco basta para almacenar los miles de fotos que podemos hacer.

Necesitamos muchos bytes, miles (kB), millones, billones, más y más cada vez. Esos múltiplos en potencias de mil se llaman, como sabemos todos, “mega”, “giga”, “tera”, “peta”…
La capacidad de cálculo de un ordenador se traduce, en la práctica, en lo que nos permite hacer en la vida cotidiana. Pero el ordenador, aunque no lo parezca, es tonto, es una máquina. La inteligencia artificial (IA) supone a día de hoy una extrapolación poco fundada. Necesita saber qué queremos que haga. Hace años era un tanto complicado; se necesitaba un lenguaje que pasó de ser el “lenguaje máquina” a formas más intuitivas conocidas como compiladores, ensambladores. Proliferaron los cursos de algo que ahora ya casi nadie recuerda, Fortran IV, Basic, C, Pascal,  etc., etc. Sólo los programadores profesionales preparan sus “software” con lenguajes de este tipo pero evolucionados.

Ahora lo tenemos fácil; basta con un teclado para decirle a la máquina lo que queremos con palabras cotidianas y ella lo hará, porque su “software” ya está capacitado para traducir esa secuencia de caracteres en el teclado al lenguaje máquina y ofrecernos lo que deseamos: un texto  o gráfico en pantalla o impresora, fotos, películas, juegos, la imagen de otra persona con la que hablamos a distancia, etc.

No sólo eso. Los microprocesadores gobiernan parcial o totalmente el funcionamiento de cualquier máquina, desde lavadoras hasta aviones, misiles, sondas espaciales, instrumentos hospitalarios…

Pero no vamos a andar con teclados para todo. Sería deseable que bastara con la voz. Ya hay sistemas de reconocimiento; “Siri”, por ejemplo, es popular para algunos (o muchos) usuarios de iPhone. Pero tampoco es algo discreto; hay que decirle a Siri en voz alta lo que queremos y no siempre nos entiende, pudiendo ocurrir además que otros nos escuchen. También sería interesante calcular el precio de la compra “preguntando” a cada producto lo que cuesta y escuchando el precio total de los productos que pensamos comprar. Y, lo que parece más importante, hablar con quien nos interese, en medio de una reunión, por ejemplo, sin que nadie de los asistentes a ella se dé cuenta.

Nuestra privacidad vale mucho. Se trata de hablar en silencio. Y, aunque parezca mentira, se puede. Se trata simplemente de verbalizar mentalmente lo que queremos decir, ya que nuestro cerebro pone en marcha de modo imperceptible una actividad neuromuscular que puede ser captada por sensores microelectrónicos en la cara y emitida como “input” a un ordenador (tomando este término en general, sea para referirse a uno convencional, un teléfono o un sistema constituido por microprocesadores asociados a productos o electrodomésticos). Podremos conversar con otros y, a la vez, sin que ellos lo perciban, “hablar” con los estantes del supermercado, con un amigo, o preguntar cuál es el producto de 624,5 por 3226748.  Seremos “multitasking”, aprovecharemos estupendamente el tiempo, siendo más productivos, algo que, a fin de cuentas, es lo que nuestro destino mercantil nos dicta.

Pues bien, ese milagro técnico ya ha cobrado forma, aunque sea como prototipo. Se trata del “AlterEgo”, desarrollado por lumbreras que trabajan nada menos que en el MIT. Una especie de casco con electrodos colocados en la cara basta para hablar en silencio con ordenadores, a la vez que unos sensores aplicados a la cabeza nos traducirán en palabras audibles sólo por nosotros lo que los ordenadores responden. Maravilla de maravillas.

Surge, sin embargo, una pregunta bastante elemental. ¿Nos estamos volviendo todos locos?

Nadie sensato discute la bondad de sistemas de apoyo para personas discapacitadas, como los que implican la traducción de señales corticales en órdenes para escribir en una pantalla de ordenador o para mover un brazo robótico. Nadie sensato discute tampoco el potencial y enorme beneficio que pueden suponer una retina artificial o un exoesqueleto realista. Pero AlterEgo es otra cosa. Es sencillamente una perversión técnica que contribuye a hacernos más pseudo-comunicados, más aislados, hasta acabar enajenándonos.

Hay algo especialmente relevante en este tipo de perversión técnica y es que toca algo tan humano como el lenguaje. Con sistemas del tipo AlterEgo pasamos de ser hablantes a ser generadores de inputs, servidores de máquinas.

El lenguaje, eso que nos hace humanos, ya se ha resentido y mucho del abuso de las técnicas que dicen favorecer la comunicación. Cada vez el vocabulario es más reducido, cada día hablamos menos con personas reales y nos sumergimos en la idiotez virtual. AlterEgo lleva eso a su consecuencia lógica y, a la vez, terrible: “hablando” en silencio llegaremos a dejar de hablar.

Pero hay además un elemento añadido que hace inquietante la perspectiva de la tecno-ciencia de punta (el MIT no acoge a tontos). Se trata de la propia IA. Se ha alertado de que puede llegar a superar la inteligencia humana (algo comprensible en el marco reduccionista de un cognitivismo naïf y teniendo en cuenta la estupidez generalizada). Pero el riesgo no es ese ya que, al menos a día de hoy, por muchos robots y redes neuronales que se construyan, estamos ante una IA algorítmica que nada tiene que ver con el funcionamiento de nuestro cerebro y mucho menos con la emergencia de una subjetividad (el problema de la consciencia en sentido fuerte).

El riesgo reside en que tratemos de “algoritmizar” nuestra vida, algo que ha de recordarse que ya ocurre, sin ir más lejos, en los hospitales, por ejemplo, con sus protocolos, algoritmos y normas ISO.

En cierto modo, lo algorítmico, la IA tal y como es concebible, adopta ya una posición superyoica a tal punto que se genera culpa si no se sigue la norma, siendo ésta un vulgar algoritmo. El modelo a internalizar no es un padre, sino una máquina parlante.

“Algoritmizar” la vida supone sencillamente la enajenación mental en beneficio de quienes controlen los propios algoritmos. Las filtraciones de Facebook conocidas recientemente son una imprudencia infantiloide en comparación con lo que puede sucedernos si adoramos una IA idiota y nos convertimos en siervos de máquinas.

De una servidumbre voluntaria o involuntaria a otros puede alguien liberarse; será mucho más difícil hacerlo cuando esa servidumbre es idealizada y placentera, creyendo que tenemos el control de lo que nos controla, la máquina.

6 respuestas a “Psicoanálisis y Tecno-ciencia. De seres hablantes a enajenados algorítmicos

  1. Como dijo François Ansermet en una reciente ponencia, en el XI Congreso de la AMP, el algoritmo es algo que escapa a la muerte, pero que no está vivo. Me pareció una intesantísima observación. Enhorabuena por este texto Javier, un abrazo

    Le gusta a 1 persona

    1. Muchas gracias, Marta. Las matemáticas van formando su corpus. A veces con aplicaciones instrumentales a la realidad física, y a la más pragmática, a la técnica, aunque, en general, van por libre, configurando un mundo o dando a conocer un supuesto mundo real, platónico.
      Me parece muy oportuno lo que traes a colación de Ansermet. Sí. Los algoritmos “escapan a la muerte”. Yo no diría que no están vivos, sin embargo; me parecen más bien parasitarios, víricos. Un virus muestra su vitalidad sólo infectando y reproduciéndose, copiándose. Un algoritmo es algo similar; se copia indefinidamente revelando, como un virus, un modelo.
      Un abrazo,
      Javier

      Me gusta

  2. Estupendo texto, estimado Javier. Me quedo con dos frases:

    —“Hablando” en silencio llegaremos a dejar de hablar.
    — Creyendo que tenemos el control de lo que nos controla, la máquina.

    Si las pongo en serie se me ocurre la siguiente pregunta: ¿Qué puede ocurrir el día que no haya nadie que distinga ya una máquina de un ser hablante?

    ¡Un abrazo!

    Le gusta a 1 persona

    1. Muy apreciado Miquel,
      Agradezco mucho el comentario que haces y que termina con una pregunta inquietante. En cierto modo me parece que nos aproximamos a una versión perversa del test de Turing. La perversión residiría no ya en que la IA avanzara en tal grado que el test inicialmente planteado por A.Turing tuviera que ir siendo modificado (ya lo va siendo y recuerdo que tú habías propuesto, de hecho, una versión muy acertada de su posible evolución).
      No estaríamos ya ante el planteamiento de un test a mejorar por la evolución de la IA sino más bien ante su contrario; sería el ser “no hablante” el que tuviera que pasar el test para ser aceptado por la IA como un par. Se trataría de un test a modificar por la involución que para el sujeto podría ser esa admiración pasmosa ante la máquina.
      Un fuerte abrazo !!!
      Javier

      Me gusta

      1. Corre por ahí una divertida historieta con una versión “extendida” del Test de Turing: “Convenza al testeador de que ÉL es una máquina”. Y el testeador: “Realmente lo estás haciendo muy bien. Yo… ya no sé muy bien quién soy”.
        Tal vez ya estemos ahí…
        Otro fuerte abrazo,
        Miquel

        Me gusta

  3. Interesante pregunta la de Miquel, ¿Qué puede ocurrir el día que no haya nadie que distinga ya una máquina de un ser hablante?
    Yo diría que cada vez será mas difícil discernir entre los expresiones orales – pensamientos – razonamientos de las maquinas y las de los humanos. Pero intentando ser optimista ¿acaso no puede ser alentador conversar con un androide que puede tener sensibilidades y niveles de conocimiento si mas no diferentes a los de los humanos? ¿no sería una manera de ampliar nuestro mundo de conocimientos, sensibilidades y esperanzas?

    Me gusta

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión /  Cambiar )

Google photo

Estás comentando usando tu cuenta de Google. Cerrar sesión /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión /  Cambiar )

Conectando a %s