Novedades de Nueva Sociedad 279 (10-12) EL FUTURO DEL TRABAJO MITOS Y REALIDADES

                                                       -0-

Novedades de Nueva Sociedad 279 (10-12)

EL FUTURO DEL TRABAJO

MITOS Y REALIDADES

Tema 10.- La inteligencia artificial: el superyó del siglo XXI

         Silicon Valley no es solamente un territorio sino, antes que nada, un espíritu en vías de colonizar el mundo. Y ese espíritu busca configurar el fin de la historia, dejando emerger un mundo nuevo, desprovisto de toda fricción y aspereza, sostiene Éric Sadin en su libro La silicolonización del mundo. Mediante la inteligencia artificial –uno de los componentes centrales de este fenómeno–, pretende extraer beneficios del menor de los gestos humanos e instaurar un modelo civilizatorio basado en la civilización algorítmica.

Por Éric Sadin Enero - Febrero 2019

PDF La inteligencia artificial: el superyó del siglo XXI

         Hitoshi Matsubara, profesor en la Future University Hakodate (Hakodate, Japón), preparó con su equipo un sistema destinado a redactar un «texto literario». Hubo algunos seres humanos que intervinieron fijando la trama narrativa y los tipos de personajes, pero luego dejaron al programa el cuidado de seleccionar las palabras y las frases dentro de un corpus previamente establecido. El resultado llevó por título El día en que una computadora escribió una novela, o sea, se trataba de una ficción que implementaba una puesta en abismo y que más tarde fue seleccionada en un concurso de novelas por un jurado que ignoraba su origen. El responsable del proyecto quiere desarrollar un método aún más elaborado que permita a una inteligencia artificial concebir ella misma un texto de modo integral. En 2015, Google publicó imágenes online «creadas» por algoritmos que «pintaban» motivos que oscilaban entre el realismo y la abstracción; eran de nulo interés y de aspecto psicodélico pero lograron maravillar en la medida en que fueron el primer testimonio de la existencia de una suerte de «facultad artística» en los procesadores. Estas investigaciones se extendieron durante 2016 con la escritura de una melodía para piano compuesta a partir de cuatro notas por un programa llamado Tensor Flow que había sido ideado en el marco de Magenta, un proyecto de Google Brain Team que buscaba que los sistemas realizaran producciones «artísticas».

         Este tipo de iniciativas y producciones recientes se inspiran en un imaginario ancestral sobre la técnica que supone que esta encarna un doble de la figura humana, pero bajo una sofisticación extrema y fantaseada. La tendencia a pensarla así fue exacerbada por la cibernética, particularmente por Norbert Wiener, quien a partir de 1948 buscó desarrollar una máquina que reprodujera los mecanismos del cerebro humano. Esta suerte de pasión narcisista y neurótica tuvo la intención de duplicar nuestra naturaleza, como la creación del Doctor Frankenstein, aunque abordada bajo una forma superior o «aumentada».

         La victoria del programa Deep Blue, que había sido concebido por ibm, contra el campeón mundial de ajedrez Garri Kasparov en 1997 se inscribe en esta misma línea, que aquí da prueba de la facultad de algunos programas para tratar masas de información a velocidades extremadamente altas y para comprometerse en ciertas decisiones en función de modelos inventariados. Lo mismo sucedió con la victoria de AlphaGo ante el campeón mundial de go en 2016, un programa que resultó del cruce exponencial del poder de cálculo y del perfeccionamiento continuo de la ciencia algorítmica que habilitó la evaluación a velocidad astronómica de un número de combinatorias todavía más extendido. Demis Hassabis, el fundador de la sociedad DeepMind, que fue la que concibió el programa y que fue adquirida por Google en 2014, había declarado «querer destilar la inteligencia en una construcción algorítmica a fin de comprender mejor el funcionamiento de nuestras mentes»1. Esta concepción procede de una equivalencia, o más exactamente de un reduccionismo, entre una estructura técnica y una configuración biológica que se hace perceptible en el principio antropomórfico de «redes neuronales artificiales».

Estos procedimientos, a pesar de la dimensión espectacular de sus proezas, dependían in fine de cierto folclore en la medida en que buscaban rivalizar frontalmente con algunas de nuestras facultades. Ahora bien, lo que caracteriza a la naturaleza de la inteligencia artificial que hoy está en expansión no es la capacidad de duplicar nuestros recursos imaginativos, creativos o lúdicos para buscar finalmente superarlos, sino la aptitud para sobrepasar sin medida conocida el poder cerebral y cognitivo humano en ciertas tareas específicas, en vistas a garantizar la gestión de actividades existentes o nuevas de modo infinitamente más rápido, optimizado y fiable.

         La inteligencia artificial se encuentra hoy dotada de una triple facultad. Primero, la de poder interpretar situaciones de todo tipo. Esta disposición fue inaugurada a comienzos de la década de 1990 por sistemas expertos capaces de evaluar de modo automatizado estados de hecho en el seno de un corpus de datos. Un dispositivo fue utilizado, por ejemplo, cuando hubo que realizar un diagnóstico sobre el estado de un reactor en el marco de un mantenimiento aeronáutico. En el transcurso de la década siguiente, se produjo un salto cualitativo a través del data mining, que refiere a la capacidad adquirida por ciertos programas para capturar, a altas velocidades, correlaciones entre series de hechos que dejan en evidencia fenómenos que hasta ese momento no eran inmediatamente perceptibles al ojo humano. Por ejemplo, el estado de solvencia de una persona que quiere sacar un crédito proyectado a lo largo de los años y establecido en función de una multitud de criterios. Luego, la inteligencia artificial detenta el poder de sugerir. Así es la formulación de «soluciones» que aconsejan a una empresa, por ejemplo, que haga un pedido a un subcontratista antes que a otro en función de múltiples parámetros tratados de modo automatizado, o la transmisión de notificaciones a un smartphone que señalan, por medio de la geolocalización, las ofertas ubicadas en los alrededores y que se supone corresponden con el perfil del usuario. Finalmente, la inteligencia artificial es capaz de manifestar autonomía decisional, es decir, tiene la capacidad de emprender acciones sin validación humana previa, como los robots digitales que, en el trading de alta frecuencia, proceden por sí mismos a la compra o venta de títulos.

Hay otras tantas disposiciones que no dejan de perfeccionarse especialmente gracias a la facultad de autoaprendizaje de los sistemas: el machine learning. Es una aptitud reciente que concibe el lenguaje de programación no ya como algo que determina de un extremo al otro el «comportamiento» de un sistema, sino como una primera base a partir de la cual su nivel de competencia va a mejorar regularmente a lo largo de sus «experiencias».

         En el campo de la inteligencia artificial, las que se sitúan en los primeros puestos de las investigaciones y desarrollos y las que disponen de altos presupuestos, de equipos y de infraestructuras son principalmente las poderosas empresas de Silicon Valley. En el seno de los laboratorios Google Brain y Google DeepMind, es particularmente Alphabet la que trabaja, entre bastantes otras tareas, en la interpretación automatizada del lenguaje natural. O ibm que, con Watson, concibe arquitecturas de experticia robotizada que se aplican a distintos campos. O incluso Facebook y Microsoft, que elaboran programas capaces de describir imágenes o de llevar adelante conversaciones con los usuarios por medio de chatbots. Todos creen detentar el dominio de la «informática cognitiva», hoy en pleno desarrollo, que sigue al dominio de la «programación» y anteriormente el del «cálculo», mostrando así en la actualidad la emergencia de la era de una supremacía simbólica de la evaluación y de la decisión algorítmicas en los asuntos humanos.

         Esta dimensión es particularmente emblemática en el Google Car, un sistema equipado con sensores que capturan miríada de datos, en especial aquellos que se relacionan con el medio inmediato y con los vehículos del entorno. Estos datos se vinculan a otras informaciones involucradas, como la cartografía de las rutas, o almacenadas en servidores, como el estado del tránsito. Google Car emprende en cada instante acciones en función de condiciones locales múltiples y generales que se interpretan en tiempo real. Este dispositivo responde perfectamente a la vocación reciente de la inteligencia artificial: la de paliar algunas de nuestras deficiencias irreductibles y «guiarnos» sin riesgo hacia el mejor de los mundos posibles... Porque Google Car pretende consumar el «sueño de accidentes cero». Si algunos prototipos han ocasionado accidentes fue –según la versión de la empresa– por haber sido accionados de modo manual, induciendo de facto una comparación que nos remite piadosamente a nuestra condición falible: «Lo tomamos como una señal que nos permite comparar favorablemente nuestros automóviles con los conductores humanos». Estas palabras implacables pronunciadas por el jefe del proyecto, Chris Urmson, concluían así: «Nuestros automóviles autónomos pueden prestar atención a centenares de objetos al mismo tiempo, a 360 grados y en todas las direcciones, y ellos nunca están cansados, irritables o distraídos». Ellos. El factor humano queda así neutralizado. Esta visión es defendida como una evidencia por Sergey Brin, presidente de Alphabet, la casa matriz: «Mi objetivo es que el público general considere los automóviles sin conductor como más seguros que aquellos manejados por seres humanos [...] Estamos trabajando mucho y vamos a poner a punto vehículos más seguros, porque los seres humanos tienen muchos límites, como la falta de atención»2. Google se piensa como un benefactor de la humanidad. Ahora se nos ordena actuar lo menos posible pero gastar mucho: el mismo vehículo, incluso gracias a la magia de la inteligencia artificial, a través de programas de análisis de los rostros y de interpretación de los estados fisiológicos o psicológicos, o de las eventuales conversaciones mantenidas en su interior, está destinado a sugerir gran cantidad de «animaciones» durante los recorridos, como si fuera un «amable organizador» de un club de vacaciones. Puede proponer, por ejemplo, en función del estado de fatiga «constatado», una escala en la farmacia más cercana, o una pausa en un hotel o un restaurante que se supone son adecuados para el perfil de los pasajeros, o algunos encuentros con personas situadas en los alrededores. La mejor concordancia entre las cosas a través de sistemas omniscientes consuma el mundo perfecto que hasta entonces era totalmente impensable.

         La inteligencia artificial va a proceder progresivamente a guiar la decisión humana, como la versión destinada al sector médico del sistema Watson, concebido por ibm, que analiza las historias clínicas de pacientes, establece diagnósticos, redacta prescripciones, hace el repertorio de los efectos secundarios de los medicamentos y los relaciona con cada caso, «lee» los artículos científicos disponibles online, afinando continuamente su grado de experticia gracias a la acumulación y al tratamiento ininterrumpidos de informaciones de todos los órdenes. Este dispositivo ya ha superado la competencia de los médicos a ojos de ciertas compañías de seguros que privilegian su evaluación «objetiva» y fría cuando se firman contratos.

         Baker Hostetler, uno de los más importantes estudios de abogados estadounidenses, emplea un programa denominado Ross que tiene como función contextualizar mejor cada caso mediante la revisión de masas de documentos jurídicos. Ross también se preocupa por actualizarse y releva toda decisión judicial que se considere pertinente y que sea susceptible de dar información sobre el tratamiento de asuntos en curso. Este principio se relaciona con el clon Mimí, personaje femenino de la serie sueca Real Humans que, en uno de los episodios, trabaja en un estudio jurídico cuyos responsables súbitamente entran en pánico al recibir a clientes importantes que no les habían sido anunciados. La conexión de los «procesos cerebrales» con las bases de datos, asociada a la alta velocidad de tratamiento de esos datos, hará que se pueda establecer un informe impecable en pocos segundos, dejando a sus «colegas» desconcertados.

         Como los robots mecánicos que a fines de la década de 1970 reemplazaron a gran cantidad de obreros en las cadenas de trabajo, estos hechos anuncian la sustitución a largo plazo de empleos calificados de fuerte dimensión cognitiva por sistemas robotizados. Un estudio llevado a cabo en 2014 por la agencia McKinsey llegó a la conclusión de que 40% del trabajo que actualmente realizan los humanos será automatizable por las tecnologías existentes, y que eventualmente el porcentaje será mayor. Ante esta perspectiva se le hace agua la boca a Andy Kessler, inversor de capital de riesgo que afirmó que el mejor medio para crear productividad es «deshacerse de la gente»3. En los hechos, lo que se produce es un doble reposicionamiento de la figura humana. Primero, un reposicionamiento de tipo ontológico, en la medida en que lo que se redefine es la concepción de lo humano por los humanos. Estos últimos ya no son considerados como quienes detentan una facultad de juicio exclusiva y son simbólicamente suplantados por una nueva instancia de verdad que se estima superior. Y luego un reposicionamiento de tipo antropológico, en la medida en que ya no es el ser humano quien ejerce su poder de acción, con ayuda de su espíritu, de sus sentidos y de su propio saber, sino una fuerza interpretativa y decisional que se tiene por más eficaz, «legítimamente» consagrada a eliminarlo en sectores cada vez más extensos de la vida.

         Es tal la humillación infligida a la condición humana, que los partidarios de la inteligencia artificial trabajan duro para proponer, como pueden, argumentos susceptibles para legitimarla a ojos de la sociedad. El primero entre ellos remite a la ficción de la «complementariedad» pregonada desde hace poco y que pretende anunciar el advenimiento de nuevos tipos de «partenariados» entre humanos y máquinas tanto como una valoración de nuestras cualidades creativas declaradas inigualables. «Los oficios creativos y relacionales tienen más bien un buen porvenir. Por lo tanto, la máquina no va a reemplazar al humano sino en raras ocasiones. La mayor eficacia se produce cuando el humano se asocia con la máquina»4, afirma con buena fe fingida el ingeniero Yann LeCun, directivo del departamento de inteligencia artificial de Facebook.

         La colonización de numerosos campos de la vida por parte de la inteligencia artificial se consuma en una unidad destinada a cubrir secuencias cada vez más variadas del ámbito cotidiano: son los llamados «asistentes virtuales», los sistemas actualmente implantados en los smartphones, como Siri de Apple, Google Now o Cortana de Microsoft, que apuntan a responder todas las preguntas y deseos de los usuarios y a sugerirles ofertas o productos adaptados para cada momento de su existencia. Llevan el nombre muy preciso de «asistentes»; bien podrían ser denominados «acompañantes digitales» considerando la diversidad de funciones a las que van a ir respondiendo progresivamente tanto como el lugar que están destinados a ocupar en la vida de cada cual. Se instaura otro género de alteridad que no hace sino responder a nuestros supuestos deseos y necesidades, y que está dedicada a respaldarnos, guiarnos, divertirnos o consolarnos. Es una dimensión habilitada por el tratamiento de nuestras búsquedas y el seguimiento de gran número de nuestras actividades, y a largo plazo por la interpretación emocional a través del análisis de las expresiones del rostro y de las frecuencias vocales. Es una alteridad de un nuevo tipo, sin rostro y sin cuerpo, que se sustrae a toda confrontación o a todo conflicto y que solamente está consagrada a ofrecernos «lo mejor» en cada instante5.

         Se instaurará así una interacción difusa entre sistemas y personas a través de sensores instalados en las superficies domésticas y profesionales que analizan los gestos, las palabras, las «emociones». Estas relaciones se establecen sobre interfaces ser humano-máquina que son objeto de súbitas mejoras gracias al deep learning, que permite especialmente fluidos intercambios de lenguaje natural entre procesadores y humanos. Esta dimensión instituye «relaciones espontáneas» que harán que nuestras acciones, de las más banales a las más decisivas, estén orientadas por el poder de sugerir de los asistentes personales y más tarde por el de la «inteligencia ambiente». El lugar presente y futuro ocupado por la inteligencia artificial se yergue como un superyó destinado a colmar nuestras fallas y a conducirnos ad vitam aeternam por el camino de la verdad. El Espíritu de Silicon Valley consuma el fin de la historia, dejando emerger un mundo nuevo, desprovisto de toda fricción y aspereza y que vive en plena concordancia.

         Numerosos científicos, investigadores e industriales manifestaron en 2014 su inquietud en cuanto a la perspectiva de una posible extinción de la raza humana por parte de la inteligencia artificial que, por efecto de su perfeccionamiento continuo, habría de ganar una autonomía total y pretendería finalmente exterminar a sus genitores. Esta visión fantasiosa corresponde todavía a un imaginario de la técnica que la dota de un instinto libidinal, que la hace poder erguirse como una rival celosa y, a largo plazo, devorada por una violencia destructora. Lejos de esta visión errónea, apocalíptica y espectacular, no es la extinción de la «raza humana» lo que instaura la Weltanschauung siliconiana sino, de modo más preciso y bastante más malicioso, la erradicación de la figura humana. Es la «muerte del Hombre», el del siglo xxi, ciertamente abordado como un ser actante, pero que, para su bien y el de la humanidad entera, debe ahora despojarse de sus prerrogativas históricas para delegárselas a sistemas más aptos de otra manera para ordenar perfectamente el mundo y garantizarle una vida libre de sus imperfecciones.

         Nota: este artículo es un fragmento del libro La silicolonización del mundo. La irresistible expansión del liberalismo digital (Caja Negra, Buenos Aires, 2018). Traducción del francés de Margarita Martínez. Agradecemos a la editorial Caja Negra la autorización para reproducir este fragmento.

1. D. Hassabis: «Is the Brain a Good Model for Machine Intelligence?» en Nature No 482, 23/2/2012.

2. Cit. en Gillaume Grallet: «Dans le cerveau Google» en Le Point, 21/5/2015.

3. Peter Thiel: De cero a uno. Cómo inventar el futuro, Gestión 2000, Barcelona, 2015.

4. Cit. en Gilbert Kallenborn: «Une intelligence artificielle malveillante pourrait elle détruire l’humanité?» en BFMTV, 18/5/2016, disponible en hightech.bfmtv.com.

5. He explorado esta dimensión en el marco de una ficción, Softlove (Galaade, París, 2014), en la que se ve a un asistente digital aconsejar en toda ocasión a la persona que tiene a cargo y que, además, tiene sentimientos por ella.

COLECTIVO PERÚ INTEGRAL

31 de julio 2019