En mi última publicación, reflexioné sobre los resultados mixtos de un intento de hacer un "speedrun educativo" con herramientas de IA disponibles públicamente. Especulé hacia el final de esa publicación que mi fracaso por aprender algo significativo provenía de una relación filosófica particular con la tecnología. Específicamente, tenía una confianza implícita pero injustificada en el poder nativo de las herramientas de IA para lograr mis objetivos.

Me gustaría esbozar ese tipo de relación, que creo que es común, de manera más completa. Creo que esto es necesario porque, si queremos implementar con éxito la inteligencia artificial en los procesos de aprendizaje humano, debemos tener claro cómo nos relacionamos con la IA. Y eso va a requerir un pensamiento más fundamental sobre la pervasión irrevocable de la tecnología en la vida cotidiana.

¡Estén advertidos, chicos! Si esto fuera una película de Robert Rodriguez, aquí es donde grandes letras de neón parpadeantes llenarían la pantalla: GAFAS FILOSÓFICAS PUESTAS.

“Substackers Contra la Máquina”: Una Torre de Vigilancia Digital

En los últimos años, ha habido un creciente movimiento de escritores religiosamente subversivos que resisten la aceptación despreocupada del mundo secular a la pervasión tecnológica. Estos escritores están caracterizados por pensadores como Paul Kingsnorth, un ambientalista convertido en cristiano ortodoxo, quien discutí en una publicación anterior del blog.

Aunque varían en fe, política, nacionalidad y todo lo demás, estos escritores podrían ser etiquetados productivamente con el apodo afectuoso, algo irónico, dado por la escritora cristiana Meg Mittelstedt: “Substackers Contra la Máquina.”

“Substackers”, por supuesto, se refiere a la plataforma donde este enclave se reúne. “Máquina” se refiere, en la visión apocalíptica de Mittelstedt, al Moloch tecnológico al que sacrificamos nuestro “tiempo…dinero…adoración…enfoque…” y todo lo demás. Más precisamente, Mittelstedt escribe:

“La ‘Máquina’ es una forma en que hablamos sobre el poderoso sistema—o fuerza—detrás de nuestra tecnología. Es una forma de hablar sobre el principado o poder de nuestra tecnología: el sistema que ha creado que es demasiado grande para fallar. No confundo la Máquina con super IA o transhumanismo. Estos son solo ejemplos extremos de la influencia que el principado o poder de la Máquina puede ejercer.”

Kingsnorth, Mittelstedt y otros ven “la Máquina”, entonces, no tanto como una gran conspiración entre capitalistas globales, totalitarios intermitentes y el club de yates de Ray Kurzweil, sino más bien como la confluencia de fuerzas burocráticas, económicas, culturales y tecnológicas que empujan a la civilización a integrarse cada vez más profundamente con la tecnología. No es necesario que haya una intención coordinada detrás de este proceso para que sea peligroso, creen los Substackers Contra la Máquina (SAMs). Todo lo que necesita suceder es que la humanidad se rinda a la adoración de la Máquina, una aplicación web y un dispositivo inteligente a la vez.

“Es una cuestión de lo que creas,” explicó Kingsnorth en un reciente pódcast, “y lo que creas es a lo que sirves.”

En otras palabras, los Substackers luchan (y escriben) contra la misma actitud que me llevó, en mi última publicación, a depender de Microsoft Copilot como la solución total de aprendizaje. Ciertamente, mi uso acrítico de esa tecnología fue mal concebido, en el mejor de los casos.

Antes de profundizar en esa actitud, sin embargo, vale la pena investigar el otro lado de la moneda apocalíptica de los SAMs: el transhumanismo.

Transhumanismo: Un Mesianismo Sintético

El transhumanismo es un movimiento mucho más amplio y difuso que los SAMs. Probablemente sea inexacto clasificar el fenómeno como un solo movimiento. Hay transhumanistas rusos, transhumanistas estadounidenses, transhumanistas libertarios, transhumanistas feministas, transhumanistas seculares, transhumanistas budistas, (y para mi particular deleite) transhumanistas mormones, etc. Y, por supuesto, hay intersecciones y ramas y ecos de todos estos movimientos en la cultura popular.

Con este nivel de difusión, puede ser difícil fijar una definición precisa para el transhumanismo. Pero una de las citas del filósofo Nick Bostrom es una que veo citada con bastante frecuencia:

“El ‘transhumanismo’ sostiene que la naturaleza humana actual es mejorable a través del uso de la ciencia aplicada y otros métodos racionales, lo que puede hacer posible aumentar la salud humana, extender nuestras capacidades intelectuales y físicas, y darnos mayor control sobre nuestros propios estados mentales y estados de ánimo.[1] Las tecnologías de preocupación incluyen no solo las actuales, como la ingeniería genética y la tecnología de la información, sino también desarrollos futuros anticipados tales como realidad virtual completamente inmersiva, nanotechnology de fase de máquina, e inteligencia artificial.”

El movimiento es una refutación de las preocupaciones de los SAMs de que la tecnología destruirá, subyugará, o de alguna manera disminuirá la florecimiento humano. En cambio, la tecnología—especialmente las cabezas de los sonidos de ciencia ficción de las aumentaciones a la naturaleza humana—se convierte en la base del futuro florecimiento humano.

La diferencia fundamental entre los SAMs (y las muchas, muchas personas alrededor del mundo que, por diversas razones, se alinean con su perspectiva) y los transhumanistas parece ser, entonces, una diferencia en cómo ven la posicionamiento de la tecnología y la humanidad. Para los SAMs, la tecnología—y, más inminentemente, la IA en particular—significa peligro. Para los transhumanistas, la IA y otras tecnologías son la clave para el crecimiento.

Mi experiencia con  Copilot—junto con mi reciente exposición tanto a los SAMs como al transhumanismo—me ha hecho pensar: ¿cuál es la relación adecuada que deberíamos tener con nuestra tecnología? Si no es una independencia servil, ¿es una sospecha religiosa-apocalíptica?

¿Deberíamos hacer todo lo posible para desmantelar la Máquina—bombear centros de datos, emigrar en masa a comunas rurales, prohibir máquinas pensantes a lo la Duna? O, como miembro de homo sapiens que es-- con referencia a la mayoría de los demás homo sapiens que ya han vivido--profundamente transhumano, ¿debería poner mi confianza implícita en herramientas tecnológicas que, según todos los informes, han aumentado la esperanza de vida, reducido las tasas de mortalidad infantil y ya han hecho más libres a muchos humanos?

Como probablemente puedas percibir, hay parte de mí que es naturalmente sensible a la perspectiva transhumanista. Pero también soy sensible a las preocupaciones que los SAMs plantean, y creo que ambas visiones tienen ramificaciones directas para la forma en que incorporamos la IA en L&D. Por lo tanto, el problema de lo que significa la tecnología, y cómo la usamos, merece una mirada más de cerca.

Acerca de la Tecnología

Afortunadamente, alguien mucho más inteligente y más alemán que yo ya pasó bastante tiempo pensando en este problema.

En 1949, el filósofo Martin Heidegger[1] entregó cuatro charlas en Bremen, Alemania. La segunda de estas se convertiría en un ensayo fundamental—“La Pregunta Acerca de la Tecnología”, que el profesor de filosofía de Claremont Mark Blitz describe como el “[intento] de mostrar una salida” de la inmersión acrítica en una esfera tecnológica—“una manera de pensar sobre tecnología que no esté atada a la tecnología misma.”

Esta salida consiste en elucidar lo que Heidegger llama “la esencia de la tecnología”. De manera molesta, Heidegger enfatiza que esta esencia no se encuentra en los dispositivos, métodos, o incluso conceptos científicos subyacentes a la tecnología moderna. En cambio, la esencia de la tecnología es una manera de ser y de moverse por el mundo. Es una orientación que informa la forma en que los humanos tratan con la naturaleza.

“La tecnología,” explica Heidegger, “es una forma de revelar.” Es decir, la tecnología moderna presenta el mundo de una manera que lo revela como susceptible a la extracción y a la compartimentalización por los seres humanos. El Rin se convierte en un potencial para la energía hidroeléctrica; la tierra se convierte en carbón y mineral. Y, aunque Heidegger no menciona este ejemplo, debería estar claro para nosotros hoy: la creatividad humana y el lenguaje se convierten en datos de entrenamiento para grandes modelos de lenguaje.

Heidegger pasa la mayor parte del ensayo esbozando este “modo de revelar”. En la traducción al inglés de 1977 por William Lovitt, la orientación tecnológica hacia el mundo también se llama “encuadre”.

La tecnología moderna es un “encuadre” porque, además de organizar nuestro mundo perceptivo de una manera industrializada, “desafía [a los seres humanos] a revelar lo actual, en el modo de ordenar, como reserva de pie.” (Reserva de pie, aquí, es otra palabra para esta reducción de la naturaleza a un potencial de extracción). La tecnología moderna es la fuerza motivadora detrás de todas nuestras actividades tecnológicas; es el proceso mediante el cual los humanos comienzan a pensar en sí mismos como nodos en una vasta máquina diseñada para procesar y subdividir el planeta.

Podemos ver por qué Heidegger podría ser leído aquí como profundamente sensible a los SAMs. De hecho, más adelante en el ensayo, él llama explícitamente a la esencia de la tecnología moderna un “peligro”. Nuevamente, las razones para esto son matizadas, pero en efecto, Heidegger se preocupa de que, a medida que nos enredamos más profundamente con este proceso de “encuadre”, perderemos de vista cierta humanidad esencial, una identidad central que nos abre a otras formas de ver el mundo. Estaremos, filosóficamente si no materialmente, fusionados con la esencia de la tecnología. ¿Te suena familiar?

Esta es, en cierto modo, la actitud peligrosa que me impulsó a abordar mi speedrun educativo de la manera en que lo hice. Vi a Copilot—un LLM—como ya una extensión de mi propia cognición. Daba por sentado que podía aprovechar la riqueza agregada del lenguaje humano y cosecharla para mis propios fines intelectuales. Me decepcioné como resultado. Caí, aunque de manera menor, en el peligro que señala Heidegger.

Dicho esto, también hay un matiz decididamente transhumanista en la visión de Heidegger sobre la tecnología. “La esencia de la tecnología debe albergar en sí misma el crecimiento del poder salvador” (énfasis añadido). Heidegger no es preciso sobre qué es “poder salvador”—pero es explícito acerca de cómo la esencia explotadora, extractiva, incluso coercitiva de la tecnología moderna está involucrada:

“Es precisamente en este peligro extremo [de la tecnología] que la indestructible pertenencia más íntima del hombre…puede salir a la luz, siempre y cuando, por nuestra parte, empecemos a prestar atención a la esencia de la tecnología.”

En otras palabras, reconocer la verdadera naturaleza de la tecnología—una orientación del mundo extractiva y sistematizadora—nos ayuda a despertar a las posibilidades contrastantes nativas de la humanidad. Estamos dotados de poderes y recursos y modos de revelar fuera del ámbito otorgado por la tecnología. Podemos ver el mundo de maneras matizadas por nuestro instinto por la belleza, la compasión y el amor. Crucialmente, para Heidegger, el “poder salvador” en reconocer la esencia de la tecnología nos lleva directamente de vuelta al arte, a la poesía, a los esfuerzos humanísticos. Las revelaciones de la esfera estética pueden equiparnos para ver la tecnología con claridad—pero solo logramos esta claridad si interactuamos y confrontamos la esencia de la tecnología de frente.

Avanzando

Los avances en IA no están disminuyendo, y tampoco lo estarán su implementación en L&D o en cualquier otro campo. Por esto, veo el proyecto de los SAMs como, en última instancia, miope y poco productivo.

Al mismo tiempo, no necesitamos mirar lejos para ver las consecuencias de la falta de reflexión con respecto a la tecnología. Hace un par de semanas, la junta escolar de Los Ángeles votó para prohibir los teléfonos celulares durante todo el día escolar, y el Cirujano General de EE. UU. Vivek Murthy planteó etiquetas de advertencia para plataformas de redes sociales dirigidas a los padres de adolescentes. Colectivamente, estamos despertando a los peligros del acceso descontrolado a la tecnología—nombre, el acceso sin restricciones de la tecnología a nuestras mentes y nuestras vidas. Un abrazo radical al estilo transhumanista de la tecnología tampoco es útil.

En su lugar, necesitamos atender a la esencia de la tecnología. ¿Cómo influye el uso de chatbots en tus sistemas de aprendizaje, por ejemplo, en las percepciones de nuestros aprendices? ¿El entrenamiento remoto y a demanda obstaculiza o mejora el sentido de pertenencia de los empleados? ¿Qué cambios ocurren respecto a cómo los empleados abordan su trabajo cuando cada parte de su trabajo está fragmentada a través de uno o más CMS?

Además, hay amplio espacio para llevar más pensamiento y estrategia humanística al lugar de trabajo. Algunos de los cambios de fase en las prácticas de cumplimiento y de recursos humanos, como las políticas de Equidad, Diversidad e Inclusión, surgieron tanto de la teoría crítica académica como de los desafíos sociales inminentes. Atender estas ideas activamente—no simplemente absorbiéndolas a través de la ósmosis cultural—es la diferencia entre una organización mediocre y una exitosa.

Y, por supuesto, esta síntesis debe extenderse a lo personal. ¿Qué suposiciones sobre la conciencia, la inteligencia y la creatividad importas en tus interacciones con la IA? ¿Cómo influye la generación instantánea de contenido visual, textual y de audio en la forma en que piensas sobre tu propio proceso generativo? ¿Qué hace una relación con un asistente personal funcionalmente omnisciente a tus relaciones con seres humanos limitados, pero mucho más complejos e interesantes?

Todas estas preguntas, y más, nos esperan. Como escribe Heidegger: “Cuanto más cuestionadamente reflexionamos sobre la esencia de la tecnología, más misteriosa se vuelve la esencia del arte.”

[1] Vale la pena mencionar que Heidegger fue, de hecho, miembro del partido nazi. Trataremos las ideas aquí por separado del hombre que las expuso.