¿Hasta dónde puede llegar la tecnología?
En la obra de Phillip K. Dick El mundo de Jon, la historia mundial bifurca en dos destinos paralelos. En uno, el despliegue tecnológico alcanza su máximo poder, culminando en la inteligencia artificial y las máquinas autónomas; en el otro, la tecnología esquiva esta última invención, tomando un giro y reconduciéndose a un mundo por completo diferente.
Solo uno de estos dos caminos conduce a la distopía.
En el caso del destino que lleva al «cerebro artificial», se gesta a partir de un evento aparentemente inofensivo. Schonerman, un científico cualquiera que investiga los fundamentos de la inteligencia electrónica, abre un destino inesperado. Las elaboraciones e implementaciones posteriores a su descubrimiento, comienzan a ser aplicadas poco a poco en el campo de la guerra (tal como ocurre hoy). Y si bien al comienzo resultan de utilidad para algunos seres humanos, posteriormente se pierde el control, poniendo en riesgo a toda la humanidad bajo el ataque de estas «máquinas inteligentes»:
“Se habían declarado dos guerras, en realidad. La primera, de hombres contra hombres. La segunda, de hombres contra complejos robots creados como arma de guerra. Estos se habían vuelto contra sus creadores (…)” (P. K. Dick, El mundo de Jon, 48)
Sin duda, se trata solo de ciencia ficción. ¿Se puede acaso asegurar que este sea el destino del desarrollo técnico o tecnológico? De ningún modo.
Sin embargo, para pensadores como Hans Jonas, el enorme poder que ha alcanzado hoy el ser humano con la tecnología, fuerza a plantearse escenarios distópicos para atender con responsabilidad nuestras acciones presentes.
Como se verá, el poderío de la técnica moderna reclama imaginar y pensar futuros remotos posibles. El poder alcanzado posee tal magnitud, que sus efectos repercuten cada vez más en las condiciones de todo el planeta y de las futuras generaciones por venir. Se trata, pues, de una ética de la responsabilidad futura, una que nos mantenga atentos a los graves daños que podríamos ocasionar:
“Definitivamente desencadenado, Prometeo, al que la ciencia proporciona fuerzas nunca antes conocidas y la economía un infatigable impulso, está pidiendo una ética que evite mediante frenos voluntarios que su poder lleve a los seres humanos al desastre.” (Hans Jonas, El principio de responsabilidad 9)
1. El nuevo poderío de la técnica moderna
La técnica del pasado: «aquí y hoy»
Ninguna sociedad, individuo o instrumento del pasado habían conseguido lo que la técnica moderna logra hoy: el poder de alterar radicalmente -y a veces irreversiblemente- la naturaleza del planeta y del ser humano.
Por el contrario, las tecnologías tradicionales poseían un carácter diferente. Aunque éstas también utilizaban la naturaleza, nunca conseguían alterarla esencialmente.
Dentro del «mayor artificio» que poseía la humanidad – esto es, la ciudad- las acciones humanas quedaban limitadas a la esfera intrahumana. Aquí los actos producían cambios y permanencias relativas, siempre cercados frente a la estabilidad y condición inamovible de lo que era la naturaleza. La tierra podía ser arada, los árboles talados, los animales consumidos e incluso las vidas humanas eliminadas, pero nunca fue posible vulnerar o romper la naturaleza propia de las cosas del mundo y del ser humano.
De ahí que toda elección, acción y responsabilidad humana se mantuviera circunscrita a este límite del poder. Todo recaía fundamentalmente en lo que se hacía con los conciudadanos y, a lo más, con los pueblos próximos, pero jamás la totalidad del planeta y todas sus formas de vida. Igualmente, los cambios de la acción humana repercutían principalmente a sus contemporáneos, pero no poseían el poder de alterar todo el orbe y la condición humana de las generaciones por venir (al punto de amenazar incluso su supervivencia).
En palabras de Jonas, el poder y la acción humana recaían «aquí», en territorios limitados, y «hoy», en el presente compartido:
“La ética se refería, por tanto, al aquí y al ahora (…). El universo ético está compuesto por contemporáneos, y su horizonte hacia el futuro está limitado por la duración previsible de sus vidas. Igualmente limitado está su horizonte espacial, dentro del cual el agente y el otro se encuentran como vecinos (…).” (Técnica y responsabilidad, Jonas 36)
La técnica moderna: poder sobre el planeta y las generaciones futuras
“Todo esto ha cambiado de manera decisiva. La tecnología moderna ha introducido acciones de tal magnitud, objetos y consecuencias que el marco de la ética anterior ya no puede contenerlas.” (TR 38)
Para Jonas, aunque la ética pasada sigue siendo necesaria, no basta para abordar el nuevo campo abierto por el poder de la técnica moderna. Las acciones presentes cobran un peso cuyos efectos repercuten de manera cualitativamente diferente: se cambian sustratos nunca antes tocados del ser humano, así como condiciones básicas del planeta que le dio origen.
La técnica altera y puede seguir alterando bases prehistóricas de la existencia humana. La duración de la vida y la expectativa de la muerte, la genética de la especie, el control y la libertad de la conducta (psicofármacos, algoritmos, redes cibernéticas). El humano, haciéndose objeto a sí mismo de la técnica, modifica condiciones de su naturaleza antiquísimas, abriendo problemas sin precedentes:
“… el propio ser humano se ha sumado a los objetos de la tecnología. El homo faber se vuelve contra sí mismo y se dispone a transformar al creador de todo lo demás.” (Jonas TR 45)
La técnica también irrumpe modificando las cosas y vidas «extrahumanas» del planeta, así como sus condiciones generales. El ecosistema de la biosfera se abulta de especies reproducidas artificialmente, y pierde sus equilibrios con la eliminación directa o indirecta de otras. Se explotan los recursos de la Tierra amenazando su agotamiento, modificando el clima y otras condiciones tanto o más antiguas que el propio Homo sapiens. El planeta que siempre habitó cambia sustancialmente.
“La nave interurbana voló sobre la interminable ceniza gris (…) Ryan miró por la portilla, distraído, sin apenas fijarse en la vista. Volaba entre ciudades. La superficie estaba devastada: montones de escoria que se extendían hasta perderse de vista. Las ciudades surgían como hongos, separadas por kilómetros de masa gris.” (P. K. Dick 48)
La acción tecnológica de hoy, entonces, puede provocar una serie de efectos de tan largo alcance que no siempre resulta claro su beneficio. La cadena causal, dice Jonas, puede acumularse con otros elementos del sistema técnico, volviendo aún más complejas las consecuencias, abarcando el globo completo y, muchas veces, estableciendo condiciones de las cuales ya no hay vuelta atrás:
“Su irreversibilidad, unida a su magnitud agregada, introduce otro factor novedoso en la ecuación moral. A esto hay que añadir su carácter acumulativo: sus efectos se suman unos a otros, y la situación para actuar y ser posteriormente se vuelve cada vez más diferente de lo que era para el agente inicial.” (Jonas TR 39)
Y liberar de responsabilidad por una supuesta “neutralidad” de los instrumentos dado que pueden ser usados a futuro “para bien o para mal”, no dimensiona la magnitud o gravedad de cometer un error. Una acción de la técnica moderna hoy puede llegar a destruir las bases mínimas para la supervivencia del futuro, o socavar condiciones que no deseamos renunciar, como la libertad para pensar y actuar. Ya sean bombas atómicas sobre el planeta, o algoritmos virtuales sobre el pensamiento, se ponen en crítico riesgo los fundamentos de la humanidad y su integridad.
Para Jonas, por esto, es apremiante pensar la nueva responsabilidad que se cierne sobre el humano contemporáneo. No se trata de negar el desarrollo técnico por sí mismo, sino evitar un «utopismo tecnológico», es decir, el creer que su avance constante traerá por sí un mundo mejor. Se requiere, por consiguiente, una reflexión y evaluación acuciosa del nuevo poder técnico que está en nuestras manos.
2. Un nuevo imperativo y el límite de nuestro saber
El imperativo de la responsabilidad futura
Por lo anterior, Jonas concluye la necesidad de un nuevo imperativo ético. Éste nos permitiría pensar y evaluar nuestras acciones en vistas de sus efectos en el planeta y su futuro.
Pero esto, enfatiza, no solo como una abstracción de nuestras acciones como si pudieran regir universalmente (al modo del imperativo kantiano), sino como acciones cuyos efectos «de hecho» pueden terminar afectando a todos hoy o en el porvenir.
En otras palabras, no bastaría que mi actuar fuera por o conforme a los deberes de la humanidad presente, sino que debe también evaluarse si abre paso a peligros graves en el futuro. Por ejemplo, no basta con la legitimidad de desarrollar tecnología nuclear para solucionar los problemas energéticos de hoy, o inteligencia artificial para empujar el crecimiento económico del presente; por el contrario, se vuelve apremiante revisar posibles consecuencias futuras. No hay que olvidar lo que ocurrió con el desarrollo de las bombas nucleares, o lo que podría ocurrir con la inteligencia artificial, cuando hoy se aplica en todo sin mayor discriminación, incluido el armamento militar.
Por lo anterior, Jonas plantea que el poder tecnológico que poseemos debe cuestionarse siempre en dos asuntos esenciales:
- si pone en riesgo la supervivencia de la vida futura; y, además,
- si amenaza o no la dignidad o ideal de vida buena que queremos para el ser humano.
Porque, por cierto, la supervivencia es una condición básica, pero tampoco es deseable de cualquier manera. Podemos desde ya plantearnos qué queremos ser -o qué al menos no deseamos ser- para evitar caer en distopías en las cuales el ser humano vive, pero lo hace de un modo que rechazamos (¿o acaso nos contentamos con una felicidad de píldoras como plantea Un Mundo Feliz de Huxley?)
Jonas ofrece varias formulaciones del nuevo imperativo. Se puede apreciar, como en estos dos ejemplos, que siempre implican los puntos señalados:
«Actúa de manera que los efectos de tu acción sean compatibles con la permanencia de la vida humana genuina.» (Jonas TR 44)
«En tus elecciones presentes, incluye la integridad futura del ser humano entre los objetos de tu voluntad.» (Jonas TR 44)
Ignorancia, humildad y moderación
Pero, ¿cómo prever las consecuencias de estos actos para evaluarlos responsablemente?
Jonas reconoce que el desarrollo tecnológico va siempre a la vanguardia, muy por sobre nuestra comprensión o conocimiento de lo que es y puede implicar. Pero, por esta misma razón, señala que deberíamos adoptar una actitud básica, una que reconozca nuestra considerable ignorancia del alcance de nuestro poder tecnológico. Porque sus efectos sin precedentes, además de acumulativos y complejos, no permiten una visualización clara de lo que provocarán.
El reconocimiento de esta ignorancia sería tan importante como el esfuerzo que debemos hacer por entender el despliegue tecnol´lógico con todas sus ramificaciones.
Y, dada esa conciencia de nuestros límites, solo cabría una humildad sobre nuestro conocimiento del futuro, así como una moderación en las decisiones tomadas en el uso de la tecnología presente. Porque, por una parte, poseemos un poder cada vez más ilimitado para transformar la naturaleza del planeta y de nosotros mismos, pero por otra, nuestro conocimiento de todos sus efectos es sumamente restringido.
Es en esta dualidad de poderío técnico e impotencia de previsibilidad donde se juega la tensión esencial de nuestra responsabilidad:
“Si la nueva naturaleza de nuestra actuación exige entonces una nueva ética de la responsabilidad a largo plazo, coextensiva con el alcance de nuestro poder, en nombre de esa misma responsabilidad exige también un nuevo tipo de humildad, una humildad diferente a la anterior, es decir, (…) a la magnitud excesiva de nuestro poder, que es el exceso de nuestro poder de actuar por sobre nuestro poder de prever y nuestro poder de evaluar y juzgar. (…) la ignorancia de las implicaciones últimas se convierte en sí misma en una razón para la moderación responsable (…).” (Jonas TR 51)
3. Imaginar futuros remotos
Distopías y el valor de la ciencia ficción
Reconociendo los límites de nuestra capacidad predictiva, podemos -ahora sí- intentar pensar lo que puede ocurrir en el porvenir. Para Jonas, esto es necesario para descubrir qué se juega en el presente. En sus palabras, se trataría de una especie de “ciencia de la predicción hipotética” (Jonas PR 59), una que se adelanta especialmente a futuros peligrosos para atender tempranamente si acaso los estamos engendrando.
Este ejercicio heurístico no pretendería, aclara, dar la “última palabra” sobre lo que ocurrirá, sino más bien “la primera”. Este primer decir echaría a andar el pensar y dialogar sobre lo que debemos cuidar desde ya, en vista de las amenazas futuras:
“Mientras el peligro es desconocido no se sabe qué es lo que hay que proteger y por qué; el saber acerca de ello procede (…) de ‘aquello que hay que evitar’” (Jonas PR 60)
De aquí el valor de imaginar las distopías (como hace P. K. Dick). Estas destacan los mundos a los que no queremos llegar, o el tipo de humanidad que no queremos ser. Nos ayudan retrotrayéndonos al presente para cuestionar lo que estamos haciendo con nuestro nuevo poder técnico en vistas del futuro lejano. Y el temor que pueden generar sus escenarios oscuros, dice Jonas, contribuyen a mantener nuestra atención sobre los problemas que no veríamos si solo nos centráramos en nuestra época. De aquí que para él, entonces, la ciencia ficción cumpla un rol importante:
“La parte más seria de la ciencia ficción” se basa precisamente en la realización de este tipo de experimentos mentales bien documentados, a cuyos resultados plásticos les puede corresponder aquí la mentada función heurística.” (Jonas PR 64)
Utopía tecnológica y utopía crítica
Ahora bien, todo lo dicho no puede conducir a una tecnofobia irreflexiva, sino solo a una mirada crítica del despliegue tecnológico. El foco de Jonas está centrado en una crítica a la «utopía tecnológica», a la ingenua esperanza de que la técnica garantizará el bienestar de toda la humanidad.
Esta utopía se cae con facilidad al apreciar el siglo pasado y presente. Muchas grandes promesas tecnológicas, derivaron en graves daños para la humanidad. De la esperanza en la energía nuclear ilimitada, a la creación del poder para destruir todo el planeta con armas nucleares; de la ilusión de una gran red internacional comunicativa -internet- para compartir democráticamente el conocimiento humano, a la propagación descontrolada de propaganda y desinformación por medio de «redes sociales» y algoritmos personalizados. Y, más recientemente, de la creencia en una inteligencia artificial que promete solucionar los grandes problemas humanos, a un creciente remplazo descontrolado de las personas en el empleo y sus capacidades más creativas y apreciadas, junto con la irresponsable creación de armamento autónomo e «inteligente» para la guerra (tal como previó P. K. Dick).
¿No hay acaso otros caminos? P. K. Dick no solo enseña la distopía, también crea una utopía crítica que la contrasta con mayor fuerza. En su relato El mundo de Jon presenta un mundo paralelo al hipertecnológico, uno que omitió particularmente la creación de la inteligencia artificial, reconduciéndose a un mundo alejado del despliegue técnico tal como lo conocemos. En este mundo utópico, la serenidad de la vida se siente en senderos para caminar, y casas entre bosques para habitar, con un intelecto humano desarrollado no para la explotación sin límites del planeta, sino para pensar e intentar comprender las grandes preguntas sobre el ser humano y el universo.
Imaginar otros mundos, deja ver P. K. Dick, nos permite no solo pensar lo que no queremos ser, sino también reconocer lo que quizás quisiéramos que madurara más. Es, en suma, sobre este ejercicio imaginativo, reflexivo y evaluativo, donde es viable construir una ética de la responsabilidad futura, tal como Jonas la piensa.
“Ryan se acercó a la portilla y miró afuera. La Tierra se extendía bajo la nave pero no era la Tierra de la que habían partido. Campos, interminables campos amarillos. Y parques. Parques y campos amarillos. Cuadrados verdes entre el amarillo, que se alejaban hasta perderse de vista. Nada más.
– No hay ciudades- dijo Ryan con voz ronca.
– No. ¿Te acuerdas? La gente vive en el campo o pasea por los parques. Discute sobre la naturaleza del Universo.
– Es lo que Jon veía. (…)
Éste era el mundo que su hijo había visto. Ésta era su visión. Campos y parques, y hombres y mujeres ataviados con largas túnicas flotantes. Paseando por los senderos. Charlando sobre los problemas del Universo.” (P. K. Dick 69)
Referencias
- Dick, Philip K. El mundo de Jon. En Cuentos completos 2. Traducción de Eduardo G. Murillo. Barcelona: Ediciones Martínez Roca, 1991.
- (PR) Jonas, Hans. El principio de responsabilidad: ensayo de una ética para la civilización tecnológica (PR). Introducción de Andrés Sánchez Pascual. Barcelona: Herder.
- Jonas, Hans. “Technology and Responsibility: Reflections on the New Tasks of Ethics” (TR). Social Research, vol. 40, n.º 1, primavera de 1973, pp. 31-54. Publicado por The Johns Hopkins University Press. JSTOR, https://www.jstor.org/stable/40970125. *Traducciones propias realizadas con apoyo de DeepL.com.
Descargas
- Jonas, Hans. “Technology and Responsibility: Reflections on the New Tasks of Ethics”
- Cuento de Philip K. Dick., El mundo de Jon.
