¿Hasta dónde puede llegar la tecnología?
En el cuento de Philip K. Dick El mundo de Jon (1954) la historia del mundo bifurca en dos destinos paralelos. En uno, el despliegue tecnológico alcanza su máximo poder culminando en la inteligencia artificial y las máquinas autónomas; en el otro, la tecnología no desarrolla esta invención, conduciendo a un mundo por completo diferente.
Solo uno de estos dos caminos lleva a la distopía.
En el caso del destino que da lugar al «cerebro artificial», se origina por un evento aparentemente inofensivo. Schonerman, un científico cualquiera que investiga los fundamentos de la inteligencia electrónica, abre un destino inesperado y catastrófico. Sus inocentes investigaciones comienzan poco a poco a ser implementadas en el campo de la guerra (tal como ocurre hoy), y aunque en un inicio resultan útiles para algunos países, se termina perdiendo el control, poniendo a las nuevas «máquinas inteligentes» contra toda la humanidad:
“Se habían declarado dos guerras, en realidad. La primera, de hombres contra hombres. La segunda, de hombres contra complejos robots creados como arma de guerra. Estos se habían vuelto contra sus creadores (…)” (P. K. Dick, El mundo de Jon, 48)
Aunque se trata solo de ciencia ficción, el relato nos invita a pensar los peligros a los que puede llevar el desarrollo tecnólogico cuando se realiza sin reflexión alguna.
Este es el caso del filósofo Hans Jonas, para quien el tema cobra especial interés cuando se constata el enorme poder que ha alcanzado el ser humano con su tecnología. Imaginar escenarios distópicos nos ayuda a pensar el futuro responsablemente de acuerdo a nuestras acciones presentes.
Como se verá, el poderío de la técnica moderna ha alcanzado tal magnitud que sus efectos repercuten cada vez más en las condiciones de todo el planeta y de las generaciones por venir. Para Jonas, por lo anterior, se vuelve necesario abordar una nueva ética de la responsabilidad futura, una que nos mantenga atentos a los graves daños que podemos provocar.
“Definitivamente desencadenado, Prometeo, al que la ciencia proporciona fuerzas nunca antes conocidas y la economía un infatigable impulso, está pidiendo una ética que evite mediante frenos voluntarios que su poder lleve a los seres humanos al desastre.” (Hans Jonas, El principio de responsabilidad 9)
1. El nuevo poderío de la técnica moderna
a) La técnica del pasado: «aquí y hoy»
Ninguna sociedad, individuo o instrumento del pasado había conseguido lo que la técnica moderna logra hoy: el poder de alterar radicalmente -y a veces irreversiblemente- la naturaleza del planeta y del ser humano.
Por el contrario, las tecnologías tradicionales poseían un carácter diferente. Aunque estas también utilizaban la naturaleza, nunca conseguían alterarla esencialmente.
Dentro del «mayor artificio» que poseía la humanidad -esto es, la ciudad- las acciones humanas quedaban limitadas a la esfera intrahumana. Aquí los actos producían cambios y permanencias relativas, siempre cercados dentro de las condiciones de una naturaleza inmutable. La tierra podía ser arada, los árboles talados, los animales consumidos e incluso las vidas humanas eliminadas, pero nunca fue posible vulnerar o romper la naturaleza propia de las cosas del mundo y del ser humano.
De ahí que toda elección, acción y responsabilidad humana se mantuviera circunscrita a este límite del poder. Todo recaía fundamentalmente en lo que se hacía con los conciudadanos y, a lo más, con los pueblos próximos, pero jamás afectando a la totalidad del planeta. Igualmente, la acción humana repercutía principalmente en sus contemporáneos, sin alterar sustancialmente la condición humana de las generaciones por venir.
En palabras de Jonas, el poder y la acción humana recaían «aquí» -en territorios limitados- y «hoy» -en el presente compartido:
“La ética se refería, por tanto, al aquí y al ahora (…). El universo ético está compuesto por contemporáneos, y su horizonte hacia el futuro está limitado por la duración previsible de sus vidas. Igualmente limitado está su horizonte espacial, dentro del cual el agente y el otro se encuentran como vecinos (…).” (Técnica y responsabilidad, Jonas 36)
b) La técnica moderna: poder sobre el planeta y las generaciones futuras
“Todo esto ha cambiado de manera decisiva. La tecnología moderna ha introducido acciones de tal magnitud, objetos y consecuencias que el marco de la ética anterior ya no puede contenerlas.” (TR 38)
Para Jonas, aunque la ética pasada sigue siendo necesaria, no basta para abordar el nuevo campo abierto por el poder de la técnica moderna. Las acciones presentes cobran un peso cuyos efectos repercuten de manera cualitativamente diferente: se cambian sustratos nunca antes tocados del ser humano, así como condiciones básicas del planeta que le dio origen; la naturaleza se vuelve «vulnerable».
La técnica altera y puede seguir alterando bases antiquísimas de la existencia humana. Jonas da como ejemplos cambios en la duración de la vida y la expectativa de la muerte, la genética de la especie, así como también el control y la libertad de la conducta humana bajo psicofármacos (hoy podemos añadir bajo algoritmos y redes cibernéticas). El humano, haciéndose objeto a sí mismo de la técnica, modifica condiciones prehistóricas de su naturaleza, abriendo problemas que no tienen precedentes:
“… el propio ser humano se ha sumado a los objetos de la tecnología. El homo faber se vuelve contra sí mismo y se dispone a transformar al creador de todo lo demás.” (Jonas TR 45)
La técnica también irrumpe modificando las cosas, las vidas «extrahumanas» y las condiciones generales del planeta. El ecosistema de la biosfera se abulta de especies reproducidas artificialmente, y pierde sus equilibrios con la eliminación directa o indirecta de otras. Se explotan los recursos de la Tierra amenazando su agotamiento, modificando el clima y otras condiciones tanto o más antiguas que el propio Homo sapiens. El planeta que este siempre habitó cambia sustancialmente.
“La nave interurbana voló sobre la interminable ceniza gris (…) La superficie estaba devastada: montones de escoria que se extendían hasta perderse de vista. Las ciudades surgían como hongos, separadas por kilómetros de masa gris.” (El mundo de Jon, P. K. Dick 48)
La acción tecnológica de hoy, entonces, puede provocar una serie de efectos de tan largo alcance que no siempre resulta claro su beneficio. La cadena causal, dice Jonas, puede acumularse con otros elementos del sistema técnico, volviendo aún más complejas las consecuencias, abarcando el globo completo y, muchas veces, estableciendo condiciones de las cuales ya no hay vuelta atrás:
“Su irreversibilidad, unida a su magnitud agregada, introduce otro factor novedoso en la ecuación moral. A esto hay que añadir su carácter acumulativo: sus efectos se suman unos a otros, y la situación para actuar y ser posteriormente se vuelve cada vez más diferente de lo que era para el agente inicial.” (Jonas TR 39)
Y liberar la responsabilidad sobre el desarrollo de estas tecnologías por una supuesta “neutralidad” de los instrumentos (ser usados “para bien o para mal”) no dimensiona la magnitud de cometer un error. Una acción presente bajo la técnica moderna puede llegar a destruir las bases mínimas para la supervivencia del futuro, o bien socavar condiciones de la humanidad que no estamos dispuestos a renunciar (como la libertad para pensar y actuar). Ya sean bombas atómicas sobre el planeta, o algoritmos virtuales sobre el pensamiento, la tecnología puede amenazar los fundamentos y la integridad de la humanidad.
Para Jonas, por esto, es apremiante pensar la nueva responsabilidad que se cierne sobre el ser humano contemporáneo. No se trata de negar el desarrollo técnico por sí mismo, sino evitar un «utopismo tecnológico», es decir, el creer que su avance constante traerá por sí mismo un mundo mejor.
2. Un nuevo imperativo y el límite de nuestro saber
a) El imperativo ético de la responsabilidad futura
Por lo anterior, Jonas concluye la necesidad de un nuevo imperativo ético. Este nos permitiría pensar y evaluar nuestras acciones en vistas de sus efectos en el planeta y su futuro.
Pero esto, enfatiza, no solo como una abstracción de nuestras acciones como si pudieran regir universalmente (al modo del imperativo kantiano), sino como acciones cuyos efectos «de hecho» pueden terminar afectando a todos hoy o en el porvenir.
En otras palabras, no bastaría que mi actuar estuviera conforme a los deberes de la humanidad presente, sino que debe también evaluarse si puede desencadenar peligros graves en el futuro distante. Por ejemplo, no bastaría la legitimidad de desarrollar tecnología nuclear para solucionar los problemas energéticos de hoy, o inteligencia artificial para empujar el crecimiento económico del presente: debe meditarse seriamente todo el alcance que puede alcanzar en el futuro. No hay que olvidar lo que ocurrió con el desarrollo de las bombas nucleares, o lo que podría ocurrir con la inteligencia artificial en el futuro (especialmente cuando observamos cómo se la aplica en todo, incluido el armamento militar).
Por lo anterior, Jonas plantea que el poder tecnológico debe cuestionarse siempre bajo dos puntos esenciales:
- si acaso pone en riesgo la supervivencia de la vida futura; y, además,
- si este amenaza o no la dignidad o el ideal de vida buena que queremos para el ser humano del porvenir.
Porque, por cierto, la supervivencia es una condición básica, pero tampoco es deseable de cualquier manera. Podemos desde ya plantearnos qué queremos ser -o qué no deseamos ser- para evitar caer en distopías en las cuales el ser humano vive, pero lo hace de un modo que rechazamos (¿o nos contentaremos con una felicidad de píldoras al estilo de Un Mundo Feliz de Huxley?).
Jonas ofrece varias propuestas de ese nuevo imperativo, como por ejemplo las siguientes formulaciones (en las cuales subyacen los dos puntos críticos señalados):
«Actúa de manera que los efectos de tu acción sean compatibles con la permanencia de la vida humana genuina.» (Jonas TR 44)
«En tus elecciones presentes, incluye la integridad futura del ser humano entre los objetos de tu voluntad.» (Jonas TR 44)
b) Ignorancia, humildad y moderación
Pero, ¿cómo prever las consecuencias de estos actos para evaluarlos responsablemente?
Jonas reconoce que el desarrollo tecnológico va siempre a la vanguardia, muy por sobre nuestra comprensión o conocimiento de lo que es y puede implicar. Pero, por esta misma razón, señala que deberíamos adoptar una actitud básica, una que reconozca nuestra considerable ignorancia del alcance de nuestro poder tecnológico. Porque sus efectos sin precedentes, además de acumulativos y complejos, no permiten ver con claridad lo que provocarán.
El reconocimiento de esta ignorancia sería tan importante como el esfuerzo que debemos hacer por entender el despliegue tecnológico con todas sus ramificaciones.
Y, dada esa conciencia de nuestros límites, solo cabría adoptar una humildad sobre nuestro conocimiento del futuro, así como una moderación en las decisiones tomadas en el uso de la tecnología presente. Porque, por una parte, poseemos un poder cada vez más ilimitado para transformar la naturaleza del planeta y de nosotros mismos, pero, por otra, nuestro conocimiento de todos sus efectos es sumamente restringido.
Es en esta dualidad de poderío técnico e impotencia de previsibilidad donde se juega la tensión esencial de nuestra responsabilidad:
“Si la nueva naturaleza de nuestra actuación exige entonces una nueva ética de la responsabilidad a largo plazo, coextensiva con el alcance de nuestro poder, en nombre de esa misma responsabilidad exige también un nuevo tipo de humildad (…) a la magnitud excesiva de nuestro poder, que es el exceso de nuestro poder de actuar por sobre nuestro poder de prever y nuestro poder de evaluar y juzgar. (…) la ignorancia de las implicaciones últimas se convierte en sí misma en una razón para la moderación responsable (…).” (Jonas TR 51)
3. Imaginar futuros remotos
a) Distopías y el valor de la ciencia ficción
Reconociendo los límites de nuestra capacidad predictiva, podemos -ahora sí- intentar pensar lo que puede ocurrir en el porvenir. Para Jonas, esto es necesario para descubrir qué se juega en el presente. En sus palabras, se trataría de una especie de “ciencia de la predicción hipotética” (Jonas PR 59), una que se adelanta especialmente a futuros peligrosos para atender tempranamente si acaso los estamos engendrando.
Este ejercicio heurístico no pretendería, aclara, dar la “última palabra” sobre lo que ocurrirá, sino más bien “la primera”. Este primer decir echaría a andar el pensar sobre lo que debemos cuidar desde ya en vista de las amenazas futuras:
“Mientras el peligro es desconocido no se sabe qué es lo que hay que proteger y por qué; el saber acerca de ello procede (…) de ‘aquello que hay que evitar’.” (Jonas PR 60)
De aquí el valor de imaginar las distopías, como hace una parte importante de la ciencia ficción (entre ellos P. K. Dick). En estas obras se destacan los mundos a los que no queremos llegar, o el tipo de humanidad que no queremos ser.
Nos ayudan retrotrayéndonos al presente para cuestionar lo que estamos haciendo con nuestro nuevo poder técnico en vistas del futuro lejano. Y el temor que pueden generar sus escenarios oscuros («heurística del miedo» lo llama Jonas) colabora a mantener nuestra atención sobre los problemas que no veríamos si solo nos centráramos en nuestra época.
Así, pues, para Jonas la ciencia ficción juega un rol clave:
“La parte más seria de la ciencia ficción se basa precisamente en la realización de este tipo de experimentos mentales bien documentados, a cuyos resultados plásticos les puede corresponder aquí la mentada función heurística.” (Jonas PR 64)
b) Utopía tecnológica y utopía crítica
Ahora bien, todo lo dicho no puede conducir a una tecnofobia irreflexiva, sino solo a una mirada crítica del despliegue tecnológico. El foco de Jonas está centrado en una crítica a la «utopía tecnológica», a la ingenua esperanza de que la técnica garantizará el bienestar de toda la humanidad.
Esta utopía se cae con facilidad al apreciar el siglo pasado y presente. Muchas de las grandes promesas tecnológicas derivaron en graves daños para la humanidad: de la esperanza en la energía nuclear ilimitada, a la creación del poder para destruir todo el planeta con armas nucleares; de la ilusión de una gran red internacional comunicativa (internet) para compartir democráticamente el conocimiento, a la propagación descontrolada de propaganda y desinformación; y, más recientemente, de la creencia en una inteligencia artificial hecha para solucionar los grandes problemas humanos, a un remplazo descontrolado del ser humano así como la producción de armamento autónomo e «inteligente» para la guerra (tal como previó P. K. Dick).
¿No hay acaso otros caminos? P. K. Dick no solo muestra la distopía, también crea una utopía crítica capaz de contrastarla con mayor fuerza.
En su relato El mundo de Jon presenta un mundo paralelo al hipertecnológico, uno que esquiva la creación de la inteligencia artificial, reconduciéndose a un mundo alejado del despliegue técnico tal como lo conocemos. En este mundo utópico, se vive serenamente entre senderos para caminar, casas entre bosques para habitar, y un intelecto humano no dispuesto a la explotación ilimitada de la naturaleza, sino a la comprensión de las grandes preguntas sobre el ser humano y el universo.
Su relato sobre dos mundos paralelos nos permite no solo pensar lo que no queremos ser, sino también nos ayuda a reflexionar sobre lo que tal vez quisiéramos llegar a ser. De esto se trata, en suma, el ejercicio imaginativo, reflexivo y evaluativo que propone Jonas, uno que nos permite responsablemente ahondar en lo que deseamos evitar a futuro, así como lo que queremos construir sin vernos arrastrados por el poderoso impulso de la técnica moderna.
“Ryan se acercó a la portilla y miró afuera. La Tierra se extendía bajo la nave pero no era la Tierra de la que habían partido. Campos, interminables campos amarillos. Y parques. Parques y campos amarillos. Cuadrados verdes entre el amarillo, que se alejaban hasta perderse de vista. Nada más.
– No hay ciudades- dijo Ryan con voz ronca.
– No. ¿Te acuerdas? La gente vive en el campo o pasea por los parques. Discute sobre la naturaleza del Universo.
– Es lo que Jon veía. (…)
Éste era el mundo que su hijo había visto. Ésta era su visión. Campos y parques, y hombres y mujeres ataviados con largas túnicas flotantes. Paseando por los senderos. Charlando sobre los problemas del Universo.” (P. K. Dick 69)
Referencias
- Dick, Philip K. El mundo de Jon. En Cuentos completos 2. Traducción de Eduardo G. Murillo. Barcelona: Ediciones Martínez Roca, 1991.
- (PR) Jonas, Hans. El principio de responsabilidad: ensayo de una ética para la civilización tecnológica (PR). Introducción de Andrés Sánchez Pascual. Barcelona: Herder.
- (TR) Jonas, Hans. “Technology and Responsibility: Reflections on the New Tasks of Ethics”. Social Research, vol. 40, n.º 1, primavera de 1973, pp. 31-54. Publicado por The Johns Hopkins University Press. JSTOR, https://www.jstor.org/stable/40970125. *Traducciones propias realizadas con apoyo de DeepL.com
Descargas
- Jonas, Hans. “Technology and Responsibility: Reflections on the New Tasks of Ethics”
- Cuento de Philip K. Dick, El mundo de Jon.
