¿Hasta dónde puede llegar la tecnología?
En el cuento de Philip K. Dick El mundo de Jon (1954) la historia del mundo bifurca en dos destinos paralelos. En uno, el despliegue tecnológico alcanza su máximo poder culminando en la inteligencia artificial y las máquinas autónomas; en el otro, la tecnología no desarrolla esta invención, conduciendo a un mundo por completo diferente.
Solo uno de estos dos caminos lleva a la distopía.
En el caso del destino que da lugar al «cerebro artificial», se origina por un evento aparentemente inofensivo. Schonerman, un científico cualquiera que investiga los fundamentos de la inteligencia electrónica, abre un destino inesperado y catastrófico. Sus inocentes investigaciones comienzan poco a poco a ser implementadas en el campo de la guerra (tal como ocurre hoy), y aunque en un inicio resultan útiles para algunos países, se termina perdiendo el control, poniendo a las nuevas «máquinas inteligentes» contra toda la humanidad:
“Se habían declarado dos guerras, en realidad. La primera, de hombres contra hombres. La segunda, de hombres contra complejos robots creados como arma de guerra. Estos se habían vuelto contra sus creadores (…)” (P. K. Dick, El mundo de Jon, 48)
Aunque se trata solo de ciencia ficción, el relato nos invita a pensar los peligros a los que puede llevar el desarrollo tecnólogico cuando se realiza sin reflexión alguna.
Este es el caso del filósofo Hans Jonas, para quien el tema cobra especial interés cuando se constata el enorme poder que ha alcanzado el ser humano con su tecnología. Imaginar escenarios distópicos nos ayuda a pensar el futuro responsablemente de acuerdo a nuestras acciones presentes.
Como se verá, el poderío de la técnica moderna ha alcanzado tal magnitud que sus efectos repercuten cada vez más en las condiciones de todo el planeta y de las generaciones por venir. Para Jonas, por lo anterior, se vuelve necesario abordar una nueva ética de la responsabilidad futura, una que nos mantenga atentos a los graves daños que podemos provocar.
“Definitivamente desencadenado, Prometeo, al que la ciencia proporciona fuerzas nunca antes conocidas y la economía un infatigable impulso, está pidiendo una ética que evite mediante frenos voluntarios que su poder lleve a los seres humanos al desastre.” (Hans Jonas, El principio de responsabilidad 9)