¿Hasta dónde puede llegar la tecnología?
En el cuento de Philip K. Dick El mundo de Jon, la historia mundial bifurca en dos destinos paralelos. En uno, el despliegue tecnológico alcanza su máximo poder, culminando en la inteligencia artificial y las máquinas autónomas; en el otro, la tecnología esquiva esta última invención, dando un giro y reconduciéndose a un mundo por completo diferente.
Solo uno de estos dos caminos conduce a la distopía.
En el caso del destino que lleva al «cerebro artificial», se gesta a partir de un evento aparentemente inofensivo. Schonerman, un científico cualquiera que investiga los fundamentos de la inteligencia electrónica, abre un destino inesperado. Las elaboraciones e implementaciones posteriores a su descubrimiento comienzan a ser aplicadas poco a poco en el campo de la guerra (tal como ocurre hoy). Y si bien al comienzo resultan de utilidad para algunos seres humanos, posteriormente se pierde el control, poniendo en riesgo a toda la humanidad bajo el ataque de estas «máquinas inteligentes»:
“Se habían declarado dos guerras, en realidad. La primera, de hombres contra hombres. La segunda, de hombres contra complejos robots creados como arma de guerra. Estos se habían vuelto contra sus creadores (…)” (P. K. Dick, El mundo de Jon, 48)
Sin duda, se trata solo de ciencia ficción. ¿Se puede asegurar que sea el destino del desarrollo tecnológico? De ningún modo.
Sin embargo, para pensadores como Hans Jonas, el enorme poder que ha alcanzado hoy el ser humano con la tecnología, fuerza a plantearse escenarios distópicos para atender con responsabilidad nuestras acciones presentes.
Como se verá, el poderío de la técnica moderna reclama imaginar y pensar futuros remotos. El poder alcanzado posee tal magnitud, que sus efectos repercuten cada vez más en las condiciones de todo el planeta y de las generaciones por venir. Se trata, pues, de una ética de la responsabilidad futura, una que nos mantenga atentos a los graves daños que podríamos provocar.
“Definitivamente desencadenado, Prometeo, al que la ciencia proporciona fuerzas nunca antes conocidas y la economía un infatigable impulso, está pidiendo una ética que evite mediante frenos voluntarios que su poder lleve a los seres humanos al desastre.” (Hans Jonas, El principio de responsabilidad 9)