¿Hasta dónde puede llegar la tecnología?
En la obra de Phillip K. Dick El mundo de Jon, la historia mundial bifurca en dos destinos paralelos. En uno, el despliegue tecnológico alcanza su máximo poder, culminando en la inteligencia artificial y las máquinas autónomas; en el otro, la tecnología esquiva esta última invención, tomando un giro y reconduciéndose a un mundo por completo diferente.
Solo uno de estos dos caminos conduce a la distopía.
En el caso del destino que lleva al «cerebro artificial», se gesta a partir de un evento aparentemente inofensivo. Schonerman, un científico cualquiera que investiga los fundamentos de la inteligencia electrónica, abre un destino inesperado. Las elaboraciones e implementaciones posteriores a su descubrimiento, comienzan a ser aplicadas poco a poco en el campo de la guerra (tal como ocurre hoy). Y si bien al comienzo resultan de utilidad para algunos seres humanos, posteriormente se pierde el control, poniendo en riesgo a toda la humanidad bajo el ataque de estas «máquinas inteligentes»:
“Se habían declarado dos guerras, en realidad. La primera, de hombres contra hombres. La segunda, de hombres contra complejos robots creados como arma de guerra. Estos se habían vuelto contra sus creadores (…)” (P. K. Dick, El mundo de Jon, 48)
Sin duda, se trata solo de ciencia ficción. ¿Se puede acaso asegurar que este sea el destino del desarrollo técnico o tecnológico? De ningún modo.
Sin embargo, para pensadores como Hans Jonas, el enorme poder que ha alcanzado hoy el ser humano con la tecnología, fuerza a plantearse escenarios distópicos para atender con responsabilidad nuestras acciones presentes.
Como se verá, el poderío de la técnica moderna reclama imaginar y pensar futuros remotos posibles. El poder alcanzado posee tal magnitud, que sus efectos repercuten cada vez más en las condiciones de todo el planeta y de las futuras generaciones por venir. Se trata, pues, de una ética de la responsabilidad futura, una que nos mantenga atentos a los graves daños que podríamos ocasionar:
“Definitivamente desencadenado, Prometeo, al que la ciencia proporciona fuerzas nunca antes conocidas y la economía un infatigable impulso, está pidiendo una ética que evite mediante frenos voluntarios que su poder lleve a los seres humanos al desastre.” (Hans Jonas, El principio de responsabilidad 9)
