No hace falta ser ningún experto para entender el problema de los "robots asesinos". Las máquinas que deciden quién vive y quién muere -mediante un algoritmo de algún tipo, quizás- resultan aterradoras por sí solas.
A menudo pensamos en estos sistemas automatizados de armamento sólo en el contexto de las guerras y en cómo podrían desplegarse en el campo de batalla. Sin embargo, su uso en tiempos de paz también supone una gran amenaza.
Los escritores de ciencia ficción llevan décadas advirtiéndonos de ello.
Por ejemplo, Ray Bradbury, en su clásico distópico de los años cincuenta, "Fahrenheit 451", describe un horror llamado "el Sabueso Mecánico". Es una máquina de ocho patas, parecida a una araña, con potentes receptores sensoriales y una larga aguja en el hocico, llena de anestésico. Se utiliza en la policía nacional para cazar, e incluso matar, a los humanos, en concreto a los disidentes, pero una vez que se suelta, se va por su cuenta.
Entonces era ciencia ficción, pero hoy, tres cuartos de siglo después, parece existir toda la tecnología para construir una bestia así. Así que -dado que siempre hay gobiernos represivos buscando nuevas formas de imponer su voluntad y empresas tecnológicas deseosas de sacar provecho de ellos- los perros distópicos pueden estar a la vuelta de la esquina. (Véase también: el episodio de Black Mirror "Metalhead")
De hecho, el futuro es ahora, como se explica en un nuevo informe de Human Rights Watch y la Clínica Internacional de Derechos Humanos de la Facultad de Derecho de Harvard. Los avances tecnológicos y las inversiones militares están estimulando el rápido desarrollo de "robots asesinos", con múltiples amenazas para los derechos humanos, incluido el derecho a la vida.
Estamos hablando de sistemas de armas autónomos, que operan sin un control humano significativo.
Una vez activados, se basarían en software, a menudo mediante algoritmos, entradas de sensores como cámaras, firmas de radar y formas térmicas, y otros datos, para identificar un objetivo. Tras encontrar un objetivo, dispararían o liberarían su carga útil sin necesidad de aprobación o revisión por parte de un operador humano.
Esto significa que una máquina, y no un ser humano, determinaría dónde, cuándo y contra qué se aplica la fuerza.
El sabueso mecánico con nariz de aguja de Bradbury es sólo uno de los miles de horrores potenciales.
Pero Bradbury también tenía claro por qué escribía ciencia ficción: "La gente me pide que prediga el futuro, cuando lo único que quiero es prevenirlo. Mejor aún, construirlo".
Y la buena noticia es que algunos gobiernos están intentando hacer precisamente eso: construir un futuro diferente.
El mes que viene se celebrará la primera reunión de la Asamblea General de las Naciones Unidas sobre sistemas de armas autónomas. Es la continuación de la campaña Stop Killer Robots y del llamamiento de más de 120 países para que se adopte un nuevo tratado internacional sobre sistemas de armas autónomas.
Sigue a la campaña Stop Killer Robots y al llamamiento de más de 120 países para que se adopte un nuevo tratado internacional sobre sistemas de armas autónomas.
Sí, conseguir que los países de todo el mundo se pongan de acuerdo en algo hoy en día puede ser un poco como arrear gatos. Pero la amenaza de perros distópicos es una poderosa motivación.
