Noticias de la semana - 35
La ONU exige “prohibir los robots asesinos antes de que sea muy tarde”
A menudo la ciencia ficción nos advierte de la posibilidad de perder el control de nuestros robots, y ver que estos se subleven ante nosotros sus creadores o simplemente para dominarnos en el momento en el que obtengan una autonomía para tomar decisiones. Los ejemplos son varios: Ex Machina, Terminator, Yo Robot, etc. Aunque esto está lejos de llegar, al menos podemos hablar de algo en concreto: la industria de la guerra está usando cada vez más la tecnología de vanguardia como la inteligencia artificial o la robótica para fines bélicos, lo que pone en riesgo la vida de los seres humanos a niveles nunca antes vistos.
Ahora, en una cumbre organizada por Amnistía Internacional (AI) llamada Convención sobre Ciertas Armas Convencionales llevada a Cabo en Ginebra entre el 27 y 31 de agosto de 2018 se discutirá la negociación de una nueva legislación internacional para prohibir los sistemas de armas totalmente autónomos.
En un comunicado en el sitio web de AI, se indica que la reunión es un momento clave para que los Estados debatan opciones con las que abordar los desafíos éticos, humanitarios, de derechos humanos y de seguridad planteados por los sistemas de armas totalmente autónomos.
“Los robots asesinos ya no son cosa de ciencia ficción. Desde los drones dirigidos por inteligencia artificial hasta las armas automáticas que pueden elegir su propio objetivo, los avances tecnológicos en armamento ganan terreno rápidamente al derecho internacional. Nos deslizamos hacia un futuro en el que los seres humanos podrían verse eliminados de la toma de decisiones con el uso de la fuerza”, manifestó Rasha Abdul-Rahim, investigadora sobre Inteligencia Artificial y Derechos Humanos de la organización humanitaria.
Para la experta, “aun no es tarde para cambiar de rumbo”. Sostiene que la prohibición de los sistemas de armas totalmente autónomos podría impedir algunos escenarios realmente distópicos, como una nueva carrera de armas de alta tecnología entre superpotencias mundiales que provocaría que las armas autónomas proliferaran de forma generalizada”.
Abdul-Rahim solicitó a los Estados presentes en Ginebra esta semana “que actúen con la urgencia que esta cuestión requiere, y que presenten un mandato ambicioso para abordar los numerosos riesgos planteados por las armas autónomas.”
La mayoría de los Estados que asistieron a la última reunión de la Convención sobre Ciertas Armas Convencionales en abril de 2018 subrayaron la importancia de mantener el control humano sobre los sistemas de armamento y el uso de la fuerza, y manifestaron su apoyo al desarrollo de nueva legislación internacional sobre sistemas de armas autónomos letales. Veintiséis de estos Estados, entre ellos Austria, Brasil y Egipto, pidieron una prohibición total. China también ha pedido un nuevo protocolo de la Convención sobre Ciertas Armas Convencionales que prohíba el uso de sistemas de armas totalmente autónomos.
Lo interesante es que varios Estados poderosos se opusieron a crear prohibiciones vinculantes en términos jurídicos, entre ellos Corea del Sur, EEUU, Francia, Israel, Reino Unido y Rusia, países poderosos militarmente hablando y que se sabe que están desarrollando sistemas de armas autónomas.
La sofisticación no garantiza el cumplimiento del derecho internacional
Uno de los argumentos es que las nuevas tecnologías de la guerra, por más sofisticadas que sean, difícilmente incorporarán criterios intrínsecamente humanos para cumplir el derecho internacional. Por ejemplo, tomar decisiones difíciles sobre la proporcionalidad o la necesidad de un ataque. De ahí la necesidad de crear normas vinculantes al respecto.
“Hasta ahora, la probabilidad de que las armas autónomas se utilicen en operaciones policiales, con todos los riesgos que ello comporta, no se ha tenido muy en cuenta. Pero existen ya drones capaces de disparar dardos de electrochoque, gas lacrimógeno y proyectiles de pimienta. Israel ha utilizado recientemente drones semiautónomos para lanzar gas lacrimógeno contra manifestantes en Gaza, y es probable que volvamos a ver emplear este tipo de tecnología a organismos encargados de hacer cumplir ley en el futuro”, explicó la citada experta.
NAVEGACIÓN FUERA DEL MUNDO. Hoy, todo lo que tiene que hacer para orientarse en una nueva ciudad es encender Google Maps, Waze o una de las muchas otras aplicaciones de navegación basadas en GPS disponibles. Sigue los pasos y, bam, llegas a donde necesitas ir.
No tenemos el mismo lujo en el espacio. Pero ahora, investigadores del Frontier Development Lab (FDL) de la NASA e Intel están trabajando para cambiar eso. Han encontrado una manera de hacer que sea tan fácil navegar un nuevo planeta: solo necesitaron un poco de ayuda de la inteligencia artificial (IA) para hacerlo.
Presentaron su investigación de navegación planetaria durante un evento organizado por Intel el 16 de agosto.
GPS NO GLOBAL. GPS significa "sistema de posicionamiento global" y es solo eso: global. Los satélites que le permiten al sistema conocer su ubicación para que su aplicación pueda darle indicaciones para llegar a ese nuevo restaurante no funcionan cuando no está en la Tierra.
Dado que posicionar un sistema similar de satélites alrededor de cada luna o planeta que nos gustaría explorar sería realmente difícil y costoso, NASA e Intel se propusieron crear un tipo diferente de sistema de navegación planetario.
Si pudiéramos alimentar a una IA con suficientes imágenes de la superficie de un cuerpo celeste, determinaron que una persona simplemente podía tomar una foto de su entorno y el sistema podría descubrir dónde estaban y darles instrucciones para llegar al lugar que deseaban. ser.
DE LA LUNA A MARTE. Para ver si este tipo de sistema podría funcionar, los investigadores construyeron una luna virtual.
"[F] o nuestro enfoque, utilizar la Luna real no es realmente crítico", dijo el investigador Andy Chung a Futurism. "Es probable que mejore el rendimiento en una misión real, pero un punto clave de nuestro trabajo es que enseña una red para aprender distorsiones generales causadas por topologías de paisaje general".
Para construir esta luna, el equipo primero creó 2,4 millones de imágenes de su superficie que fueron tomadas por un rover (o, al menos, si el planeta hubiera sido real). Alimentaron las imágenes capturadas por estas cámaras hipotéticas a su IA, que las unió para crear la luna virtual.
Según la presentación del equipo, esto fue suficiente para permitir efectivamente la navegación en la superficie de la luna virtual.
Luego, quieren intentar hacer lo mismo con un cuerpo celeste real (no virtual): Marte. Creen que tienen suficientes imágenes satelitales para hacerlo realidad. Si están en lo cierto, las primeras personas que caminen en el Planeta Rojo podrían encontrar que todo lo que tienen que hacer para navegar alrededor de la superficie marciana es simplemente tomar una fotografía.
Arte generado por IA saldrá a la venta junto con obras hechas por humanos este otoño
ARTE Y EL ARTISTA. La casa de subastas británica Christie's ha facilitado la compra de obras de algunos de los artistas más famosos del mundo, desde Monet hasta Picasso y Da Vinci.
Ahora, un nuevo artista está listo para unirse a la lista, solo que este no es humano.
UN PRIMER MUNDO. Entre el 23 y el 25 de octubre, Christie's planea realizar una venta especial para copias originales de edición limitada y series de obras de arte tridimensionales idénticas. Y planea incluir el arte creado por la inteligencia artificial (IA): Retrato de Edmond Belamy. Esta será la primera vez que una primera casa de subastas vende arte creado por AI.
La impresión de 70 por 70 cm en lienzo es el trabajo de un algoritmo creado por Obvious , un colectivo francés "de amigos, artistas e investigadores", según el sitio web del grupo. Para producir el retrato generado por AI, el colectivo usó un modelo de IA conocido como red generativa adversativa (GAN). Un GAN consta de dos partes: una que crea (el "generador") y otra que critica (el "discriminador").
Para empezar, el colectivo alimentó a su GAN con un set de entrenamiento que contenía 15,000 retratos, todos creados entre los siglos XIV y XX. El generador luego intentó imitar las características de estos retratos en una nueva obra de arte. Siguió creando nuevas piezas hasta que produjo un retrato que el discriminador no podía diferenciar de una pieza generada por humanos.
AI CONSIGUE CREATIVO. Este no es el primer ejemplo de IA creativa; los investigadores han creado sistemas para crear obras de arte visuales , escribir poemas y componer canciones .
Sin embargo, la subasta de un retrato generado por AI en Christie's podría hacer que el arte creado por AI parezca, ya sabes, legítimo. Después de todo, si las personas están dispuestas a tratarlo de la misma forma en que tratan el arte creado por los seres humanos (y le pagan grandes sumas de dinero), podría cambiar el futuro del arte: cómo se hace y cómo se valora.
