Noticias de la semana - 46
El Reino Unido está desarrollando robots asesinos autónomos
El Reino Unido se oponía a las armas autónomas, hasta que no lo era.
En abril , el Reino Unido intentó posicionarse como el líder mundial en ética de inteligencia artificial. Ahora está desarrollando activamente lo último en ética no-no: sistemas de armas totalmente autónomos y aviones de combate.
Oficialmente, la postura pública del gobierno del Reino Unido es que no tiene interés en desarrollar armas autónomas, pero se niega a unirse a la mayoría de los demás miembros de la ONU y prohibir la tecnología por completo.
Regla Britannia
Tal vez sea porque, según una nueva historia en The Guardian, el gobierno del Reino Unido está financiando docenas de programas de investigación que trabajan para reunir la tecnología subyacente de los drones autónomos, la inteligencia artificial para la toma de decisiones y los sistemas de armas estratégicas en los asesinos militares.
El Ministerio de Defensa ha sugerido que las armas autónomas impulsadas por la IA pueden ser factibles de fabricar y efectivas en el combate para 2030. Y si el informe que The Guardian estaba cubriendo, titulado " Fuera de la correa: Cómo el Reino Unido está desarrollando la tecnología para construir armas Drones autónomos "hay que creerlo, todos estaríamos mejor si se detuvieran.
Ministerio De Skynet
Doce años es muy poco tiempo para poner vidas humanas en manos de un algoritmo. Especialmente uno que está construido específicamente para acabar con las vidas humanas. El software de reconocimiento facial utilizado por la policía es conocido por falsos positivos y puede ser fácilmente engañado . Y los algoritmos reflejan los mismos prejuicios y prejuicios de las personas que los entrenan, incluso los sistemas de IA más objetivos están sujetos a cualquier eje que sus programadores deban analizar.
Considere esos dos problemas cuando se trata de un algoritmo construido por el ejército específicamente para encontrar y matar combatientes enemigos y otros objetivos. Cualquier paso en falso podría ser horrible, y dada la frecuencia con que los algoritmos cumplen sus propias reglas , es casi seguro que habrá errores catastróficos si se usan estas máquinas.
Este juego utiliza la inteligencia artificial para reclutar nuevos jugadores
Tu próximo reclutador podría ser una IA.
Desde los días de ELIZA , el "terapeuta" rudimentario de computadoras que representó una de las primeras versiones de la IA interactiva, el sueño de la inteligencia artificial ha cautivado a los futuristas, tecnólogos y escritores de ciencia ficción. ¿Pero cuando las máquinas artificialmente inteligentes del futuro se convierten en suyas ?
Es una preocupación que está empezando a parecer algo más que teórico. A medida que la tecnología de AI continúa avanzando, está cambiando rápidamente la forma en que conceptualizamos el mundo que nos rodea. Sí, los avatares de los robots que destruyen las pruebas de Turing aún están muy lejos (probablemente es algo bueno), pero en todos los lugares a los que vamos, especialmente en Internet, las líneas entre humanos y robots se están volviendo cada vez más borrosas, a veces con resultados perturbadores.
A medida que esta invasión se vuelve cada vez más evidente, los grandes pensadores de todo el mundo están empezando a lidiar con las implicaciones de manera innovadora. En Silicon Valley, la iglesia Camino del Futuro de Anthony Levandowski está construyendo lo que ellos describen como "un dios artificialmente inteligente ". El mes pasado, Retrato de Edmond de Bellamy , una obra de arte original creada por una inteligencia artificial, vendida en Christie's por una friolera. $ 432,500. Y Niantic, el equipo de desarrollo visionario detrás de Pokemon Go , que define el género , anunció recientemente una campaña para invitar a la reflexión utilizando AI para relanzar su juego AR Ingress como Ingress Prime.
A diferencia de los notorios PNJs "inteligentes" artificialmente de tu infancia, esta IA no se va a correr chocando contra las paredes. En cambio, es el reclutamiento.
En Ingress Prime , una de las primeras acciones que realiza un jugador es elegir un lado. En lugar de seguir con la tradicional dicotomía de chico bueno / chico malo, el juego pide a los jugadores que se alineen con la cosmovisión filosófica, eligiendo unirse al Iluminado o la Resistencia.
Así es como funciona: a partir del 12 de noviembre, los jugadores de Ingress Prime que elijan visitar podrán entrenar a una de las dos entidades de AI (ADA o JARVIS), cada una de las cuales representa la facción elegida por el jugador, y cuya única misión es reclutar más. Jugadores del mundo exterior. Si bien este no es un aspecto requerido del juego, es una ventaja para los jugadores comprometidos, así como una forma provocativa de conectar la historia del juego, de dos facciones que compiten por el poder utilizando su propia tecnología misteriosa, con el mundo real.
No a diferencia de los bots que publican noticias falsas o que persisten en Twitter confundiendo las mentes de las personas, ADA y JARVIS crearán propaganda para impulsar su propia agenda. Aprenderán de las interacciones regulares con los visitantes del sitio, y cada uno de ellos creará un arsenal de técnicas cada vez más sofisticadas a medida que pasa el tiempo, desde memes hasta carteles y videos. También comenzarán a adoptar sus propias personalidades únicas. Enseñe a ADA a enojarse, y sus carteles de reclutamiento tomarán un tono agresivo; enséñale a Jarvis a ser amable e intentará atrapar moscas con miel. A medida que estas personalidades evolucionen, los participantes en el proceso los verán a medida que se conviertan en algo parecido a la sensibilidad.
Si eso suena un poco espeluznante, ese es el punto. Al crear ADA y JARVIS y permitirnos enseñarles a imitar el comportamiento humano, los diseñadores de Niantic están abordando intencionalmente nuestro panorama tecnológico actual, un paisaje en el que interactuamos constantemente con algoritmos que intentan vendernos algo, propagandistas políticos de origen dudoso y Los espías de la IA que nos conocen mejor que nuestras propias madres.
¿Son ADA y JARVIS herramientas de marketing super sofisticadas o son algo más siniestro? Los diseñadores de Ingress Prime esperan que al hacer estas preguntas, alienten a la gente a comenzar a cuestionar la naturaleza del mundo que los rodea, y luego se inscriban para jugar.
Difuminar la línea entre la ciencia ficción y la realidad no es nada nuevo para Ingress. S esde su lanzamiento inicial de 2013, los jugadores en el, juego de realidad aumentada basada en la localización han explorado el mundo real durante su participación en una narrativa de ficción en curso, abierto desplegado a su alrededor. Ahora, con el relanzamiento de Ingress Prime , el juego se ha rediseñado con una historia reiniciada, un juego optimizado y un mapa AR del mundo del juego que se puede superponer en la superficie del mundo real.
Con estas características, junto con su inquietante campaña de lanzamiento de AI, Niantic está demostrando que ya no se contentan con simplemente sumergir a los jugadores en un entorno inmersivo de AR. Con ellos también nos obligan a preguntarnos qué significa ser humano, y elegir un lado.
LOS EXPERTOS ADVIERTEN SOBRE LA TECNOLOGÍA DE DETECCIÓN DE ACENTO DE AMAZON
Una tecnología desarrollada por Amazon para mejorar Alexa podría ayudar a los gobiernos a violar los derechos civiles de las personas.
En octubre, Amazon patentó una tecnología que dice que le permitiría a su asistente de inteligencia artificial analizar la voz de un usuario e inferir todo, desde su estado de salud hasta su posible país de origen: capacidades que los gobiernos podrían usar contra las personas, advierten expertos en privacidad en una historia recientemente publicada por The Intercept .
Servicio De Labios
Es fácil ver cómo Amazon podría beneficiarse de la tecnología descrita en la patente. Alexa pudo escuchar que un usuario tose entre las palabras y ofrecerse a pedirles medicamentos contra la gripe. Si la IA cree que el usuario está hablando en inglés con acento chino, podría sugerir que compre un dispositivo que transmita televisión en idioma chino en tiempo real.
Un poco espeluznante? Sí. ¿Pero tan diferente de lo que Amazon y su tipo ya hacen? Realmente no.
Entregarlo
El verdadero problema podría surgir si un gobierno decidiera que quería acceder a esta información que Amazon recopilaría sobre los usuarios, dijo Jennifer Interick a la Intercepta, la abogada de vigilancia y ciberseguridad .
"Supongamos que tiene [Inmigración y Control de Aduanas] acuda a uno de estos proveedores y diga: 'Dénos toda la información de suscripción de las personas que tienen acento español' ... para identificar a personas de una raza en particular o que teóricamente podrían tener familiares. que están indocumentados ”, dijo. "Así que puedes ver que este tipo de información definitivamente puede ser abusada".
Por supuesto, es importante tener en cuenta que una aprobación de patente no es una garantía de que Amazon, o cualquier otra compañía, alguna vez cree esta tecnología de detección de acentos. Y tampoco hay evidencia de que un gobierno exprese interés en la tecnología.
Sin embargo, siempre vale la pena considerar las posibles consecuencias no deseadas de cualquier nueva tecnología, especialmente cuando la empresa que posee esa tecnología es una de las que tiene un alcance tan amplio como Amazon.
Fuente:
