Noticias de la semana - 38
En busca de las leyes robóticas de la Comisión Europea
Isaac Asimov planteó en sus libros tres leyes de la robótica. Ahora, al más puro estilo de la ciencia ficción, la Comisión Europea busca unas normas éticas para legislar sobre robots e Inteligencias Artificiales.
La Comisión Europea (CE) busca sus propias leyes robóticas, como ya hizo Isaac Asimov en sus libros. La CE ha reunido este jueves a 52 expertos con los que se ha creado el nuevo Grupo de Alto Nivel sobre Inteligencia Artificial que abordará los temas relacionados con la ética de las personalidades artificiales (robots e IA). De esta forma busca legislar al respecto, como tarde, para principios de 2020.
"Se busca que las personalidades artificiales tengan algo así como una religión robótica, un código ético interno que se añade al crear el software para que tenga unos mínimos éticos", explica el jurista. Incluso en el ámbito armamentístico se buscan "cinco reglas básicas" que los desarrolladores deberán añadir "sí o sí" a sus personalidades artificiales. Al más puro estilo de la ciencia ficción. "No van a ser las de Asimov en sí" pero se busca algo similar.
En busca de la ética artificial
"Se busca que las personalidades artificiales tengan algo así como un código ético"
Tanto los robots como las inteligencias artificiales primero tienen que aprender para poder hacer su trabajo, es decir, lo que se denomina machine learning. "Por ejemplo, tienes comentarios en un sitio web y le dices estos son buenos y estos malos", explica a Hipertextual Jorge Morrell, jurista especializado en Derecho Tecnológico desde Términos y Condiciones. Y entonces aprende a catalogarlos según las pautas que tienen todos en común. “Es el ejemplo más fácil”, añade. "Pero cuando vas a cosas más complejas que afectan a personas, los datos que le das para entrenar están sesgados o son demasiado parciales en cuestiones raciales, de intereses, de pensamiento… Generas una IA que al final va a tomar decisiones tanto ética como legalmente complejas o que se salgan de la norma", explica. "El primer problema que hay para regular la IA y su vertiente ética es dónde has conseguido los datos con los que lo vas a entrenar y si el programador o la empresa se ha dado cuenta si hay algún sesgo en particular", señala.
¿Se están encontrando los programadores ya con problemas éticos? ¿Es realmente necesaria una ética para personalidades artificiales? La respuesta a ambas preguntas es que sí y hay numerosos ejemplos para que regular la ética de los robots y las IA sea necesario.
En Estados Unidos están utilizando COMPAS, un programa que ayuda a los jueces a saber si la persona que puede quedar libre tienen probabilidades de volver a reincidir. Esta IA se basa en estadísticas de las últimas décadas y según la situación personal del individuo, tendrá más o menos posibilidades de volver a cometer un delito. “Este sistema se está teniendo bastante en cuenta en EEUU”, afirma el jurista. “Pero se han dado cuenta de que este sistema tiene un sesgo racista”, añade Morell. Es un ejemplo de por qué habría que regular a las personalidades artificiales para que no haya discriminación de ningún tipo.
DeepMind, la IA de Google, se volvía agresiva cuando escaseaba la fruta en un juego
Otro ejemplo es el caso de la IA agresiva de Google. DeepMind es la IA en la que trabaja la empresa norteamericana y que ha sorprendido mientras jugaba a un simple juego de recolección de frutas. Fue programada para recolectar el máximo de frutas posibles. Sin embargo, "en época de escasez, se volvía agresiva y los programadores tuvieron que reprogramarla para que fuera colaborativa", explica Morell desde el otro lado del teléfono.
Estos factores éticos y muchos otros, como se pueden presentar con los accidentes de vehículos autónomos, son los que tratan de dilucidar los expertos reunidos en Bruselas este jueves, que "presentará sus directrices a comienzos de 2019", según prevé la CE en su página web.
Parece que pronto tendremos nuestras propias leyes robóticas y, una vez más, la ciencia ficción parece haberle ganado la carrera a la realidad.
Botnet de Mild-Mannered busca malware para que pueda arreglarlo
CAZADOR DE MALWARE
Si tiene la mala suerte de visitar una página maliciosa o hacer clic incorrectamente en un correo electrónico de suplantación de identidad, puede atrapar una botnet: malware que secuestra su computadora para realizar una acción infame, como atacar un sitio, propagar un virus o criptomoneda minera
Pero ahora, la empresa de seguridad de red Netlab 360 dice que ha identificado un botnet de ángel guardián que, en lugar de dañar su computadora, busca una infección de malware específica y la cura antes de cortarse amablemente.
BUSCAR Y DESTRUIR
No sabemos quién creó el malware, que el ingeniero de Netlab 360 Hui Wang apodó "Fbot". Pero parece tener una sola misión: deshacerse de un tipo específico de malware.
Fbot primero infecta las computadoras que dejan un puerto específico vulnerable al ataque. Luego busca en los nuevos hosts un malware llamado com.ufo.miner, que usa computadoras infectadas para extraer la criptomoneda Monero, y la erradica.
"[S] o ahora", escribió Wang en la publicación del blog, "el único propósito de este botnet es simplemente seguir y eliminar otro botnet".
¿BIEN CAOTICO?
No está claro, señaló CoinDesk , si Fbot es la creación de un bienhecho anónimo o un hacker rival.
Pero da una idea de un futuro intrigante en el que los agentes autónomos deambulan por la web como cazarrecompensas.
Listas de reproducción más inteligentes: esta IA puede identificar el estado de ánimo de una canción
La mayoría de las veces un ser humano no tiene problemas en identificar si una canción es triste, melancólica o alegre, pero para las maquinas esta es una tarea muy difícil. En un intento por hacer que esta situación mejore, un equipo de investigadores ha desarrollado un sistema con inteligencia artificial (IA) que mide la emoción e intensidad de una canción basándose en una amplia variedad de datos y no solo en la letra o la melodía.
Estos investigadores que trabajan para Deezer, un sitio web francés que ofrece música por streaming mediante suscripción, publicaron su trabajo en ArXiv.
¿Cómo lo hicieron?
“En este trabajo, nos centramos en la tarea de detección de estado de ánimo multimodal basada en la señal de audio y la letra de la pista”; escribieron en el estudio. Por esta razón, entrenaron a la IA con señales de audio y modelos de reconstrucción de contextos lingüísticos de las palabras.
Además decidieron usar el Million Song Dataset (MSD), una colección de metadatos para más de 1 millón de canciones contemporáneas. En particular, usaron una base de datos de “pistas asociadas con etiquetas de LastFM, algunas de las cuales estaban relacionadas a emociones”.
Luego usaron una base de datos que asocia 14.000 palabras en inglés de estas etiquetas con su respectivo nivel de negatividad o positividad, e incluso te decía qué tan calmada o enérgica era una palabra de estas.
El problema es que el MSD solo contiene los metadatos de las canciones, no las canciones en sí. Para superar este pequeño inconveniente, Deezer usó su propio catálogo de canciones y emparejó toda la información. De esta manera se logró conseguir 18.644 canciones para entrenar a la IA y probar que funciona.
Entonces, ¿funciona?
Los investigadores concluyeron al final de su trabajo que había una mejora en la capacidad de este sistema en relación a los que no usan inteligencia artificial. "Parece que esta ganancia de rendimiento es el resultado de la capacidad de nuestro modelo para revelar y utilizar correlaciones de nivel medio entre audio y letras”, escribieron los investigadores en el documento.
Además, el equipo hace hincapié en que de existir una base de datos con letras y audio sincronizados su IA podría determinar con mayor precisión el estado de ánimo de una canción.
De lograr una precisión considerable, Deezer podría generar automáticamente listas de reproducción que se ajusten a una gran variedad de estados de ánimo. De esta manera podría ofrecerte una lista que sea lo suficientemente motivadora como para que estudies a conciencia de una vez por todas, o lo suficientemente relajante como para que duermas sin pensar en el/ella por las noches.
Las investigaciones que combinan música y tecnología son usualmente bien recibidas. Hace unas semanas una red neuronal logró reconocer instrumentos musicales en videos y aislar sus sonidos. Si no te parece tan impresionante, una IA logró convertir una canción de Rihanna en una sinfonía de Mozart.
Fuente:
