Noticias de la semana - 49
El cofundador de Reddit se burla de las advertencias de Elon Musk sobre AI
Pero luego emitió una advertencia propia.
Alexis Ohanian, cofundador de Reddit, acaba de ser dueño de Elon Musk. Hablando en la conferencia Business Insider Ignition el lunes, Ohanian dijo que las advertencias de Musk sobre el futuro de la inteligencia artificial son ridículas, informa CNET .
"Elon está escribiendo un gran guión para un episodio de Black Mirror", dijo Ohanian en el evento, dando a entender que las visiones del mal de Musk , los amos de la IA al estilo Roko y los robots asesinos pertenecen al mundo de la ciencia ficción.
Espera Pero
Pero entonces, antes de que el polvo de su derribo atómico comenzara a asentarse, Ohanian se dio la vuelta y emitió una alerta de AI por su cuenta.
En lugar de robots asesinos y distopías futuristas, Ohanian quiere que la gente se enfrente a los desafíos actuales de la IA, como la vigilancia masiva a través del software de reconocimiento facial o el controvertido sistema de crédito social de China.
Futuro Cercano
Eso es muy diferente del miedo de Elon Musk al futuro lejano y oscuro de AI: Ohanian dice que deberíamos tener miedo del futuro cercano y oscuro de AI .
"La tecnología está realmente aquí", dijo en el evento, transmitiendo la misma urgencia que las advertencias de Musk de las que se había burlado.
ESTE INICIO DICE QUE PUEDE DECIR DE TUS OJOS SI ESTÁS MINTIENDO
Es una novedad que las pruebas de polígrafo, que se supone que detectan si alguien miente basándose en sus respuestas fisiológicas durante el interrogatorio, no son confiables y tienden a sesgarse .
Ahora, una startup llamada Converus dice que ha inventado una mejor alternativa: EyeDetect. El sistema utiliza el aprendizaje automático para analizar pequeños cambios en la dilatación de la pupila y el tiempo de reacción de un sujeto, lo que le permite adivinar si se trata de un problema de fibrosis. Es más barato que un polígrafo, dice la compañía en una nueva función Wired , y más precisa.
Mienteme
Es ilegal que la mayoría de los empleadores privados en los Estados Unidos usen detectores de mentiras en sus trabajadores, pero EyeDetect se ha puesto rápidamente al día con el gobierno de los Estados Unidos y en otros países.
El Departamento de Estado contrató a Converus para que lo ayudara a contratar trabajadores en Guatemala, y la Embajada de los Estados Unidos en Paraguay usó EyeDetect, descubrió Wired . La Agencia de Inteligencia de Defensa y la Oficina de Aduanas y Protección Fronteriza de los EE. UU. También están realizando pruebas con la tecnología.
Converus también dice que Best Western, FedEx, McDonald's y otras compañías bien conocidas son clientes, aunque ninguno confirmó esa afirmación con Wired .
Mentiroso Mentiroso
Hay un solo problema: los expertos no están seguros de que EyeDetect sea mejor que la prueba poligráfica notoriamente poco confiable. La compañía dice que es 86 por ciento precisa, Wired informó , pero ningún investigador ajeno a la empresa ha realizado estudios revisados por expertos, y algunos de los estudios de Converus han encontrado tasas de precisión tan bajas como 50 por ciento.
"Para mí es asombroso que haya clientes que pagan esta tecnología y, en realidad, examinan a la gente con ella", dijo a Wired el profesor de psicología y neurociencia de la Universidad de Minnesota, William Iacono .
Si esas preocupaciones son verdaderas, la historia no tiene nada que ver con el ingenioso aprendizaje automático y más con una advertencia sobre el uso de palabras de inteligencia artificial para imponer una prueba poco confiable a las empresas, ya las personas inocentes, cuyas vidas podrían verse afectadas por sus resultados.
Cómo Google desafió a los programadores a hacer que la IA sea más culturalmente consciente
Los ganadores del Concurso de Imágenes Inclusivas avanzaron contra el sesgo algorítmico.
A estas alturas, no debería sorprender a nadie escuchar que la inteligencia artificial tiene un problema de sesgo. Las personas programan sus prejuicios sociales en algoritmos todo el tiempo, a menudo sin querer hacerlo. Por ejemplo, la mayoría de los algoritmos de reconocimiento de imagen identifican correctamente a las mujeres con vestidos blancos sueltos como "novias", pero no lo hacen para las mujeres indias que usan saris de bodas.
Para resolver ese problema, Google creó un desafío abierto llamado Concurso de Imágenes Inclusivas . El objetivo del concurso, según los informes de MIT Technology Review , es desarrollar conjuntos de datos y algoritmos que resulten en una IA que reconozca personas y costumbres más diversas.
Desaprendizaje Profundo
Hace tres meses, los equipos competidores se dispusieron a entrenar los algoritmos de detección de imágenes para que sean más inclusivos culturalmente, tanto al usar etiquetas más detalladas en las fotos utilizadas durante el entrenamiento como a la mejora de los mismos algoritmos.
Estos nuevos algoritmos fueron luego sometidos a una prueba de estrés de fotos enviadas por voluntarios de todo el mundo. Aquellos que etiquetaron con precisión las nuevas fotos, por ejemplo, la identificación de una mujer en el proceso de casarse como una "novia" en lugar de la vaga y menos útil etiqueta predeterminada de "persona" ganaron más puntos según las métricas de Google .
Progreso Necesario
Los cinco mejores equipos de la tabla de clasificación , liderados por el ingeniero de aprendizaje profundo de Samsung AI, Pavel Ostyakov, recibirán cada uno un premio de $ 5,000, sin duda una pequeña recompensa por ayudar a resolver un problema importante dentro de la investigación de AI.
Durante los próximos días, los equipos ganadores presentarán su trabajo en la Trigésima segunda conferencia sobre sistemas de procesamiento de información neuronal , una importante conferencia internacional de inteligencia artificial.
Ninguno de esos cinco equipos construyó un algoritmo perfectamente preciso o imparcial; solo uno de los cinco equipos principales, por ejemplo, construyó un algoritmo que podría identificar correctamente a una novia india. Pero el concurso marca un paso importante en la dirección correcta hacia la construcción de AI inclusiva que pueda servir a todo tipo de personas.
Fuente:
