Noticias de la semana - 08
Alemania se compromete a no utilizar "robots asesinos"
En la actual Conferencia de Seguridad de Munich, el jefe del grupo de control cibernético de Alemania dijo que su país nunca usará "robots asesinos". A medida que la inteligencia artificial continúa creciendo, muchos advierten sobre el uso de armas autónomas.
NO KILLER ROBOTS, POR FAVOR
Las armas autónomas se encuentran actualmente en el centro del debate sobre el futuro de la inteligencia artificial, y algunos países ya están comenzando a distanciarse del dilema ético y la controversia política involucrada en su uso.
En una reunión reciente de la Convención de las Naciones Unidas sobre Armas Convencionales (CCW) , los líderes mundiales han considerado una posible prohibición de estos llamados "robots asesinos" - técnicamente un nombre inapropiado, ya que estas armas autónomas no se limitan solo a la robótica tipo. Ahora, en la Conferencia anual de seguridad de Munich (MSC) , Alemania dejó en claro que no están interesados en desarrollar sistemas autónomos de armas.
"Tenemos una posición muy clara. No tenemos intención de procurar sistemas [...] autónomos ", dijo el teniente general Ludwig Leinhos, jefe del nuevo Comando Espacial de Información y Cibernética de Alemania, según eNCA . Sin embargo, dejó en claro que el ejército alemán no está simplemente eligiendo no involucrarse en el tema, sino que está preparado para defender al país de posibles ataques llevados a cabo por armas extranjeras remotas.
TIRANDO DEL ENCHUFE
Alemania es la última nación en desacreditar oficialmente el desarrollo y uso de armas autónomas, uniéndose a Australia y Canadá , así como al Reino Unido que había declarado la prohibición a principios de 2017 . Mary Wareham, una coordinadora de la Campaña para Detener Killer Robots, dijo al panel en MSC que 22 naciones ya apoyan la prohibición. Mientras tanto, los activistas de todo el mundo continúan movilizándose contra el desarrollo de tales armas, que algunos países -incluidos los Estados Unidos- siguen explorando .
Los críticos incluyen a muchos de los expertos más destacados del mundo en inteligencia artificial, que enviaron una carta abierta a la ONU pidiendo la prohibición de las armas autónomas. Entre ellos se encuentra el investigador de IA de mucho tiempo, Stuart Russell, quien una vez le dijo al Futurismo que el armamento de la IA causaría más daños a la sociedad que bien. Varios otros grupos, incluida la Iniciativa AI de Harvard , Amnistía Internacional y Campaign to Stop Killer Robots expresan una preocupación similar.
Seguramente, las armas autónomas ocupan solo una parte de la discusión general sobre el futuro de la inteligencia artificial, que la mayoría coincide es un desarrollo tecnológico que debe alentarse y no obstaculizarse. Sin embargo, el potencial de AI para ser cooptado en el desarrollo de armas está despertando alarma en los rangos más altos de los círculos de seguridad del mundo.
La nueva IA de Google predice tus riesgos de sufrir una
enfermedad cardíaca solo con mirarte a los ojos
Google y su filial de tecnología enfocada en la salud,
Verily, han dado con una nueva forma de evaluar el riesgo de una persona de
padecer enfermedades cardíacas: a través del machine learning. Han desarrollado
un software capaz de analizar los escaneos de la parte posterior del ojo de un
paciente.
A través de esos registros, el algoritmo es capaz de deducir
datos con precisión, incluida la edad de un paciente, la presión arterial o
incluso si fuman o no. De hecho, y tal y como cuentan, el software hace que sea
más rápido y sencillo para los médicos analizar el riesgo cardiovascular de un
paciente, ya que no requiere un análisis de sangre.
El artículo sobre este asombroso desarrollo se ha publicado
en Nature esta semana. Detrás del mismo está Luke Oakden-Rayner, un
investigador médico de la Universidad de Adelaida especialista en el análisis
del machine learning. Según Rayner:
El trabajo fue sólido y muestra cómo la IA puede ayudar a
mejorar las herramientas de diagnóstico existentes. Se están tomando datos que
han sido capturados por una razón clínica y están sacando más provecho de lo
que hacemos actualmente. En lugar de reemplazar a los médicos, la IA está
tratando de ampliar lo que realmente podemos hacer.
Para entrenar el algoritmo usaron las herramientas de
machine learning con las que analizar un conjunto de datos médicos de casi
300.000 pacientes. Esta información incluía escaneos oculares y datos médicos
generales. Al igual que con todos los análisis de aprendizaje profundo, las
redes neuronales se usaron para extraer esta información de los patrones,
aprendiendo a asociar signos reveladores en las exploraciones oculares con las
medidas necesarias para predecir el riesgo cardiovascular.
El hecho de analizar a través de los ojos para averiguar la
salud de una persona no es baladí, se basa en un conjunto de investigaciones ya
establecidas. La pared interior posterior del ojo está llena de vasos
sanguíneos que reflejan la salud general del cuerpo. Al estudiar su apariencia
con la cámara y el microscopio, los médicos pueden inferir cosas como la presión
arterial, la edad y si fuman o no, lo cual es un paso importante para predecir
la salud cardiovascular.
Para Google, el trabajo señala el camino hacia un nuevo
paradigma impulsado por la inteligencia artificial hacia los descubrimientos
científicos. Es cierto que la idea de un médico en forma de IA generando nuevos
diagnósticos sin supervisión humana es una perspectiva algo distante,
probablemente pasarán décadas antes de verlo en el futuro. Sin embargo, la
investigación sugiere que la idea no es ni mucho menos descabellada.
La partida de Elon Musk del Consejo de OpenAI podría
significar grandes cosas para Tesla
En 2015, Elon Musk fue cofundador de la compañía de
investigación de IA sin fines de lucro OpenAI. Ahora, dejará la junta directiva
de OpenAI debido a un posible conflicto de intereses futuro que involucre a
otra de sus compañías: Tesla.
ADIÓS, ELON
El martes, OpenAI anunció que Elon Musk, uno de los miembros
fundadores y principales benefactores de la compañía de investigación IA sin
fines de lucro, estaría dejando vacante su puesto en la junta directiva de
OpenAI.
Musk ayudó a crear la visión de OpenAI y financió gran parte
del crecimiento de la organización sin fines de lucro. Un anuncio de los
miembros entrantes y salientes de la junta publicado en el blog Open AI dijo lo
siguiente con respecto a su permanencia en el consejo:
Elon Musk abandonará la Junta de OpenAI, pero continuará
donando y asesorando a la organización. A medida que Tesla continúa enfocándose
más en la IA, esto eliminará un posible conflicto futuro para Elon.
La junta directiva de OpenAI ahora está compuesta por Greg
Brockman, Ilya Sutskever, Holden Karnofsky y Sam Altman, con quienes Musk fue
cofundador de la empresa. La compañía tiene planes no solo para ocupar el
asiento de Musk en la junta, sino también para expandir su equipo .
Desde 2015, OpenAI ha promovido la investigación y el
desarrollo de IA en varias industrias, obteniendo apoyo (tanto ideológico como
financiero) de muchos jugadores de alto perfil en el juego AI.
Open AI también ha sido una voz destacada en la conversación
sobre las limitaciones, los desafíos y los peligros potenciales de la
inteligencia artificial. Justo esta semana, la compañía publicó un informe
junto con otros expertos mundiales en inteligencia artificial que describe los
posibles usos "maliciosos" de la tecnología y cómo prevenirlos.
HOLA, AUTOS AUTÓNOMOS?
La salida de Musk de la placa OpenAI es intrigante, no tanto
por lo que podría significar para el futuro de OpenAI, sino por la de Tesla. La
razón dada de "un posible conflicto futuro para Elon" podría indicar
que Tesla está más profundamente comprometido con sus propios proyectos de IA
de lo que pensamos.
Aquellos que han tenido sus oídos listos para cualquier
rumor de que Tesla está lista para entregar vehículos capaces de autonomía de
Nivel 5 podrían tomar este nuevo desarrollo de OpenAI como una señal de que la
compañía se acerca cada vez más a ese objetivo escurridizo.
La base de clientes de Tesla ya ha demostrado su interés en
las características mejoradas de la inteligencia artificial. Más de 35,000
clientes de Tesla incluso estaban dispuestos a pagar $ 3,000 cada uno por una
" capacidad totalmente autónoma " que aún no existe. Si la salida de
Musk de la junta de OpenAI es una señal de que Tesla se está acercando a la
autonomía de nivel 5, su confianza en la empresa pronto podría ser
recompensada.
Fuente:
