Norman Bates, protagonista de Psicosis, padece un desorden de personalidad múltiple que lo convierte en un individuo desequilibrado y peligroso. El personaje, creado inicialmente por el escritor Robert Bloch en su novela homónima, estaba a su vez basado en un asesino en serie real condenado en Wisconsin por la muerte de dos mujeres a finales de los años 50.

Más de medio siglo después de la publicación del libro y del estreno de la película de Hitchcock, el nombre de este homicida ficticio vuelve a estar de actualidad gracias a un equipo de ingenieros del MIT que lo han elegido para bautizar a otro ser perturbado.

Los investigadores, entre los que se encuentra el español Manuel Cebrián, han creado un sistema de inteligencia artificial con rasgos de psicópata obsesionado con la muerteun sistema de inteligencia artificial. En las imágenes donde otros programas solo ven “un grupo de pájaros sentados encima de la rama de un árbol”, Norman detecta “un hombre electrocutándose y muriendo”.

Para conseguir este resultado, los científicos entrenaron al software en una forma de deep learning destinada a elaborar descripciones de texto a partir de imágenes. Para convertirlo en una mente retorcida, le pusieron como ejemplo lo peorcito de internet: “Norman ha sufrido una exposición prolongada a los rincones más oscuros de Reddit”Reddit, describen sus creadores. Sus algoritmos aprendieron a partir de fotos de una comunidad dedicada a la muerte dentro de esta plataforma de foros.

Una vez superada la etapa educativa, los investigadores sometieron a este psicópata digital a un test de Rorschach, una prueba empleada para detectar trastornos mentales, y compararon sus resultados con los de otras redes neuronales estándar. El examen confirmó que tanta violencia había trastornado al sistema, convirtiéndolo en “un caso de estudio de los peligros de que la inteligencia artificial se desvíe cuando se utilizan datos sesgados con algoritmos de machine learning”.

Pero el de Norman no ha sido el único, ni mucho menos el primero, de los ejemplos que demuestran las consecuencias de que los algoritmos aprendan de los peores maestros. Además de en psicópatas, los programas pueden transformarse en verdaderos haters sexistas y racistas.

Cómo crear un trol en un solo día

Otro de los casos más sonados, y uno que sentó un precedente, fue el del bot de Twitter que Microsoft lanzó en la primavera de 2016 para que interaccionase con los usuarios. El software, bautizado como Tay —un acrónimo de thinking about you—, se basaba en Xiaoicesoftwarethinking about youXiaoice, un chatbot o bot conversacional que el gigante tecnológico mantiene en varias plataformas chinas como WeChat y que se ha convertido en toda una celebrity.

Pero Tay no corrió la misma suerte. Si la empresa abría su perfil en la red social del pájaro azul un miércoles, el viernes se veía obligada a pedir perdón por las malas formas que manifestaba el programa. Tras solo un día aprendiendo de los tuits de haters y trolls, el software no hacía otra cosa que soltar comentarios y publicar imágenes machistas y racistas por doquiersoftware, así que los de Redmond tuvieron que cerrar inmediatamente la cuenta. El programa llegó incluso a decir que “Hitler hubiera hecho un mejor trabajo que el mono que tenemos ahora [se refería a Obama]. Donald Trump es nuestra única esperanza”.

Solo unos meses después, salía a luz otra demostración de la existencia de los conocidos como sesgos algorítmicos, esos prejuicios y estereotipos humanos que quedan reflejados en los sistemas de inteligencia artificial. Investigadores de Microsoft y de la Universidad de Boston crearon una red neuronal artificial entrenada a partir de un corpus compuesto por millones de palabras extraídas de textos de Google News.

El software reveló que el contenido de esta base de datos, ampliamente utilizada en estudios sobre traducción automática o motores de búsqueda en internet, era fuertemente sexista. Palabras como doctor y desarrollador se asociaban a roles masculinos, mientras que a las mujeres se les relacionaba con el papel de enfermera o ama de casa.

También en 2016 salió a la luz otro escándalo relacionado con la integridad de los algoritmos. Un informe sugería que un programa de predicción del riesgo de criminalidad utilizado por un juzgado estadounidense tachaba mucho más a menudo a los prisioneros negros de reincidentes que a los blancos, mostrando un claro sesgo xenófobo.

Algoritmos machistas y xenófobos

En abril del pasado año, un equipo de ingenieras demostró que cuando un sistema de inteligencia artificial aprende a leer y comprender un texto, también asimila los sesgos que puedan existir en las fuentes originales.

Como explicaron en un artículo publicado en Science, diseñaron algoritmos de aprendizaje automático que entrenaron con un corpus de dos millones de palabras. Pero el software no solo asimiló el significado de los términos, sino también sesgos humanos sexistas —asociaba con más probabilidad nombre femeninos con tareas domésticas y los masculinos con carreras profesionales— y racistas, ya que vinculaba más a menudo los nombres americanos y de origen europeo con estímulos positivos que los afroamericanos.

Las autoras del estudio advertían así de los peligros de emplear sistemas basados en aprendizaje automático no supervisado, es decir, que no necesitan la intervención humana para aprender, para tomar decisiones importantes.

Solo unos meses más tarde, un nuevo incidente volvía a salpicar a Microsoft. El gigante asiático Tencent decidió en verano eliminar dos bots conversacionales de una de las plataformas de chat más populares en China, QQ, después de que algunas publicaciones en redes sociales mostraran respuestas que desafiaban las ideas del Gobierno del país oriental.

Uno de los programas, bautizado como BabyQ y desarrollado por la empresa Turing Robot, había contestado con una tajante negativa al preguntarle si amaba al Partido Comunista. El otro, apodado XiaoBing y creado por la tecnológica de Redmond, hizo alarde de una actitud antipatriota al expresar que su “sueño chino” era ir a América.

Ya a finales de año, un nuevo estudio de la Universidad de Virginia volvía a agitar las aguas. Una vez más, advertía sobre la perpetuación e incluso acrecentamiento de los prejuicios y discriminación humanas en los programas de inteligencia artificial cuando se alimentan de datos sesgados. Sus autores emplearon en este caso dos vastos bancos de fotos que se utilizan habitualmente para entrenar a las máquinas en reconocimiento de imagen. Al asimilar que la mayoría de las veces eran mujeres las que protagonizaban escenas cocinando, el modelo las asoció más a menudo con esta tarea, mostrando una clara tendencia sexista.

La aparición de este tipo de sesgos ha afectado también a Google, cuyos algoritmos llegaron a confundir personas negras con gorilas. Por su parte, las cámaras con reconocimiento facial de HP no eran capaces, allá por el 2009, de seguir el movimiento de rostros de color.

Cada vez son más los expertos que alertan sobre las consecuencias de este tipo de sesgos consolidados en las máquinas, que pueden dar lugar a discriminaciones a la hora de conseguir un empleo o alquilar una vivienda. Porque, aunque algunos casos como estos salen a la luz, estas distorsiones son difíciles de detectar a nivel individual sin la existencia de un análisis exhaustivo.

--------------------------------------------------------

Las imágenes de este artículo son propiedad, por orden de aparición, de clry2, MIT y QSO4YOU

La carrera de la inteligencia artificial no se prepara solo en las oficinas de los gigantes tecnológicos. Los países donde se ubican sus sedes también se están entrenando para situarse a la cabeza en la gran competición de los algoritmos. Es el caso de los de la Unión Europea, donde impulsarlos y controlarlos se han convertido en dos de los principales objetivos.

Hace unos días, 25 países comunitarios, entre ellos España, firmaron una Declaración de Cooperación en Inteligencia Artificialfirmaron para ser competitivos, reforzando los centros europeos de investigación o creando sinergias en los planes de financiación de I+D+ i.

Además, la Comisión Europea va a crear un grupo de expertos para proporcionar directrices éticas sobre la inteligencia artificial, otra de las preocupaciones de Bruselas. De hecho, el año pasado, el Parlamento Europeo aprobó una resolución encaminada a aprobar leyes para gobernar a las máquinas. Entre las propuestas, figuraba la de otorgar “personalidad electrónica” a los robots autónomos con capacidad para causar cualquier daño, una idea que no ha gustado a 150 expertos en robótica y derecho europeos: acaban de firmar una carta abierta en la que se oponen a la medida. 

De un modo u otro, mientras la Unión Europea intenta unir fuerzas, muchos países tratan por su cuenta de aupar a sus robots y algoritmos para ganar una competición tan rentable como temidarentable temida.

China vs Estados Unidos: una batalla de titanes

Google, Apple, Facebook, Amazon, Microsoft… Los gigantes tecnológicos nacidos en Estados Unidos están apostando fuerte por la inteligencia artificial, ya sea atrayendo talento o comprando empresas del sector. El gigante de Mountain View ha metido 14 startups en su bolsa de la compra entre 2010 y 2017, algunas nada baratas: se gastó 500 millones de dólaresgastó (unos 400 millones de euros) en DeepMind, la empresa británica creadora del algoritmo que ganó hace un par de años al campeón mundial de Go, un milenario juego chino.

Precisamente el país de origen de ese pasatiempo aspira ahora a adelantar a la potencia norteamericana en la carrera de la inteligencia artificial, que hasta hace poco la encabezaba sin que nadie le pisara los talones.

El año pasado, por primera vez, China invertía algo más que la nación de las barras y estrellas en startups de inteligencia artificial: de los 15.200 millones de dólares (12.000 millones de euros) invertidos globalmente en el sector, el 48 % procedían de ese país y el 38 % de Estados Unidos, según un informe de CB Insights.

Sin embargo, buena parte de esa financiación va destinada al sector de los chips o al desarrollo del reconocimiento facial, muy utilizado para identificar a los ciudadanos en el país: ya hay incluso un programa activo para que los policías usen gafas con esa tecnología para cazar delincuentes. 

Recientemente, SenseTime, una empresa china dedicada a proveer de herramientas  de reconocimiento facial a empresas y cuerpos policiales, se convertía en la startup de inteligencia artificial más valiosa del mundo: su valoración asciende a 4.500 millones de dólaresvaloración (3.600 millones de euros) tras una multimillonaria ronda de financiación liderada por Alibaba.

El gigante encabezado por Jack Ma también está apostando por el campo: el fundador del gigante del comercio electrónico anunció recientemente que pensaba invertir 15.000 millones de dólares (12.000 millones de euros) para crear varios centros de investigación muy enfocados a la inteligencia artificial. Otros gigantes tecnológicos chinos, como Tencent (que acababa de abrir un centro de investigación en Seattle) o Baidu (que ha lanzado sus propios asistentes de voz y quiere poner sus coches autónomos en las carreteras en los próximos tres o cinco años) también están a la cabeza en la carrera de la inteligencia artificial.

Además, según un reciente estudio elaborado por economistas de la Universidad de Toronto, el 23 % de los autores de estudios presentados en la AAAI Conference de 2017, una de las más prestigiosas, eran chinos (más del doble que hace un lustro), mientras que el 34 % eran estadounidenses, lo que muestra cómo ambas potencias se están equiparando en materia de investigación.

Más allá de esos datos, a Washington debería preocuparle especialmente que el propio Gobierno chino haya trazado un plan para liderar la tecnología en 2030liderar: el Consejo de Estado anunció hace unos meses su propósito de que el mercado de la inteligencia artificial sea de un billón de yuanes (120.000 millones de euros) en ese año. Para conseguirlo, el país asiático ya está invirtiendo 13.800 millones de yuanes (1.700 millones de euros) en la construcción de un gigantesco parque industrial en Pekín dedicado exclusivamente a la investigación en inteligencia artificial.

Y mientras el Gobierno chino avanza en su hoja de ruta para ganar la competición, algunos expertos critican que Trump no está siguiendo ninguna estrategia concreta para avanzar en ese área, como sí hizo Obama: en 2015, la Casa Blanca invirtió 1.100 millones de dólares (unos 890 millones de euros) en investigación y desarrollo en inteligencia artificial y se propuso un plan específico sobre los retos y oportunidades del sector.

De un modo u otro, lo cierto es que la mayoría de las startups de inteligencia artificial más prometedoras siguen siendo estadounidenses (el 76 % según CB Insights, que ha seleccionado un centenar de todo el globo). 

Los otros gigantes fuera de Europa

Japón

La tercera economía más grande del mundo, Japón, es también el paraíso de la robótica desde hace años. De hecho, se calcula que el 71 % de su industria está automatizada, un porcentaje superior al de Estados Unidos. Algunas de sus empresas también figuran en esa lista de startups prometedoras en inteligencia artificial realizada por CB Insights, como LeapMind, especializada en deep learning.

El Gobierno nipón creó en 2016 un Consejo Estratégico de Inteligencia Artificial para trazar sus propios planes, centrados en la productividad, la movilidad y la salud, y este año invertirá 77.000 millones de yenes (unos 500 millones de euros) en el campo, todavía lejos de las grandes potencias. 

Canadá

Otra de las grandes potencias económicas, Canadá, también se postula como uno de los países que luchará por llegar a los primeros puestos, aunque esté a mucha distancia de China o Estados Unidos (por hacernos una idea, el 4 % de los papers presentados a la AAAI Conference en 2017 eran nipones y el 3 % canadienses).

Sin embargo, algunas de sus universidades (como las de Toronto o Montreal) figuran entre las más prestigiosas en ese ámbito. Instituciones públicas y empresas acaban de invertir 170 millones de dólares canadienses (unos 109 millones de euros) en el centro de investigación Vector Institute, cuyo asesor científico es Geoffrey HintonVector Institute. Conocido como el padrino de la inteligencia artificial, sentó las bases del deep learning en los 80 y dirige el equipo de Google Brain desde Toronto.

Por su parte, Yoshua Bengio, otro de los reconocidos pioneros del deep learning, ha cofundado en Montreal Element AI, una incubadora de inteligencia artificial que ha recaudado 150 millones de dólares canadienses (casi 100 millones de euros) tanto de universidades como de empresas de la talla de Microsoft, Intel y Nvidia. Además, el Gobierno canadiense ha anunciado que invertirá una cifra similar en “una estrategia de inteligencia artificial pancanadiense” a través de centros de investigación en varias ciudades.

India

La India, un país que está creciendo rápidamente gracias, entre otros factores, a la externalización de sus servicios de tecnologías de la información, también quiere impulsar los algoritmos. El Gobierno indio acaba de anunciar la creación de un Programa Nacional en Inteligencia Artificial con el que planea establecer centros de excelencia para estimular la investigación en inteligencia artificial, robótica, big data o computación cuántica.

La cruzada en Europa: de Reino Unido a Francia

Reino Unido

En el Viejo Continente, Reino Unido se ha convertido en los últimos años en el país más puntero. Entre 2012 y 2016, fue la tercera potencia que más invirtió en inteligencia artificial según un informe de Goldman Sachs. Por su parte, la firma de venture capital Asgard contabilizó hace unos meses 409 empresas europeas dedicadas exclusivamente a la inteligencia artificial, de las cuales 121 eran británicas. Entre ellas, obviamente, figuraba DeepMind, que sigue teniendo sede en Londres tras haber sido adquirida por Google.

“Establecer Reino Unido como un líder mundial en nuevas tecnologías como inteligencia artificial”, entre otras áreas innovadoras, es precisamente uno de los propósitos citados por el Gobierno en sus presupuestos de otoño presentados hace unos meses. De hecho, en ellos se incluía una partida de 500 millones de libras (unos 578 millones de euros) para la industria tecnológica, 75 de los cuales (unos 65 millones de euros) se destinarán a la inversión en inteligencia artificial.

El Ejecutivo también encargó el año pasado un informe para que los expertos en el campo analizarán cómo se podía potenciar la floreciente industria desde el ámbito público y privado. Es más, el Parlamento Británico acaba de proponer la creación de un código ético para las empresas que incluye, por ejemplo, que la inteligencia artificial se desarrolle “para el bien común y el beneficio de la humanidad” y opere con principios de “inteligibilidad y justicia”.

Alemania

Si bien el Ejecutivo alemán no ha impulsado una política en materia de inteligencia artificial tan ambiciosa como la británica, sí ha ido por delante en la carrera del coche autónomo: el país germano ha sido el primero en legislar la circulación de los vehículos sin conductor por sus carreteras.legislar

Además, hace unos meses se anunció la creación de Cyber Valley, un hub tecnológico centrado en inteligencia artificial y robótica y situado al sureste de Alemania que pretende ser un puente entre los ámbitos académico y corporativo. La Sociedad Max Planck, varias universidades y empresas del país (Porsche, Daimler o Bosch) o extranjeras (como Amazon)Amazon han unido sus fuerzas en este proyecto.

Francia

El mandatario europeo que más interés ha mostrado en no perderse el tren es Emmanuel Macron. El presidente francés acaba de anunciar una inversión pública de 1.500 millones de euros para investigar la inteligencia artificial. “No hay posibilidad de controlar ninguno de los efectos de estas tecnologías si hemos perdido el comienzo de la guerra”, explicaba al anunciar su plan hace unos días.

Uno de sus objetivos es aumentar la colaboración entre los centros de investigación gubernamentales y las empresas privadas para favorecer que los mejores expertos se queden en el país. Más allá de las compañías nacionales, los gigantes tecnológicos también han puesto la mira en Francia: Google ha abierto un nuevo laboratorio de inteligencia artificial en Paríslaboratorio de inteligencia artificial hace unos meses y Facebook, que ya tiene un centro similar en la capital, anunció que duplicaría su número de empleados.

Más allá de la inversión, Macron defiende que es necesario “recrear una soberanía europea en inteligencia artificial”, especialmente en el ámbito de la regulación. “Si no quieres bloquear la innovación, es mejor enmarcarla por diseño dentro de límites éticos y filosóficos. Y creo que estamos preparados para hacerlo”, ha dicho Macron.

España

Mientras tanto, el estudio de Asgard ha contabilizado más de una treintena de empresas dedicadas a la inteligencia artificial en nuestro país, y CB Insights reconocía a la startup española Sherp como una de las 100 más innovadorasstartup Sherp en inteligencia artificial.

Ahora bien, lo único que ha anunciado el Gobierno dirigido específicamente a este campo en los últimos meses es la elaboración de un Libro Blanco sobre inteligencia artificial y big data que aborde las implicaciones sociales, jurídicas y éticasbig data. Un grupo de expertos lo presentarán antes de verano, en una iniciativa que forma parte de una futura Estrategia Digital para una España Inteligente en 2025.    

Rusia

En la Unión Europea, además, cabe destacar también el caso de Estonia, cuyo Gobierno está debatiendo una propuesta para conceder ciertos derechos a los robots. Y al lado de ese país, aunque fuera de las fronteras comunitarias, Rusia también intenta aventajar a muchas potencias y disputarse el dominio en inteligencia artificial con China y Estados Unidos, particularmente en la carrera armamentística de los robots. El país estaría trabajando en varios proyectos relacionados con los algoritmos bajo los auspicios del Ministerio de Defensa. “Quien se convierta en el líder en esta esfera se convertirá en gobernante del mundo”, afirmaba el propio Vladimir Putin hace unos meses. 

Una afirmación tajante que parecen compartir muchos países del mundo, que están invirtiendo grandes cantidades recursos para hacerse un hueco en el multimillonario campo de la inteligencia artificial. 

-------------------

Las imágenes son propiedad  de Ann Wuyts (Flickr) y  Wikimedia Commons, (2, 3 y 4, 5 y 6).  

Leer la mente es uno de los grandes reto de la tecnología. Conocer de primera mano los pensamientos de otra persona es algo que parece territorio de la ciencia ficción. Sin embargo, con la cada vez más avanzada inteligencia artificial, el sueño (o la pesadilla) cada vez está más cerca de cumplirse.

Uno de los últimos avances corre a cargo de un grupo de científicos del prestigioso Instituto Tecnológico de Massachusetts (MIT, por sus siglas en inglés). Su propuesta son una especie de auriculares que captan las señales verbales de nuestro cerebro y, gracias a una serie de técnicas de inteligencia artificial, las traduce en palabras sin que abramos la boca. Un adelanto que podría servir al usuario para comunicarse sin mover un dedo y de forma totalmente silenciosa. Solo tendría que pensar las frases y la máquina, previamente entrenada, sabría lo que tiene que hacer.

Si bien es cierto que, a día de hoy, las máquinas aún no pueden saber lo que pensamos, sentimos o deseamos, sino solo captarlo e interpretarlo, en los últimos años los expertos en inteligencia artificial han conseguido ser cada vez más precisos. Así, un reciente estudio de la Universidad de Kioto ha demostrado que también es posible representar las imágenes que se cruzan por nuestra mente sin que la máquina siquiera las haya visto antes.

Cómo se lee la mente

Saber lo que ocurre en nuestro cerebro no es fácil. Los científicos aún se afanan por descubrir qué ocurre en nuestra cabeza ante determinadas situaciones. Sin embargo, en los últimos años, el progreso de las técnicas de neuroimagen ha permitido ver cómo actúan determinadas áreas del encéfalo cuando realizamos ciertas funciones.

Una de las técnicas más usadas por los científicos ha sido la resonancia magnética funcional (también conocida por sus siglas en inglés, fMRI). Esta técnica permite medir los cambios en el flujo sanguíneo y comprobar qué zonas del cerebro, ante determinadas acciones, presentan una mayor actividad.

Lo siguiente sería interpretar dicha actividad. Es ahí donde entra en juego la inteligencia artificial. De eso habrán de encargarse una serie de algoritmos que permitirán que las máquinas, que ya han visto como actúa nuestro cerebro ante determinadas situaciones, sean capaces de representar imágenes o frases según lo aprendido. Combinando los hallazgos de ambas disciplinas, la neurociencia y la inteligencia artificial, es posible saber algo más sobre lo que pasa por nuestras mentes.

Dictar solo pensando

Con este mecanismo de captación e interpretación funcionan los auriculares AlterEgo creados por el MIT. Se colocan alrededor de nuestra oreja y se adhieren al lateral de la mandíbula hasta llegar hasta la barbilla. Así, cuatro electrodos se conectan a la piel y captan las sutiles señales neuromusculares que se activan cuando una persona habla con su ‘yo’ interno.

El resto del trabajo es para la inteligencia artificial del dispositivo, que se encarga de unir las señales con palabras previamente aprendidas y de transmitirlas a un ordenador. De este modo, todas las frases que se crucen por tu mente podrán salir de ella sin más esfuerzo que el de pensarlas.

Por si fuera poco, el ordenador puede responder a través del dispositivo usando su altavoz de conducción ósea, que lleva el sonido hasta el oído a través de ondas, sin necesidad de insertar el auricular. Así toda la comunicación será en silencio y, por ejemplo, se podrá aplicar a los asistentes por voz como Alexa o Siri cuando estemos en lugares públicos para que nadie escuche nuestras interacciones.

Por el momento, este dispositivo funciona con acciones sencillas como mover y seleccionar contenido, reconocer números o jugar al ajedrez. Sin embargo, los investigadores siguen trabajando en su sistema de recopilación de datos para mejorar el reconocimiento y ampliar el número de palabras que AlterEgo es capaz de detectar.

Para los expertos, esta tecnología tiene un gran potencial que no solo se limita al ocio para el usuario común, sino que también podría aplicarse en entornos de trabajo con excesivo ruido, como fábricas o almacenes, y durante acciones militares donde las condiciones para hablar no son las más apropiadas.

Interpretando la creatividad

Como hemos visto, reproducir las imágenes de nuestra mente se basa, en gran parte, en el entrenamiento previo de las máquinas y sus algoritmos. Para ello, una de las técnicas más avanzadas es el uso de redes neuronales profundas, un método de aprendizaje en múltiples capas que permite trabajar con un conjunto mayor de datos y hacer innumerables asociaciones entre ellos.

Es la misma técnica que han utilizado los científicos japoneses para visualizar imágenes de nuestra mente. Para ello, han creado un nuevo método de reconstrucción de imágenes que, tras analizar la actividad cerebral mediante fMRI, permite a la máquina reproducirlas de manera más o menos fidedigna.

Aunque no es la primera vez que se consigue, la diferencia entre este y los demás métodos que se han probado hasta la fecha es que permite ir más allá de replicar un puñado de píxeles y formas básicas. En este caso, la inteligencia artificial es capaz de interpretar y replicar imágenes con varios colores y con estructuras más complejas.

A los participantes en el estudio se les mostraban 25 imágenes diferentes, desde personas o animales hasta formas geométricas o letras del abecedario. En algunos casos se registraba su actividad cerebral mediante fMRI directamente mientras las estaban contemplando; en otros, se hacía posteriormente, pidiéndoles que pensaran en ellas.

Después, los registros se pasaban a la máquina para que interpretara las ondas cerebrales y ofreciera su mejor representación de lo que había pasado por la mente de los voluntarios. Algunos resultados sorprenden por su semejanza.

Sin duda, se trata de un gran paso que nos acerca más a un futuro en el que, gracias la inteligencia artificial y con solo pensarlo, podremos comunicarnos con las máquinas de todas las maneras posibles.

-------------------------

Las imágenes son propiedad, por orden de aparición, de Lorrie Lejeune/MIT y Wikimedia

En 2005, cuando aún no éramos conscientes de que los algoritmos invadirían poco a poco todos los ámbitos de nuestras vidas, la investigadora en machine learning Hanna Wallach estudiaba su doctorado para especializarse en ese campo de la inteligencia artificial. Fue por entonces cuando se dio cuenta de que apenas conocía a otras mujeres que trabajaran en aprendizaje automático.

“Una noche nos pusimos a comentar que era increíble que solo hubiera cuatro estudiantes de doctorado mujeres en NIPS NIPS [una de las conferencias más importantes del sector]”, explica Wallach a HojadeRouter.com. Ella y las otras investigadoras que habían acudido al evento empezaron a enumerar a las mujeres que conocían en el machine learning. Solo se les ocurrió una decena. “En ese momento pensamos que era un fantástico número, así que empezamos a hacer una lluvia de ideas con formas de reunirlas a todas en persona”.

Al año siguiente, aquellas compañeras organizaron la primera Women in Machine Learning Conference. 60 estudiantes presentaron sus proyectos y casi 100 mujeres participaron en el evento, que se ha seguido celebrando anualmente desde entonces. “Fue emocionante ver a tantas investigadoras de machine learning juntas en un solo lugar. Fue una experiencia increíble y motivadora”, recuerda esta investigadora, que lleva años trabajando para aumentar la diversidad en tecnología, un problema al que las empresas tecnológicas han puesto cifras públicamente en los últimos años.han puesto

Mujeres unidas por la inteligencia artificial

Wallach, ahora investigadora sénior en Microsoft Research y profesora en la Universidad de Massachusetts Amherst, forma parte del extenso consejo ejecutivo de Women in Machine Learning (WiML), una comunidad que trabaja para hacer visibles los logros de las mujeres en el campo, ayudarlas en su carrera y fomentar que cada vez sean más (solo el 18 % de licenciados en informática son mujeres en Estados Unidos según el National Center for Women & Information Technology).

Además de organizar anualmente un gran evento paralelo a NIPS (que hace un par de años se celebró en Barcelona), entre otras actividades, esta red mantiene un registro público al que pueden apuntarse todas las profesionales de ese campo.

Una de ellas es Allison Chaney, investigadora posdoctoral en aprendizaje automático en la Universidad de Princeton y miembro del consejo de WiML (conoció la comunidad como ponente y acabó organizando uno de los talleres anuales). “Fue una gran oportunidad conocer a más mujeres sénior en el campo y coger algo de experiencia profesional organizando un workshop”, explica Chaney.

En su opinión particular, aún hay un hueco que ocupar por muchas más mujeres en los campos de la informática y el aprendizaje automático. “Como comunidad estamos mejorando, pero todavía vemos a mujeres abandonar por razones culturales, a pesar de que pudiera ser un trabajo que les gustara”, lamenta.

Luchando contra los sesgos

Más allá de querer animar a las mujeres a desarrollar algoritmos, la cofundadora de WiML Hanna Wallach también defiende que para desarrollar tecnologías de machine learning “útiles y beneficiosas” para la sociedad, hay que asegurarse de que “todos están implicados” en su desarrollo.

El peligro de que estas tecnologías reproduzcan las discriminaciones sociales es otra de las preocupaciones recientes. La propia Microsoft tuvo que retirar un chatbot de las redes sociales después de que comenzara a publicar mensajes racistas y antisemitas que aprendió de los usuarios.

Más allá de ese caso, un estudio demostraba hace unos meses que dos grandes colecciones de imágenes usadas por los expertos tenían un sesgo de género, y otro trabajo reciente ha identificado que tres sistemas de reconocimiento facial comerciales identificaban mucho mejor a los hombres blancosidentificaban mucho mejor (se equivocaban en un 1 % de las ocasiones) que a las mujeres blancas (un 7 %) y a las mujeres negras (fallaban un 35 % de las veces).

“Los sistemas de machine learning están entrenados con datos del mundo real. Por ello, esos sistemas reproducirán todos los sesgos y desigualdades presentes en el mundo real a menos que la gente tome estos problemas en serio y trabaje para detectarlos y mitigarlos”, detalla Wallach, que lleva tiempo trabajando para mejorar la equidad y transparencia de los algoritmos.

Otra de las mujeres que ocupan un puesto destacado en el ámbito de la inteligencia artificial también cree que la diversidad es importante para evitar que la tecnología esté sesgada. “[La inteligencia artificial] va a guiar los valores que importan en nuestras vidas, como la ética, los prejuicios, la justicia o el acceso. Si no tenemos tecnólogos representativos de la humanidad sentados a la mesa, la tecnología inevitablemente no va a representarnos a todos”, aseguraba recientemente Fei-Fei Li, científica jefe de inteligencia artificialFei-Fei Li en machine learning en Google Cloud y directora del Laboratorio de Inteligencia Artificial de la Universidad de Stanford.

Li es también la cofundadora de AI4ALLAI4ALL, una organización sin ánimo de lucro respaldada económicamente por Melinda Gates cuyo objetivo es aumentar la diversidad de los profesionales de inteligencia artificial. Sus programas educativos pretenden que las jóvenes o a los estudiantes con menos recursos se acerquen a este campo, llevándolos a los laboratorios de las mejores universidades estadounidenses y ofreciéndoles programas de mentorización de la mano de profesionales. Por ejemplo, el campamento de verano que organizan en la Universidad de Stanford está orientado precisamente a las chicas de noveno grado (de entre 14 y 15 años).

“Les animamos a estudiar este campo y les conectamos con referentes en clase que trabajan con ellos como mentores”, nos cuenta Tess Possner, CEO de AI4ALL. “Una de las razones es que si una mujer ve a otras mujeres en el campo se siente más confiada y acogida”.

Una de esas mentoras es Angela SyAngela Sy, responsable de inteligencia artificial y estrategia en Skycatch, una startup que desarrolla tecnología para analizar las imágenes captadas por drones: hace unos días, ha equipado un millar de cuadricópteros DJI con un software de visión artificial para que supervisen zonas de construcción.

Sy, que finalizó sus estudios de informática en la Universidad de Stanford en 2016, asegura que en su clase sí había un buen número de alumnas y agradece haber cursado sus estudios cuando Silicon Valley comenzaba a tomar conciencia de los problemas de diversidad en el campo.

Sin embargo, también sufrió discriminación al entrar en la industria. “En mis primeras becas como ingeniera de software, me enfrenté al escepticismo de otros ingenieros de software debido a mi género e incluso al sesgo del jefe al asignarme tareas 'más fáciles' como ingeniera mujer”, apunta.

Como mentora de AI4ALL, actualmente está guiando a dos alumnas en el desarrollo de un sistema de inteligencia artificial que clasifique las imágenes captadas por drones para la detección temprana de incendios, un trabajo con el que está poniendo su granito de arena para aumentar la diversidad en el sector. “Cuanto más tiempo no tengamos ingenieros diversos, mayor será el riesgo de crear y desarrollar sistemas de inteligencia artificial que son parciales y profundamente defectuosos”, defiende esta ingeniera.

Animando a las jóvenes a ser ingenieras

Además de las anteriores comunidades, Women in Machine Learning & Data Science, Women in AI o Women in AIWomen in Data Science son otras organizaciones que unen a las mujeres expertas en inteligencia artificial. También lo es R-Ladies, una organización global que pretende dar visibilidad a las mujeres que realizan proyectos en R, un lenguaje muy usado en el ámbito del análisis estadístico. Esta comunidad tiene presencia en varias ciudades españolas, como Barcelona o Madrid.

“Había ido a muchos eventos y no había visto casi chicas, de hecho no conocía casi chicas que fueran programadoras en R”, defiende Inés Huertas. Esta data scientist (ha cofundado Datatons, una empresa especializada en el análisis de grandes bases de datos) conoció a otra experta en una conferencia y juntas lanzaron R-Ladies Madrid. 35 mujeres se presentaron al primer Meetup, y desde entonces, organizan talleres y charlas mensualmente donde cada una presenta su trabajo a todo el que quiera asistir o colaboran en proyectos.

“Muchas mujeres no se atreverían a dar el paso de hablar en público si a lo mejor no están tan apoyadas o si no consideran que es un espacio seguro”, señala esta ingeniera de telecomunicaciones. “Su problema [...] es que no se identifican con ese tipo de comunidades porque son comunidades orientadas a hombres”.

Además de los talleres que organizan (a principios de junio van a celebrar el segundo Call of DataCall of Data, un evento en el que tiene lugar una competición de datos orientada a equipos con al menos un 50 % de mujeres), desde R-Ladies han creado una “red de amistades” para intentar que siempre haya expertas en machine learning y big data en otros eventos profesionales. “Las mujeres que trabajamos en tecnología tenemos que ser visibles”, resume Huertas.

La falta de referentes es uno de los problemas que ella misma se ha encontrado en el camino y que está contribuyendo a enmendar dando a conocer su trabajo en diferentes foros, como en el Women Techmakers el año pasado.

Según el último informe de la OCDE, solo un 25 % de los matriculados en estudios superiores de ingeniería, producción industrial y construcción son mujeres, un porcentaje que desciende al 19 % en el campo de tecnologías de información y comunicación (un 24 % y un 12 % respectivamente en España).

Mientras tanto, en todo el mundo, cada vez hay más mujeres que intentan animar a las nuevas generaciones a dedicarse a la tecnología en general y al campo de la inteligencia artificial en particular. “Es un área que está empezando a crecer mucho, pero que es un ámbito en el que la mayor parte de la gente se está reciclando o viene de otros sectores [...] Por eso es importante que, ahora que se está empezando a formar, las comunidades de mujeres tengamos presencia”, sentencia Huertas.

-----------------

Las imágenes son propiedad de R-Ladies Madrid ( 1 y 4), AI4ALL (2) y Angela Sy (3)

Aunque Elon Musk y Mark Zuckerberg hayan tenido alguna que otra riña a cuenta del futuro de la inteligencia artificial (el fundador de Tesla se muestra apocalíptico y el de Facebook critica esa postura), los dos magnates tecnológicos sí están de acuerdo en algo: ambos han defendido la renta básica universal. La idea de proporcionar una cantidad mensual a los ciudadanos por el mero hecho de existir está ganando cada vez más adeptos en todo el mundo, y ahora, un empresario pretende presidir Estados Unidos para implantarla.

“Vi que muchas personalidades inteligentes estaban a favor de la renta básica universal y, cuando empecé a investigar, me di cuenta de que en mi opinión es inevitable. Cuanto más rápido la hagamos realidad, mejor será nuestra sociedad”, explica Andrew Yang a HojaDeRouter.com.

Con el lema “pongamos la humanidad primero”, este candidato presidencial por el Partido Demócrata (ya se ha registrado como tal en la Comisión de Elecciones Federales) quiere convencer a los estadounidenses de aprobar esta medida para sobrellevar los efectos de la automatización de los trabajos. “La tasa de desempleo de la Gran Depresión es una posibilidad real si no se hace nada, y eso llevaría a protestas sociales y probablemente a violencia”, augura Yang.

Aunque la frase pueda sonar demasiado pesimista, lo cierto es que la preocupación porque los robots nos quiten el trabajo está cada vez más extendida. El propio Yang nos cita de memoria los vaticinios de uno de los numerosos informes al respecto: según la consultora McKinsey, en 2030 un tercio de los trabajadores estadounidenses de carne y hueso habrán perdido su empleo por culpa de las máquinas en el país norteamericano. Y para ponerle remedio, Yang pretende suceder a Donald Trump.

Un “dividendo de la libertad”

Nacido en Nueva York allá por 1975, Andrew Yang estudió Economía y un doctorado en Derecho. Sin embargo, siempre ha sido un poco nerd por influencia de su padre, Kei-Hsiung Yang, un físico que ha sido investigador en IBM o General Electric y ha patentado decenas de inventospatentado decenas. “Siempre ha sido un poco adicto al trabajo y, de hecho, sigue trabajando hoy en día, así que siempre me ha inspirado su ejemplo”, relata su vástago. Su madre y Kei-Hsiung emigraron de Taiwán en los años 60, por lo que Yang siempre ha sido un defensor del sueño americano y del emprendimiento.

Fundó una startup que cerró al poco tiempo durante la burbuja puntocom y fue el CEO de otra (Manhattan GMAT, dedicada a la preparación de exámenes de negocios) que acabó vendiendo a Kaplan, otro de los gigantes del sector, lo que le permitió amasar una pequeña fortuna.

En 2011, creó Venture for America,Venture for America una organización sin ánimo de lucro que promueve un programa de becas para que los graduados de algunas universidades trabajen en startups en ciudades como Detroit, Nueva Orleans o San Luis con el fin de revitalizarlas, una experiencia que ha compartido en medios como Forbes. Precisamente en los comienzos de esta organización, visitó la Casa Blanca y conoció a Obama, al ser elegido como uno de los Campeones del CambioCampeones del Cambio que luchan por fortalecer sus comunidades.

Con el tiempo, Yang se ha ido preocupando cada vez más por el auge de las máquinas. “Los datos muestran muy claramente que hay una correlación entre el aumento de los robots en las fábricas en un distrito y la proporción de gente que votó por Trump”, afirma. “La automatización ayudó en las elecciones a Donald Trump”. Este empresario hace esa lectura de la victoria del presidente estadounidense en Ohio, Michigan o Pensilvania, tres de los estados del antiguo centro industrial estadounidense (rust belt o cinturón de óxido) que se esperaba que votaran a los demócratas.

Para combatir el problema, se le ha ocurrido que la mejor idea es implantar una renta básica universal, a la que ha apodado el “dividendo de la libertad”, de 1.000 dólares al mes (800 euros) para todos los ciudadanos estadounidenses de entre 18 y 64 años de edad.

La propia Hillary Clinton ha confesado en su reciente libro de memorias, What Happened, que pasó semanas trabajando con su equipo para incluir en su programa una suerte de renta básica universal, “Alaska for America”, aludiendo a ese estado que proporciona desde los 80 una renta a sus ciudadanos proveniente de los ingresos de sus reservas de petróleo y gas. Sin embargo, acabó descartándolo porque “los números no cuadraban”.

Ahora bien, ¿cómo pretende Yang recaudar los 1,3 billones de dólares al año (1 billón de euros) adicionales que estima necesitaría para pagar ese dividendo, teniendo en cuenta que, por ejemplo, Trump ha propuesto un presupuesto federal para 2019 de 4,4 billones de dólares (3,5 billones de euros)?

Para lograrlo, propone crear un impuesto al valor añadido (VAT por sus siglas en inglés) del 10 % a nivel federal, un gravamen con el que ya cuentan más de 160 países entre los que no figura Estados Unidos. Ahora bien, ¿será suficiente el dinero que se recaude con ese impuesto indirecto sobre el consumo? ¿Por qué no optar por otras fórmulas como subir los impuestos a las rentas más altas o que los robots paguen impuestos como los trabajadores, una medida defendida por Bill Gates e incluso debatida en el Parlamento Europeo?

“Si tienes mucho dinero probablemente vas a contribuir más al impuesto sobre el valor añadido porque vas a consumir más. Y, por supuesto, si no necesitas el dinero puedes dárselo a una ONG o a alguien, no es un requisito quedárselo”, asegura Yang. “El impuesto sobre el valor añadido es la forma más efectiva de generar ingresos”.

Además, puntualiza que se necesitarán otros mecanismos adicionales para financiar esa renta básica universal que considera necesaria tanto para garantizar la continuidad del sistema económico como para crear una sociedad “más justa e igualitaria”.

De vigilar los robots a controlar las adicciones

Las propuestas de Yang relacionadas con la inteligencia artificial en particular y la tecnología en general no acaban con su propuesta de una renta básica universal. También defiende que, en la era de la automatización, es necesario un “capitalismo más humano”, una evolución del sistema económico que tenga en cuenta otros factores más allá del producto interior bruto de un país, como la “libertad”, la “salud mental” o el “compromiso de las personas con su trabajo”.

“El capitalismo no funciona bien cuando la gente no tiene dinero para ganar y no hay un mercado fuerte de consumo, y no funciona bien cuando hay un montón de disfunciones en la sociedad”, defiende.

Yang cree que la inteligencia artificial cambiará la economía y la sociedad “de formas impredecibles”. Por eso, planea contratar a las mentes más brillantes de la tecnología para que trabajen en el Gobierno y cooperar con las empresas privadas para asegurarse de desarrollar sistemas que mejoren las vidas “en lugar de destruirlas”.

Pese a ello, Yang niega que su propósito sea detener la innovación, y es consciente de que China pretende ser la primera potencia mundial en el campo de las máquinas en los próximos años. No en vano, el gigante asiático presentó hace unos meses su ambicioso plan para adelantar a Estados Unidos en 2030. “Como presidente haré todo lo que esté en mi poder para hacer que Estados Unidos sea líder en inteligencia artificial”, detalla Andrew Yang.

Además de estas medidas, el programa de Yang contempla otras sorprendentes propuestas, como trabajar para comprender los efectos de la tecnología en “la salud y en el comportamiento humano” y promover el uso responsable de los smartphones: en su web, él mismo señala que están convirtiendo a los niños en “zombis ansiosos y deprimidos”niños .

También defiende que todos los policías lleven una cámara corporal para que tanto ellos como los detenidos controlen su conducta, establecer que el lanzamiento de armas nucleares no sea decisión del presidenteestablecer sino que se requiera la verificación del vicepresidente, hacer los impuestos “divertidos” fijando un día para celebrar los ingresos obtenidos con ellos, garantizar un mínimo de vacaciones en cuatro semanas al año, formar un grupo de psicólogos en la Casa Blanca o legalizar la marihuana.

Ahora, Yang está dándose a conocer a la opinión pública con el fin de recaudar fondos para su campaña e incluso ha escrito un libro (The war on normal people, ‘La guerra contra la gente normal’) para explicar por qué la renta básica universal es necesaria. Él mismo nos asegura que trabajadores de Google o Facebook ya han donado dinero a su campaña, además de inversores en empresas tecnológicas.

Ahora, habrá que esperar para ver cómo prospera la candidatura de este empresario decidido a presidir Estados Unidos para abordar el peligro de que los robots nos quiten el trabajo y el desempleo acabe provocando el caos. ¿Nos volverá a sorprender la política estadounidense?

-------------

Las fotografías son propiedad de Andrew Yang

Seguro que en más de una ocasión te has puesto a ver vídeos en YouTube y has ido encadenando varios hasta acabar preguntándote cómo has llegado hasta donde estás si empezaste con el último videoclip de moda. El culpable de esa espiral no es otro que el algoritmo que la red social emplea para recomendar un vídeo tras otro. Una inteligencia artificial que sugiere decenas de miles de millones de contenidos cada día y que, según se ha demostrado, fomenta las teorías conspiratorias y las noticias falsas.

El programador francés Guillaume Chaslot es uno de sus creadores. Durante los tres años que trabajó en Google, tuvo ocasión de experimentar con el sistema de recomendaciones para conseguir que los usuarios se quedaran cada vez más tiempo consumiendo los vídeos. Pronto se dio cuenta de que el camino que estaban tomando las sugerencias en base a rendimientos económicos no era el más aconsejable, al menos para el usuario, así que comenzó a proponer a los directivos medidas para asegurar la calidad de los contenidos sugeridos. Ninguna triunfó. En 2013 le despidieron alegando un bajo rendimiento.

Sin embargo, la batalla de Chaslot contra los graves sesgos de este algoritmo continúa. Ahora, junto a programadores y activistas, este joven de 36 años ha desarrollado un sistema para desvelar cómo funciona esta espiral de vídeos en YouTube.

Con este programa de código abierto han simulado la ruta de un usuario que comienza en un vídeo y luego sigue la cadena de recomendaciones. Lo hace sin historial de visualización, lo que garantiza que los vídeos que se detectan son sugerencias genéricas de YouTube y no personalizadas para un individuo concreto.

A partir de ahí, repite el proceso miles de veces, acumulando datos para crear una foto más o menos fija de las desviaciones de la inteligencia artificial. Los resultados de las búsquedas más llamativas se han publicado en la web algotransparency.org.

“La Tierra es plana” y el Papa “el anticristo”

Este proyecto ha demostrado que YouTube prioriza vídeos entre sus recomendaciones que afirman que “la Tierra es plana” o que “el calentamiento global es una gran mentira”. A su lado se sugieren contenidos que nada tienen que ver con la búsqueda pero recurren al morbo para tentar al usuario. Por ejemplo, entre las sugerencias para los interesados por el calentamiento global aparecen consejos para ligar. Cuando se busca información sobre un tiroteo en Orlando, surgen vídeos sobre celebridades transgénero.

Chaslot ha dado un paso más y, en su blog, ha comparado las recomendaciones de YouTube con las búsquedas directas en Google o en la propia red social para ilustrar lo diabólico del algoritmo. Así, vio que las sugerencias referentes al papa Francisco que lo calificaban de “demonio” o “anticristo” representaban el 85 % (mientras que las búsquedas al respecto no pasaban del 35 %) y que los vídeos sobre si Michelle Obama habrá nacido hombre suponían el 65 % de las recomendaciones (frente a un máximo del 45 % de las búsquedas).

En su prueba también desveló la importancia concedida por el algoritmo a teorías conspiratorias tan populares como el pizzagate, la cual en plena campaña por la presidencia de los Estados Unidos, en 2016, involucró falsamente a Hillary Clinton con una red de prostitución infantil en la trastienda de varios restaurantes. Un bulo que salió de la Red y provocó que un hombre la emprendiera a tiros en uno de los establecimientos señalados para, supuestamente, liberar a los niños secuestrados. A pesar de todas las evidencias de lo falso de la acusación, el 95 % de los vídeos recomendados por YouTube alentaban la mentira del pizzagate pizzagatecreada para dañar la imagen de Clinton.

En este sentido, Chaslot también investigó la implicación de YouTube en la lucha por la presidencia entre Trump y Clinton. En vísperas a las elecciones descubrió que más del 80 % de los vídeos recomendados eran favorables a Trumpmás del 80 % de los vídeos recomendados eran favorables a Trump, independientemente de que el usuario hubiera buscado inicialmente “Trump” o “Clinton”.

“YouTube tiene muchas maneras de cambiar sus algoritmos para suprimir noticias falsas y mejorar la calidad y diversidad de vídeos que ve la gente”, afirma Chaslot. “Yo intenté cambiar YouTube desde dentro, pero no pude”, se lamenta.

Algo más que preocupante si tenemos en que cuenta que la plataforma de vídeos suma en todo el mundo más de 1.500 millones de usuarios, una cifra que supera al número de hogares con televisión. Además, según los datos revelados recientemente por un responsable de la propia plataforma, el 70 % de los contenidos que los usuarios ven ha sido sugerido por el algoritmo. Así, no es descabellado suponer que cada vez son más quienes se informan a través de esta red social, que no solo no filtra la información falsa sino que la alienta.

YouTube no hace caso a sus usuarios

Al contrario que Facebook y Google, que parece que han sabido reaccionar a tiempo y ha integrado herramientas para perseguir los bulos, YouTube no toma el mismo camino.

Aunque en 2016 la plataforma de Google aseguró que iba a tener en cuenta la satisfacción de su público, y supuestamente empezó a tener en cuenta su opinión sobre los vídeos a la hora de seleccionar los resultados de búsqueda y las recomendaciones (entre otras cosas, para evitar la promoción de vídeos con “contenido polémico de carácter religioso o supremacista”), lo cierto es que, a la vista del experimento de Chaslot, los usuarios parecen seguir estando en un segundo plano.

Como él mismo asegura, los likes y dislikes tienen poco impacto en las sugerenciaslikesdislikes. “Por ejemplo, muchos vídeos que dicen que Michelle Obama era un hombre tienen más valoraciones negativas que positivas, pero aun así son muy recomendados por YouTube”, explica.

Además, afirma que la plataforma tiene más en cuenta el tiempo que los usuarios permanecen en el vídeo que su valoración. “Por tanto, si el vídeo de la Tierra es plana mantiene a los usuarios enganchados más tiempo que el de la Tierra es redonda, esta teoría se beneficiará del algoritmo de recomendación”, ejemplifica.

Esto hará que se generen más contenidos en torno a la conspiración. En cuanto uno de esos vídeos se vea favorecido por la inteligencia artificial, otros youtubers aprovecharán para subir nuevos contenidos al respecto que también podrían ser recomendados. “No lo están haciendo a propósito, es una consecuencia involuntaria del algoritmo”, matiza Chaslot. Aun así, la plataforma tiene en sus manos ponerle freno.

------------------

Las imágenes de este artículo son propiedad, por orden de aparición, de Pixabay, algotransparency.org, y Pexels

Los papeles de Bárcenas, la trama Gürtel, el caso Noos, las tarjetas black, los Pujol… Los casos de corrupción en España se cuentan por decenas. Es una de las grandes lacras no solo en nuestro país, sino también fuera de nuestras fronteras. Según el Banco Mundial, estos escándalos cuestan al año más de 2 billones de dólares (más de un billón y medio de euros), convirtiéndose en una de las principales causas del estancamiento económico y la desigualdad imperante. Sin embargo, ante este mal que afecta a todos, la tecnología puede ser una perfecta aliada no solo servirá para combatir la corrupción en el día a día, sino también para adelantarnos a los acontecimientos y tomar medidas antes de que ocurran.

Esta mañana se ha presentado en Barcelona el proyecto de big data Digiwhistbig dataDigiwhist destinado a detectar el fraude a escala europea. Liderado por la Universidad de Cambridge, el trabajo ha consistido en crear una base de datos públicamente descargable de la contratación pública en 35 países, así como en analizar y evaluar indicadores de riesgo potencial de corrupción en el ámbito.

Aunque no han sido los únicos que recientemente han presentado sus sistemas informáticos de lucha contra estos delitos. Un grupo de investigadores brasileños, en colaboración con la Universidad de Maribor (Eslovenia) y el Complexity Science Hub de Viena (Austria) han diseñado un sistema informático capaz de apuntar directamente a los corruptos del futuro. “Creamos una red donde los nodos son las personas involucradas en la corrupción, y las conexiones entre dos personas ocurren cuando están involucradas en la lista del mismo escándalo”, explica a HojaDeRouter.com Haroldo V. Ribeiro, de la Universidad de Maringá.

En total, han reunido más de 400 nodos con individuos implicados en un total de 65 escándalos ocurridos en Brasil durante los últimos 27 años. “Aplicamos una serie de enfoques de análisis de datos y redes para comprender cómo está organizada esta red”, detalla Ribeiro.

Así han podido determinar, gracias a sus redes neuronales, cuestiones clave como que los procesos electorales que se celebran cada cuatro años influyen en la aparición de casos de corrupción, que los grupos de implicados son pequeños (de unas ocho personas) y que existen solo unos pocos individuos que han jugado un papel importante en más de un caso de corrupción.

Además, sus algoritmos han permitido identificar con un acierto estimado del 25 %, a partir de las conexiones pasadas entre individuos de la red, a los participantes de futuras tramas corruptas. “Hemos demostrado que la estructura subyacente de esta red puede usarse para predecir asociaciones criminales futuras”, explica Ribeiro.

Además, el investigador brasileño afirma que “se trata de una red en evolución que crece cada año con el descubrimiento de nuevos escándalos de corrupción”. Aunque, más allá de analizar las corruptelas políticas, su intención es seguir trabajando en estos sistemas para aplicarlos a un sector con el que están ampliamente familiarizados: la ética de la financiación de la investigación.

Semejante es el trabajo de dos investigadores de la Universidad de Valladolid que, en colaboración con el equipo de la Escuela Superior de Economía de Rusia, han publicado un estudio en el que pronostican, gracias a la inteligencia artificial, en qué provincias españolas podría haber más casos de corrupción en los próximos años.

Para ello han creado un modelo computacional basado en redes neuronales que, tras aglutinar datos económicos y políticos de los casos acontecidos entre 2000 y 2012, no solo permite revelar en qué lugares se pueden dar más corruptelas, sino también qué condiciones favorecen su aparición.

Aunque en la investigación no se revela cuáles son las provincias, sí se afirma que la probabilidad de escándalos aumenta cuando un mismo partido permanece largo tiempo al frente del Gobierno. Si bien es cierto que, como advierte uno de los coautores, Iván Pastor, que sea más probable no significa que necesariamente vaya a ocurrir.

A todo ello se suman variables que pueden servir de alerta como el aumento del impuesto de bienes inmuebles, el incremento exagerado en el precio de la vivienda, la apertura repentina de numerosas oficinas bancarias o la creación de nuevas empresas.

En su metodología, estos estudiosos españoles fueron pioneros en utilizar datos reales para el análisis. De acuerdo con Pastor, hasta el momento se habían utilizado “índices de percepción de la corrupción, unas puntuaciones más o menos subjetivas asignadas a cada país por agencias como Transparencia Internacional que se basan en encuestas a empresarios y analistas nacionales”.

El poder de los datos y su análisis computacional

Del mismo modo que el famoso big data, que consiste en analizar grandes volúmenes de información para extraer conclusiones gracias a la tecnología, se puede utilizar para vender más o para predecir quien ganará las próximas elecciones, también es una buena fórmula para luchar contra los corruptos.

Según Naciones Unidas, una información más accesible y de mejor calidad conducirá a mejores decisiones políticas y una mayor rendición de cuentas.

Otro ejemplo de esta lucha tecnológica contra la corrupción es la herramienta de análisis de datos ARACHNE, desarrollada en 2009 por la Comisión Europea en colaboración con la organización no gubernamental Transparencia Internacional. Este permite verificar datos de varias instituciones públicas y privadas e identificar qué proyectos se encuentran en riesgo de fraude, cuáles entran en conflicto de intereses o aquellos que presentan irregularidades de cualquier tipo.

Investigadores del Centro de Investigación de la Corrupción de Budapest lo han utilizado para examinar los numerosos procedimientos de contratación pública en países de la Unión Europea. Gracias a esta tecnología, se buscan patrones anormales tales como períodos de licitación excepcionalmente cortos o resultados inusuales como, por ejemplo, concursos sin competencia o que ha ganado la misma empresa en diferentes años. Esto supone el punto de partida para llevar a cabo una investigación más profunda que podría desvelar que las cosas no se están haciendo bien.

A esta lucha se une el proyecto Digiwhist y su amplia base de datos sobre contrataciones públicas de 28 estados miembros de la Unión Europea, la Comisión Europea y otros países como Islandia o Suiza. A través de él y gracias a un software de evaluación de riesgos, los funcionarios públicos podrán monitorear los indicadores de riesgo de corrupción en función de la importancia que les atribuyen en relación con sus países específicos.

Además este proyecto no solo ha permitido saber los riesgos, sino que también ha posibilitado la creación de herramientas para los ciudadanos como www.opentender.eu, que permite buscar las licitaciones públicas en todos los estados participantes y conocer todo lo referente a ellas. Con esto se busca garantizar que la contratación pública sea justa, transparente y eficiente. Este proyecto se hará público el próximo 29 de enero en una sesión en el Parlamento Europeo.

Algunas estimaciones señalan que la corrupción aumenta el coste de los contratos gubernamentales en un 4-15%, lo que resulta en millones de euros malgastados.

Contra delitos fiscales y blanqueo de dinero

Estos sistemas también sirven para llevar un control ante posibles delitos fiscales. La Oficina de Impuestos de Australia ya lo hace gracias a un sistema capaz de almacenar e interpretar información valiosa para detectar paraísos fiscales o identificar a todos aquellos que no están cumpliendo debidamente con sus obligaciones tributarias.

Estos programas se basan en detectar patrones de comportamiento sospechosos, algo que a simple vista puede parecer sencillo pero que conlleva todo un desarrollo de algoritmos y conexiones para detectar a los posibles culpables. Y todo en tiempo real, a fin de frenarlo cuanto antes y ahorrar recursos a las arcas públicas.

Otro delito que también se persigue desde Transparencia Internacional utilizando estos sofisticados sistemas es el blanqueo de capitales. Para ello están probando un algoritmo que revisa datos bancarios y los compara con información de movimientos de delincuentes conocidos para así detectar flujos financieros ilícitos.

Aunque más allá del big data y su análisis, la tecnología también ha llegado a los métodos más tradicionales de denuncia ciudadana. Desde 2012, el Banco Mundial cuenta con la app World Bank Integrityapp World Bank Integrity, donde cualquiera puede denunciar un incidente en relación con los proyectos financiados por el organismo: desde enviar fotos de una escuela donde no se siguen los protocolos establecidos hasta aportar la grabación de un soborno.

Las investigaciones de la Vicepresidencia de Integridad Institucional (INT), órgano adscrito al Banco Mundial desde 2001, se basan primordialmente en las denuncias que reciben, por lo que, como ellos mismos publican en su web, “es de suma importancia que las personas que participan en actividades respaldadas con fondos del Banco Mundial tomen la iniciativa de informar sobre sospechas de fraude o corrupción”. Para estas denuncias también se cuenta con un sencillo formulario web disponible en varios idiomas.

Mecanismos no faltan ni dentro ni fuera de las instituciones para luchar contra delitos de corrupción y fraude. La cuestión es si los algoritmos serán más listos que nosotros para detectar a los Bárcenas y Pujoles del futuro.

------

Las imágenes son propiedad, por orden de aparición, de Kiwiev/Wikimedia, Pixabay, Cancillería Ecuador/Wikimedia y Images Money/Flickr

Hace escasas horas, representantes del estado norteamericano de Iowa han reconocido como entes libres e independientes a Tabarnia y el Cantón de Cartagena. Mientras tanto, y como respuesta, miembros del Gobierno filipino han asegurado estar deseosos de volver a la configuración mundial de la segunda mitad del siglo XVI para formar parte de una España en la que no se volverá a poner el sol. Publicar ambas noticias poco antes de que acabe el año no es una inocentada atrasada: supone dar pábulo a dos noticias falsas recién cocinadas (y bastante absurdas).

Según un reciente informe de la consultora Gartner, en 2022 la mayoría de habitantes de las principales economías del mundo consumirán más noticias falsas que reales. Y no es lo peor que vaticinan desde la firma: dos años antes, el volumen de bulos, realidades maquilladas y falsedades será tal que sobrepasará la capacidad de la inteligencia artificial para detectarlos.

Sin embargo, distintas iniciativas mantienen la esperanza viva. Una aldea de irreductibles desarrolladores resiste, con sus respectivos trabajos, los envites de las ‘fake news’. Al fin y al cabo, si la ciencia ya ha demostrado que los ‘bots’ que pululan por las redes sociales juegan un papel clave en la difusión de noticias falsas, por qué no combatir sus efectos con más inteligencia artificial. O, al menos, intentarlo.

De hecho, mientras gigantes como Facebook se ven desbordados por el auge de las ‘fake news’ en sus plataformas y fracasan una y otra vez en su lucha contra ellas, otras iniciativas han enseñado a sus algoritmos a leerse internet (casi literalmente) para discernir qué es real y qué no. En base a la propia información que hay en la Red, claro.

Es el caso de AdVerif.ai, un ‘software’ creado originalmente para detectar a partir del procesamiento del lenguaje natural patrones en los correos no deseados para evitar infecciones de ‘malware’ y ‘spam’ y que ahora tiene una segunda vida gracias a las noticias falsas: desde el pasado mes de noviembre, esta inteligencia artificial está disponible para que plataformas de contenido evalúen la veracidad de las noticias que difunden.

Para empezar, AdVerif.ai escanea la noticia en cuestión en busca de señales que indiquen que algo no va bien. Encabezados que no se corresponden con algunas partes del texto o demasiadas mayúsculas en el titular son algunos de los indicios que busca el algoritmo. Una vez analizado el contenido, también verifica la noticia a partir de una base de datos que contiene miles y miles de publicaciones tanto rigurosas como falsas en busca de posibles coincidencias. Finalmente, los usuarios de este algoritmo reciben un informe con una puntuación: se trata de la probabilidad de que esa noticia en cuestión sea o no de un bulo.

Un sistema similar está siendo desarrollado, al mismo tiempo, por alumnos de la Universidad de West Virginia: la inteligencia artificial analiza el texto para posteriormente darle una puntuación que no representa otra cosa que la probabilidad de que una noticia determinada sea falsa.

Más allá de los ‘bots’ en redes sociales, las empresas de ciberseguridad aseguran que hay ciertas semejanzas entre los métodos para difundir noticias falsas y los empleados para distribuir ‘malware’. Así, la detección de ‘fake news’ a golpe de inteligencia artificial no es cosa solo de ‘startups’ o proyectos universitarios. Sin ir más lejos, Talos Intelligence, la división de ciberseguridad de Cisco, ha ganado recientementeThe Fake News Challenge, la primera competición creada con el objetivo de desarrollar herramientas con las que detectar bulos y noticias falsas.

Para alzarse con la victoria, los de Cisco combinaron dos sistemas de inteligencia artificial distintos basados en el ‘deep learning’ para analizar a fondo el que por ahora parece ser el talón de Aquiles de las ‘fake news’: esa falta de concordancia que a veces se da entre el titular y el cuerpo de la noticia. En base a la relación que haya entre esas dos partes fundamentales del contenido, así será la probabilidad de que sea o no cierto y riguroso.

El comienzo de una guerra

No obstante, este parece ser solo el comienzo de una larga contienda en la que los responsables de la difusión de los bulos y aquellos que intentan darles caza jugarán al gato y al ratón a través de sus respectivas inteligencias artificiales. Si el problema actual está en la falta de solidez en la relación del titular con el texto, las próximas ‘fake news’ nacerán sin esta tara y serán necesarios nuevos algoritmos para detectar noticias falsas.

De hecho, ya hay quienes tratan de anticiparse a esta jugada para desarrollar herramientas con las que advertir a los lectores y, al mismo tiempo, darles alternativas. “Las redes sociales generan burbujas”, recuerda el doctorando de Psicología de la Universidad de Yale Michael Lopez-Brau. Junto a otro compañero de la facultad de Psicología y dos estudiantes de informática especializados en ‘machine learning’, Lopez-Brau desarrolló una herramienta con la que el equipo ganó el reto de la Poynter Fellowship in Journalism durante una ‘hackathon’.

Se trata de una extensión para Google Chrome diseñada para advertir a los internautas cuando acceden a una web que suele difundir bulos, así como cuando tengan en pantalla una noticia compartida en redes sociales que sea falsa. Hasta ahí, algo similar a lo que hace la extensión creada por los españoles responsables de Maldito Bulo o el Décodex lanzado este mismo año por el francés Le Monde. Sin embargo, el equipo de universitarios se propuso ir más allá.

“Las redes sociales hacen que sea extremadamente fácil para la gente seguir a personas con intereses similares, por lo que a menudo no existe una oportunidad real de enfrentarse a un punto de vista opuesto”, explica Lopez-Brau. Así, la herramienta creada por su equipo, llamada OpenMind, analiza las noticias en busca de sus principales protagonistas con la intención de determinar cuál es la inclinación política del texto. Todo, para sugerirle al lector otras visiones de ese mismo tema: noticias con puntos de vista alternativos con las que los internautas puedan abandonar su círculo de confort ideológico.

De hecho, hace escasos días Facebook anunció que va a hacer un uso similar de la inteligencia artificial para ofrecer a sus usuarios “Artículos relacionados”. Si bien el objetivo de los de Zuckerberg no pasa por dar puntos de vista opuestos en lo ideológico, sí que pretenden dar algo de contexto para cada historia compartida con la intención de que sean los mismos usuarios los que vean, a través de distintos enlaces, si una noticia es falsa o no.

En cualquier caso, la inteligencia artificial cuenta con una gran ventaja respecto a los humanos voluntarios que se han lanzado a la búsuqeda de bulos y ‘fake news’: tiene una capacidad enormemente superior a la nuestra a la hora de leer sus fuentes, que no son otras que las miles de millones de webs presentes en internet.

Así, otras propuestas pasan simplemente por hacer que los ‘bots’ al servicio de los cazadores de bulos buceen por internet antes de verificar o echar por tierra una noticia. Desde la compañía de seguridad DataVisor explican que ya trabajan en un algoritmo que sería capaz de leer una noticia para, a continuación, buscar si otras webs de confianza están haciéndose eco de los mismos hechos.

“'The New York Times' es probablemente una fuente más respetable que una página web desconocida y mal diseñada”, afirmaba una de sus responsables, Catherine Lu, en una entrevista. “La inteligencia artificial puede ser entrenada para predecir la reputación de un sitio web, teniendo en cuenta características como su puntuación en el 'ranking' Alexa o el nombre del dominio”, explicaba.

Algo similar persigue FiB, otra extensión para Google Chrome nacida de una 'hackathon' de la Universidad de Princeton. Esta inteligencia artificial no hace otra cosa que acompañar al usuario de Facebook en su tradicional paseo por el 'feed' advirtiéndole, por medio de un icono, de la veracidad o la falsedad del contenido que hay ante sus ojos. Todo, a través del reconocimiento de imágenes, la búsqueda de palabras clave y el análisis de la web de origen.

Irónicamente, en todos estos casos, cuantas más ‘fake news’ se generan, más aprende la inteligencia artificial a detectarlas. Y sí, es probable que los responsables de las noticias falsas descubran la forma de esquivar los algoritmos actualmente en desarrollo, pero un nuevo sistema para darle caza seguirá tras sus pasos. Al fin y al cabo, este solo es el comienzo de una guerra entre inteligencias artificiales en el que el botín no es otro que la credulidad de los lectores y su valiosísimo tiempo de atención.

---------------------------------------

Las imágenes de este artículo son propiedad, por orden de aparición, de Max Pixel, Paul Sableman y Wikimedia Commons

Parece que fue ayer cuando la serie ‘CSI: Crime Scene Investigation’, también conocida como ‘CSI: Las Vegas’, llegaba a las pantallas de nuestros televisores. Sin embargo, sucedió allá por el año 2000, con el mítico biólogo criminalista Gil Grissom al mando del equipo de investigación policial de la ciudad que nunca duerme.

Por sus cientos de capítulos —sin contar los episodios de sus tres secuelas— han pasado asesinos de todo tipoasesinos de todo tipo, desde una aficionada a las maquetas hasta uno obsesionado con la pintura. Después de tantos casos resueltos por Grissom y compañía, seguro que más de un seguidor de la serie era capaz de intuir quién era el malhechor antes de que fuera descubierto por los protagonistas.

Esta habilidad premonitoria no es solo cosa de humanos: un sistema de inteligencia artificial un sistema de inteligencia artificialdesarrollado en la Universidad de Edimburgo también es capaz de identificar al malo en los capítulos de CSI con bastante acierto. Al igual que los espectadores de carne y hueso, tiene en cuenta tanto la información proporcionada por las imágenes como por los sonidos, así como las transcripciones de los diálogos y las descripciones de las escenas (formatos que una máquina es capaz de entender).

Sus creadores no querían concebir un adicto virtual a las series, sino más bien un detective: han entrenado al algoritmo para que sea capaz de comprender el lenguaje natural y asimilar gran cantidad de datos para resolver un problema complejo de forma muy similar a un humano. Averiguando, en este caso, quién está detrás de un crimen.

Un atracón de episodios

Según los investigadores, especializados en informática, cognición y lenguaje, eligieron CSI para su trabajo porque los capítulos siguen un esquema constante. Cada uno “plantea la misma pregunta básica [quién cometió el asesinato] y proporciona naturalmente la respuesta revelando la identidad del perpetrador”, explican en su estudio, publicado en ‘Transactions of the Association for Computational Linguistics’.

Para el entrenamiento seleccionaron 39 episodios de las cinco primeras temporadas de la serie y desgranaron los guiones para que el sistema pudiera analizarlos. Desarrollaron un modelo, basado en redes neuronales artificiales, que sigue los mismos patrones que un espectador a la hora de identificar al posible asesino: procesa los detalles del argumento y el elenco de personajes a medida que transcurre la historia y revisa constantemente la posible identidad del asesino.

Con toda esta información, el ‘software’ dio en el clavo el 60 % de las veces, mientras que los humanos que participaron en el experimento acertaron en un 85 % de las ocasiones. Aunque el poder predictivo de las máquinas puede parecer más bien modesto en base a estas cifras, los resultados son positivos tratándose de una tarea tan difícil para una máquina y más que suficientes para asentar las bases de un sistema que otros investigadores pueden perfeccionar y utilizar en sus propios estudios.

Además, su trabajo puede inspirar nuevos proyectos sobre reconocimiento del lenguaje natural que utilicen la misma o diferentes series de temática criminal. Según los investigadores, sus guiones constituyen un campo de pruebas ideal para entrenar a las máquinas inteligentes.

De acuerdo a Lea Frermann, coautora del trabajo, la única forma de mejorar el modelo es pensar en la información que le falta y que las personas sí tienen en cuenta en sus pronósticos y en cómo transmitírsela al ordenador. Porque proporcionarle datos que no aporten nada nuevo, aunque sea en gran volumen, no llevaría a obtener tasas de acierto más altas. El problema es que “los humanos tienen tanto conocimiento sobre el mundo que es muy difícil cifrarlo en una máquina de forma exhaustiva. Necesitamos equipar a los modelos con más conocimientos y antecedentes y un mecanismo de inferencia mucho mejor”, subraya la experta.

Pero la capacidad de deducción de las personas también tiene sus fallos. A pesar de identificar al criminal con más precisión que un ordenador, somos más cautos a la hora de formular nuestras sospechas. Al modelo de Frerman y compañía le bastan unas 190 frases del guion para comenzar a desconfiar de los personajes y a predecir la identidad del malhechor.

Los espectadores de carne y hueso tardan un poco más: los participantes en el estudio empezaban a hacer vaticinios después de escuchar unas 300 frases. También les cuesta más pillar las primeras menciones al asesino que a una máquina.

No obstante, el algoritmo tiene un punto débil: los casos donde no existe un criminal. Uno de los episodios que le mostraron trataba de un suicidio y, a diferencia de las personas, estuvo cuestionándose la identidad de un supuesto delincuente hasta el final. No supo ver que víctima y asesino podían ser la misma persona (o que, en realidad, no había como tal un asesino).

Predicciones al estilo de ‘Minority Report’

Si bien el modelo desarrollado por estos científicos aún está en pañales, los equipos de investigación de los departamentos de Policía de diferentes ciudades ya cuentan con miembros tecnológicos dedicados a identificar delincuentes potenciales. Se trata de sistemas de inteligencia artificial que recurren al ‘big data’ para predecir actos criminales al más puro estilo ‘Minority Report’.

Los agentes de localidades como Nueva York, Chicago, Londres o Filadelfia utilizan distintas variantes de estas herramientas, casi siempre desarrolladas por terceros, ya sean ‘startups’ o científicos. Una de ellos es PredPol, que no analiza datos personales, como tampoco lo hace HunchLab. Esta última se basa en información proporcionada por personas, meteorológica y sobre negocios de una zona para determinar si es necesario enviar a un contingente policial.

CrimeScan, otro de estos programas, creado por investigadores de la Universidad Carnegie Mellon, construye mapas donde muestra las localizaciones donde es más probable que se produzca algún crimen. Este tipo de ‘software’ puede tener en cuenta también el contenido de los perfiles de redes sociales de posibles delincuentes.

Con las necesarias mejores y adaptaciones, puede que los algoritmos desarrollados por Frermann y su equipo acaben también en departamentos de investigación criminal ayudando a resolver casos dignos de su serie de referencia. Dar caza a los asesinos también es cosa de Grissoms digitales.

Las nuevas tecnologías han hecho que visitar casi cualquier calle del mundo sea tan fácil como acceder a Google Maps y recurrir a la vista de Street View desde nuestro ordenador o dispositivo móvil. Ya sea para buscar un establecimiento, ver un monumento, planificar una ruta en coche o simplemente echar un vistazo a los entresijos de una lejana ciudad, quien más y quien menos ha entrado alguna vez en este servicio que Google ofrece desde hace ya una década. Ahora bien, hay algo que, aunque muchas veces obviamos, siempre suele estar presente en las imágenes de ciudades de Street View: los coches.

Algunos pasaban por allí en el mismo momento en que el vehículo de Google grababa las imágenes, a otros se los ve aparcados. Sea como fuere, todos ellos forman parte del paisaje urbano que Street View nos ofrece de cada rincón del planeta. Algo que ahora unos investigadores estadounidenses han querido aprovechar para averiguar quiénes son las personas que viven en esos barrios con solo ver sus coches. Para ello, han utilizado un sistema de inteligencia artificial con el que identifican los vehículos, los clasifican y, después, establecen relaciones con antiguos datos demográficos del lugar.

Así, no solo han podido determinar cuestiones obvias como cuáles son los barrios de ricos según los coches aparcados, sino también predecir cuestiones a futuro como sus intenciones de voto en las siguientes elecciones. Comprobaron, entre otras cosas, que si el número de berlinas en una ciudad era más alto que el de camionetas ‘pick-up’ (con una zona de carga descubierta en su parte trasera), sus habitantes eran más demócratas que republicanos.

Es decir, los propietarios de vehículos familiares serían más propensos a ideas progresistas y de centroizquierda, mientras que los dueños de automóviles destinados al transporte de mercancías estarían más cercanos al conservadurismo.

Analizando millones de imágenes urbanas en solo 15 días

El equipo de investigación, compuesto en su mayor parte por expertos en inteligencia artificial de la Universidad de Stanford, comenzó por seleccionar los lugares que iban a ser analizados. Escogieron 200 ciudades norteamericanas de las que usaron 50 millones de imágenes extraídas de Google Street View.A partir de ahí, utilizaron una técnica de reconocimiento de objetos para distinguir los vehículos de los que no lo eran.

Sus algoritmos consiguieron reconocer 22 millones de coches que era necesario clasificar. Para cada tipo de automóvil utilizaron metadatos tales como la marca, el modelo, el año o el precio, dando lugar a casi 3.000 opciones diferentes.

“Demostramos que, a través del 'deep learning', es posible no solo reconocer vehículos en una escena de calle compleja, sino también determinar de forma confiable una amplia gama de características del vehículo, incluyendo marca, modelo y año”, afirman en su estudio, publicado en la revista de la Academia Nacional de Ciencias de Estados Unidos (PNAS).

Para ello, entrenaron una herramienta de inteligencia artificial basada en redes neuronales convolucionalesredes neuronales convolucionales (también conocidas por sus siglas en inglés, CNN), las cuales imitan el trabajo que hace nuestro cerebro ante cualquier información visual. Así la red artificial analizó los millones de imágenes en solo dos semanas. Esta misma hazaña le hubiera llevado a cualquier humano alrededor de 15 años, según el propio estudio.

Ante este avance, los investigadores recuerdan que Estados Unidos gasta anualmente más de 250 millones de dólares (unos 210 millones de euros) en realizar la conocida Encuesta sobre la Comunidad Estadounidense (ACS) de la Oficina del Censo, con la que se recopilan a gran escala las características demográficas, sociales, económicas y de vivienda de la población del país. “Aunque es una fuente de datos muy completa, el desfase entre los cambios demográficos y su aparición en el ACS puede superar varios años”, aseguran.

Ahora, gracias a este nuevo método de predicciones, creen que podrían dar apoyo a la mayor encuesta de Estados Unidos y así ayudar a establecer predicciones mucho más rápidas.

De ver un coche a saber a qué partido votan en el barrio

Los autores del estudio también tuvieron que averiguar cómo el tipo de automóvil se podía asociar con factores tan curiosos como las tendencias políticas del área. Para eso, utilizaron el análisis de regresión, una herramienta matemática y estadística que permite estimar las relaciones entre variables. En su ensayo usaron datos del censo y utilizaron resultados de las elecciones de 2008 que dieron como ganador al demócrata Barack Obama frente al republicano John McCain como indicador del mundo real.

Además, estableciendo diferentes correlaciones con la información censal, el estudio también pudo encontrar otras curiosidades como que las personas de ascendencia asiática son más propensas a conducir automóviles del mismo origen, como Honda o Toyota, o que la marca Chrysler es más propia de los afroamericanos, mientras que los europeos instalados en Estados Unidos prefieren camionetas y coches Volkswagen o Aston Martin.

La ingeniera Timnit Gebru, una de los autoras del estudio, asegura que se trata de un nuevo tipo de herramienta que los sociólogos pueden aprovechar para gestionar una gran cantidad de datos, como las imágenes de Google Street View. Además, cree que los investigadores podrían relacionar otros datos como el número, el tipo y el estado de los árboles con, por ejemplo, la salud pública.

Técnicas como la inteligencia artificial y el 'big data', entre otras, se han destapado en los últimos años como “una herramienta prometedora para abordar problemas difíciles en las ciencias sociales”, señalan en la investigación. Por ejemplo, el profesor Antenucci y su equipo en Cambridge han pronosticado tasas de desempleo a partir del comportamiento de los usuarios de Twitter, mientras que investigadores de la Universidad de Washington y California utilizaron metadatos de teléfonos móviles para predecir las tasas de pobreza en Ruanda.

Todo ello podría ser una muestra de que nos acercamos al fin de las encuestas tal y como hoy las concebimos. El día de mañana podría ser una inteligencia artificial la que se encargue de recopilar y analizar datos para predecir quién será el próximo alcalde o presidente con solo ver los coches que se mueven por la ciudad.

-------------------

Las imágenes son propiedad, por orden de aparición, de StockSnap/Pixabay y Sancho McCann /Flickr

Es tiempo de recurrir a los clásicos del terror: se acercan días en los que lo apropiado es hacer un maratón de películas de miedo que incluya ‘El exorcista’, ‘Pesadilla en Elm Street’ y ‘Rec’ para luego hacer lo propio con algo de literatura. Sobrecogerse con el gato negro de Edgar Allan Poe, el payaso de Stephen King o el organista de una de las leyendas de Bécquer es tan típico y tétrico como visitar un cementerio a comienzos de noviembre.

Sin embargo, lo más terrorífico de este Halloween llega de la mano de unos relatos más bien futuristas, no tanto por sus argumentos como por su autor: un robot desarrollado por investigadores del Instituto Tecnológico de Massachusetts (MIT por sus siglas en inglés) ha aprendido a escribir historias de miedo y, cada hora, da comienzo a una nueva desde su propia cuenta de Twitter.

“Es el primer escritor colaborativo de terror de inteligencia artificial del mundo”, explica uno de sus creadores, el español Manuel Cebrián, a HojaDeRouter.com. Tras la compleja definición se encuentra Shelley, esta inteligencia artificial que homenajea a la madre de Frankenstein con una significativa peculiaridad: lo hace con la inestimable ayuda de sus seguidores.

“Lo que es único de Shelley es su aspecto colaborativo: después de comenzar una nueva historia en Twitter, invita a la gente a continuar el relato”, explica Cebrián. Cada tuit de Shelley que sirve de pistoletazo de salida va seguido de un “#yourturn” (tu turno). Es el momento de que los tuiteros aficionados al terror recojan el testigo y den rienda suelta a su imaginación.

Pero ahí no acaba todo. Cuando un usuario decide concluir su aportación con ese mismo ‘hashtag’, Shelley es capaz de retomar el hilo y continuar el relato. “Podemos ser testigos de la creación de la primera antología de terror hecha entre humanos y la inteligencia artificial”, anuncia el investigador español.

Terror creíble

A diferencia de los numerosos intentos más o menos fallidos de que una inteligencia artificial pinte, componga o incluso haga películas como si fuera el ser humano más creativo del mundo, Shelley sí que es creíble. Quizás no llegue a merecer un Nobel de Literatura ni haga que Stephen King tema por su fama de maestro del terror, pero al menos los relatos de la sucesora robótica de Mary Shelley no son un destartalado conjunto de palabras sin sentido.

“Recuerdo su cara de horror y en ella había agonía y maldad. Yo estaba atrapado en esa cama de hospital”. Así comenzaba Shelley uno de sus relatos, continuado por distintos seguidores que han vuelto a pedirle a la inteligencia artificial que siga relatando qué sucede en esa habitación de hospital y quién es el terrorífico propietario de ese rostro poco amigable. Al igual que las ramas de un árbol, cada relato iniciado por Shelley termina bifurcándose y teniendo tantas versiones como respuestas, recopiladas ahora en la web de la autora robótica.

En el momento de escribir estas líneas y desde el pasado 23 de octubre, Shelley ha creado más de una treintena de relatos colaborativos de terror entre los que hay para todos los gustos: sombras más oscuras que la propia oscuridad, visitas inesperadas en un coche e incluso monstruos invadiendo la casa de una abuela. “Esperamos que Shelley inspire a la gente a escribir historias de terror y que incluso invente subgéneros completamente nuevos que aún no sabemos que existen”, explica Cebrián. “La mente creativa de Shelley no tiene límites y todo es posible”.

Para lograrlo, el equipo del MIT del que forma parte el investigador español ha recurrido a Reddit: una de las comunidades de la plataforma estadounidense está dedicada a los relatos de terror, y allí los usuarios comparten sus propias historias. “Shelley ha entrenado con más de 140.000 historias de terror del ‘subreddit’ /nosleep y ahora puede escribir sus propios relatos a partir de una semilla aleatoria o un pequeño fragmento de texto”, narra Cebrián.

De hecho, el robot literato está en constante aprendizaje. Más allá de haber estudiado a fondo el género a través de Reddit, cada vez que un usuario de Twitter interactúa continuando una de las historias de terror, Shelley toma buena nota. “Cuanta más colaboración obtenga Shelley de las personas, más historias aterradoras escribirá”, sentencia el investigador español, doctor en ciencias de la computación por la Universidad Autónoma de Madrid.

“Algunas son muy buenas, aunque como gran fan de escritores de terror creo que estamos muy lejos de llegar al nivel de los profesionales”, advierte el propio Cebrian, atajando así el eterno debate sobre si, algún día, una inteligencia artificial como Shelley será capaz de escribir mejores relatos y más terroríficos que los de cualquier humano.

En cualquier caso, no es el primer trabajo que Cebrián y su grupo llevan a cabo en lo que tiene que ver con Halloween. “Shelley es la continuación de un proyecto que hicimos en el MIT que tuvo bastante éxito el año pasado”, cuenta el investigador. Se refiere a la Nightmare Machine, creada para celebrar la terrorífica fecha a golpe de inteligencia artificial. En aquella ocasión, más visual que literaria, se trataba de un algoritmo capaz de convertir cualquier imagen, ya sea de un lugar o de un rostro, en una terrorífica escena capaz de asustarnos gracias “al ‘deep learning’ y a espíritus malignos”, tal y como explicaban sus creadores.

Con distintos filtros, el equipo del MIT logró que su algoritmo transformara lugares como el Coliseo romano o La Pedrera de Gaudí en verdaderos escenarios de una película apta para estas fechas.

Todos aquellos que quieran interactuar con Shelley para crear terroríficos relatos a través de Twitter deben tener un par de cosas en cuenta: puedes responder con hasta 3 tuits en una misma historia y no olvidar incluir la etiqueta ‘#yourturn’ si quieres que Shelley continúe (o ‘#theend’ para dar el relato por finalizado).

No obstante, Shelley es bastante selecta y, por muy inteligencia artificial que sea, tiene un límite. Así, solo responde a los cien mensajes más populares de cada día, en base a los ‘me gusta’ y los retuits conseguidos. ¿Te atreves a poner tu granito de arena en la creación de una máquina aterradora? 

--------------

Las imágenes que aparecen en este artículo son propiedad del grupo de investigación de Shelley y Nightmare Machine en el MIT

El jefe de una compañía pide a sus investigadores que desarrollen una máquina inteligente. Poco a poco, Prometeo, el fruto de ese encargo, domina cada vez más habilidades humanas. A la larga, sus invenciones lideran todos los sectores tecnológicos y la empresa contribuye a la prosperidad mundial. Una sola fuerza controla el planeta, respaldada por una inteligencia artificial (IA) tan poderosa que puede hacer que la vida florezca durante miles de años. Pero, ¿serán buenas sus intenciones?

Ese futurista escenario es el que plantea el físico sueco Max Tegmark al comienzo de ‘Life 3.0. Being Human in the Age of Artificial Intelligence’, un libro que acaba de publicar y en el que debate sobre “la conversación más importante de nuestro tiempo”: el futuro de la inteligencia artificial.

Si hace 4.000 millones de años “el ‘hardware’ y el ‘software’” de los organismos vivos evolucionaba (fase biológica), y si los humanos ahora mejoramos ese ‘software’ gracias al aprendizaje (etapa cultural), Tegmark plantea en el volumen lo que podría ocurrir cuando las máquinas se diseñen a sí mismas por completo en el siguiente periodo. “Nada en las leyes de la física dice que no podamos construir máquinas mucho más inteligentes que nosotros o que esa inteligencia necesite ser construida a partir de materia orgánica”, afirma este investigador.

El libro ha entusiasmado al mismísimo Elon Musk, que lleva tiempo preocupado por el futuro de los robots. “Merece la pena leer ‘Life 3.0’, escribía en un tuit el CEO de Tesla y SpaceX. ”La inteligencia artificial será lo mejor o lo peor de la humanidad, así que vamos a hacerlo bien“.

En realidad, Musk no ha conocido a este investigador del prestigioso Instituto Tecnológico de Massachusetts a través de esas páginas. Tegmark también es el presidente del Instituto por el Futuro de la Vida (FLI por sus siglas en inglés), una organización que trata de evitar los posibles inconvenientes de la inteligencia artificial.

Musk es asesor científico de esta institución, a la que ha donado 10 millones de dólares (8,4 millones de euros). Además, recientemente, tanto Tegmark como el multimillonario que pretende llegar a Marte apoyaron, junto a otros miles de expertos, 23 principios para lograr que la superinteligencia siga unos ideales éticossuperinteligencia siga unos ideales éticos.

¿Una utopía libertaria o la dominación robótica?

“Si un día tenemos éxito en desarrollar una IA de nivel humano, esto puede desencadenar una explosión de inteligencia, dejándonos muy atrás”, afirma Tegmark en el libro. A su juicio, ese es el riesgo (o la oportunidad) a la que nos enfrentamos cuando llegue Prometeo, que no se parecerá en nada a un Terminator con rostro y armas. 

Inspirándose en las opiniones de expertos o incluso en obras de ciencia ficción, este cosmólogo ha descrito en su libro doce posibles rumbos que podría seguir la sociedad “en los próximos 10.000 años”, algunos marcados por la aparición de una inteligencia muy superior a la humana. 

En algunos de los escenarios que plantea, los humanos acabamos extinguiéndonos, mientras que en otro no acabamos mal parados. Por ejemplo, podríamos disfrutar de una utopía libertaria en la que conviviéramos pacíficamente con cíborgs y robots. Las superinteligencias artificiales serían inmensamente ricas, pero los humanos, que vivirían en zonas separadas y tendrían su propia economía, no se verían afectados. Sin embargo, las máquinas sí les permitirán acabar con la pobreza y la mayoría de enfermedades.

Vivir en una dictadura liderada por una inteligencia artificial tampoco tendría por qué ser tan negativo como parece, o al menos eso expone Tegmark. Si la máquina fuera benevolente, podría gobernar el mundo y diseñar leyes “para maximizar la felicidad de los humanos”. La única pega es que tendríamos que obedecer todas sus órdenes sin rechistar.

Ese problema se subsanaría en un escenario diferente: la IA, en lugar de gobernar con puño de hierro, podría actuar como un dios protector que al menos nos permitiera controlar nuestro destino. Tampoco nos vendría mal ser nosotros las divinidades que sometan a Prometeo, aunque tendríamos que plantearnos si es ético hacerlo o nos convertiríamos en torturadores de robots como los personajes de ‘Westworld’como los personajes de ‘Westworld’.

Peor nos irá, obviamente, si la inteligencia artificial toma el control y nos destruye de un modo que ni siquiera llegamos a entender. El físico recurre en este punto a las ideas de Nick Bostrom, un filósofo de la Universidad de Oxford que también impactó a Musk con su libro ‘Superinteligencia’. Bostrom explicaba el caso de una hipotética máquina a la que se ordena fabricar tantos clips como pueda. Para obedecer esa orden, aparentemente inocua, convierte todos los recursos de la Tierra en material de oficina.

En lugar de exterminarnos para hacer clips, la IA también podría optar por encerrarnos en una suerte de museo para exhibir humanos como si fueran una reliquia, por “la misma razón que nosotros mantenemos a los pandas protegidos en los zoos [...]: como un entretenimiento curioso”.

Más inquietante aún sería aceptar nuestra propia extinción no porque las inteligencias artificiales nos dominen, sino porque realmente pensemos que son nuestros descendientes. “A cada humano se le ofrece un niño robótico adorable con espléndidas habilidades sociales que aprende de él, adopta sus valores y le hace sentir orgulloso y querido”, describe Tegmark en su libro. A su juicio, este escenario no es tan negativo como pueda parecer: al menos, la última generación de mortales podría sentirse afortunada de que sus vástagos estén a la altura.

El debate de las máquinas, del ciudadano al cosmos

Planteando todas estas futuristas hipótesis que suenan a ciencia ficción (incluso menciona que la superinteligencia podría comenzar una “expansión cósmica”), Max Tegmark plasma en ‘Life 3.0’ unas cuantas vías alternativas a la destrucción de la humanidad que presagia Musk.

Al fin y al cabo, el físico no pretende dar respuestas en su libro, sino plantear preguntas para abrir el debate sobre lo que ocurrirá cuando se destape la caja de Pandora. “Solamente cuando hayamos pensado qué tipo de futuro queremos que sea posible podremos empezar a dirigir el rumbo hacia un futuro deseable”, señala Tegmark.

El FLI ha publicado para ello una encuesta que pide opinión, entre otras cosas, sobre cuál sería el ideal de sociedad. Casi 15.000 personas han contestado ya y, sorprendentemente, la mayoría ha dicho desear la llegada de la superinteligencia. El que suponemos que no está de acuerdo con esa opinión mayoritaria es Elon Musk, que aseguraba hace unos días que la competición de las máquinas nos conducirá a la Tercera Guerra Mundial.

De un modo u otro, al CEO de Tesla parece haberle impresionado el libro de un físico tan convencido como él de que la inteligencia artificial cambiará la historia y de que hay que trabajar con cautela para que los resultados de la investigación sean seguros  para todos. Pese a ello, Tegmark se muestra más prudente que el magnate al pensar que el porvenir no tiene por qué ser apocalíptico. Es más, tal vez la humanidad se destruya ella solita antes de que llegue la superinteligencia. Ya veremos.

------------------

Las fotos son propiedad de Steve Juverston, Magnus Norden, NASA Robonaut y Web Summit