El cascabel de Zuckerberg

Enfrentarse a un millonario es algo poco recomendable. Y lo es por dos razones: el rico tiene mucho dinero (es obvio) y también tiene mucho tiempo. Ambas cosas hacen que sea prácticamente imposible enfrentársele individualmente. El atrevido, tarde o temprano, pierde.

Mark Zuckerberg, creador y propietario de Facebook es multimillonario y ya piensa en términos de poder, no de añadirle más ceros a su extracto bancario. Valga la redundancia, quiere ahora hacerse con los datos bancarios de todos. La banca nacional está preocupada pero es la preocupación farisea de las élites nacionales que no saben cómo pararles los pies a las élites globalizadas, que, sin territorio y con un poder omnívoro, practican con los primeros lo que estos no han dejado de hacer toda la vida con los ciudadanos/clientes: exprimirlos y/o echarlos del mercado.

El pavor que despierta en las empresas el interés de grandes corporaciones como Google o Facebook por ofrecer productos financieros se encuentra detrás de voracidad datófaga. Pero ¿qué pasa cuando se pide transparencia a los megamonstruos devoradores de información? ¿Harán públicos Google y Facebook sus secuencias algorítmicas o se ampararán en el secreto industrial como Coca Cola con su fórmula?

Solo se puede controlar el mundo, las masivas cantidades de información que produce, mediante máquinas, pero los máquinas son estúpidas y no tienen la intuición que tiene el humano a la hora de tomar decisiones. (Yo tengo un portátil en casa que usa toda la familia y no dejo de recibir publicidad de lo más disparatada en mis consultas en la web: desde libros hasta consolas de videojuegos: yo disfruto mucho viéndoselas pasar putas al algoritmo intentando predecir mis deseos, pero estoy convencido de que más pronto que tarde sabrá discernir quién se siente en cada momento ante el teclado, por lo que el que empezará a agobiarse será un servidor.) Pero solo es cuestión de tiempo que vayan afinando.

Los algoritmos son el conjunto de operaciones que rigen los programas informáticos para resolver un problema y tomar decisiones. Pero sobre todo, y esta es la característica determinante, son predictivos, aunque predictivos sin la intuición de un juez, por ejemplo, que a diario echa mano de su algoritmo personal para decidir si ha habido dolo o no en un delito. Y también predictivos sin ningún tipo de control, de manera aleatoria y con consecuencias imprevisibles.

Pese a que lo elaboren empresas y se actualicen a sí mismos, tienen un sesgo que no es inocuo. Las decisiones de las máquinas ya están presentes en decisiones como la concesión de un préstamo o un seguro (y a qué interés o condiciones se toman), los criterios para que un contribuyente puede ser sometido a una inspección tributaria y hasta la filiación política, con consecuencias prácticas dependiendo de quien ostente el poder. Por lo tanto, el algoritmo no es la ventana transparente y neutra que presume ser. Puede facilitar la vida, pero también arrebatar el libre albedrío y ser discriminatorio. Afecta directamente a principios que rigen nuestra sociedad como la transparencia, la equidad, la justicia y, ya se me apuran, la libertad.

Todo esto no es nuevo. Está contado hasta la saciedad, pero el debate evoluciona.

Hace ya un año y medio, la ACM (Association for Computing Machinery, un referente académico en este campo, nada que ver con vertederos académicos que regalan másters) estableció los términos del debate en un documento de siete puntos que puede leer aquí. Dicho de manera llana, el debate se centra en que, ya que es inconcebible que los algoritmos abandonen nuestras vidas, es imprescindible un control público de los mismos, es decir, su auditoría por un ente que vele por los principios que rigen lo público y que al tiempo respete la propiedad intelectual (en el fondo da igual que se publique un algoritmo: es como leer sánscrito), así como la privacidad de los datos que puedan examinarse.

Transparencia, auditabilidad y validación son tres de los principios que la ACM ha establecido. ¿Es factible? Sí, pero hay que tener en cuenta al millonario que tiene mucho tiempo y mucho dinero para intentar impedirlo, aunque puede hacerse. Pueden programarse algoritmos con 'ventanas' abiertas para la validación, según unos procedimientos y unos criterios que llenarían una estantería entera. Pero técnicamente es factible. Ahora solo falta saber quién le pondrá el cascabel al gato y, lo que es más importante, cómo para que nadie resulte lastimado.