Las dudas acerca de la automatización y una mayor dependencia de la humanidad hacia complejos sistemas computacionales, han aumentado los cuestionamientos sobre cuál es la mejor forma de aprovechar estas nuevas tecnologías en el desarrollo humano.
A partir de un estudio del Pew Research Center (PRC) y otros documentos, al parecer no hay dudas sobre si realmente sucederá o si deberían existir medidas para detenerlo, sino que toda la atención se enfoca en lo que sucederá cuando finalmente lleguemos a ese mundo que aparentemente correrá en “automático”.
Analistas como Aneesh Aneesh de la Universidad de Stanford prevén algoritmos que asuman actividades públicas y privadas en una nueva era de "gobierno algocrático" que suplante "jerarquías burocráticas". Otros, como Shoshana Zuboff de Harvard, describen el surgimiento del "capitalismo de vigilancia" en una "civilización de la información", cita el PRC.
Un reporte reciente de la GSMA pide a los gobiernos acciones concretas para lograr una distribución más uniforme de los beneficios tecnológicos. “Las políticas prospectivas pueden permitir que los ciudadanos, las empresas, las sociedades y los países prosperen, mejorando vidas y medios de subsistencia, mientras que mitigan los posibles efectos adversos que pueden acompañar el cambio económico", dijo John Giusti, jefe de regulación de la GSMA.
Entre los efectos adversos del mayor uso de algoritmos, el PRC identificó entre las respuestas en encuestas que se podría perder el factor humano en la toma de decisiones, al priorizarse algoritmos enfocados en la eficiencia y rentabilidad en gobierno y empresas; también señaló que se ampliaría la brecha de desigualdad entre la población con mayor acceso a herramientas digitales y aquella más rezagada; habría pérdida de empleos, especialmente en trabajos de conducción y de oficina o administrativas.
Sin embargo, también se identifican beneficios, tales como mejor operación de bancos para ofrecer créditos y reducir el riesgo; en salud, los algoritmos permitirían una mejor atención personalizada a los pacientes, a través de nuevas herramientas para monitorear y coordinar su atención; mientras que en gobierno se facilitará la regulación y el monitoreo para asegurarse de que se cumpla la ley.
El estudio completo de PRC se puede consultar aquí.
ANTECEDENTES
LOS PELIGROS DEL BIG DATA - Modelos de destrucción matemática o WMD
El análisis y procesamiento de datos permite extraer patrones, identificar tendencias, filtrar y tomar decisiones mucho más rápidamente. Su aportación a la eficiencia es indiscutible. Y, sin embargo, el big data no es una ciencia exacta.
La científica de datos Cathy O'Neil desarrolla en el libro Weapons of Math Destruction (WMD Armas de Destrucción Matemática) los riesgos de apoyar las decisiones únicamente en algoritmos definidos por y para humanos, con su inevitable margen de error.
Por su naturaleza, los modelos matemáticos son simplificaciones. Ningún modelo puede incluir toda la complejidad o los matices de la comunicación humana. Inevitablemente, parte de información relevante es excluida"
Cathy O'Neil dice "El crash hizo muy evidente que las matemáticas, una vez mi refugio, estaban no sólo profundamente enredadas en los problemas del mundo, sino también alimentando muchos de ellos". Desde su punto de vista, el big data agrega eficiencia y escala a sistemas imperfectos, lo que multiplica el "caos y la desgracia".
Los modelos de destrucción matemática, o WMD, como los llama O'Neil, no tienen en cuenta las excepciones y anomalías, y tampoco se perfeccionan a medida en que registran nueva información. Son modelos estáticos, que perpetúan los prejuicios y malentendidos de sus creadores. Los WMD "definen su propia realidad" y se apoyan en la supuesta infalibilidad de los números para justificar sus resultados.
Un ejemplo de WMD en el sector educativo lo compone el ránking de mejores escuelas del US News, basado en una visión incompleta de lo que representa la calidad en la enseñanza. La injusticia se retroalimenta, beneficiando a las escuelas que aparecen en lo más alto del ránking, mientras que aquellas que aparecen en peores posiciones tendrán cada vez más difícil atraer a los mejores profesores y estudiantes del país.
En 24 estados de EEUU, como Texas, los jueces se valen de algoritmos que determinan el nivel de peligrosidad de los acusados en base a una serie de cuestiones que incluyen el barrio en el que viven, sus amistades o sus familiares. Quizá justificadas por este modelo, las penas impuestas a personas de raza negra son un 20% superiores a las que reciben los blancos por delitos similares.
Los WMD, asumen que el futuro seguirá los mismos pasos que el pasado, y aportan una falsa sensación de seguridad a las organizaciones que los aplican, ya sean instituciones educativas, juzgados, bancos o empresas cegadas por su obsesión de obtener beneficios a corto plazo.
Muchos WMD tienden asimismo a extraer patrones a partir de factores inconexos, o muy indirectamente relacionados. Por ejemplo, la profesionalidad en el trabajo y el cumplimiento en los pagos. En sus procesos de contratación, algunas empresas determinan que aquellos aspirantes que pagan sus facturas prontamente tienen más probabilidades de ser empleados responsables. El problema, según O'Neil, es que esto deja sin opciones a los candidatos que viven situaciones económicas más difíciles, al tiempo que beneficia a las clases sociales más afortunadas. Y cuanto más pobres se vuelven los primeros, menores son sus oportunidades. Es una espiral discriminatoria y perniciosa.
Cuando creas un modelo a partir de información inferida, resulta mucho más sencillo de trampear. Esto es porque esos ratios son más fáciles de manipular que la complicada realidad que representan"
Los WMD, en su misión de simplificar la realidad para generar eficiencias, descartan de la ecuación a aquellos que no encajan en el modelo establecido. Y esas eficiencias sirven de justificación para consolidarse. Las víctimas del sistema son simples "víctimas colaterales".
Volvamos al ejemplo del béisbol. ¿Por qué el big data funciona en este ámbito y no en otros? "El béisbol representa un saludable caso de éxito, y sirve de útil contraste frente a los modelos tóxicos, o WMD, que están apareciendo en muchos ámbitos de nuestras vidas. Los modelos en béisbol son justos, en parte, porque son transparentes. Todo el mundo tiene acceso a las estadísticas y más o menos pueden entender cómo éstas son interpretadas (...). El béisbol tiene también rigor estadístico. Su información es altamente relevante para los resultados que intentan predecir", establece esta experta.
Pero, sobre todo, los modelos matemáticos en este deporte están constantemente alimentándose de nueva información, corrigiendo sus posibles errores y volviéndose más "inteligentes" con el tiempo.
¿EXISTE EL MODELO PREDICTIVO PERFECTO?
O'Neil no lo cree. "Por su propia naturaleza, los modelos matemáticos [independientemente de la complejidad de los algoritmos en los que se basan] son simplificaciones". Por otra parte, "para crear un modelo hacemos elecciones sobre qué es relevante y qué no, simplificando el mundo hasta una versión de juguete que puede ser fácilmente comprendida y de la que pueden inferirse hechos y acciones". En definitiva, "los puntos ciegos de un modelo reflejan los juicios y las prioridades de los creadores".
"Si un modelo funciona o no es también una cuestión de opinión. Después de todo, un componente clave de cada modelo, formal o informal, es su definición de éxito", afirma la autora.
Los WMD "envían a algunas personas a Harvard, alinean a otras para conseguir préstamos baratos o buenos puestos de trabajo, y reducen las penas de cárcel para ciertos criminales afortunados. Pero lo importante no es que beneficien a unos, sino que perjudican a otros (...). Son injustos".
ALGORITMOS se apoderan de la economía digital
Los algoritmos de la economía digital sino, se han convertido en un interrogante ético que zarandea la esencia misma de la condición humana. ¿Cómo culpar a una expresión matemática si se equivoca en una opción de vida o muerte?. “Las computadoras son como los dioses del Antiguo Testamento; muchas reglas y ninguna misericordia”, escribió el mitólogo Joseph Campbell.
Vivimos en la época de la disrupción y la paradoja. WhatsApp, no tiene infraestructuras de telecomunicaciones, pero manda 35.000 millones de mensajes diarios. Uber, la principal empresa de taxis, no posee ningún coche en propiedad, y, sin embargo, emplea algoritmos para conectar a los pasajeros y los vehículos. Mark van Rijmenam, experto en big data de Datafloq, siente algunas amenazas. “Hay una relación directa” —advierte— “entre los algoritmos y el aumento del paro, porque se utilizan para automatizar procesos, ya sea en el trabajo o en las plantas de producción”.
“No existe ninguna razón por la que los algoritmos no beneficien a casi todas las industrias”, reflexiona Steve Prentice, vicepresidente de la consultora Gartner. Principalmente aquellas que manejan grandes volúmenes de datos de multitud de fuentes como las aseguradoras, las firmas de análisis de riesgo, las empresas de selección de personal o las compañías de logística y distribución. En todas, estos patrones numéricos se convertirán “en una poderosa arma competitiva”, apostilla Prentice. Tanto es así que el sistema de recomendación de búsquedas de Amazon ayuda a aumentar sus ingresos hasta en un 15%. Y Google tiene a PageRank, su mítica familia de algoritmos.
Operadores y casas de Bolsa ganan una fortuna con el trading de alta frecuencia, que dispara miles de órdenes de compraventa en centésimas de segundo. En mayo de 2010 un agente de futuros hizo perder más de 900 puntos al índice Dow Jones en solo cinco minutos usando un algoritmo que lanzaba órdenes falsas de venta. Alguien bautizó a este desplome flash crash.. “La revolución del big data ha llegado para quedarse en la industria de la gestión de inversiones. Y continuará extendiéndose en el mercado separando a ganadores y perdedores en función de los que hayan querido asumir el reto”, explica Javier Rodríguez-Alarcón, responsable del Grupo de Estrategias de Inversión Cuantitativa para EMEA de Goldman Sachs Asset Management.
La consultora Gartner cree que en 2018 la mitad de las grandes corporaciones mundiales competirán utilizando algoritmos propietarios y complejas técnicas de análisis. “Por primera vez en la historia generaremos riqueza a coste cero. Esteve Almirall, profesor de Esade indica “Estas compañías están obsesionadas por conseguir usuarios, no beneficios. Pues con millones de clientes ganas dinero en cuanto quieras”. O en cuanto decida el algoritmo.
Wallmart y General Electric han creado espacios propios para almacenar docenas de petabytes diarios. GE planea venderlos a otras compañías. Por eso el negocio reside en tratarlos. “Solo el 10% de los que circulan en el mundo están estructurados. Quien sepa generar algoritmos para comercializar y desarrollar el 90% restante tiene un cañón”, aventura Luis Ferrándiz, socio de Servicios Digitales de KPMG.
“ahora hay más datos para entrenar algoritmos y conseguir que tengan mayor precisión”, aclara Marco Bressan, responsable de BBVA Data & Analytics. Las redes sociales, los sensores, la conectividad… La información es una fuente que mana sin cesar. En Nueva York, la compañía Uber está ensayando un servicio (Uber Pool) de viaje compartido a través de la ciudad. “Y con más eficacia que un taxista. Pues los algoritmos son capaces de aprender en minutos patrones que a un ser humano le llevaría años”, relata Esteban Moro, físico y profesor en el Instituto Tecnológico de Massachusetts (MIT). Este empuje también se beneficiará delauge del Internet de las cosas. En este paisaje “aparecerán modelos de negocio donde su único valor sea la capacidad de aplicar el algoritmo”, prevé Pablo González, socio de Deloitte Digital.
En una sociedad interconectada por la Red, las matemáticas y los datos, el talento continuará siendo un puerto franco. Miguel Vicente es el impulsor de las plataformas Cornerjob, Deliberry, Letsbonus, Glovo y Wallapop. Solo el portal de venta de productos de segundo mano vale más de 900 millones de euros. Y detrás de sus éxitos andan los algoritmos. En la web de empleo Cornerjob se ocupan de enlazar candidatos y empresas; en el súper online Deliberry optimizan los procesos de búsqueda; en el repartidor de comida a domicilio Glovo mejoran los tiempos de entrega y en Wallapop facilitan la navegación. “Son parte esencial de nuestro modelo de negocio. Por eso los desarrollamos nosotros”, cuenta el emprendedor.
La plataforma de empleo Jobandtalent con más de 12 millones de usuarios tiene una expresión matemática que maneja 50 variables y un único objetivo: “Lograr la contratación”, sintetiza José Ramón Pérez, responsable de su algoritmo. En 24 horas casan candidato y empresa. El 80% del éxito de la búsqueda reside en los datos y solo un 20% en la calidad de la secuencia numérica.
Aplázame portal que calcula la capacidad de pago de una persona sin recurrir a la típica información bancaria. Emplea los datos de navegación del usuario. “Busca la simplicidad, no la complicación”, matiza Luis Martín Cabiedes, un reconocido business angel.
Este empeño de dotar de sentido industrial a cálculos casi siempre complejos define la esencia de la economía del algoritmo. Una de cuyas esperanzas es crear un mercado digital donde se puedan alquilar, comprar y vender. Al igual que las tiendas online de aplicaciones para móviles han desarrollado su propio modelo de negocio.
Algorithmia tiene sus oficinas en Seattle (USA) y bajo la estructura de una startup ha sumado en tres años a la plataforma más de 2.200 algoritmos procedentes de 19.000 autores. Allí suben sus fórmulas, que es el resultado de semanas de trabajo o de toda una vida. “Los algoritmos que detectan desnudos, colorean fotos en blanco y negro y aquellos que analizan e interpretan textos son los que mejor funcionan”, resume Diego M. Oppenheimer, CEO de la empresa.
Los algoritmos están controlados por una élite. Solo 320 instituciones en el mundo enseñan a desarrollarlos. Apenas unos cientos de profesionales tan escasos (y caros). Son personas con una profunda formación en matemáticas y una capacidad enorme para analizar un volumen inmenso de datos. “De estos, hay muy pocos. Y Facebook y Google los están contratando a precios impresionantes”, comenta Diego M. Oppenheimer. De partida, 150.000 dólares (135.000 euros) al año. Este fenómeno de arrastre está desmantelando muchos departamentos de ingeniería y computación de grandes universidades. Y en este paisaje de carestía, las compañías buscan soluciones. “Es muy difícil que una empresa tenga el talento necesario para desarrollar los algoritmos que necesitan todas las áreas de negocio”, asume José Luis Sancho, managing director de Accenture Digital. Facebook, Google y Amazon tienen bibliotecas que dan libre acceso a sus códigos. Aunque no a los datos. Ya que esa es la valiosa materia de la que están hechos los sueños de los algoritmos.
Los algoritmos proyectan buenas intenciones. Ayudan al navegador del coche a encontrar una ruta, establecen el orden de despegue y aterrizaje de los aviones o predicen los movimientos de los títulos de Bolsa. Pero a veces semejan cajas negras. La información entra y sale. Nada más. Es difícil saber qué ocurre en su interior y por qué producen ciertos resultados. como están escritos por personas pueden proyectar lo peor de su naturaleza: racismo, homofobia; discriminación. Además estos programadores trabajan sin ningún código ético y nos recuerdan que estos días “la informática es un poco el Salvaje Oeste, cualquiera puede escribir, entregar el código y ya está”, critica Sira Ferradans, una diseñadora de algoritmos.
Kevin Slavin, profesor en el MIT Media Lab, avisa de que estamos “escribiendo un código que no sabemos leer, con unas consecuencias que no podemos controlar”. Un fabricante de ascensores diseñó un algoritmo que predice en qué piso se detendrá. Incluso eliminó los botones. Eran innecesarios. El fallo es que la gente se aterrorizaba al entrar en un elevador sin controles. Nadie quería verse atrapado ahí en una emergencia. Además se sabe que el 60% de las recomendaciones que proponen plataformas de streaming cinematográfico como Netflix (que ha utilizado un algoritmo llamado, reveladoramente, Pragmatic Chaos) están basadas en propuestas de algoritmos a partir de lo que el big data rastrea sobre nuestras vidas. Series como House of Cards ya siguen esa lógica.
“El problema no es el auge de los algoritmos. El problema es que a menudo no los gestionamos bien. Políticos y empresas necesitan entender en profundidad cómo funcionan para manejarlos acertadamente”, precisa Michael Luca, profesor en Harvard Business School. Al igual que los adivinos predicen el futuro, pero son incapaces de explicarlo. Un algoritmo puede leer todos los artículos de un periódico y decidir cuáles serán probablemente los más compartidos en Twitter sin explicar la razón, un algoritmo puede contarte cuáles son los trabajadores más exitosos sin identificar las cualidades más importantes para tener éxito; un algoritmo puede ser, la verdad, miope y solo entender el corto plazo. Estas limitaciones llevan hacia dudas éticas que impactan, por ejemplo, en los vehículos autónomos. ¿En un accidente, quién es el responsable? ¿El conductor, el coche, el programador, el algoritmo? Volvo ha anunciado que la marca se responsabilizará de sus vehículos y el organismo que controla la seguridad de las carreteras estadounidenses (NHTSA) reconocerá al sistema automático de conducción de Google como el “conductor”.
“Necesitamos urgentemente tener más garantías de cómo los algoritmos influyen en nuestras vidas”, comenta Kate Crawford, experta de Microsoft Research, en The New York Times. “Si te adjudican una calificación que pone en peligro tus opciones de conseguir un trabajo, una casa o educación deberías tener el derecho a ver esos datos, saber de dónde proceden y ser capaz de corregir errores”. Estos días la Unión Europea prepara una normativa que permitirá a sus ciudadanos acceder a la información que ha servido para tomar estas decisiones digitales y verificarla.
Los algoritmos son la esencia de la economía digital. Associated Press (AP) los utiliza para escribir 2.000 piezas financieras sencillas al minuto, la firma de capital riesgo Deep Knowledge ha sentado en su consejo de administración a un algoritmo para que decida en la compraventa de participadas, Chef Watson (IBM) crea platos únicos basándose en todos los ingredientes que existen en el planeta y The Bestseller Code identifica al próximo Señor de los anillos. Y en este mundo bello, complejo y desafiante “vamos a tener que entender a los algoritmos como parte de la naturaleza. Pues de alguna forma lo son”, zanja Kevin Slavin. Nos guste o no.
No hay comentarios:
Publicar un comentario