lunes, 27 de febrero de 2017

Riesgos del Gobierno de los ALGORITMOS

La creciente inversión en investigación y desarrollo en Inteligencia Artificial y automatización ha creado dudas y temores sobre el efecto más amplio que tendrán estas tecnologías en el desarrollo económico. Prometen mayor productividad, reducción de costos y eficiencia para todos los productos y servicios, pero podrían provocar también grandes riesgos como desigualdad, desempleo y privacidad, entre otros.

Las dudas acerca de la automatización y una mayor dependencia de la humanidad hacia complejos sistemas computacionales, han aumentado los cuestionamientos sobre cuál es la mejor forma de aprovechar estas nuevas tecnologías en el desarrollo humano.

A partir de un estudio del Pew Research Center (PRC) y otros documentos, al parecer no hay dudas sobre si realmente sucederá o si deberían existir medidas para detenerlo, sino que toda la atención se enfoca en lo que sucederá cuando finalmente lleguemos a ese mundo que aparentemente correrá en “automático”.

Analistas como Aneesh Aneesh de la Universidad de Stanford prevén algoritmos que asuman actividades públicas y privadas en una nueva era de "gobierno algocrático" que suplante "jerarquías burocráticas". Otros, como Shoshana Zuboff de Harvard, describen el surgimiento del "capitalismo de vigilancia" en una "civilización de la información", cita el PRC.

Un reporte reciente de la GSMA pide a los gobiernos acciones concretas para lograr una distribución más uniforme de los beneficios tecnológicos. “Las políticas prospectivas pueden permitir que los ciudadanos, las empresas, las sociedades y los países prosperen, mejorando vidas y medios de subsistencia, mientras que mitigan los posibles efectos adversos que pueden acompañar el cambio económico", dijo John Giusti, jefe de regulación de la GSMA.

Entre los efectos adversos del mayor uso de algoritmos, el PRC identificó entre las respuestas en encuestas que se podría perder el factor humano en la toma de decisiones, al priorizarse algoritmos enfocados en la eficiencia y rentabilidad en gobierno y empresas; también señaló que se ampliaría la brecha de desigualdad entre la población con mayor acceso a herramientas digitales y aquella más rezagada; habría pérdida de empleos, especialmente en trabajos de conducción y de oficina o administrativas.

Sin embargo, también se identifican beneficios, tales como mejor operación de bancos para ofrecer créditos y reducir el riesgo; en salud, los algoritmos permitirían una mejor atención personalizada a los pacientes, a través de nuevas herramientas para monitorear y coordinar su atención; mientras que en gobierno se facilitará la regulación y el monitoreo para asegurarse de que se cumpla la ley.

El estudio completo de PRC se puede consultar aquí.


ANTECEDENTES

ALGORITMOS se apoderan de la economía digital

Los algoritmos de la economía digital sino, se han convertido en un interrogante ético que zarandea la esencia misma de la condición humana. ¿Cómo culpar a una expresión matemática si se equivoca en una opción de vida o muerte?. “Las computadoras son como los dioses del Antiguo Testamento; muchas reglas y ninguna misericordia”, escribió el mitólogo Joseph Campbell.

Vivimos en la época de la disrupción y la paradoja.  WhatsApp, no tiene infraestructuras de telecomunicaciones, pero manda 35.000 millones de mensajes diarios. Uber, la principal empresa de taxis, no posee ningún coche en propiedad, y, sin embargo, emplea algoritmos para conectar a los pasajeros y los vehículos. Mark van Rijmenam, experto en big data de Datafloq, siente algunas amenazas. “Hay una relación directa” —advierte— “entre los algoritmos y el aumento del paro, porque se utilizan para automatizar procesos, ya sea en el trabajo o en las plantas de producción”.

“No existe ninguna razón por la que los algoritmos no beneficien a casi todas las industrias”, reflexiona Steve Prentice, vicepresidente de la consultora Gartner. Principalmente aquellas que manejan grandes volúmenes de datos de multitud de fuentes como las aseguradoras, las firmas de análisis de riesgo, las empresas de selección de personal o las compañías de logística y distribución. En todas, estos patrones numéricos se convertirán “en una poderosa arma competitiva”, apostilla Prentice. Tanto es así que el sistema de recomendación de búsquedas de Amazon ayuda a aumentar sus ingresos hasta en un 15%. Y Google tiene a  PageRank, su mítica familia de algoritmos.

Operadores y casas de Bolsa ganan una fortuna con el trading de alta frecuencia, que dispara miles de órdenes de compraventa en centésimas de segundo. En mayo de 2010 un agente de futuros hizo perder más de 900 puntos al índice Dow Jones en solo cinco minutos usando un algoritmo que lanzaba órdenes falsas de venta. Alguien bautizó a este desplome flash crash.. “La revolución del big data ha llegado para quedarse en la industria de la gestión de inversiones. Y continuará extendiéndose en el mercado separando a ganadores y perdedores en función de los que hayan querido asumir el reto”, explica Javier Rodríguez-Alarcón, responsable del Grupo de Estrategias de Inversión Cuantitativa para EMEA de Goldman Sachs Asset Management.

La consultora Gartner cree que en 2018 la mitad de las grandes corporaciones mundiales competirán utilizando algoritmos propietarios y complejas técnicas de análisis.  “Por primera vez en la historia generaremos riqueza a coste cero. Esteve Almirall, profesor de Esade indica “Estas compañías están obsesionadas por conseguir usuarios, no beneficios. Pues con millones de clientes ganas dinero en cuanto quieras”. O en cuanto decida el algoritmo.

Wallmart y General Electric han creado espacios propios para almacenar docenas de petabytes diarios. GE  planea venderlos a otras compañías. Por eso el negocio reside en tratarlos. “Solo el 10% de los que circulan en el mundo están estructurados. Quien sepa generar algoritmos para comercializar y desarrollar el 90% restante tiene un cañón”, aventura Luis Ferrándiz, socio de Servicios Digitales de KPMG.

“ahora hay más datos para entrenar algoritmos y conseguir que tengan mayor precisión”, aclara Marco Bressan, responsable de BBVA Data & Analytics.  Las redes sociales, los sensores, la conectividad… La información es una fuente que mana sin cesar. En Nueva York, la compañía Uber está ensayando un servicio (Uber Pool) de viaje compartido a través de la ciudad. “Y con más eficacia que un taxista. Pues los algoritmos son capaces de aprender en minutos patrones que a un ser humano le llevaría años”, relata Esteban Moro, físico y profesor en el Instituto Tecnológico de Massachusetts (MIT). Este empuje también se beneficiará delauge del Internet de las cosas. En este paisaje “aparecerán modelos de negocio donde su único valor sea la capacidad de aplicar el algoritmo”, prevé Pablo González, socio de Deloitte Digital.

En una sociedad interconectada por la Red, las matemáticas y los datos, el talento continuará siendo un puerto franco. Miguel Vicente es el impulsor de las plataformas CornerjobDeliberryLetsbonusGlovo y Wallapop. Solo el portal de venta de productos de segundo mano vale más de 900 millones de euros. Y detrás de sus éxitos andan los algoritmos. En la web de empleo Cornerjob se ocupan de enlazar candidatos y empresas; en el súper online Deliberry optimizan los procesos de búsqueda; en el repartidor de comida a domicilio Glovo mejoran los tiempos de entrega y en Wallapop facilitan la navegación. “Son parte esencial de nuestro modelo de negocio. Por eso los desarrollamos nosotros”, cuenta el emprendedor.

La plataforma de empleo Jobandtalent con más de 12 millones de usuarios tiene una expresión matemática que maneja 50 variables y un único objetivo: “Lograr la contratación”, sintetiza José Ramón Pérez, responsable de su algoritmo. En 24 horas casan candidato y empresa.  El 80% del éxito de la búsqueda reside en los datos y solo un 20% en la calidad de la secuencia numérica.

Aplázame portal que calcula la capacidad de pago de una persona sin recurrir a la típica información bancaria. Emplea los datos de navegación del usuario. “Busca la simplicidad, no la complicación”, matiza Luis Martín Cabiedes, un reconocido business angel.

Este empeño de dotar de sentido industrial a cálculos casi siempre complejos define la esencia de la economía del algoritmo. Una de cuyas esperanzas es crear un mercado digital donde se puedan alquilar, comprar y vender. Al igual que las tiendas online de aplicaciones para móviles han desarrollado su propio modelo de negocio.

 Algorithmia tiene sus oficinas en Seattle (USA) y bajo la estructura de una startup ha sumado en tres años a la plataforma más de 2.200 algoritmos procedentes de 19.000 autores. Allí suben sus fórmulas, que es el resultado de semanas de trabajo o de toda una vida. “Los algoritmos que detectan desnudos, colorean fotos en blanco y negro y aquellos que analizan e interpretan textos son los que mejor funcionan”, resume Diego M. Oppenheimer, CEO de la empresa.

Los algoritmos están controlados por una élite. Solo 320 instituciones en el mundo enseñan a desarrollarlos. Apenas unos cientos de profesionales tan escasos (y caros). Son personas con una profunda formación en matemáticas y una capacidad enorme para analizar un volumen inmenso de datos. “De estos, hay muy pocos. Y Facebook y Google los están contratando a precios impresionantes”, comenta Diego M. Oppenheimer. De partida, 150.000 dólares (135.000 euros) al año. Este fenómeno de arrastre está desmantelando muchos departamentos de ingeniería y computación de grandes universidades. Y en este paisaje de carestía, las compañías buscan soluciones. “Es muy difícil que una empresa tenga el talento necesario para desarrollar los algoritmos que necesitan todas las áreas de negocio”, asume José Luis Sancho, managing director de Accenture Digital. Facebook, Google y Amazon tienen bibliotecas que dan libre acceso a sus códigos. Aunque no a los datos. Ya que esa es la valiosa materia de la que están hechos los sueños de los algoritmos.


Los algoritmos proyectan buenas intenciones. Ayudan al navegador del coche a encontrar una ruta, establecen el orden de despegue y aterrizaje de los aviones o predicen los movimientos de los títulos de Bolsa. Pero a veces semejan cajas negras. La información entra y sale. Nada más. Es difícil saber qué ocurre en su interior y por qué producen ciertos resultados. como están escritos por personas pueden proyectar lo peor de su naturaleza: racismo, homofobia; discriminación. Además estos programadores trabajan sin ningún código ético y nos recuerdan que estos días “la informática es un poco el Salvaje Oeste, cualquiera puede escribir, entregar el código y ya está”, critica Sira Ferradans, una diseñadora de algoritmos.

Kevin Slavin, profesor en el MIT Media Lab, avisa de que estamos “escribiendo un código que no sabemos leer, con unas consecuencias que no podemos controlar”.  Un fabricante de ascensores diseñó un algoritmo que predice en qué piso se detendrá. Incluso eliminó los botones. Eran innecesarios. El fallo es que la gente se aterrorizaba al entrar en un elevador sin controles. Nadie quería verse atrapado ahí en una emergencia. Además se sabe que el 60% de las recomendaciones que proponen plataformas de streaming cinematográfico como Netflix (que ha utilizado un algoritmo llamado, reveladoramente, Pragmatic Chaos) están basadas en propuestas de algoritmos a partir de lo que el big data rastrea sobre nuestras vidas. Series como House of Cards ya siguen esa lógica.

“El problema no es el auge de los algoritmos. El problema es que a menudo no los gestionamos bien. Políticos y empresas necesitan entender en profundidad cómo funcionan para manejarlos acertadamente”, precisa Michael Luca, profesor en Harvard Business School. Al igual que los adivinos predicen el futuro, pero son incapaces de explicarlo. Un algoritmo puede leer todos los artículos de un periódico y decidir cuáles serán probablemente los más compartidos en Twitter sin explicar la razón, un algoritmo puede contarte cuáles son los trabajadores más exitosos sin identificar las cualidades más importantes para tener éxito; un algoritmo puede ser, la verdad, miope y solo entender el corto plazo. Estas limitaciones llevan hacia dudas éticas que impactan, por ejemplo, en los vehículos autónomos. ¿En un accidente, quién es el responsable? ¿El conductor, el coche, el programador, el algoritmo? Volvo ha anunciado que la marca se responsabilizará de sus vehículos y el organismo que controla la seguridad de las carreteras estadounidenses (NHTSA) reconocerá al sistema automático de conducción de Google como el “conductor”.

“Necesitamos urgentemente tener más garantías de cómo los algoritmos influyen en nuestras vidas”, comenta Kate Crawford, experta de Microsoft Research, en The New York Times. “Si te adjudican una calificación que pone en peligro tus opciones de conseguir un trabajo, una casa o educación deberías tener el derecho a ver esos datos, saber de dónde proceden y ser capaz de corregir errores”. Estos días la Unión Europea prepara una normativa que permitirá a sus ciudadanos acceder a la información que ha servido para tomar estas decisiones digitales y verificarla.



Los algoritmos son la esencia de la economía digital.  Associated Press (AP) los utiliza para escribir 2.000 piezas financieras sencillas al minuto, la firma de capital riesgo Deep Knowledge ha sentado en su consejo de administración a un algoritmo para que decida en la compraventa de participadas, Chef Watson (IBM) crea platos únicos basándose en todos los ingredientes que existen en el planeta y The Bestseller Code identifica al próximo Señor de los anillos. Y en este mundo bello, complejo y desafiante “vamos a tener que entender a los algoritmos como parte de la naturaleza. Pues de alguna forma lo son”, zanja Kevin Slavin. Nos guste o no.

No hay comentarios:

Publicar un comentario