Al menos no en la primera etapa de selección.

Las firmas que tienen que lidiar con complejos procesos de selección han delegado esa labor a sistemas de inteligencia artificial que escanean tu currículum y deciden si quedas eliminado o sigues en el proceso.

Son software de contratación predictiva que aplican ciertos criterios predeterminados de manera automática, según las características del puesto de trabajo.

Estas herramientas conocidas como ATS (Applicant Tracking System) funcionan sobre la base de palabras clave que define cada compañía de acuerdo al perfil del candidato que buscan y otros mecanismos de descarte.

Aunque hay diferentes tipos de ATS, en general operan de manera bastante similar.

“Buscan una mayor eficiencia en el procesamiento de datos”, le dice a BBC Mundo Hong Qu, director de investigación y académico de la Universidad de Stanford.

Estos sistemas les permiten a las firmas ahorrar tiempo y dinero.

Pero también les pueden jugar en contra cuando el algoritmo, por sus limitaciones, decide eliminar a buenos candidatos o cuando desarrolla sesgos basados en la repetición de patrones, agrega Qu.

Estos son algunos consejos para ganar a los algoritmos.

1-Usar palabras clave

Los algoritmos buscan palabras clave relacionadas con categorías como habilidades, experiencia, resultados o educación, y las ponderan de acuerdo con los requisitos del empleo.

Pero, según los parámetros que le haya entregado la empresa, puede incluir otros filtros más específicos.

Para utilizar las palabras clave, el primer paso es comparar tu currículum con la descripción de la oferta laboral.

De hecho, puedes repetir términos y expresiones contenidas en dicha oferta, adaptándolas a tu perfil.

A fin de cuentas, el algoritmo va a escanear en busca de aquellos atributos.

“Cuando incluyas palabras clave en tu currículum, trata de usar siempre el mismo lenguaje que se menciona en la descripción del trabajo”, escribió Liz Guarneros, asesora laboral en LinkedIn.

También aconseja utilizar estas palabras en el contexto adecuado y no rellenar espacios con ellas solo para que las identifique la máquina.

“Si bien esto puede ayudarte a superar el filtro inicial y sus algoritmos, no funcionará a tu favor cuando llegues a un reclutador”, apunta.

2-Incluir logros con resultados cuantificables

“Es muy importante ser específico”, dice el profesor Ku.

Por ejemplo, nombrar los programas computacionales que manejas, en vez de escribir que tienes “experiencia en análisis de datos”, sin dar detalles.

Los expertos aconsejan enfocarse en logros a través de ejemplos concretos, evitando una simple enumeración de responsabilidades.

En vez de decir: “Responsable de la supervisión de la estrategia de ventas. Las ventas aumentaron significativamente”, es mejor decir: “Dirigí un equipo de 10 personas encargado de supervisar la estrategia de ventas. Las ventas aumentaron un 20% en seis meses”.

Para que tu currículum tenga un mayor impacto frente a los algoritmos, es preciso indagar qué está buscando la compañía y cómo habitualmente mide los resultados.

“Investiga cómo esa empresa mide el éxito. Averigua cuáles son las métricas de éxito“, señala Ku.

No todas las firmas evalúan de la misma manera el desempeño laboral.

• 6 pasos para escribir un buen currículum (y cuál es el error más común que comete la gente)

En ese sentido, la investigación previa es clave. Tienes que decirle al algoritmo lo que “quiere escuchar”.

Otro elemento importante, agrega, es que incluyas en el currículum algo que te distinga del resto.

Imagina qué cosas tendrán en común quienes están postulando al empleo y luego piensa qué elemento diferenciador puedes ofrecer.

3-Utiliza un formato simple

Muchas personas fallan en el reclutamiento por algo muy simple: la legibilidad de su currículum.

Para que el algoritmo no te elimine, es esencial que el formato de tu currículum sea simple y “descifrable” por el sistema.

En algunos sistemas ATS los currículums en formato PDF no funcionan.

Evita usar cualquier formato complicado. Cuanto más simple, mejor. Es decir, suele ser recomendable utilizar el formato Word.

Evita escribir tu currículum en dos columnas. Usa el formato estándar para que la máquina lea todo de corrido.

No incluyas fotos, gráficos o tablas. Deja de lado cualquier estilo creativo o muy sofisticado. Aunque te parezca aburrido, opta por un formato minimalista, sin distracciones, fácil de leer.

Utiliza títulos convencionales para dividir la información. Elige la manera tradicional, como por ejemplo, “Experiencia Laboral” o “Educación”.

Y siempre escribe la experiencia laboral en orden cronológico inverso.

Talento perdido

El estudio de la Escuela de Negocios de la Universidad de Harvard “Trabajadores ocultos: talento sin utilizar”, publicado en septiembre, señala que los algoritmos dejan fuera del proceso de reclutamiento a millones de trabajadores, algunos de los cuales podrían ser adecuados.

Por ejemplo, hay casos de hospitales en EE.UU. donde un algoritmo buscó que el postulante tuviese la habilidad de hacer “programación computacional”, cuando en realidad, la descripción del trabajo requería que el profesional ingresara los datos de un paciente en el computador.

O también está el caso de un software que buscaba experiencia en “atención al cliente”, cuando la empresa requería reparadores de líneas de transmisión eléctrica.

Otros inconvenientes detectados por la investigación apuntan a que los algoritmos rechazan o dan una baja puntuación a las personas que tienen espacios en blanco o lagunas en su experiencia laboral.

El problema es que a veces se debe a un embarazo o al cambio de casa de una ciudad a otra. Son circunstancias extraordinarias que la máquina solo interpretará como un “vacío”.

Debido a problemas como éstos, hay desarrolladores de software que han estado buscando maneras de mejorar los algoritmos.

Incluso algunas empresas del sector tecnológico han eliminado el requisito de tener un título profesional para algunos puestos si el candidato cumple con el perfil que se busca.

El sesgo de los algoritmos

Desde otra perspectiva, los softwares pueden estar menos sesgados que los evaluadores humanos porque pueden programarse para ignorar características como la edad, el sexo y la raza.

Pero también puede ocurrir al revés.

“La inteligencia artificial también funciona con sesgos porque los algoritmos están entrenados para trabajar según patrones de éxito que se repiten en el tiempo”, explica Hong Qu.

“Los algoritmos amplifican los patrones del pasado y en ese proceso pueden discriminar por raza, género o edad“, explica el creador de AI Blindspot, un sistema que ayuda a los desarrolladores de software a reconocer sesgos que pueden afectar la toma de decisiones.

Por ejemplo, si en el pasado el 90% de los seleccionados para un empleo fueron de raza blanca, agrega, el algoritmo repetirá ese patrón por la manera en que funciona el aprendizaje de las máquinas.

O el algoritmo puede aprender por sí mismo a dar prioridad a candidatos que asistieron a las mismas universidades.

Pese a esas dificultades, los sistemas de inteligencia artificial siguen desarrollándose velozmente para ajustarse cada vez más a lo que buscan las empresas.

Lo que aconsejan los expertos es que, aunque los procesos sean largos y extenuantes, no hay que rendirse.

Y hay que tener en cuenta que si no has logrado pasar el primer filtro de selección, eso no implica que no seas un buen candidato.

Quizás con unos buenos ajustes a tu currículum, se abran nuevas posibilidades.

Como muchos otros corredores modernos, el antiguo miembro del equipo nacional francés usa la tecnología como elemento clave para batir sus récords.

De hecho, los dispositivos son tan esenciales para el corredor como las zapatillas que calza.

Como él, pocos salen a trotar hoy día sin un cuentapasos, un reloj con GPS, un smartphone o un smartwatch.

Los wearables —la también llamada “tecnología ponible” o “vestible”— no pierden dato de la distancia recorrida, el ritmo, la frecuencia cardíaca y la cadencia (la cantidad de pasos por minuto), para ayudarte a garantizar que aprovechas la sesión de running al máximo.

• La controvertida tecnología detrás de las zapatillas Nike Vaporfly para correr maratones

“Soy científico además de corredor, así que cuando quiero datos, quiero que sean fiables“, le cuenta Adam a la BBC.

¿Qué pueden medir los algoritmos cuando corres?

Los parámetros varían en función de la morfología del corredor y de la carrera, pero en términos generales serían:

• La frecuencia cardíaca
• La cadencia (la cifra “mágica” son 180 pasos por minuto)
• La longitud de la zancada
• El tiempo de contacto con el suelo
• La oscilación vertical
• La relación vertical (similar al ángulo de zancada)
• La rotación de la pelvis
• La potencia
• El tipo de pisada
• El ángulo y la velocidad de pronación
• La fuerza de impacto
• Las zonas de presión de la pisada

Fuente: Sport.es

Lamentablemente, dice él, muchos dispositivos no recaban los datos con precisión.

Un estudio del grupo de consumidores Which? sugirió que muchos medidores de actividad deportiva subestiman la distancia cubierta por los corredores añadiendo kilómetros de manera innecesaria a carreras de larga distancia.

“Puedes obtener datos con un reloj GPS controlándote pero no sabes cómo se hizo el algoritmo o cuán preciso es”, explica. “Si quieres analizar los datos, necesitas disponer de ellos”.

En un intento de gestionar mejor sus entrenamientos, Adam está probando ahora un dispositivo que emergió de investigación médica.

GaitUp es un sensor que fue desarrollado por Benoit Mariani, quien tienen un doctorado en Tecnología de la Información y un máster en microingeniería, en base a su trabajo en la detección de signos tempranos de enfermedades degenerativas como el Parkinson.

Señales sutiles

Estas señales físicas, dice Mariani, se manifiestan de manera muy sutil mucho antes de que las pruebas convencionales puedan detectarlos.

“Si tienes una debilidad muscular o un trastorno neurológico, se reflejarán primero en tu paso [en tu forma de caminar]“, dice él.

• ¿Qué dice de tu personalidad tu forma de caminar?

“Esas señales han pasado desapercibidas porque no ha habido una herramienta fácil para medirlas”.

Los cambios en la forma en que la gente camina pueden ser tan reveladores como otros marcadores reconocidos de salud corporal, como la frecuencia cardíaca, la presión sanguínea, la temperatura corporal, la frecuencia respiratoria y la saturación de oxígeno.

“El paso es nuestra sexta señal vital”, le cuenta a la BBC.

El sensor desarrollado por el equipo de ingeniería de Mariani va más allá de contar los pasos.

Puede captar los ángulos de zancada en la parte delantera y trasera del pie, además del tiempo que cada pie pasa en contacto con el suelo.

“Nos interesa la calidad del paso”, agrega el especialista.

No es el único a quien le interesa. Muchos investigadores quieren recabar mejor información cómo corren los atletas de élite, dice el científico deportivo Yannis Pitsiladis, de la Universidad de Brighton, en Reino Unido.

Él forma parte el proyecto de investigación Sub2Hrs, que tiene por objetivo desarrollar métodos de entrenamiento y otras técnicas que ayuden a los corredores a establecer el récord mundial de maratones en menos de dos horas.

El 12 de octubre de este año, el corredor keniata Eliud Kipchoge rompió ese récord, pero la ayuda que recibió de un equipo de marcapasos rotativos y un vehículo eléctrico hizo que no fuera reconocido de manera oficial.

• Las razones por las que el increíble récord de menos de dos horas en una maratón de Kipchoge no será reconocido de forma oficial

“Asimetrías y peculiaridades”

“Para romper la barrera de menos de dos horas hay que hacerlo todo bien”, le dice Pitsiladis a la BBC.

“Hay que identificar al atleta adecuado, las condiciones climáticas adecuadas, la vía adecuada y también se necesita bioenergética“, explica.

Será clave asegurarte de que en cada paso gastas la menor cantidad de energía posible.

“Cuanta más energía ahorres, aguantarás mejor la carrera”, dice.

“Sea como sea que ahorres la energía (con las zapatillas, los datos, o por el terreno sobre el que corres), y aunque solo sea un 1, 2 o 3%, tendrá un gran impacto en tu rendimiento”.

Kipchoge necesitó una mejora de menos del 0,5% para lograr su récord en el maratón.

Mejorando el 1% o más se podría romper esa barrera.

“Yo diría que aún no hemos obtenido lo mejor de atletas como él“, opina Pitsiladis. “No hay mucha ciencia en su entrenamiento y muchos entrenan por su cuenta”.

El margen de mejora es amplio. Los sensores son ahora tan pequeños que podemos llevarlos mientras corremos sin que sean un estorbo.

Hasta ahora, la mayoría de los análisis sobre el paso y el rendimiento se hicieron en cintas de correr o después de eventos deportivos.

Pero de esa manera no se capta realmente lo que les sucede a los atletas durante una carrera, sostiene Pitsiladis.

Por ejemplo, las cintas de correr pueden exagerar la manera en la que el pie se despliega en cada paso y generan una sensación falsa de cómo se mueve el corredor.

Analizar el rendimiento de un corredor después de la prueba es útil, pero lo sería más si se mediera durante la carrera.

Adam usó Gait Up para prepararse para la maratón de Nueva York y le ayudó a convertirse en el francés que en menos tiempo terminó esa carrera, con una marca de 2 horas y 26 minutos.

La entrenadora Sam Murphy cuestiona si la información proporcionada por sensores como GaitUp es demasiado general.

“¿Qué vas a hacer realmente con saber que tu pie izquierdo rota más que tu derecho?”, se pregunta. “¿O que tu ángulo de zancada es demasiado plano?”.

Muchos deportistas de élite como Haile Gebrselassie o Paula Radcliffe tienen “asimetrías” y “peculiaridades”, dice ella, lo cual sugiere que el cuerpo puede encontrar soluciones a desventajas que la fisiología o la formación le pueden haber impuesto.

También, dice ella, puesto que los corredores suelen dar 10.000 zancadas por hora, alterar cada una de ellas para hacerla perfecta parece algo difícil de hacer.

Pero reconoce que tener “un mayor conocimiento” sobre cómo corre la gente es indudablemente útil.

Redacción

BBC News Mundo

Pero esta aventura no salió como esperaba.

En 2014 la compañía de comercio electrónico puso en marcha un sistema algorítmicocon el que esperaba optimizar recursos y ahorrar tiempo y mano de obra, además de encontrar un sistema neutral para contratar personal.

Pero Amazon tuvo que despedir a su nuevo reclutador porque el algoritmo resultó ser sexista, de acuerdo con una investigación elaborada por Reuters*.

• 5 algoritmos que ya están tomando decisiones sobre tu vida y que quizás tú no sabías

El sistema recibió información sobre solicitantes de empleo en Amazon durante un periodo de 10 años, y fue entrenado para observar patrones.

Y la mayoría de ellos eran hombres, lo cual pudo resultar en el sesgo que afectó a su toma de decisiones.

Cinco miembros del equipo que trabajaron en el desarrollo de esta herramienta le contaron a Reuters que el algoritmo “se enseñó a sí mismo que los candidatos masculinos eran una preferencia”.

Según el informe de Reuters, esta tecnología funcionaba revisando solicitudes de empleo y dándoles a los candidatos un puntaje de una a cinco estrellas.

“Querían crear una máquina que recibiera 100 currículos y seleccionara los cinco mejores, para después nosotros contratarlos”, explicó uno de los ingenieros, que prefirió no revelar su identidad.

Amazon todavía no ha respondido a las acusaciones.

• El sexismo de la inteligencia artificial: ¿por qué Alexa, Cortana y la gran mayoría de asistentes virtuales son femeninas?

Mujeres “penalizadas”

En 2015, quedó claro que el sistema tenía un sesgo machista a la hora de seleccionar a los solicitantes, sobre todo a quienes aspiraban a puestos técnicos típicamente asignados a hombres, como desarrollador de software.

Entonces, comenzó a penalizar a los currículos que incluían la palabra “mujer”.

• “Siempre me preguntan por el hombre experto. Me da rabia”: Barbarita Lara, la primera chilena en la lista de innovadores sub-35 del MIT

El programa fue revisado para intentar erradicar el sesgo, pero Amazon ya no podía seguir confiando en él.

Finalmente, el proyecto fue abandonado, aunque Amazon nunca llegó a sacar a la luz información sobre este proyecto fallido.

Pero, de acuerdo con el informe de Reuters, el algoritmo fue usado durante algún tiempo por los reclutadores de personal de la compañía, quienes tenían en cuenta sus recomendaciones para sus decisiones (aunque no se regían únicamente por ellas).

• ¿Por qué “vivimos colonizados” por algoritmos y cómo la élite tecnológica se aprovecha de ello?

60/40

Amazon dice que su fuerza laboral global cumple la proporción de 60/40, a favor de los hombres. Ese ratio es el mínimo que marca la Ley de Igualdad en muchos países.

Y la compañía fue nombrada en el último análisis de la red social para contactos profesionales LinkedIn “la mejor empresa del mundo para trabajar” por su retención de talento, solicitudes del empleo y el grado de interés que despierta.

Cerca del 55% de los directores de recursos humanos en Estados Unidos dicen que la inteligencia artificial jugará un papel crucial en la contratación de personal en los próximos cinco años, de acuerdo con una entrevista elaborada por la firma de software CareerBuilder.

Algoritmos discriminadores

Esta no es la primera vez que hay dudas sobre cuán confiables son los algoritmos y cómo los datos que analizan pueden resultar en decisiones sesgadas.

En junio, un experimento del MIT, el Instituto Tecnológico de Massachusetts, EE.UU., reveló que es posible entrenar a un algoritmo para convertirlo en psicópata y que interprete la realidad de cierta manera.

• Así funciona “la mente” de Norman, el algoritmo psicópata del MIT que solo ve lo más tenebroso de la red

Y en mayo del año pasado un informe sugirió que alguno programas computacionales generados por inteligencia artificial usados por un tribunal en Estados Unidos discriminaban a las personas de raza negra.

En algunos algoritmos de vigilancia predictiva también se observó el mismo sesgo: como los datos mostraban que los negros eran arrestados más veces, el sistema tomó esa pauta como norma.

*Puedes leer la investigación original de Reuters (en inglés) aquí. (La BBC no se hace responsable del contenido de páginas externas).

Redacción

BBC News Mundo

El diccionario de la Real Academia Española lo define como “un conjunto ordenado y finito de operaciones que permite hallar la solución de un problema”.

Pero en la sociedad contemporánea, los algoritmos han adquirido un rol cada vez más central, haciendo que algunos los definan como una suerte de mano invisible que toma decisiones por nosotros.

• 5 algoritmos que ya están tomando decisiones sobre tu vida y que quizás tú no sabías

“Todo lo que la gente hace y ve en la web es producto de algoritmos”, explican en un informe expertos del centro independiente de investigación Pew Research Center, con sede en Washington, Estados Unidos.

En otras palabras, son el mecanismo oculto responsable de lo que vemos en el muro Facebook, las sugerencias que nos muestra Netflix o los resultados que aparecen cuando introducimos una palabra en el buscador de Google.

Y, a veces, pueden incluso ser los responsables de que seamos seleccionados o rechazados para un trabajo, recibamos un préstamo o incluso se caiga la bolsa de Wall Street.

• Cómo funcionan y cómo pueden afectarte los algoritmos que seleccionan candidatos de trabajo

Falta de transparencia

Por todas esas razones cada vez preocupa más que los algoritmos usados por los gigantes tecnológicos no sean siempre justos en las decisiones que toman. Y los errores en los sistemas de reconocimiento facial son un ejemplo de ello.

Pero además, a menudo los algoritmos operan dentro de lo que se conoce como “cajas negras”, lo que significa que ni siquiera sus dueños pueden ver cómo están tomando esas decisiones.

Por eso algunas compañías tecnológicas, como IBM, están buscando soluciones a ese problema.

El gigante estadounidense acaba de presentar un nuevo servicio de software que “detecta automáticamente los sesgos (de los algoritmos) y proporciona la explicación sobre las decisiones que toma la inteligencia artificial”, se lee en un comunicado publicado este miércoles.

La idea es que con el Fairness 360 Kit sus clientes puedan observar en tiempo real -a través de un panel visual- cómo los algoritmos toman decisiones y qué factores usan para hacer recomendaciones al final del proceso.

• El convincente debate entre una poderosa computadora de IBM y varios humanos

“Estamos facilitando a las empresas que utilizan la inteligencia artificial una mayor transparencia y control paraafrontar el riesgo potencial de una toma de decisiones errónea”, explicó Beth Smith, directora general de Watson AI, el sistema de inteligencia artificial de IBM.

Microsoft es otra de las compañías que está trabajando en el tema.

La multinacional anunció en mayo, durante su conferencia anual de desarrolladores, que está trabajando en una herramienta para detectar sesgos en sus algoritmos.

“Por supuesto, no podemos esperar la perfección, siempre habrá algún sesgo no detectado o que no se puede eliminar, el objetivo es hacer todo lo que podamos”, dijo Rich Caruna, un investigador senior de la compañía.

Facebook, perjudicada tras el escándalo de Cambridge Analytica en abril, también declaró que está probando una herramienta para determinar si su algoritmo genera errores.

Y lo mismo se aplica a Google, que la semana pasada lanzó un sistema para explicar a sus usuarios cómo funcionan sus modelos de aprendizaje automático.

Pero, ¿cómo llegamos a este punto?

Un problema de diversidad

La dependencia en aprendizaje automático y los algoritmos ha hecho que el problema de los sesgos sea cada vez más importante para la comunidad vinculada a iniciativas de Inteligencia Artificial.

“Y parte del problema es que las bases de datos empleadas para ‘entrenar’ a los algoritmos no siempre es lo suficientemente diversa“, explica la reportera de tecnología de la BBC Zoe Kleinman.

Joy Buolamwini, por ejemplo, fundó la Liga de la Justicia Algorítmica mientras cursaba estudios de postgrado en el MIT en 2016, luego de descubrir que un sistema de reconocimiento facial solo notaba su rostro si lo cubría con una máscara blanca.

Y un año antes Google tuvo que disculparse cuando su algoritmo de clasificación de fotos confundió imágenes de personas negras con gorilas.

• Google pide perdón por confundir a una pareja negra con gorilas

Por eso hay un debate creciente sobre la ética de la inteligencia artificial, dice Kay Firth-Butterfield, quien encabeza el programa de inteligencia artificial y aprendizaje automático en el Foro Económico Mundial.

“Como abogada, algunas de las preguntas sobre cómo averiguamos qué hizo que un algoritmo funcionara mal me parecen muy interesantes”, declaró Firth-Butterfield en una entrevista reciente con el canal de televisión estadounidense CNBC.

“Cuando hablamos sobre sesgos, nos preocupa sobre todo la visión de quienes crearon los algoritmos, y son sobre todo hombres jóvenes y blancos, por eso necesitamos hacer que la industria sea mucho más diversa en Occidente”, añadió.

Necesidad de protección

Esos sesgos también pueden afectar a decisiones como el seguro médico, la escolaridad o el registro criminal, a medida que las decisiones gubernamentales se vuelven más automatizadas.

Y por eso AI Now -un instituto de investigación que estudia las implicaciones sociales de la inteligencia artificial- sostiene en un reporte reciente que es vital que las agencias gubernamentales dejen de usar algoritmos “de caja negra”.

“Los ciudadanos deberían saber cómo se toman las decisiones”, dijo Kate Crawford, exinvestigadora en Microsoft y fundadora de AI Now.

“Son sistemas complejos, y se espera que sean todavía más complejos a medida que las tecnologías de aprendizaje automático se hacen más accesibles para las empresas”, reconoció.

Pero es precisamente por eso que “deberíamos tener procesos de protección equivalentes para decisiones algorítmicas que para decisiones humanas”, sostiene la fundadora de AI Now.

¿Qué papel desempeñan?

Estos programas informáticos, que toman decisiones de forma autónoma, ocupan un lugar esencial pero invisible en la red, influyendo así en la vida diaria de sus usuarios.

Su habilidad para filtrar y establecer conexiones entre una masa gigantesca de datos los dota de una inteligencia artificial que les permite realizar todo tipo de operaciones, como calcular de forma personalizada el costo de un seguro o establecer un diagnóstico médico.

LEA:Programa de Facebook contra las “fake news” en Brasil irrita a la ultraderecha

En los motores de búsqueda, los medios y las redes sociales, los algoritmos clasifican las informaciones, gestionan el hilo de actualidad, por ejemplo, de Facebook, censuran contenidos indeseables (racismo, pornografía, violencia…), recomiendan videos y artículos, etc.

 ¿Una visión parcial del mundo?

“Los algoritmos nos pueden guiar a través de la masa de información disponible en internet”, señaló el mes pasado Margrethe Vestager, comisaria europea de Competencia. Pero “el riesgo es que sólo veamos lo que estos programas -y las empresas que los utilizan- eligen mostrarnos”, resumió.

Al reorganizar los contenidos en línea, los algoritmos crean “burbujas de filtros” homogéneas, donde las opiniones divergentes desaparecen.

Un ejemplo, durante las elecciones estadounidenses de 2016, Facebook fue acusada de favorecer la candidatura de Donald Trump permitiendo que circularan informaciones falsas, a menudo antiClinton, y encerrando a los partidarios del republicano en un universo donde todos pensaban igual.

Los algoritmos también tienden a hacer “más visibles que nunca” las opiniones extremas, según Lorena Jaume-Palasi, fundadora de la ONG Algorithm Watch. No obstante, sus efectos en la opinión de los lectores son difíciles de medir. Por ejemplo -explica- no se puede atribuir únicamente a los algoritmos el auge de los nacionalismos en Europa.

¿Propagación de noticias falsas?

Los algoritmos de las redes sociales tienen como misión principal hacer circular los contenidos más populares, independientemente de su veracidad. Por lo tanto contribuyen a difundir las noticias falsas.

Principalmente en YouTube, miles de videos que defienden tesis complotistas son mucho más “recomendados” por los usuarios que los contenidos verificados, según Guillaume Chaslot, un exingeniero de la plataforma. Así, los videos que reivindican que el hombre nunca pisó la Luna o niegan el cambio climático captan más la atención de los algoritmos y por ello se difunden durante más tiempo, en detrimento de los medios tradicionales.

¿Algoritmos más éticos?

Pero los algoritmos también pueden ser reprogramados “al servicio de la libertad humana”, según algunos observadores.

Las ONG reclaman ante todo más transparencia.

“Coca-cola no revela su fórmula pero los efectos de sus productos en la salud son examinados”, ilustra Jaume-Palasi, pidiendo una mayor regulación.

Una comisión francesa recomendó en 2017 un mayor control estatal de los algoritmos, pero también una verdadera educación de los usuarios para que comprendan su funcionamiento.

El nuevo reglamento europeo sobre protección de datos permite impugnar la decisión de un algoritmo y “obtener una intervención humana” en caso de conflicto.

Las grandes plataformas de la web también empezaron a tomar medidas: Facebook se esfuerza por detectar y etiquetar automáticamente las noticias dudosas, mientras que YouTube reforzó el control humano de los videos para niño difundidos.

Pero algunos “arrepentidos” de Silicon Valley, reunidos en la ONG Center for Humane Technology, subrayan que no es de esperar que el cambio venga de las empresas que se basan en la “economía de la atención”, como YouTube, Facebook, Snapchat, y Twitter, puesto que “va en contra de su modelo económico”.

]]> 201427