Por Cathy O'Neil
Al parecer, al Presidente Donald Trump no le gustan las noticias que ve sobre sí mismo en Google, Facebook y Twitter. Así que les acusa de estar amañados contra él –y contra los conservadores en general–.
Absurda como pueda parecer la acusación de Trump, los gigantes de la tecnología se la tienen merecido.
Probablemente, Trump esté equivocado acerca de que los guardianes de internet estén suprimiendo opiniones conservadoras e historias positivas sobre él. Si acaso, los “me gusta” de Twitter han amplificado su voz. Pero está en lo cierto al preocuparse por los sesgos: definitivamente existen, son un problema, y las compañías tecnológicas no están siquiera cerca de ser lo suficientemente comunicativas al respecto.
Las compañías seguramente estén siendo sinceras cuando dicen que no están políticamente sesgadas. El origen de su sesgo es estrictamente comercial. Cuando ayudan a los anunciantes y a otros a explotar las debilidades de la gente y sus instintos más básicos, optimizan el beneficio, no una ideología particular. Pero incluso si la motivación política es neutral, el resultado puede no serlo. Puede privilegiar conspiraciones à la Alex Jones, animar a los anti-vacunas o propagar discurso de odio dirigido a conseguir que la gente mate a musulmanes rohingya en Burma.
Los sesgos podrían ser manejables si las compañías fueran capaces de aceptar responsabilidades. Hasta ahora no lo han sido. Despachan las preocupaciones fuera de control, así que no hay verdadera vigilancia. Cuando los sesgos son descubiertos, como frecuentemente ocurre, las compañías encuentran soluciones ad hoc, y hacen todo lo posible para fingir que carecen de importancia. Eso los convierte en objetivos perfectos para las reivindicaciones escandalosas que ha hecho Trump.
El peligro es evidente por como la extrema derecha ha cooptado el mensaje de mi último libro, en el que advertí sobre los sesgos ocultos en los algoritmos que afectan todo, desde los ascensos de profesores hasta sentencias de cárcel. Mi prescripción consistió en aumentar la posibilidad de rendición de cuentas de los creadores de los algoritmos. Esbocé algunas de las formas en las que se podría conseguir, incluyendo regulación federal. (Notificación: tengo una empresa que ofrece servicios de auditoría algorítmica).
En su reseña del libro, subtitulado “Cómo los algoritmos gobiernan secretamente el mundo”, la web de extrema derecha Breitbart se centró por entero en la primera parte: cómo algoritmos privadamente poseídos y secretos nos alimentan con información sesgada. En otras palabras, seleccionó precisamente los elementos que más socavarían la confianza en cualquier tipo de verdad objetiva –la cual creo que es la misión de Breitbart–.
Si las grandes compañías tecnológicas siguen evitando la responsabilidad, jugarán justo a favor de la agenda de Breitbart. Los sesgos seguirán apareciendo, y la gente asumirá que nada es real o confiable a menos que lo experimenten directamente. Si eso suena ridículo, nótese que incluso el audio y el vídeo falso pueden ser ya totalmente convincentes –un hecho que Trump ya está usando para sugerir que sus afirmaciones autoincriminatorias en televisión en directo fueron, de algún modo, “retocadas”–.
Los defensores de las compañías afirmarán que el sesgo siempre ha estado con nosotros. Eso es cierto, pero en el pasado teníamos editores y otros intermediarios a los que responsabilizar. Ahora tenemos ordenadores, controlados por personas a quienes hemos otorgado demasiado poder. Necesitan reinventar sus modelos de negocio con un claro énfasis en sus normas de conducta y de rendición de cuentas, por su propio bien pero también por el del país.
Cathy O'Neil: Es matemática y ha trabajado como profesora, analista de fondos de inversión y científica de datos. Es la fundadora de ORCAA, una empresa de auditoría de algoritmos y es la autora de “Armas de destrucción matemática” (Capitán Swing, 2018)
Fuente: http://www.bloomberg.com/view/articles/2018-09-04/in-a-way-trump-is-right-about-google-s-bias
Traducción: Iovana Nadir.p
No hay comentarios:
Publicar un comentario