Algoritmos ¿Humanos?

El otro día, por error, entré al perfil de mi hija en una plataforma de streaming. Lógico, el contenido presentado era todo acorde a sus preferencias y/o toma de decisiones en cuanto a qué programas ver. Tiene 11 años. De vuelta a mi perfil, cuando el contenido y sus categorías me fueron familiares, todo regresó a la normalidad, pero también surgieron las preguntas.

¿Quién toma de la decisión del contenido que se nos presenta como opción, así como su orden o las portadas en las carátulas de las películas? Y aquí es en donde entran los algoritmos. Pero, ¿Qué son? En una definición técnica, los algoritmos operan como una serie de pasos para el logro de un objetivo cualquiera, la resolución de un problema o una toma de decisiones. Estos pasos deben ser precisos y sin ningún tipo de ambigüedad, así como constantes en su resultado. En el caso del contenido que se nos presenta dentro de la plataforma de streaming, tal vez no se nos presente el asunto tan complicado o problemático más allá de que se nos pase la publicación de algún contenido de nuestra preferencia o que otro pueda agradarnos o no.

Pero, ¿Qué tal si pasamos el escenario a una red social?, por ejemplo, Facebook. El algoritmo en cuestión decidirá el orden de las publicaciones que se te muestran con base en el contenido visto con anterioridad y a tus datos de perfil, descartará o hará pasar desapercibidas aquellas publicaciones con las que no se ha interactuado en tiempo pasado, además de sugerirte nuevas amistades con base en los datos que el algoritmo tenga de ti. En este caso, como lo que se presenta es más personal, ahora sí nos parece un problema o incluso lo vemos invasivo, ya que solo te sugerirá gente con un perfil en extremo parecido. ¿Pero qué si estamos en tiempo de elecciones o de pandemia? Esa información que antes pudiera ser de ocio tiene ahora otros intereses y niveles de jerarquía, que para el algoritmo son ajenos, entonces seguirá juzgando y tomando decisiones bajo el mismo parámetro y cambiará si se modifica su diseño y su intencionalidad.

Los algoritmos operan sin un marco referencial, perciben el acto o la acción, no sus diferentes perspectivas. Dentro de este lenguaje, eso, un acto o acción es reducido a una variable captada, almacenada y trabajada por el algoritmo, pero carente de sentido. Una expresión con lenguaje misógino o racista será tomada sin importar el contexto o sentido de la expresión, mucho menos el marco referencial de quien lo dijo. Es decir, tomará la misma decisión ante un discurso en el que X busque agredir, que ante un discurso dentro de un marco académico o ante una protesta por los derechos de un grupo minoritario; la expresión será reducida a lo mismo. Esto lo podemos apreciar cuando un canal de YouTube prohíbe un contenido por alguna expresión en el título, sin tomar en cuenta que está dentro de la exposición de un académico, y que el término académico tiene un sentido tal vez diferente. De igual manera sería imposible que el algoritmo distinga dentro de un marco cultural o un contexto de emergencia y o violencia. Imaginemos un conflicto armado, el algoritmo tomará decisiones sin importar su origen, mucho menos abordado desde un punto ético o de derechos humanos.

Pero aún bajo este panorama, el horizonte de utilización de los algoritmos va en aumento. En algunos países el presupuesto para el trabajo social es presionado por dos variantes, lógicamente la de los recursos y la de casos fallidos en donde el factor humano ha dejado detalles que terminan en un menor agredido, abusado o incluso muerto. Derivado de esto, la búsqueda por la ayuda y automatización por medio de algoritmos ya se aplica para la toma de decisiones de intervención. Imaginemos un caso X: la función de un trabajador social analizará las relaciones personales dentro de la dinámica familiar, dicha dinámica tendrá que ser analizada desde su pasado, presente y futuro, desde un entorno dinámico, cambiante y simbólico. El profesional deberá diagnosticar situaciones ambiguas y sus componentes subjetivos para poder tomar la mejor decisión que incluye retirarlo de la tutela de sus padres. Pero, ¿qué hará el algoritmo? Lo que está dentro de sus posibilidades: tomar una decisión sin un marco referencial profundo que permita tener rapidez en la toma de decisiones. El algoritmo será incapaz de tener en cuenta todos los detalles mencionados, basando la decisión en datos que se pueden estandarizar, como el número de incidentes, la gravedad, si hubo denuncia, etc.  Será incapaz de discernir o apreciar si en una ocasión el acto fue detonado por X factor, y si el mismo acto subsecuente, con el mismo resultado, fue detonado por otro tipo de factor o conducta.

Así como el campo del trabajo social, los algoritmos se insertan en diferentes campos y ámbitos: en el aprendizaje, salud, políticas públicas, etc. ¿Son buenos? ¿Son malos? Como ya he mencionado antes en otros artículos la tecnología no es ni buena ni mala, estar a favor de su utilización indiscriminada o satanizarlos por ese lado obscuro del que salen innumerables películas es no pensarlos. Pensarlos auténticamente sería preguntarnos por sus limitaciones, por su diseño, por su alcance, por su esquema o forma de regularlos, en fin, por tantas cuestiones que están detrás de su funcionamiento y que generalmente pasamos de largo.  

“Allí donde está el peligro, crece también lo que salva” Hölderlin.

El peligro de las preguntas planteadas no está en buscarles respuesta, humano es intentarlo, está en que pasan de noche, caminando silenciosamente y avanzando en los estrechos rincones de nuestra vida, tomando decisiones que nosotros debemos tomar. Pero al carecer de objetivos carecemos de ruta, por lo tanto no sabemos si llegaremos, mucho menos también si estamos a salvo.