La Tecnología y la Inteligencia Artificial en el banquillo de los acusados
En los últimos años han comparecido ante el congreso de Estados Unidos los diferentes CEOS de las empresas de inteligencia artificial o tecnológicas más influyentes a nivel global. En el 2020, Mark Zuckerberg, Sundar Pichai, Tim Cook y Jeff Bezos, consejeros delegados de Facebook, Apple, Amazon y Alphabet respectivamente, se presentaron para responder preguntas de los congresistas.
El objetivo, o tal vez pretexto, fue responder preguntas de la investigación del congreso sobre las prácticas monopolísticas e influencia en el panorama político, económico y cultural de las empresas que estos representan. Lógicamente los mencionados rechazaron los cuestionamientos de manera categórica, derivando una serie de argumentos efímeros sobre la dura competencia que enfrentan y cómo sus innovaciones sirven a millones de usuarios. Hasta el protector de la invasión tecnológica china se vistió con el estandarte Mark Zuckerberg.
Las preguntas de los congresistas giraron alrededor de la competencia desleal que estas empresas ejercen sobre compañías más pequeñas y el beneficio de las reglas que ellos mismos se imponen, como Apple en la App Store. Pasaron luego sobre los datos recopilados de los usuarios y su utilización para posicionar sus productos y el precio de estos, y acabaron cuestionando a cada uno sobre su poderío específico, como Amazon por su cadena logística o a Zuckerberg por su amenaza y poderío sobre otras redes sociales; Tim Cook se escudó bajo el “no liderazgo” de Apple en ninguno de los sectores en los que compite y Sundar Pichai defendió el argumento de que, a pesar de tener el 90% de las búsquedas Google, no es un monopolio ya que existen otras opciones.
En otro escenario, hace unos meses apareció el CEO de TikTok, Shou Chew. Su comparecencia fue muy esperada por la guerra desatada por el sector político del país en contra de la utilización de la aplicación por ser empresa extranjera y bajo la narrativa de la guerra sucia con China, así los congresistas fueron combativos desde el inicio apelando a una prohibición total. A pesar de que desde su apertura Chew quiso alejarse de la influencia y nexos con el gobierno chino, las preguntas y el enfrentamiento fueron incómodos para él. ¿Espía Tiktok a los americanos? Pero sin poder dar una respuesta que le era cortada, al CEO de la red social le pedían que contestara con un simple sí o no.
Shou no podía ni respirar, otro congresista le preguntó si Tiktok accedía a otros dispositivos de la red de la casa cuando se conectaba con el usuario, a lo que el líder de la red social dijo que las prácticas estándar eran las mismas que las empresas tecnológicas estadounidenses. Luego se pasó al uso de la cámara para detectar y almacenar los datos biométricos de los usuarios para finalmente llegar al codiciado grial, el uso de esos datos, en donde el investigado recordó el caso de Cambridge Analítica y Facebook.
En otro de los escenarios que se han dado el mes pasado compareció el CEO, nuevo miembro de este selecto grupo, Sam Altman, de OPENAI, empresa creadora del famoso ChatGPT. A diferencia de Shou Chew, por jugar en casa y porque la influencia y temor al ChatGPT impone respeto y desconocimiento, llegó con una actitud totalmente diferente. Sabiéndose local, Altman desde un inicio mencionó que estamos ante algo totalmente nuevo y desconocido en esta revolución de la inteligencia artificial y que, por lo mismo, hay cosas que pueden salir mal, pero que se tienen que hacer; por lo que pidió un marco regulatorio para las empresas del sector, lo que —lógico — puso a los congresistas en un punto totalmente diferente y con una cordialidad de la que los anteriores hubiesen añorado un poco.
Las comparecencias de todos estos personajes tienen diferencias, dependiendo del producto o servicio, pero tienen más semejanzas, que son en las que se busca centrar este análisis. En algunas descripciones sobre lo sucedido en dichas sesiones hubo analistas que las compararon con las de las tabacaleras en los 90; es decir, esto que está pasando —más allá de la influencia de estas empresas sobre nosotros y de la irrupción de la inteligencia artificial— no es algo nuevo. En determinados momentos y épocas, hay empresas que adquieren un rol e influencia predominante que, al igual que ahora, aborda lo económico, lo político y/o lo cultural; díganse las ferrocarrileras, las automotrices, las tabacaleras, los medios de comunicación etc. Cada una de estas empresas, en determinado momento, han sido tan influyentes como lo son hoy en día las empresas tecnológicas en cuestión.
En cada uno de estos y otros escenarios que se dieron los congresistas sólo pueden ver lo que les interesa, es decir, la influencia que estas empresas pueden tener en lo político y la opinión de las personas, de ahí que muchas de sus preguntas acabaran como dentro de una trama de las películas que abordaban el tema de la guerra fría. Estos mismos congresistas denotaron un entendimiento muy vago del funcionamiento técnico del tema en cuestión ¿Cuántos saben lo que son los algoritmos, los protocolos para el manejo de datos de las redes sociales o qué tanto el dispositivo puede recopilar de información? Principal activo de muchas de estas empresas. Los cuestionamientos siempre eran abordados de una manera insuficiente y desde un matiz político, nunca desde el verdadero interés del cuidado de los ciudadanos.
Pero el punto central es más preocupante, la presunción de una conciencia que puede discernir sobre lo bueno y lo malo en esos entes que llamamos organizaciones, (conocidos como empresas), y que en estas comparecencias queda de manifiesto que las consideramos o ponemos en el mismo orden que una persona, esperando esa capacidad de discernimiento sobre el bien y el mal. En algunas de las preguntas el enfoque de los que cuestionaban era como si la organización X fuese una persona con virtudes y defectos, pero que puede discernir sobre el bien y el mal.
En el documental “La corporación”, del 2003, Noam Chomsky y otros especialistas del tema nos muestran el análisis de la personalidad del ente que llamamos organización o corporación. Nos llevan por el hilo argumentativo para demostrarnos la incapacidad de las organizaciones para apreciar la seguridad de los demás, incapacidad de sentirse culpables y de ajustarse a las normas sociales y cumplimento de las leyes, es decir, algo así como un psicópata si fueran una persona.
Es como si de verdad creyésemos que una organización que tiene un producto nocivo para la salud de las personas lo va a dejar de vender porque hizo conciencia sobre los daños que puede causar. Si fuera de esta manera, ¿por qué el caso de las tabacaleras en los noventa, el dieselgate en el sector automotriz, las sanciones a los bancos por posibilitar el lavado de dinero, el caso de las refresqueras y la repercusión de la comercialización de sus productos, etc? Casos de organizaciones pagando sanciones, multas, o penas por un exceso son casi tan inmenso como el número de organizaciones que hay.
Una organización, partiendo de una definición común, es “un sistema de actividades conscientemente coordinadas formado por dos o más personas; la cooperación entre ellas es esencial para la existencia de la organización. Una organización sólo existe cuando hay personas capaces de comunicarse y que están dispuestas a actuar conjuntamente para lograr un objetivo común”. Es decir, están diseñadas y originadas para eso, para el logro de un objetivo común que ponen de manifiesto en su misión, y que ahora que se habla de “responsabilidad social” pensamos que podrían poner en riesgo su conciencia moral, ética y preocupación por el otro.
Estas organizaciones son solo eso, algo para lograr un objetivo, y para eso harán lo que sea, poniendo en riesgo cualquier cosa. Mientras pensemos que lo van a hacer estamos en un profundo problema, porque esas organizaciones no van a cambiar o a salvarnos de problemas anteriores; y cuando todo lo posibilitamos aún más, es decir, cuando volvemos la educación, la salud o el bienestar social una organización, estamos todavía resaltando más el problema.
Cualquier organización que esté ante una disyuntiva que, por un lado, beneficie a su competencia y ponga en riesgo su cuota de mercado, contra una opción que la deje con una ventaja sobre las demás, siempre —y creo que esta regla no tendrá excepciones— siempre escogerá la segunda opción. Además, porque siempre será incapaz de abordar algo que esté fuera de su objeto de negocio. Si Altman desarrolla opciones del chat para un fin específico o Amazon quiere viajar al espacio no es buscando el bienestar de la humanidad, sino una oportunidad de negocio; en lenguaje de administración, una ventaja competitiva.
Y aquí entra en juego la abstracción que recoge o que tienen de fondo las organizaciones, es decir, el libre mercado, esta idea de que a medida que tengamos un problema este sea resuelto por la innovación de las organizaciones, que verán de manera ética la comercialización del producto o servicio que deje de lado la cuestión.
Hay algo que es más peligroso que la inteligencia artificial: pensar que esas organizaciones personificadas serán capaces de regularse a sí mismas para generar el bienestar esperado; es como una esperanza bíblica de que alguien se quite el pan de la boca para dárselo al otro. Esas organizaciones, y está en su esencia, comerán primero, comerán después y comerán cada vez que puedan. Para eso fueron creadas.
