Por Claudia Martínez, asociada senior del área Corporativa y Comercial y del área de Inversiones Asiáticas en Rodrigo, Elías & Medrano Abogados

¿Has escuchado hablar alguna vez de los algoritmos de recomendación basados en inteligencia artificial?  Estos algoritmos son los mecanismos a través de los cuales las grandes empresas que operan en el ciberespacio recopilan y analizan datos de sus usuarios y una vez que cuenten con dicha información, hacen recomendaciones automáticas basadas en los hábitos o preferencias de cada uno de sus usuarios con el objetivo de dirigir publicidad o determinar qué contenidos se presentan en sus bandejas de correos, en buscadores y/o en sus redes sociales.

Por ejemplo, ¿sabías que, en la compra de boletos aéreos por internet, las aplicaciones proponen diferentes precios para un mismo producto o servicio dependiendo de si la compra se hace desde un modelo de computadora (más nuevo o antiguo), o desde un país distinto o simplemente el precio varía por el grado de fidelidad que ellos consideran que el usuario de sus servicios tiene?  Con todo esto, la pregunta que surge es si actualmente existe algún control o regulación sobre este tipo de prácticas tanto a nivel Perú como a nivel mundial.  La respuesta a esta interrogante es que, hasta ahora no existía ninguna regulación al respecto, y digo no “existía” porque a fines de agosto de este año, China, a través de su organismo de control de Internet – la Administración del Ciberespacio de China (CAC por sus siglas en inglés), publicó las Directrices[1] que buscan regular el uso de sistemas de recomendación algorítmica por parte de los servicios de información de Internet (en adelante las “Directrices”).

La publicación de estas Directrices coloca a China como el primer país que busca regular de una manera completa los sistemas de recomendación algorítmica, y si bien aún falta mucho camino por recorrer para conseguir que estas Directrices se apliquen de una manera efectiva y adecuada, este primer paso tomado por China y los aspectos positivos de lo desarrollado en ellas pueden servir como modelo a seguir para otras naciones que estén considerando una legislación similar.  Ese sería el caso de la Unión Europea que ya había presentado algunos proyectos de ley e incluso su Reglamento General de Protección de Datos (GDPR) brinda a los usuarios el derecho de contar con una explicación a sus usuarios cuando estos interactúan con sistemas algorítmicos, sin embargo, como ya mencioné, hasta ahora no se había presentado nada concreto en materia de regulación de algoritmos de recomendación como si lo ha hecho China.

A fin de tener una idea sobre lo que China ha desarrollado a través de sus Directrices, en este artículo vamos a comentar brevemente los aspectos tanto positivos como negativos que esta propuesta china presenta, pues si bien hay muchos expertos que consideran que las Directrices proporcionan un marco para la regulación de los algoritmos de recomendación y llenan el vacío que actualmente existe en las regulaciones a nivel mundial, otros expertos consideran que las Directrices son parte de un sistema integral del gobierno de China para controlar lo que considera prácticas comerciales inescrupulosas y ejercer más control sobre el manejo de la información que se pueda obtener a través de los algoritmos de recomendación.

Como primer punto debemos mencionar que las Directrices se aplican a los «filtros de búsqueda» y a los «algoritmos de recomendación personalizados» utilizados en los algoritmos de alimentación de redes sociales como por ejemplo Weibo o Wechat, en los servicios de contenido como Tencent Music, Youku, Tudou (streaming), y en tiendas en línea de comercio electrónico como Alibaba, Taobao, JD, T-mal, entre otras. Asimismo, las Directrices regulan los algoritmos de «despacho y toma de decisiones», como los que utilizan las plataformas de trabajo en directo (como los servicios de transporte y entrega) y los algoritmos «generativos o de tipo sintético» que se utilizan para la generación de contenido en entornos de juegos virtuales, reuniones virtuales.

Las Directrices presentan un plan de tres años mediante el cual los reguladores chinos han incluido varias disposiciones aplicables a las empresas mencionadas en el párrafo anterior que reflejan principios ampliamente respaldados en materia de responsabilidad algorítmica.  En ese sentido, las principales disposiciones que las Directrices incluyen y que deben ser aplicadas por dichas empresas son:

  • Brindar a los usuarios mayor transparencia sobre cómo operan sus algoritmos de recomendación, incluida toda información sobre cuándo se utilizan los sistemas de recomendación de una empresa y los «principios, intenciones y mecanismos de operación» básicos de cada sistema.
  • Permitir que se monitoree y audite sus algoritmos, incluidos los modelos, los datos de capacitación y los resultados de forma regular.
  • Contar con un proceso de registro y establecimiento de un equipo técnico para evaluar los mecanismos y riesgos de algún algoritmo.
  • Dar a los usuarios la opción de desactivar las recomendaciones algorítmicas u optar por no recibir recomendaciones basadas en sus perfiles.
  • Permitir que los usuarios determinen si la empresa puede utilizar sus datos para desarrollar y operar sistemas de recomendación. Más aún, si un usuario cree que el algoritmo de recomendación de una plataforma ha tenido un impacto negativo en sus derechos, puede solicitar que la plataforma proporcione una explicación de su decisión al usuario. En estos casos, el usuario también puede exigir que la empresa realice mejoras en el algoritmo.

Como segundo punto tenemos que si bien estas directrices contienen algunas disposiciones que son positivas, como las mencionadas en el párrafo anterior, también incluye componentes que significan cierto riesgo a los ciudadanos chinos pues ampliarían el control del gobierno chino sobre cómo las plataformas diseñan sus algoritmos. Me explico: las Directrices establecen que las empresas que implementan algoritmos de recomendación deben cumplir con un “código comercial ético”, que requiere que las empresas deban defender los valores socialistas fundamentales y promover la “energía positiva”, creando una cultura «saludable» en el contenido que proporcionan a los usuarios. Por lo tanto, este “código comercial ético” que las empresas deben cumplir podría usarse para influir sobre los valores y métricas que pueden priorizar y, así ayudar al gobierno a censurar la información que no esté de acuerdo con los valores propuestos por este.  Por ejemplo, las plataformas que implementan algoritmos que pueden influir en la opinión pública o movilizar a los ciudadanos deberán obtener la aprobación previa de la CAC antes de ser utilizadas. Más aún, cuando una plataforma identifica contenido ilegal e «indeseable» basados en los valores que promueve el “código comercial ético”, deberá eliminarlo de inmediato, detener la amplificación algorítmica del contenido e informar al CAC.

Todas estas medidas van alineadas a la “Great Firewall China”, pues mediante esta el gobierno chino ejerce el control sobre el ecosistema online en China promoviendo la vigilancia y la censura al acceso de contenidos y/o sitios web que se consideran antitéticos o contrarios al interés del gobierno chino y sus valores. Por lo que, las Directrices serían parte integrante de los esfuerzos del gobierno para afirmar un mayor control, esta vez a través de los algoritmos de recomendación.  Solo por citar un ejemplo respecto del control que ejerce el gobierno en el ecosistema online en China, en los últimos meses, se ha restringido rigurosamente el tiempo de videojuegos online para jugadores menores de 18 años, se ha prohibido las clasificaciones de ídolos pop y se ha criticado a las personalidades masculinas online por parecer demasiado afeminadas.

Por otro lado, las Directrices presentan un segundo problema, que es no haber tomado en cuenta el dinamismo de los algoritmos de recomendación, pues varias disposiciones de las Directrices exigen que las empresas cuenten con resultados específicos. Un algoritmo de recomendación realiza una optimización multiobjetivo basada en una gran cantidad de puntos de datos de entrada, incluidos perfiles de usuario basados ​​en factores demográficos y de comportamiento, así como perfiles de contenido que capturan varios atributos del contenido que se recomienda. Una vez se cuenta con estos datos de entrada, estos pasan a un ciclo de retroalimentación continuo donde el algoritmo recibe retroalimentación sobre qué tan bien funcionaron las recomendaciones particulares. Es decir, los algoritmos de recomendación son inherentemente dinámicos.  Al respecto, el artículo 9 de las Directrices exige que los servicios de recomendación algorítmica cuenten con bases de datos de características completas. Asimismo, según el artículo 20, los requisitos de cumplimiento incluyen la presentación de un informe de autoevaluación del algoritmo y detalles sobre el contenido que se pretende publicar, lo cual, como mencionamos, no es viable.

En líneas generales, las Directrices lo que buscan es regular el poder que tienen los algoritmos sobre las decisiones que tomen los usuarios chinos que ante la falta de una regulación permite que se pueda caer en problemas de adicción a ciertas plataformas, exposición a contenidos nocivos o a sufrir perjuicios económicos por la discriminación en precios ofrecidos por los mismos bienes o productos. Y si bien es plausible que China haya ya abordado estos temas, considero que hay que hacer un estudio más analítico a fin de que, tal y como sucede con la protección de datos, estas normas puedan ser ejecutables y se pueda contar con una normativa que proteja los intereses del usuario final.


Referencias 

[1] http://www.cac.gov.cn/2021-08/27/c_1631652502874117.htm

DEJA UNA RESPUESTA

Por favor ingrese su comentario!
Por favor ingrese su nombre aquí