La Comisión de Derechos Digitales del Senado y sus iniciativas de regulación de tecnologías e inteligencia artificial.

May 17, 2024

Por: Elizabeth Avendaño

Si bien es cierto que ante los avances tecnológicos actuales es indispensable la implementación de procesos de regulación por parte de los Estados, debemos acercarnos a las propuestas que se realizan en ese sentido con una mirada crítica y de derechos humanos, ya que, desafortunadamente, la manera en que se ha abordado la regulación de tecnologías, suele venir acompañada de planteamientos ambiguos que podrían poner en riesgo la información y las dinámicas de las personas en Internet. 

Frente al avance tecnológico, el Estado mexicano ha planteado diferentes propuestas con la intención de regular las tecnologías, entre ellas la creación de la Comisión de Derechos Digitales del Senado de la República, conformada el 10 de noviembre de 2023, cuyo objetivo es, según el canal del congreso, “estudiar, regular y aprovechar plataformas tecnológicas en búsqueda de la inclusión digital universal”, así como trazar rutas en el contexto legislativo que permitan crear políticas públicas que contribuyan al uso seguro de la tecnología. 

La agenda de dicha comisión contempla seis grandes rubros: Ciberseguridad, Neuroderechos, Protección de datos personales, Derecho a la identidad, El uso y aplicaciones de las tecnologías y Regulación de plataformas tecnológicas.

Sin embargo, dado que la sobrerregulación de tecnología podría habilitar a los Estados la posibilidad de vigilar la disidencia y el activismo que se realiza a través de medios digitales, cobra relevancia observar las iniciativas y discursos que emerjan de dicha Comisión.

Iniciativa: Violencia digital sexual en las Leyes 

El 14 de Febrero del presente año, la diputada Ruth Alejandra López Hernández de Movimiento Ciudadano, y presidenta de la Comisión de Derechos Digitales, presentó una iniciativa que pretende reformar y agregar algunas disposiciones a la Ley General de Acceso de las Mujeres a una Vida Libre de Violencia y al Código Penal Federal, en materia de violencia digital sexual. Esta iniciativa busca:

  • Modificar la Ley General de Acceso de las Mujeres a una Vida Libre de Violencia para:
  1. Definir los medios de falsificación digital
  1. Incluir como parte de la violencia digital el uso de tecnología basada en inteligencia artificial y procesamiento digital para crear y alterar contenido audiovisual, imágenes, videos, sonidos, textos y noticias virtuales que aparentan ser verídicas pero cuyo contenido es falso.
  • Incluir en el apartado/sección de violencia digital de la  Ley General de Acceso de las Mujeres a una Vida Libre de Violencia, el uso de medios de falsificación digital, para generar contenido íntimo sexual de una persona sin su consentimiento explícito.
  • También pretende adicionar al Código Penal Federal lo relativo al delito de violencia digital sexual para declarar que: “Comete el delito de violencia digital sexual aquella persona que,  mediante el uso de tecnologías de la información y la comunicación, incluyendo el uso de medios de falsificación digita genere, exponga, distribuya, difunda, exhiba, transmita, comercialice, oferte, intercambie o comparta imágenes, audios o videos reales o simulados, de contenido íntimo sexual de una persona, sin su consentimiento explícito, sin su aprobación o sin su autorización expresa. Estas conductas se sancionarán con una pena de tres a seis años de prisión y una multa de quinientas a mil Unidades de Medida y Actualización”.

Es cierto que una iniciativa como ésta cobra relevancia en un contexto donde la violencia digital ha ido en aumento (por ejemplo, la Ciudad de México donde se incrementó un 45% según el Consejo Ciudadano), pero también se hace crucial revisar con cautela, ya que en ocasiones anteriores el poder legislativo ha pretendido regular las plataformas tecnológicas a través de reformas ambiguas, como su intento de instaurar la Ley de Ciberseguridad, que al analizar a profundidad, es posible observar la perspectiva de censura, vigilancia y punitivismo que contiene.

Tomando en cuenta lo anterior, resulta necesario mirar de forma crítica a esta Comisión y las iniciativas y reformas que emergen de ella. Por eso vale la pena tomar en cuenta que:

  • Las comisiones necesitan asesorarse sobre los temas que pretender abordar en sus agendas, la vinculación o consultorías con organizaciones de la sociedad civil o institutos expertos en digitalidad y derechos humanos.
  • Estas comisiones necesitan partir del reconocimiento del estado actual de los derechos digitales en México.
  • No debe incitar a la censura, el temor, el prohibicionismo o ambigüedades en sus iniciativas y evitar provocar incertidumbres en torno a la digitalidad en las personas usuarias.
  • No debe crear mecanismos de espionaje disfrazados de ciberseguridad.

Si bien la iniciativa mencionada, según su justificación, pretende proteger a las mujeres del mal uso de las tecnologías (como la IA) resulta necesario recordar que “más leyes no significa más justicia” y tampoco más prevención. En este sentido, algunos puntos sobre esta reforma que no deberíamos perder de vista son:

  • El abordaje legislativo más allá de priorizar el punitivismo debe poner al centro de sus iniciativas los derechos humanos de grupos vulnerables basándose en el consentimiento, privacidad, equidad, agencia y promover un entorno digital más seguro.
  • Nombrar la respectiva responsabilidad que las empresas desarrolladoras de tecnología (incluyendo a las plataformas de redes sociales) tienen en la construcción de espacios digitales seguros y exigir su cooperación con las autoridades para identificar daños, agresores y medidas de respuesta.
  • En lugar de promover la creación de nuevos delitos, se necesita priorizar, capacitar y sensibilizar a autoridades para una mejor interpretación legal, donde se contemplen las repercusiones offline (en los espacios físicos) de los comportamientos online  (en los espacios digitales).
  • Es necesario que la legislación y los procedimientos de acceso a la justicia sean claros para las víctimas y contemplen una perspectiva de reparación del daño.
  • Realizar acuerdos expeditos y disponibles en español, considerando que la mayor parte de documentación sobre tecnología se genera en inglés,  entre autoridades y plataformas para garantizar el acceso a la justicia penal o cualquier otra.
  • El lenguaje que se utiliza debe ser crítico sin promover estigmas o alarmar a las personas usuarias. Por ejemplo, nombrar como “medios de falsificación” a las herramientas tecnológicas como la IA puede llegar a ser tendencioso y sugestivo.

De ser necesario un abordaje punitivo, éste debe plantearse de forma responsable y nombrar consigo la garantía de un adecuado acceso a la justicia, políticas públicas y mecanismos de prevención.

Es necesario pensar y construir iniciativas desde la prevención, no desde la censura, la sobrerregulación punitiva y posturas prohibicionistas alimentadas de miedo. Lo digital es real, por ello, debemos estar muy alertas sobre las propuestas que busquen regular el espacio digital.

Gifer

Posts relacionados