El decreto sobre contenidos violentos plantea nuevas obligaciones para las plataformas

El decreto sobre contenidos violentos podría presentarse la próxima semana; falta definir sus límites.

La presidenta Claudia Sheinbaum anunció el 2 de octubre la creación de un grupo de trabajo para preparar una medida que obligue a las plataformas digitales a detectar, reportar y retirar publicaciones que inciten directamente a la violencia. El Gobierno espera tener una propuesta la próxima semana. Todavía no se ha publicado el texto ni se conocen sus mecanismos de aplicación.

El grupo interinstitucional preparará reglas para las plataformas

El equipo será coordinado por la Consejería Jurídica e incluirá a la Secretaría de Seguridad y Protección Ciudadana, la Secretaría de Educación Pública, la Agencia de Transformación Digital y el Centro Nacional de Inteligencia. También participarán instituciones académicas y especialistas, según lo informado en la conferencia presidencial. El Gobierno plantea que las plataformas respondan ante contenidos vinculados con violencia, abuso o acoso.

La medida fue anunciada un día después del ataque en una secundaria de Torreón, que dejó una persona muerta y cuatro heridas. Ese hecho precipitó la declaración, pero la iniciativa regula una cuestión más amplia: qué deben hacer las empresas cuando detectan mensajes o interacciones que puedan incitar a actos violentos. La propuesta también contempla coordinar reportes con autoridades y fortalecer medidas de prevención en escuelas.

La presidenta dijo que el objetivo es exigir que las plataformas dejen de difundir o promover ese tipo de publicaciones y que reporten ciertos casos. El secretario de Seguridad, Omar García Harfuch, añadió que se busca mejorar la detección temprana de amenazas. Entre las medidas mencionadas están buzones confidenciales en escuelas, orientación para estudiantes y mayor participación de madres, padres y cuidadores.

El decreto aún no aclara qué contenidos deberán retirarse

El decreto sobre contenidos violentos no tiene un texto público que permita conocer el alcance exacto de la obligación. No se ha definido cómo se distinguirá una amenaza concreta de una noticia sobre violencia, una conversación crítica o una obra artística que represente una agresión. Tampoco se conocen los plazos de respuesta, el procedimiento para impugnar una retirada ni las garantías para evitar errores de moderación.

Sheinbaum afirmó que las medidas deben proteger a niñas, niños y adolescentes sin convertirse en censura. Ese equilibrio dependerá de criterios claros y de quién tenga autoridad para determinar que una publicación incita directamente a la violencia. Una plataforma puede equivocarse al retirar contenido; también puede tardar demasiado en actuar ante una amenaza real. Sin mecanismos de revisión y transparencia, será difícil medir si la política protege a las personas o restringe expresiones legítimas.

La administración ya había abierto un debate sobre el uso de redes sociales por menores de edad y había convocado foros regionales para elaborar una propuesta dirigida al Congreso. El anuncio actual incorpora una vía más inmediata, centrada en las obligaciones de las empresas ante contenidos violentos. Son procesos relacionados, pero no idénticos: uno se presentó como discusión amplia sobre el acceso y uso de plataformas; el nuevo plantea detección, reporte y retiro de publicaciones.

La prevención requiere controles verificables y derecho de revisión

La discusión no termina en pedir a las empresas que eliminen material. También tendrá que precisar qué datos compartirían con las autoridades, cómo se protegerían las comunicaciones privadas y qué revisión tendría una persona cuyo contenido fuera retirado por error. El propio Gobierno señaló que quiere dialogar con las plataformas, pero no se conocen aún los términos de ese intercambio.

El decreto sobre contenidos violentos puede abrir una discusión legítima sobre la responsabilidad de las plataformas cuando amplifican amenazas o llamados a agredir. Para que la respuesta sea evaluable, el Gobierno tendrá que publicar criterios, cifras de reportes, tiempos de actuación y mecanismos de apelación. Sin esos elementos, no será posible saber cuántas publicaciones retiró cada empresa, cuántas decisiones se revisaron o si la medida redujo riesgos concretos.

La propuesta tampoco sustituye la investigación penal ni la atención directa a estudiantes. El grupo anunciado incluyó medidas de acompañamiento y detección en los planteles, que serán esenciales para no tratar la moderación digital como única solución. La eficacia dependerá de que las escuelas tengan recursos, personal capacitado y canales confidenciales que permitan alertar sin exponer a quienes piden ayuda.

Pensando en México

El decreto sobre contenidos violentos afecta a usuarios, familias, escuelas y empresas digitales en todo el país. La protección de menores y la libertad de expresión tendrán que quedar delimitadas en el texto, no solo en las declaraciones públicas. ¿Qué garantías debería incluir una norma de este tipo para retirar amenazas sin censurar conversaciones legítimas?

Fuentes: Reuters, La Jornada, El Economista, Presidencia de México