Por: Mtro. Rodolfo Guerrero Martínez (México)
Director de ética en IA y en asuntos internacionales en EIA. Socio ENATIC (España) y vocal de LegalTech e Innovación LATAM en la Comisión Joven. CEO de Coffee Law SC (México). Titular de la Comisión de Legaltech INCAM Occidente. Profesor de Aspectos legales de criptomonedas y criptoactivos, así como de Finanzas tecnológicas en la Universidad Panamericana, Campus Guadalajara.
En el umbral de una era definida por la ubicuidad de los algoritmos y la interconexión permanente, la seguridad ya no puede concebirse exclusivamente desde la integridad física de los cuerpos. La transformación digital ha redefinido la competitividad y la seguridad económica, pero simultáneamente ha inaugurado dimensiones autónomas de opresión motivadas por desequilibrios de poder y misoginia.
En consecuencia, nos encontramos ante el imperativo de delimitar lo que hoy constituye la nueva frontera en la salvaguarda de los derechos humanos: la prevención integral de la violencia digital.
I. EL ENTRAMADO NORMATIVO EN MÉXICO: HACIA UNA GOBERNANZA SISTÉMICA
Para comprender este fenómeno, es preciso partir de una definición técnica y jurídica robusta. De acuerdo con la Ley General de Acceso de las Mujeres a una Vida Libre de Violencia, la violencia digital se define como:
"Toda acción dolosa realizada mediante el uso de tecnologías de la información y la comunicación, por la que se exponga, distribuya, difunda, exhiba, transmita, comercialice, oferte, intercambie o comparta imágenes, audios o videos reales o simulados de contenido íntimo sexual de una persona sin su consentimiento".
Bajo esta premisa, el Estado mexicano ha articulado una respuesta institucional de largo aliento por medio de la Estrategia Nacional de Seguridad Pública 2024-2030, la cual se erige sobre cuatro ejes rectores que buscan transitar de un modelo reactivo a uno preventivo y profesionalizado basado en evidencia.
Empero, es imperativo destacar el Eje 3, centrado en el fortalecimiento de la inteligencia e investigación, que contempla el uso de recursos tecnológicos para el mapeo de dinámicas criminales y el seguimiento puntual de ciberdelitos.
Por añadidura, el Poder Legislativo ha dado pasos trascendentales para cerrar la brecha entre la norma y el pragmatismo tecnológico, iniciando con la ratificación del Acuerdo que crea la Comisión Ordinaria de Ciberseguridad realizo por el Senado de la República, el 21 de octubre de 2025. Dicho un órgano especializado se encargará del análisis, dictamen y seguimiento de asuntos relacionados con la protección cibernética y la prevención de ciberdelitos.
Además, este esfuerzo se complementa con la Iniciativa de Ley de Ciberseguridad (Ley General para la Coordinación de la Ciberseguridad), la cual busca establecer un marco jurídico de coordinación entre la Federación, las entidades federativas y los municipios para garantizar la resiliencia y la soberanía digital del Estado.
II. INTELIGENCIA ARTIFICIAL: RIESGOS DE FRONTERA Y RESPONSABILIDAD CORPORATIVA
La emergencia de la inteligencia artificial (IA) generativa ha desplazado los límites del riesgo. Documentos técnicos como el xAI Frontier Artificial Intelligence Framework (FAIF) subrayan que el desarrollo de modelos avanzados, como Grok, conlleva peligros significativos de uso malintencionado y pérdida de control.
De esta forma, el marco de xAI identifica que las capacidades de doble uso de la IA pueden automatizar la compilación de conocimientos para facilitar la violencia a gran escala si no se implementan salvaguardas redundantes.
Sin embargo, la praxis ha revelado fisuras críticas en estos marcos de seguridad, en ese sentido, investigaciones recientes de Genevieve Oh entre el 5 y el 6 de enero de 2026 documento que el chatbot Grok fue instrumentalizado para generar imágenes sexualizadas de menores y mujeres sin consentimiento, aproximadamente 6,700 imágenes por hora clasificadas como sexualmente sugestivas o de nudificación.
Por consiguiente, esta cifra es alarmante al compararla con los otros cinco sitios principales de este tipo de contenido (MrDeepfakes, FanTopia, 4chan, Discord, Telegram), los cuales promediaron únicamente 79 imágenes de este género por hora en el mismo periodo, así también evidencio lo que la propia empresa calificó como lapsos en las salvaguardas.
Este caso es paradigmático porque demuestra que la seguridad desde el diseño no puede ser una simple declaración de intenciones, sino un sistema auditable de moderación preventiva y protocolos de consentimiento. Humane Intelligence (2025) sostiene que, si bien la violencia de género facilitada por la tecnología comparte las raíces estructurales de la violencia tradicional, el ecosistema digital introduce disparidades problemáticas en cuanto a la escala, la celeridad y la profundidad del impacto de las agresiones.
Bajo este nuevo paradigma, la inteligencia artificial generativa ha reducido drásticamente los obstáculos técnicos para la producción de contenidos nocivos, permitiendo que la violencia se multiplique masivamente y se propague con una velocidad que dificulta su contención antes de que el daño sea irreversible.
III. LA INFLUENCIA DEL MARCO ANGLO-SAJÓN ENTRE EL DEBER DE CUIDADO Y RETIRADA DE CONTENIDO
En el ámbito internacional, la legislación estadounidense ha marcado precedentes que influyen directamente en la doctrina de la justicia digital, tal como el Take It Down Act de 2025 que representa un avance disruptivo al tipificar como delito la publicación intencional de representaciones visuales íntimas no consensuadas (NCII), incluyendo las falsificaciones digitales o deepfakes creadas mediante IA.
Este acto impone a las plataformas la obligación de establecer procesos de notificación y retirada que deben ejecutarse en un plazo máximo de 48 horas tras recibir una solicitud válida.
De manera simultánea, el proyecto de ley S.1748, conocido como el Kids Online Safety Act (KOSA), introduce un concepto jurídico fundamental: el deber de cuidado (Duty of Care). Esta norma exige que las plataformas ejerzan un cuidado razonable en el diseño de sus funciones para prevenir y mitigar daños a menores, tales como la explotación sexual, el acoso en línea y la violencia física.
Ahora bien, la relevancia de la S.1748 radica en que desplaza la responsabilidad de la vigilancia desde los padres hacia los desarrolladores de la tecnología, prohibiendo explícitamente el uso de patrones oscuros que subvierten la autonomía del usuario.
IV. HACIA UNA PREVENCIÓN CENTRADA EN LAS PERSONAS Y EN LA DEBIDA DILIGENCIA
La convergencia de estos marcos legales —mexicanos, interamericanos y estadounidenses— apunta hacia una gobernanza multiactor, donde el Mecanismo de Seguimiento de la Convención de Belém do Pará (MESECVI), en su Ley Modelo Interamericana de 2025, exige una debida diligencia reforzada para erradicar la violencia digital, reconociendo que esta constituye una violación a los derechos humanos impulsada por el patriarcado y la misoginia.
En última instancia, la prevención de la violencia digital en esta nueva frontera no puede limitarse a la persecución penal post-factum. Requiere una arquitectura de seguridad que integre:
1. La profesionalización basada en evidencia planteada en la Estrategia Nacional de Seguridad Pública.
2. La cooperación público-privada para la protección de infraestructuras críticas cibernéticas.
3. La responsabilidad algorítmica que impida la amplificación de sesgos discriminatorios y contenidos violentos.
Solo mediante una articulación sistémica que armonice la innovación con la ética jurídica será posible garantizar que el ciberespacio sea un entorno de libertad y no un nuevo territorio de impunidad y agravio.
V. REFERENCIAS BIBLIOGRÁFICAS
119th Congress of the United States. (2025). S. 1748: Kids Online Safety Act.
119th Congress of the United States. (2025). Tools to Address Known Exploitation by Immobilizing Technological Deepfakes on Websites and Networks Act or the TAKE IT DOWN Act (Public Law 119-12).
Cámara de Senadores del H. Congreso de la Unión. (2025). Acuerdo por el que se crea la Comisión Ordinaria de Ciberseguridad, que funcionará durante la LXVI Legislatura de la H. Cámara de Senadores del H. Congreso de la Unión.
Gobierno de México. (2024). Estrategia Nacional de Seguridad Pública 2024-2030.
Humane Intelligence. (2025). Digital violence, real world harm: Evaluating survivor-centric tools for intimate image abuse in the age of Gen AI.
Mecanismo de Seguimiento de la Convención de Belém do Pará (MESECVI). (2025). Ley modelo interamericana para prevenir, sancionar y erradicar la violencia digital contra las mujeres basada en género (MESECVI/CEVI/doc.299/25). Organización de los Estados Americanos.
Trasviña Waldenrath, J. L. (2026). Iniciativa con proyecto de decreto por el que se expide la Ley General para la Coordinación de la Ciberseguridad. Gaceta Parlamentaria, Número 6946-II-1-2.
xAI. (2025). xAI Frontier Artificial Intelligence Framework (FAIF).
