La Ley Take It Down se dirige al escritorio del presidente Donald Trump después de que la Cámara votó 409-2 para aprobar el proyecto de ley, lo que requerirá que las compañías de redes sociales eliminen el contenido marcado como imágenes sexuales no consensuales (incluidas las imágenes sexuales generadas por IA). Trump se ha comprometido a firmarlo.
El proyecto de ley se encuentra entre las únicas piezas de legislación de seguridad en línea para aprobar con éxito ambas cámaras en años de furor sobre los defectos profundos, la seguridad infantil y otros temas, pero es uno que los críticos temen se usará como arma contra el contenido que la administración o sus aliados les disgusta. Criminaliza la publicación de imágenes íntimas no consensuales (NCII), ya sea real o generadas por computadora, y requiere que las plataformas de redes sociales tengan un sistema para eliminar esas imágenes dentro de las 48 horas posteriores a la señalización. En su discurso al Congreso este año, Trump bromeó que una vez que lo firmó: “Voy a usar ese proyecto de ley para mí también, si no te importa, porque nadie es tratado peor que yo en línea, nadie”.
La proliferación de herramientas de inteligencia artificial que hace que sea más fácil que nunca generar imágenes de aspecto realista ha sobrealimentado preocupaciones sobre el contenido profundo y dañino que se extiende a través de las escuelas y la creación de un nuevo vector de acoso escolar y abuso. Pero si bien los críticos dicen que es un tema importante para tratar, les preocupa que el enfoque de la Ley de Take It It pueda ser explotado para infligir daño de otras maneras.
La Iniciativa de Derechos Civiles Cibernéticos (CCRI), que fue creado para combatir el abuso sexual basado en imágenes, dijo que no puede animar el paso de Take It Down ACT. “Mientras damos la bienvenida a la criminalización federal de NDII desde hace mucho tiempo [the nonconsensual distribution of intimate images]lamentamos que se combine con una disposición de derribo que sea altamente susceptible al mal uso y que probablemente sea contraproducente para las víctimas “, escribe el grupo. Teme que el proyecto de ley, que empodera a la Comisión Federal de Comercio, cuyos comisionados de minorías demócratas Trump despiden en un descanso con las décadas de la Corte Suprema precedente, estará seleccionada de manera selectiva de una manera que finalmente solo los props” desorganizados “desorganizados”.
“Las plataformas que se sienten seguras de que es poco probable que sean atacadas por la FTC (por ejemplo, las plataformas que están estrechamente alineadas con la administración actual) pueden sentirse envalentonadas para simplemente ignorar los informes de NDII”, escriben. “Las plataformas que intentan identificar quejas auténticas pueden encontrar un mar de falsos informes que podrían abrumar sus esfuerzos y poner en peligro su capacidad para operar en absoluto”.
“Las plataformas pueden responder abandonando el cifrado por completo”
Debido al cambio rápido para que las plataformas eliminen el contenido marcado como imágenes íntimas no consensuadas, la Electronic Frontier Foundation (EFF) advierte que las plataformas especialmente más pequeñas “tendrán que cumplir tan rápidamente para evitar el riesgo legal de que no puedan verificar las afirmaciones”. En cambio, probablemente recurrirán a filtros defectuosos para tomar medidas enérgicas contra los duplicados, escriben. El grupo también advierte que los servicios encriptados de extremo a extremo, incluidos los sistemas de mensajería privada y el almacenamiento en la nube, no están exentos del proyecto de ley, lo que representa un riesgo para la tecnología de privacidad. Dado que los servicios encriptados no pueden monitorear lo que sus usuarios se envían entre sí, el EFF pregunta: “¿Cómo podrían cumplir dichos servicios con las solicitudes de eliminación obligatorias en este proyecto de ley? Las plataformas pueden responder abandonando el cifrado por completo para poder monitorear el contenido, convirtiendo las conversaciones privadas en espacios encogidos”, incluidos los que abusan de los supervivientes comúnmente.
Aun así, la Ley de Take It Down rápidamente obtuvo una amplia base de apoyo. La primera dama Melania Trump se ha convertido en una principal campeona del proyecto de ley, pero también se ve el respaldo de los defensores de los padres y los jóvenes, así como algunos en la industria de la tecnología. El presidente de Asuntos Globales de Google, Kent Walker, calificó el pasaje “un gran paso para proteger a las personas de imágenes explícitas no consensuadas”, y Snap aplaudió de manera similar la votación. Internet Works, un grupo cuyos miembros incluyen compañías medianas como Discord, Etsy, Reddit, Roblox y otros, elogiaron el voto de la Cámara, con el director ejecutivo Peter Chandler diciendo que el proyecto de ley “capacitaría a las víctimas para eliminar los materiales de NCII de Internet y poner fin al ciclo de victimización por parte de aquellos que publican este atroz contenido”.
El representante Thomas Massie (R-KY), uno de los dos miembros (ambos republicanos) que votó en contra del proyecto de ley, escribió en X que no podía apoyarlo porque “siento que esta es una pendiente resbaladiza, madura para el abuso, con consecuencias no deseadas”.
