La tecnología para verificar la edad y la prohibición de una persona menores de 16 años el uso de las redes sociales no está “garantizada para ser efectiva” y las herramientas de escaneo facial han dado resultados incorrectos, admite a los operadores de un juicio del gobierno del gobierno australiano del esquema.
Las herramientas que se están probando, algunas que involucran inteligencia artificial que analice las voces y las caras, se mejorarían mediante la verificación de documentos de identidad o la conexión a las billeteras digitales, quienes ejecutan el esquema han sugerido.
El juicio también encontró “evidencia sobre” que algunos proveedores de tecnología buscaban recopilar demasiada información personal.
Como los “hallazgos preliminares” del juicio de los sistemas destinados a apuntalar la controvertida prohibición de las redes sociales de los niños se hicieron públicos el viernes, los operadores insistieron en la garantía de edad pueden trabajar y mantener la privacidad personal.
Los hallazgos preliminares no detallaron los tipos de tecnología de prueba ni ningún dato sobre sus resultados o precisión. Guardian Australia informó en mayo que el ACCS dijo que solo había probado la tecnología de estimación de la edad facial en esa etapa.
Uno de los expertos involucrados con el juicio admitió que hubo limitaciones, y que habrá resultados incorrectos tanto para niños como para adultos.
“La mejor precisión de estimación informada en su clase, hasta que se publican las cifras de este juicio, fue dentro de un año y un mes de la Edad real en promedio, por lo que debe diseñar su enfoque con esa restricción en mente”, dijo Iain Corby, director ejecutivo de la Asociación de Proveedores de Verificación de Age, a Guardian Australia.
Tony Allen, el director del proyecto, dijo que la mayoría de los programas tenían una precisión de “más o menos 18 meses” con respecto a la edad, que admitió que no era “infalible”, pero sería útil para reducir el riesgo.
El plan del gobierno federal de Albanese de prohibir menores de 16 años de las redes sociales, corrida por el parlamento el año pasado, entrará en vigencia en diciembre.
El juicio gubernamental de sistemas de garantía de edad es fundamental para el esquema. La legislación no dice explícitamente cómo las plataformas deben hacer cumplir la ley y el gobierno está evaluando a más de 50 empresas cuyas tecnologías podrían ayudar a verificar que un usuario tiene más de 16 años.
El ABC informó el jueves que los niños adolescentes en el juicio fueron identificados por parte del software que tenía entre 20 y 30 años, y esa tecnología de escaneo facial era solo un 85% precisa para elegir la edad de un usuario dentro de un rango de 18 meses. Pero Allen dijo que el informe final del juicio daría datos más detallados sobre sus hallazgos y la precisión de la tecnología probada.
La prueba está siendo ejecutada por el esquema de certificación de verificación de edad y el socio de prueba KJR. Debía presentar un informe al gobierno sobre el progreso del juicio en junio, pero eso se ha retrasado hasta finales de julio. El viernes, el juicio publicó un resumen de dos páginas de “hallazgos preliminares” y amplias reflexiones antes de lo que dijo sería un informe final de “cientos de páginas” para el nuevo ministro de comunicaciones, Anika Wells.
El resumen dijo que había una “gran cantidad de opciones” disponibles, con “pensamiento cuidadoso y crítico por parte de los proveedores” sobre las preocupaciones de privacidad y seguridad. Concluyó que “la seguridad de la edad se puede hacer en Australia”.
El resumen elogió algunos enfoques que dijo manejaron bien los datos personales y la privacidad. Pero también encontró lo que llamaba “evidencia preocupante” que algunos proveedores estaban buscando recopilar demasiados datos.
“Se descubrió que algunos proveedores estaban construyendo herramientas para permitir que los reguladores, la aplicación de la ley o los forenses vuelvan sobre las acciones tomadas por las personas para verificar su edad, lo que podría conducir a un mayor riesgo de violaciones de la privacidad debido a la recopilación y retención de datos innecesarias y desproporcionadas”, dijo.
después de la promoción del boletín
En los documentos compartidos con las escuelas que participan en el estudio, los operadores del programa dijeron que prueba tecnologías, incluidas “tecnología con IA, como análisis facial, análisis de voz o análisis de los movimientos de las manos para estimar la edad de una persona”, entre otros métodos, como verificar las formas de identificación.
Las partes interesadas han expresado su preocupación sobre cómo los niños pueden eludir la prohibición al engañar al reconocimiento facial o hacer que los hermanos o padres mayores los ayuden.
Los hallazgos preliminares del viernes dijeron que varios esquemas podrían adaptarse a diferentes situaciones y que no había una “solución omnipresente única que se adapte a todos los casos de uso” ni ninguna solución “garantiza que sea efectiva en todas las implementaciones”.
El informe también dijo que había “oportunidades de mejora tecnológica” en los sistemas probados, incluido el riesgo de usar y reducir el riesgo.
Esto podría incluir la verificación “ciega” de documentos gubernamentales, a través de servicios como billeteras digitales.
Corby dijo que el juicio debe “gestionar las expectativas” sobre la efectividad de la garantía de edad, diciendo “el objetivo debería ser detener a la mayoría de los usuarios menores de edad, la mayor parte del tiempo”.
“Puede aumentar la efectividad, pero eso tiene un costo para la mayoría de los usuarios adultos, que tendrían que demostrar su edad más regularmente de lo que tolerarían”, dijo.
Corby dijo que el juicio estaba trabajando en riesgos de niños que eludían los sistemas y que los proveedores “ya estaban bien ubicados” para abordar cuestiones básicas como el uso de VPN y engañar al análisis facial.
