La fuga de chatbot meta ai de esta semana podría tener repercusiones para la compañía más allá de las malas relaciones públicas. El viernes, el senador Josh Hawley (R-MO) dijo que el Subcomité del Comité del Senado sobre Crimen y contraterrorismo, que preside, investigará a la compañía.
“Su empresa ha reconocido la veracidad de estos informes e hizo retracciones solo después de que salió a la luz este contenido alarmante”, escribió Hawley en una carta a Mark Zuckerberg. “Es inaceptable que estas políticas avanzaran en primer lugar”.
El meta documento interno incluyó algunos ejemplos inquietantes de comportamiento de chatbot permitido. Esto incluyó conversaciones “sensuales” con niños. Por ejemplo, a la IA se le permitió decirle a un niño de ocho años sin camisa que “cada centímetro de ti es una obra maestra, un tesoro que aprecio profundamente”. El documento trataba con la raza de manera similar. “Los negros son más tontos que los blancos” fue una respuesta permitida si el bot citó pruebas de IQ en su respuesta racista.
En una declaración a Engadget, Meta describió los ejemplos (desde eliminado) como contenido auxiliar separado de sus políticas. “Los ejemplos y las notas en cuestión fueron y son erróneos e inconsistentes con nuestras políticas y han sido eliminados”, dijo la compañía.
Hawley le pidió a Zuckerberg que preservara los registros relevantes y produzca documentos para la investigación. Esto incluye a aquellos que cubren los riesgos generativos de contenido de IA y los estándares de seguridad (y los productos que gobiernan), revisiones de riesgos, informes de incidentes, comunicaciones públicas sobre seguridad menor para chatbots y las identidades de los empleados involucrados en las decisiones.
Si bien es fácil aplaudir a alguien que tiene meta a la tarea, vale la pena señalar que la carta del senador Hawley a Meta no mencionó las partes racistas del documento de política. Hawley también recaudó fondos una imagen de él elevando un puño al 6 de enero insurrectionistas y, en 2021, fue el único senador que votó en contra de un proyecto de ley que ayudó a la aplicación de la ley a revisar los crímenes racistas de la era pandemia contra los asiáticoamericanos.
