A principios de este verano, Grok sorprendió al mundo después de que Musk anunció que actualizaría el bot para eliminar un supuesto sesgo liberal. El chatbot desquiciado comenzó a escupir salidas ofensivas, incluidas publicaciones antisemitas que elogiaron a Hitler y se proclamaron “Mechahitler”.
Pero esos prejuicios obvios no entraron en conflicto con la decisión del Pentágono de otorgar a Xai un contrato federal de $ 200 millones. En una declaración, un portavoz del Pentágono insistió en que “el episodio de antisemitismo no fue suficiente para descalificar” XAI, informó NBC News, en parte desde que “varios modelos de IA fronterizos han producido resultados cuestionables”.
La declaración del Pentágono sugirió que el gobierno esperaba lidiar con tales riesgos al tiempo que aprovecha la oportunidad de desplegar rápidamente la tecnología de IA emergente en los procesos prototipos gubernamentales. Y quizás notablemente, Trump proporciona una talla para cualquier agencia que use modelos de IA para salvaguardar la seguridad nacional, lo que podría excluir al Pentágono de experimentar cualquier retraso “anti-despierto” para acceder a modelos fronterizos.
Pero eso no ayudará a otras agencias que deben descubrir cómo evaluar los modelos para cumplir con los requisitos de IA anti-despertados en los próximos meses. Y esas evaluaciones podrían causar retrasos que Trump puede desear evitar para presionar por la adopción generalizada de la IA en todo el gobierno.
La agenda de IA anti-despierta de Trump puede ser imposible
El mismo día que Trump emitió su orden de IA anti-despierta, su plan de acción de IA prometió un “renacimiento de la IA que” alimentando “logros intelectuales” al “desentrañar los pergaminos antiguos una vez pensó ilegibles, haciendo avances en la teoría científica y matemática, y creando nuevos tipos de arte digital y físico”.
Para lograr eso, Estados Unidos debe “innovar más rápido y más exhaustivamente que nuestros competidores” y eliminar las barreras regulatorias que impiden la innovación para “establecer el estándar de oro para la IA en todo el mundo”.
Sin embargo, lograr las ambiciones anti-despertadas de ambas órdenes plantea un problema técnico que incluso el presidente debe aceptar actualmente no tiene ninguna solución. En su plan de acción de IA, Trump reconoció que “el funcionamiento interno de los sistemas de IA fronteriza es poco conocido”, incluso con “tecnólogos avanzados” incapaces de explicar “por qué un modelo produjo una salida específica”.
Queda por ver si exigir que las compañías de IA explicen sus resultados de IA para ganar contratos gubernamentales con otras partes del plan de acción de Trump. Pero Samir Jain, vicepresidente de política de un grupo de libertades civiles, llamó al Centro de Democracia y Tecnología, le dijo al NYT que predice que la agenda de IA anti-despierta establecerá “un estándar realmente vago que será imposible para los proveedores que se reúnan”.
