Los legisladores del estado de Nueva York aprobaron un proyecto de ley el jueves que tiene como objetivo evitar que los modelos de IA fronterizos sean de OpenAi, Google y antrópico contribuyan a escenarios de desastres, incluida la muerte o lesión de más de 100 personas, o más de $ 1 mil millones en daños.
La aprobación de la Ley de aumento representa una victoria para el Movimiento de Seguridad AI, que ha perdido terreno en los últimos años, ya que Silicon Valley y la administración Trump han priorizado la velocidad y la innovación. Los defensores de la seguridad, incluido el premio Nobel Geoffrey Hinton y el pionero de investigación de IA, Yoshua Bengio, han defendido la Ley de Aumento. Si se convierta en ley, el proyecto de ley establecería el primer conjunto de estándares de transparencia legalmente obligatorios para los laboratorios de IA fronterizos.
La Ley de aumento tiene algunas de las mismas disposiciones y objetivos que el controvertido proyecto de ley de seguridad de IA de California, SB 1047, que finalmente fue vetado. Sin embargo, el copatrocinador del proyecto de ley, el senador del estado de Nueva York, Andrew Gounardes, le dijo a TechCrunch en una entrevista que diseñó deliberadamente la Ley de Aumento de tal manera que no relaciona la innovación entre las nuevas empresas o los investigadores académicos, una crítica común de SB 1047.
“La ventana para colocar las barandillas se reduce rápidamente dado lo rápido que está evolucionando esta tecnología”, dijo el senador Gounardes. “La gente que sabe [AI] lo mejor dice que estos riesgos son increíblemente probables […] Eso es alarmante “.
La Ley de aumento ahora se dirige al escritorio del gobernador de Nueva York Kathy Hochul, donde podría firmar el proyecto de ley, enviarlo de regreso para enmiendas o vetarlo por completo.
Si se firma, el proyecto de ley de seguridad de IA de Nueva York requeriría que los laboratorios de inteligencia artificiosos más grandes del mundo publiquen informes exhaustivos de seguridad en sus modelos de IA fronterizos. El proyecto de ley también requiere que los laboratorios de IA reporten incidentes de seguridad, como en relación con el comportamiento del modelo de IA o los malos actores que roban un modelo de IA, si suceden. Si las empresas tecnológicas no están a la altura de estos estándares, la Ley de Aumento faculta al Fiscal General de Nueva York para traer sanciones civiles de hasta $ 30 millones.
La Ley de aumento tiene como objetivo regular por poco las empresas más grandes del mundo, ya sea en California (como OpenAi y Google) o China (como Deepseek y Alibaba). Los requisitos de transparencia del proyecto de ley se aplican a las empresas cuyos modelos de IA fueron capacitados utilizando más de $ 100 millones en recursos informáticos (aparentemente, más que cualquier modelo de IA disponible en la actualidad), y se están poniendo a disposición de los residentes de Nueva York.
Si bien es similar a SB 1047 de alguna manera, la Ley de Aumento se diseñó para abordar las críticas de los proyectos de ley de seguridad de IA anteriores, según Nathan Calvin, el Vicepresidente de Asuntos Estatales y el Asesor General de ENCODE, que trabajó en este proyecto de ley y SB 1047, en particular, el ACT de ACEA no requiere que los desarrolladores de modelos de IA incluyan un “cambio de matar” en sus modelos, ni lo hace a las empresas que tienen las compañías que poseen los modelos AI de la AI.
Sin embargo, Silicon Valley ha rechazado significativamente el proyecto de ley de seguridad de IA de Nueva York, el AsambleMember del Estado de Nueva York y copatrocinador de la Ley de Aumento, Alex Bores a TechCrunch. Bors calificó la resistencia de la industria no sorprendente, pero afirmó que la Ley de aumento no limitaría la innovación de las empresas tecnológicas de ninguna manera.
“El acto de aumento de Nueva York es otro estúpido y estúpido proyecto de ley de AI de nivel estatal que solo dañará a los Estados Unidos en un momento en que nuestros adversarios están corriendo por delante”, dijo el compañero general de Andreessen Horowitz, Anjney Midha, en un puesto de viernes en X. Andreessen Horowitz y la incubadora de inicio y Combinator fueron algunos de los opositores de SB 1047.
Anthrope, el laboratorio de IA centrado en la seguridad que requería los estándares federales de transparencia para las compañías de IA a principios de este mes, no ha alcanzado una postura oficial sobre el proyecto de ley, dijo el cofundador Jack Clark en un puesto de viernes en X. Sin embargo, Clark expresó algunas quejas sobre cuán amplia es el acto de aumento, señalando que podría presentar un riesgo a las “compañías más pequeñas”.
Cuando se le preguntó sobre las críticas de Anthrope, el senador estatal Gounardes le dijo a TechCrunch que pensó que “pierde la marca”, señalando que diseñó el proyecto de ley para no postularse a las pequeñas empresas.
Operai, Google y Meta no respondieron a la solicitud de comentarios de TechCrunch.
Otra crítica común de la Ley de aumento es que los desarrolladores de modelos de IA simplemente no ofrecerían sus modelos de IA más avanzados en el estado de Nueva York. Esa fue una crítica similar presentada contra SB 1047, y es en gran medida lo que se desarrolla en Europa gracias a las difíciles regulaciones del continente sobre tecnología.
El ensamblador de Bores le dijo a TechCrunch que la carga regulatoria de la Ley de aumento es relativamente ligera y, por lo tanto, no debería requerir que las compañías tecnológicas dejen de operar sus productos en Nueva York. Dado el hecho de que Nueva York tiene el tercer PIB más grande en los Estados Unidos, retirarse del estado no es algo que la mayoría de las empresas tomarían a la ligera.
“No quiero subestimar la mezquindad política que podría suceder, pero estoy muy seguro de que no hay razón económica para [AI companies] Para no hacer que sus modelos estén disponibles en Nueva York ”, dijo el ensamblaje de los bores.
