Gobernador de California veta proyecto que buscaba restricciones a la inteligencia artificial

Gavin Newsom, gobernador del estado de California en Estados Unidos, vetó un proyecto de ley que buscaba imponer estrictas pruebas de seguridad a los modelos de inteligencia artificial (IA).

El proyecto de ley tenía el principal propósito de obligar a las empresas a desarrollar sus modelos con pruebas previas con el objetivo de prevenir riesgos graves, como el uso indebido de IA en la creación de bioweapons, algo que generó una profunda división en Silicon Valley tras su cancelación.

Usos de alto y bajo riesgo

El gobernador argumentó que la ley no diferenciaba entre usos de alto y bajo riesgo de la IA, lo que podría frenar la innovación en el estado, es decir la propuesta era ejecutada indiscriminadamente, pasando por alto el impacto que cada plataforma de IA podría tener.

Los usos de alto riesgo incluirían sistemas involucrados en decisiones críticas, como la seguridad pública o el manejo de datos sensibles, mientras que los usos de bajo riesgo serían aplicaciones comunes con menor impacto, como asistentes virtuales o sistemas de recomendación.

Mundo

OpenAI y sus modelos trabajarán con el gobierno de Estados Unidos

Además, Newsom señaló que los estándares propuestos eran excesivos incluso para aplicaciones básicas, y expresó su preocupación por el impacto negativo en la competitividad económica de California.

Reacciones en Silicon Valley

Las empresas más grandes se opusieron rotundamente al proyecto de ley, con Google y OpenAI como las principales cabezas que argumentaban que sería una carga excedente de trabajo para los desarrolladores. Por su parte, el dueño de SpaceX, Elon Musk respaldó la regulación y la ve como una medida necesaria.

El creador del proyecto, Scott Wiener, lamentó la oportunidad perdida que desde su punto de vista el veto dejara sin control a las empresas que desarrollan los sistemas de IA más avanzados, calificando la decisión como una “oportunidad perdida” para la regulación innovadora.

Aunque rechazó la legislación, Newsom afirmó que planea trabajar con expertos académicos, organizaciones laborales y empresas privadas para desarrollar una regulación más adecuada que aborde los riesgos asociados a la IA sin frenar su crecimiento.

4o