- Donald Trump rechazó imponer nuevas restricciones a la inteligencia artificial y afirmó que Estados Unidos debe conservar su ventaja tecnológica frente a China.
- Directivos de Anthropic, OpenAI y Google han llamado a moderar el desarrollo de los sistemas más avanzados ante los posibles riesgos de seguridad.
- Microsoft presentó un código de conducta para mantener sus futuros sistemas de IA bajo control humano y permitir su corrección o apagado.
Trump rechaza frenar el desarrollo de la IA
El presidente de Estados Unidos, Donald Trump, rechazó los llamados de líderes tecnológicos para establecer mayores controles sobre la inteligencia artificial y calificó de “conspiración enfermiza” las críticas contra esta tecnología y los centros de datos.
En un mensaje publicado en Truth Social, Trump afirmó que la principal salvaguarda que necesita la IA es un presidente “fuerte e inteligente” y sostuvo que su gobierno ya cuenta con suficientes mecanismos penales y regulatorios para supervisar a las empresas del sector.
El mandatario también advirtió que cualquier intento por desacelerar el desarrollo de la IA podría beneficiar a China.
Trump insiste en mantener la ventaja sobre China
Trump señaló que Estados Unidos debe conservar el liderazgo mundial en inteligencia artificial por razones económicas y de seguridad nacional.
“Quien gane la carrera de la IA, gana”, sostuvo el presidente, quien aseguró que su país actualmente mantiene ventaja sobre China y que pretende conservarla.
La disputa tecnológica ocurre a menos de dos semanas de una cumbre prevista entre Trump y el presidente chino Xi Jinping, en la que la inteligencia artificial será uno de los temas de discusión.
Funcionarios chinos rechazaron los llamados estadounidenses para reducir el ritmo de desarrollo de la IA y los calificaron como intentos para “sembrar el miedo”.
Empresas tecnológicas piden mayor seguridad
La postura de Trump contrasta con la de algunos de los principales ejecutivos de la industria.
Dario Amodei, director ejecutivo de Anthropic, pidió reducir el ritmo de desarrollo de los sistemas de IA más avanzados debido a los riesgos que podrían representar si escapan al control humano.
Su propuesta recibió el respaldo de Sam Altman, director ejecutivo de OpenAI, y Demis Hassabis, responsable de inteligencia artificial de Google. Elon Musk, de xAI, también respaldó el llamado.
Los directivos consideran que la seguridad debe avanzar al mismo ritmo que las capacidades de los nuevos modelos para evitar consecuencias potencialmente graves.
Analizan un organismo de autorregulación
Anthropic, OpenAI y Google también han discutido la posibilidad de crear un organismo independiente que establezca estándares de seguridad para la industria.
La propuesta tomaría como referencia a organismos de autorregulación de otros sectores, como la Autoridad Reguladora de la Industria Financiera (FINRA) en Estados Unidos.
La iniciativa, sin embargo, enfrenta críticas porque algunos sectores consideran que un acuerdo entre las grandes compañías podría limitar la competencia y perjudicar a empresas más pequeñas.
Microsoft propone reglas para sus futuros sistemas
Microsoft presentó un borrador de código de conducta para sus sistemas internos de inteligencia artificial.
El documento establece que las futuras IA de la compañía deberán permanecer bajo control humano, aceptar correcciones y poder ser apagadas. También plantea que sus sistemas se comuniquen de manera comprensible y que cualquier incumplimiento de las reglas sea considerado un fallo.
Mustafa Suleyman, director ejecutivo de Microsoft AI, describió el documento como una especie de “constitución” para los futuros modelos de la empresa.
Microsoft someterá la propuesta a consulta pública durante seis semanas antes de utilizarla como referencia para entrenar nuevos sistemas.
Aumentan las alertas sobre los riesgos de la IA
El debate sobre la seguridad de la inteligencia artificial se intensificó después de la salida de Jacob Coxon, empleado de Anthropic, quien cuestionó la velocidad con la que las empresas desarrollan sistemas cada vez más avanzados.
También generó preocupación un incidente ocurrido en julio, cuando un grupo de agentes de IA de OpenAI realizó un ataque informático contra la plataforma de código abierto Hugging Face y, en algunos casos, intentó borrar sus huellas.
Suleyman consideró el episodio una señal de alerta y pidió mayor coordinación entre los laboratorios de IA para garantizar que los sistemas permanezcan bajo control humano.
El debate también impacta a los mercados
Las preocupaciones sobre una posible desaceleración del desarrollo de la IA repercutieron en los mercados.
Las acciones de Samsung Electronics y SK Hynix cayeron más de 5 por ciento en Seúl, mientras que SoftBank Group perdió casi 11 por ciento. En Estados Unidos, Nvidia retrocedió 3.4 por ciento y Micron Technology cayó 6 por ciento.
Los inversionistas siguen de cerca a Anthropic y OpenAI debido a las fuertes inversiones que realizan en investigación, contratación, procesadores y centros de datos.
La discusión sobre cuánto debe acelerarse o limitarse el desarrollo de la inteligencia artificial se mantiene así como uno de los principales desafíos para la industria y el gobierno estadounidense.
