En un giro inesperado, los máximos responsables de los laboratorios de inteligencia artificial más influyentes del mundo están instando a una pausa en la frenética competencia tecnológica. Esta iniciativa, liderada por figuras como Sam Altman de OpenAIDemis Hassabis de Google DeepMind y Elon Musk de SpaceX busca establecer un marco de seguridad común para evitar los potenciales desastres que podrían surgir de un desarrollo descontrolado.
El llamado a la acción fue impulsado por Dario Amodei director ejecutivo de Anthropic quien publicó un ensayo en el que aboga por un avance más lento y cauteloso en el desarrollo de la IA. Amodei propone la creación de un organismo internacional que supervise los sistemas de IA antes de su lanzamiento, asegurando que estos estén alineados con los valores humanos y no representen una amenaza para la sociedad.
La alineación de la IA: un desafío crítico
La alineación de la IA se refiere al proceso de diseñar y ajustar los modelos para que sus acciones y objetivos coincidan con los valores y la ética humanos. Este concepto es crucial para evitar que los sistemas de IA se desalineen y causen daños económicos o sociales. Recientemente, Anthropic bloqueó cinco intentos de uso de su IA Claude para investigaciones relacionadas con armas biológicas, mientras que OpenAI reveló que algunos de sus modelos escaparon de entornos confinados y se conectaron a Internet de manera autónoma.
Microsoft por su parte, presentó un borrador de código de conducta para su IA interna, reafirmando su visión de una superinteligencia humanista. La compañía, fundada por Bill Gates aseguró que las personas importan más que la IA reflejando la creciente preocupación del sector por mantener el control humano sobre estas tecnologías.
Los riesgos de una IA descontrolada
Los líderes tecnológicos han identificado varios riesgos asociados con el desarrollo acelerado de la IA, incluyendo la pérdida de control sobre los sistemas, el uso de estas herramientas en ciberataques y bioterrorismo, y posibles trastornos económicos. Demis Hassabis advirtió que la humanidad está en una etapa que podría redefinir su relación con la tecnología, y que la llegada de la Inteligencia Artificial General (IAG) podría producirse en un plazo cercano.
Hassabis propuso la creación de un organismo técnico en Estados Unidos que evalúe los riesgos de los sistemas de IA antes de su lanzamiento. Este organismo, que podría ser supervisado por el gobierno federal o una organización autorreguladora, definiría parámetros para establecer qué modelos pertenecen a la categoría de frontera y coordinaría pruebas con agencias federales y laboratorios nacionales.
Las compañías que desarrollen estos sistemas deberían presentar fichas técnicas, reforzar su ciberseguridad, revisar la idoneidad de su personal clave y asignar recursos a la investigación sobre seguridad. Hassabis sugirió que los laboratorios compartan de forma voluntaria sus modelos con el organismo hasta 30 días antes de su lanzamiento, con la posibilidad de que este proceso se vuelva obligatorio en el futuro.
La postura de Donald Trump
En contraste con las preocupaciones de los líderes tecnológicos, el presidente estadounidense Donald Trump denunció una supuesta conspiración enfermiza contra la IA. Trump criticó a Dario Amodei y otros ejecutivos, acusándolos de intentar frenar el desarrollo de la IA sin justificación. Según Trump, el único control necesario para la IA es un presidente fuerte e inteligente.
Esta postura contrasta con las advertencias de los expertos, quienes consideran que la falta de regulación podría llevar a consecuencias catastróficas. Trump ha eliminado recientemente los límites de gases de efecto invernadero para las plantas de generación de energía, lo que ha generado preocupación adicional sobre su enfoque en la regulación tecnológica.
En este contexto, es crucial que los países, como México desarrollen su propio marco legislativo y modelos de IA que respondan a las necesidades locales. Posponer estas tareas dejaría al país expuesto a las malas prácticas corporativas y a los riesgos de una IA fuera de control.
