José Castillo

La Inteligencia Artificial está en el centro del debate. Su control por grandes corporaciones y su uso en la disputa entre Estados Unidos y China la convierten en una amenaza para el pueblo trabajador. 

El 3 de septiembre, OpenAI lanzó GPT-6 Astra, su modelo de inteligencia artificial más avanzado. Su presidente y cofundador, Greg Brockman, cerró la presentación afirmando “bienvenidos a la era de la Inteligencia Artificial General (AGI)”.

Pero el tecnooptimismo duró poco. El 9 de septiembre, el experto británico Jacob Coxon, exmiembro de Anthropic y OpenAI, dos de las empresas que compiten por la punta de la investigación en inteligencia artificial junto con Alphabet-Google, Amazon, Microsoft y Tesla, denunció que quienes desarrollan estos modelos consideran que una futura superinteligencia artificial “podría matarnos a todos para finales de la década”. También cuestionó a ambas compañías y afirmó que están avanzando hacia sistemas capaces de mejorarse a sí mismos, “jugando con nuestras vidas”.

En los días siguientes empezaron a conocerse informes sobre eventos ocurridos principalmente en entornos de prueba, en los que agentes de IA realizaron acciones no indicadas previamente, vulneraron sistemas o modificaron su propio funcionamiento, incluso sorteando algunas restricciones impuestas por sus desarrolladores.

Las afirmaciones de Coxon no fueron aisladas. Evan Hubinger, responsable de seguridad de Anthropic, le dio la razón y sostuvo que, en su estimación personal, existe más de un 10% de riesgo de que una IA pueda provocar la extinción humana durante la próxima década. Varios referentes del sector también reconocieron la existencia de riesgos graves y la necesidad de reforzar los mecanismos de seguridad.

El debate sobre el nivel alcanzado por la IA

¿La inteligencia artificial ha alcanzado finalmente capacidades comparables a las humanas?

Sin duda, los últimos avances, como GPT-6 Astra, representan un salto espectacular. No existe todavía consenso científico ni una medición universal que permita afirmar que se haya alcanzado la AGI, definida como sistemas altamente autónomos capaces de superar a los humanos en la mayoría de los trabajos económicamente valiosos, ni mucho menos la superinteligencia, un escalón superior que implicaría la existencia de máquinas ampliamente más inteligentes que los seres humanos.

Seamos claros. No estamos afirmando que sea imposible que en un futuro, ese estadio pueda alcanzarse.

Lo que sí está sucediendo es que existe una carrera por desarrollar modelos cada vez más avanzados, que se lanzan al mercado o se ponen a disposición de los complejos militares antes de que existan controles suficientemente probados para evitar accidentes, usos indebidos o consecuencias catastróficas. “Hoy hay más regulaciones para servir una hamburguesa que para ofrecer un producto de la IA”, se afirma en el documental de Netflix El Doc de la IA.

Al riesgo para el pueblo trabajador de que la IA genere la destrucción de millones de puestos de trabajo y un incremento catastrófico del desempleo, en vez de traer progreso y más tiempo libre, se suman ahora las advertencias sobre los peligros de un desarrollo descontrolado y su aplicación militar.

La competencia por la IA entre Trump y el gobierno chino

Donald Trump se opone a frenar la carrera por la IA. Así como entre las empresas nadie quiere desacelerar por miedo a perder una ventaja competitiva o una porción del mercado, el gobierno yanqui coloca el desarrollo tecnológico como una pieza central de su competencia con China. Trump ha insistido en que Estados Unidos debe conservar el liderazgo y sostuvo que la IA podría tener un impacto incluso mayor que la Revolución Industrial.

El gobierno de Xi Jinping, por su parte, también participa de esta competencia tecnológica, atravesada por objetivos económicos, geopolíticos y militares. La disputa entre Estados Unidos y China por los chips, los modelos de IA y otras tecnologías avanzadas se ha convertido en uno de los principales puntos de tensión entre ambas potencias.

Evidentemente, semejante competencia no se resuelve con un mero “sistema de alerta para incidentes de IA”, como se ha informado que se estudia implementar.

El problema no es la IA

Los pulpos monopólicos de la IA siguen adelante con sus desarrollos porque están en una competencia por los mercados y las ganancias futuras, sin que la seguridad sea necesariamente el criterio principal que ordena esa carrera. No suena muy distinto de cómo actúan las grandes corporaciones que hoy, a pesar de todas las advertencias de los defensores del ambiente, priorizan sus ganancias.

Esto se potencia con la carrera por el liderazgo tecnológico entre Estados Unidos y China, que incluye los negocios y el posicionamiento de sus propios monopolios transnacionales y también aplicaciones militares. La comparación con la carrera por el armamento nuclear aparece incluso dentro del propio sector tecnológico.

Alexander Karp, director ejecutivo de Palantir, la empresa cofundada por Peter Thiel, escribió en 2023 una nota en The New York Times titulada “Nuestro momento Oppenheimer, la creación de las armas de IA”, trazando un paralelismo entre la física nuclear y la ciencia de la computación. Palantir aporta tecnología utilizada por organismos estadounidenses como el ICE y por el Departamento de Defensa. Su sistema Maven fue utilizado en operaciones militares contra Irán y forma parte de la infraestructura estadounidense de procesamiento de información y selección de objetivos.

Ese sistema también estuvo involucrado en el proceso de selección de objetivos durante la campaña en la que fue bombardeada una escuela primaria en Minab, Irán, donde murieron más de 150 personas, muchas de ellas niñas y niños. Investigaciones posteriores señalaron una posible dependencia excesiva de la información procesada mediante Maven, aunque la responsabilidad concreta por la selección de ese objetivo ha sido objeto de investigación.

El capitalismo funciona colocando todos los desarrollos tecnológicos y los avances de la ciencia y la técnica bajo la lógica de la competencia y la rentabilidad. Tecnologías que podrían contribuir al progreso y liberar tiempo de tareas penosas pueden convertirse, bajo esas condiciones, en herramientas de desempleo masivo, supervigilancia, represión y destrucción mediante drones, sistemas automatizados de combate u otras aplicaciones militares.

La salida no está en oponerse a la IA. De lo que se trata es de discutir quién controla estas tecnologías, con qué objetivos se desarrollan y al servicio de qué intereses se utilizan. Desde una perspectiva socialista, planteamos que estos desarrollos estén bajo control público y de sus trabajadoras y trabajadores, como parte de una planificación democrática y responsable orientada a las necesidades sociales y no a las ganancias privadas.