División en la izquierda sobre los riesgos de la inteligencia artificial

El 10 de septiembre, dos días después de que Jacob Coxon, investigador que recientemente dejó su puesto en Anthropic, alertara sobre la posibilidad de que la industria de la inteligencia artificial condujera a la extinción de la humanidad, los Socialistas Democráticos de América de Nueva York publicaron una serie de imágenes en Instagram. La primera de ellas mostraba un dibujo de un ouroboros, un dragón que se come su propia cola, sobre un fondo rosa intenso. En el texto se afirmaba: “El alarmismo sobre la IA y la exageración de la IA son la misma historia: ambos mantienen tu atención en un futuro de ciencia ficción para distraerte de los daños reales que se experimentan en el presente”. Esta publicación, elaborada por el grupo de trabajo sobre tecnología del NYC DSA, dedicado a los temas de regulación tecnológica, recibió más de 25,000 «me gusta». Sin embargo, no todos compartieron esta opinión; un comentario señalaba: “Una opinión horrible y peligrosa. A veces, hacer sonar la alarma está justificado”.

Mientras los políticos luchan por comprender la seguridad de la IA, se está abriendo una brecha ideológica en la izquierda estadounidense. Uno de los temas centrales gira en torno a la credibilidad de las afirmaciones de las empresas tecnológicas sobre la capacidad de sus productos para amenazar la vida en el planeta. Algunos miembros de la izquierda cuestionan la conveniencia de priorizar preocupaciones teóricas sobre la IA en lugar de centrarse en los daños actuales. Creen que repetir las afirmaciones de los laboratorios avanzados sobre los peligros de la IA empodera a las empresas de tecnología, desviando la atención de la regulación de los problemas existentes hacia un futuro incierto. Alan Dang, miembro del grupo Tech Action, afirmó: “La IA se ha convertido en la última herramienta de explotación capitalista. El daño que la IA desregulada y mal utilizada ya está causando es evidente en todo el país. Como socialistas, no confiamos en que estas corporaciones elaboren sus propias regulaciones”.

Por otro lado, hay quienes siguen la línea de pensamiento del senador Bernie Sanders, quien se ha convertido en un líder no oficial de la izquierda estadounidense y ha abordado con entusiasmo la cuestión de la seguridad de la IA, advirtiendo que esta tiene el potencial de eliminar a la humanidad. Aseguran que es posible tratar todos los daños derivados de la IA, tanto los actuales como los que podrían surgir en el futuro, de manera simultánea. Alexander McCoy, estratega demócrata involucrado en asuntos de IA, destacó: “Las mismas personas preocupadas por la gobernanza de frontera y el desarrollo de superinteligencia también están abordando esos daños actuales. Deberíamos considerar todos estos otros factores importantes. Esos avances en IA son reales y están aumentando en poder. No son falsos ni exagerados”.

A lo largo del último año, Sanders ha profundizado en el tema de la seguridad de la IA, trasladando conversaciones que anteriormente ocurrían en círculos del área de la bahía a Washington y a su amplia base populista. A sus 85 años, fue pionero en la oposición a los centros de datos, un importante eje de organización para la izquierda este año, y ha expresado su preocupación sobre los posibles daños de la IA, que van desde la pérdida de empleos hasta peligros existenciales. Su proyecto de ley de moratoria a los centros de datos, presentado en marzo, vincula explícitamente la pausa en la construcción con la necesidad de establecer regulaciones federales para proteger “el futuro de la humanidad”. La postura de Sanders sobre este asunto le ha llevado a formar alianzas inusuales, destacando su relación con Steve Bannon, exasesor del presidente Donald Trump y presentador de un podcast populista de derecha.

Además, sus movimientos han inspirado a una serie de candidatos de izquierda que se presentan a elecciones en todo el país, muchos de los cuales han relacionado las preocupaciones más amplias sobre la IA con la controversia en torno a los centros de datos. El 9 de septiembre, un día antes de la publicación del NYC DSA, seis candidatos vinculados al Partido de las Familias Trabajadoras, entre ellos cuatro respaldados por Sanders, emitieron declaraciones sobre la necesidad de que Washington regule la IA para prevenir amenazas existenciales a la humanidad. Este enfoque ha suscitado tanto críticas públicas como privadas. La investigadora de IA y crítica de la industria tecnológica, Timnit Gebru, acusó a Sanders y a otros de la izquierda de “tomar sus indicaciones de cultos eugénicos del apocalipsis”, refiriéndose a las filosofías del altruismo efectivo y el racionalismo que sustentan las conversaciones sobre la seguridad de la IA en Silicon Valley. Este posicionamiento ha generado también inquietud en algunos círculos de la izquierda.

Rumman Chowdhury, CEO y fundador de la organización sin fines de lucro Humane Intelligence, entiende las preocupaciones expresadas por el grupo de trabajo del DSA. Chowdhury, quien anteriormente lideró el equipo de ética, transparencia y responsabilidad en el aprendizaje automático en Twitter, considera que toda la atención que está generando el discurso sobre la seguridad de la IA beneficiará a los laboratorios de frontera. “Las empresas capturan toda la atención, tiempo, energía y dinero al lanzar perspectivas extremas. Pero luego retroceden a donde estamos, mientras desestiman toda nuestra experiencia”, afirma. “Es difícil para la gente normal entender cómo funciona la mente de un capitalista de riesgo; cuanto más aterradoras y fantásticas hacen parecer a estas empresas, más inversores quieren involucrarse”.

Para las compañías de IA, particularmente OpenAI y Anthropic, que planean salir a bolsa en los próximos años, la atención y el escrutinio sobre sus productos ahora podrían ser beneficiosos a largo plazo. Chowdhury explica que “parte del proceso de salida a bolsa implica compartir una gran cantidad de documentación sobre diligencia en relación con riesgos y cómo se han abordado”. De esta forma, pueden afirmar que están involucrados en el establecimiento de un régimen regulatorio completo para protegerse contra los peores riesgos, y que han definido claramente cuáles son esos “peores riesgos”. Pragathi Balasubramanian, miembro del grupo de trabajo Tech Action del NYC DSA y líder en la organización contra los centros de datos, siente que podría haber una desconexión en la conversación sobre lo que constituye los daños más urgentes relacionados con la IA que se deben regular. “Cuando se trata de lo que está ocurriendo en la práctica”, afirma, el debate sobre el riesgo existencial “no coincide con lo que realmente se vive”.

Etiquetas: Inteligencia Artificial, División