Grandes empresas de IA proponen límites en sus desarrollos y conductas

En los últimos años, el sector de la inteligencia artificial ha seguido una filosofía de crecimiento acelerado, buscando desarrollar tecnologías más rápidas, potentes y versátiles. Sin embargo, los principales actores de la industria en Estados Unidos, que anteriormente impulsaron este avance, ahora están expresando dudas y solicitando una pausa, abriendo un debate sobre la necesidad de establecer límites. Este cambio de postura se refleja en la reciente propuesta de Microsoft, que ha presentado un borrador de su Código de Conducta para modelos de IA, un documento que puede considerarse un manual ético que busca guiar el desarrollo de estas tecnologías.

El texto de Microsoft enfatiza la importancia de asumir la responsabilidad que conlleva un gran poder, y la empresa se une a otros líderes del sector que han implementado códigos de conducta y directrices éticas. Anthropic, por ejemplo, lanzó en 2023 su Política de Escalado Responsable, comprometiéndose a no desarrollar modelos potentes sin garantizar su seguridad. OpenAI, tras una crisis interna en la que sus empleados advirtieron sobre los riesgos de la escalada tecnológica, también ha comenzado a establecer reglas para el uso de su IA. Google DeepMind, en 2024, introdujo su Frontier Safety Framework para identificar cuándo un modelo podría llegar a ser peligroso, particularmente en áreas como la ciberseguridad y el desarrollo de armas biológicas.

El nuevo Código de Conducta de Microsoft surge en un contexto de creciente preocupación por el desarrollo de la IA. En su documento, la compañía reconoce que los sistemas de IA están evolucionando rápidamente y que, ante eventos recientes relacionados con la tecnología, es imperativo actuar con celeridad. Microsoft defiende la idea de una «IA humanista», subrayando que la humanidad debe prevalecer sobre la tecnología y que cualquier sistema que no pueda ser controlado por humanos debería ser puesto en cuarentena.

En el documento, la compañía también señala que la creación de una IA que sirva a la humanidad no puede ser responsabilidad de una sola empresa. Microsoft propone un conjunto de diez mandamientos que considera fundamentales para todas las organizaciones involucradas en el desarrollo de IA. La empresa subraya que, dada la rapidez con la que avanza la IA, es esencial establecer reglas claras y motivaciones para su uso, haciendo el proceso lo más transparente posible.

Sin embargo, Microsoft también admite que sus modelos actuales no están entrenados bajo estas directrices y plantea interrogantes sobre la aceptación de este código por parte de sus competidores y si estos estarán dispuestos a autoimponerse límites. En un contexto donde algunas compañías han reconocido que están avanzando demasiado rápido, la duda sobre la efectividad de estos códigos de conducta es válida. Anthropic, por ejemplo, eliminó recientemente su compromiso de no entrenar modelos sin garantizar su seguridad, argumentando que no tenía sentido hacer promesas unilaterales mientras otros competidores continuaban su desarrollo sin restricciones.

La propuesta de Microsoft, aunque bienintencionada, se enfrenta a un entorno competitivo feroz. Las empresas estadounidenses están en una carrera por desarrollar el modelo más avanzado, buscando contratos en un mercado cada vez más lucrativo. Al mismo tiempo, deben competir con modelos desarrollados en China, que podrían no adherirse a las mismas pautas éticas y continúan su curso sin frenos. La inteligencia artificial se ha convertido en una cuestión geopolítica, con Estados Unidos y China posicionándose para obtener la superioridad tecnológica.

Esta carrera por la innovación en el ámbito de la IA ha llevado a voces prominentes, como la de Jensen Huang de Nvidia, a rechazar cualquier idea de frenar el desarrollo. Aunque China busca establecer un marco regulatorio, su enfoque no implica una pausa en el progreso. A medida que la industria debate sobre la necesidad de límites éticos, la realidad es que las empresas están más enfocadas en ganar esta carrera tecnológica, dejando en segundo plano la preocupación por los peligros de la IA.

Etiquetas: Inteligencia Artificial, Estados Unidos, IA