El 82% de los directivos en España indica que, en el último año, un incidente relacionado con inteligencia artificial (IA) llegó al consejo de administración o al comité ejecutivo de sus organizaciones. Estos incidentes abarcan desde fallos en agentes de IA, exposiciones de datos, errores en decisiones apoyadas por esta tecnología hasta brechas de seguridad. A pesar de la frecuencia con la que ocurren estos problemas, solo un 36% de las empresas ha ajustado su política o marco de gobernanza en respuesta a dichos incidentes, mostrando un desfase entre el reconocimiento de riesgos y las acciones adoptadas para mitigarlos.
Esta situación es más evidente en el contexto del despliegue de la IA, donde un 65% de los directivos afirma que la implementación de la tecnología sigue adelante dentro de los límites de riesgo acordados, mientras que solo un 30% prefiere pausar los avances hasta contar con la gobernanza adecuada. La creciente autonomía de la IA agéntica plantea nuevos desafíos de supervisión, convirtiéndose en un aspecto crucial para la gestión empresarial.
En una encuesta realizada a 540 directivos en España, se reveló que el 25% ya utiliza IA agéntica en producción y un 73% espera que estos agentes tengan capacidad de tomar decisiones autónomas para 2027. Sin embargo, solo un 34% considera que sus sistemas de gobernanza están listos para gestionar esta nueva modalidad de tecnología, lo que destaca la necesidad de adecuar la gobernanza a los cambios que se avecinan.
La investigación fue llevada a cabo por Censuswide a petición de IBM, y abarcó a 3.221 miembros de equipos directivos de varios países europeos, así como de Arabia Saudí y los Emiratos Árabes Unidos. Ana Paula Assis, vicepresidenta sénior de IBM para EMEA y APAC, subraya que «el debate sobre la IA ha evolucionado hacia la gobernanza y la rendición de cuentas». Assis enfatiza que, a medida que las empresas pasan de utilizar asistentes de IA a adoptar agentes autónomos, la gobernanza debe ser vista no solo como un cumplimiento normativo, sino como un elemento esencial que aporta valor.
La mayoría de los directivos encuestados (99%) ha asignado formalmente al consejo de administración la responsabilidad sobre los riesgos asociados a la IA, y un 27% cuenta con un comité específico dedicado a estos asuntos. Sin embargo, no existe un consenso claro sobre quién debería asumir la responsabilidad si un agente de IA causa resultados adversos. El CIO o el CTO es la función más mencionada, aunque solo por el 12% de los encuestados.
El estudio también revela distintas perspectivas sobre la responsabilidad legal en caso de que un sistema de IA ocasionara daños significativos. Un 19% de los directivos opina que la responsabilidad debería repartir entre la organización que implementa la IA y el proveedor, mientras que un 18% aboga por un marco regulatorio más adecuado y un 14% considera que la responsabilidad debe recaer exclusivamente en el proveedor de tecnología o IA.
Para gestionar la creciente autonomía de los agentes de IA, los directivos españoles destacan la necesidad de varias medidas. Entre ellas se encuentran la implementación de marcos legales o contractuales que definan la responsabilidad de los proveedores ante fallos de los agentes (33%), el establecimiento de umbrales claros para la intervención humana (31%), así como la «supervisión continua y la documentación de decisiones y acciones de los agentes» (29%). Además, un 30% considera esencial contar con la capacidad de detener de forma inmediata la actividad de estos agentes en toda la organización.
Etiquetas: Inteligencia Artificial, IA, Ocho

Sin comentarios