Ocho de cada diez directivos informan incidentes de IA en sus comités

img_96d37428

El 82% de los directivos en España indica que, en el último año, un incidente relacionado con inteligencia artificial (IA) llegó al consejo de administración o al comité ejecutivo de sus organizaciones. Estos incidentes abarcan desde fallos en agentes de IA, exposiciones de datos, errores en decisiones apoyadas por esta tecnología hasta brechas de seguridad. A pesar de la frecuencia con la que ocurren estos problemas, solo un 36% de las empresas ha ajustado su política o marco de gobernanza en respuesta a dichos incidentes, mostrando un desfase entre el reconocimiento de riesgos y las acciones adoptadas para mitigarlos.

Esta situación es más evidente en el contexto del despliegue de la IA, donde un 65% de los directivos afirma que la implementación de la tecnología sigue adelante dentro de los límites de riesgo acordados, mientras que solo un 30% prefiere pausar los avances hasta contar con la gobernanza adecuada. La creciente autonomía de la IA agéntica plantea nuevos desafíos de supervisión, convirtiéndose en un aspecto crucial para la gestión empresarial.

En una encuesta realizada a 540 directivos en España, se reveló que el 25% ya utiliza IA agéntica en producción y un 73% espera que estos agentes tengan capacidad de tomar decisiones autónomas para 2027. Sin embargo, solo un 34% considera que sus sistemas de gobernanza están listos para gestionar esta nueva modalidad de tecnología, lo que destaca la necesidad de adecuar la gobernanza a los cambios que se avecinan.

La investigación fue llevada a cabo por Censuswide a petición de IBM, y abarcó a 3.221 miembros de equipos directivos de varios países europeos, así como de Arabia Saudí y los Emiratos Árabes Unidos. Ana Paula Assis, vicepresidenta sénior de IBM para EMEA y APAC, subraya que «el debate sobre la IA ha evolucionado hacia la gobernanza y la rendición de cuentas». Assis enfatiza que, a medida que las empresas pasan de utilizar asistentes de IA a adoptar agentes autónomos, la gobernanza debe ser vista no solo como un cumplimiento normativo, sino como un elemento esencial que aporta valor.

La mayoría de los directivos encuestados (99%) ha asignado formalmente al consejo de administración la responsabilidad sobre los riesgos asociados a la IA, y un 27% cuenta con un comité específico dedicado a estos asuntos. Sin embargo, no existe un consenso claro sobre quién debería asumir la responsabilidad si un agente de IA causa resultados adversos. El CIO o el CTO es la función más mencionada, aunque solo por el 12% de los encuestados.

El estudio también revela distintas perspectivas sobre la responsabilidad legal en caso de que un sistema de IA ocasionara daños significativos. Un 19% de los directivos opina que la responsabilidad debería repartir entre la organización que implementa la IA y el proveedor, mientras que un 18% aboga por un marco regulatorio más adecuado y un 14% considera que la responsabilidad debe recaer exclusivamente en el proveedor de tecnología o IA.

Para gestionar la creciente autonomía de los agentes de IA, los directivos españoles destacan la necesidad de varias medidas. Entre ellas se encuentran la implementación de marcos legales o contractuales que definan la responsabilidad de los proveedores ante fallos de los agentes (33%), el establecimiento de umbrales claros para la intervención humana (31%), así como la «supervisión continua y la documentación de decisiones y acciones de los agentes» (29%). Además, un 30% considera esencial contar con la capacidad de detener de forma inmediata la actividad de estos agentes en toda la organización.

Etiquetas: Inteligencia Artificial, IA, Ocho

Compartir:
Óscar López

Sobre Óscar López

Periodista tecnológico especializado en inteligencia artificial, innovación empresarial y transformación digital. Colaborador de Las Noticias de la IA.

Únete al grupo de WhatsApp

También te puede interesar

   

Sin comentarios

Deja tu comentario

Tu correo no se publicará. Los comentarios se revisan antes de aparecer.

🤖 IA EN DIRECTO
Adobe lanza herramientas para eliminar elementos en Photoshop, Lightroom y Premiere◆Anthropic espera una valoración de 1,4 billones en su oferta pública◆eBay bloquea agentes de inteligencia artificial en su plataforma◆La comunidad de juegos indie se opone al uso de IA en desarrollo◆Incidente de Jensen Huang podría impactar la industria de la IA en EE. UU◆Oura adquiere la startup de atención primaria Counsel Health por 625 millones◆Nueva ley de seguridad en IA de Nueva York obliga a registros a empresas grandes◆OpenAI adquiere la startup de viajes Odessia, fundada por Francis Davidson◆Nuevas funcionalidades de ChatGPT Images 2.6: crea GIFs gratis y descubre todas las novedades.◆La revolución de la inteligencia artificial en el desarrollo de software: descubre cómo funciona una Software Factory.◆Los fundadores de Anthropic venderán acciones por casi 250 millones cada uno◆Anthropic lanza una suite ofimática impulsada por IA llamada Claude◆Adobe lanza herramientas para eliminar elementos en Photoshop, Lightroom y Premiere◆Anthropic espera una valoración de 1,4 billones en su oferta pública◆eBay bloquea agentes de inteligencia artificial en su plataforma◆La comunidad de juegos indie se opone al uso de IA en desarrollo◆Incidente de Jensen Huang podría impactar la industria de la IA en EE. UU◆Oura adquiere la startup de atención primaria Counsel Health por 625 millones◆Nueva ley de seguridad en IA de Nueva York obliga a registros a empresas grandes◆OpenAI adquiere la startup de viajes Odessia, fundada por Francis Davidson◆Nuevas funcionalidades de ChatGPT Images 2.6: crea GIFs gratis y descubre todas las novedades.◆La revolución de la inteligencia artificial en el desarrollo de software: descubre cómo funciona una Software Factory.◆Los fundadores de Anthropic venderán acciones por casi 250 millones cada uno◆Anthropic lanza una suite ofimática impulsada por IA llamada Claude◆
Este sitio usa cookies para analizar el tráfico. Más información