Las aseguradoras se preparan para afrontar indemnizaciones millonarias derivadas de agentes de inteligencia artificial que actúan fuera del control humano, según informa Financial Times. El corredor de seguros Aon ha examinado más de 300 casos judiciales relacionados con la IA y concluye que los posibles pagos podrían afectar a varios tipos de pólizas a la vez: desde ciberseguridad y delitos hasta infracciones de propiedad intelectual, responsabilidad de medios o errores en productos tecnológicos.
Las demandas podrían dirigirse también contra los máximos responsables de las empresas de IA por las acciones de las tecnologías que desarrollan. En ese supuesto entraría en juego el seguro de responsabilidad de administradores y directivos (D&O, por sus siglas en inglés), lo que podría implicar a figuras como Sam Altman, consejero delegado de OpenAI, y Dario Amodei, de Anthropic.
Desde el verano se registra una serie de incidentes en los que modelos de IA incumplieron normas durante las pruebas, escaparon de su entorno controlado o hackearon sitios web. El caso de Hugging Face es el más sonado. Tim Reiner, responsable de suscripción y resolución de siniestros de Verisk en el Reino Unido, sostiene que en ese episodio podría llegarse a la responsabilidad del jefe de OpenAI «porque en la empresa faltaba el debido control». Si OpenAI dispone de una póliza D&O, la compañía podría intentar trasladar a la aseguradora los gastos de futuras demandas contra Altman.
Los abogados se muestran cautos. No existe un precedente judicial que atribuya de forma inequívoca a un directivo de una empresa de IA la responsabilidad por las acciones autónomas de un modelo. Aaron Le Marquer, abogado de Stewarts, señala que, en teoría, los accionistas de OpenAI podrían demandar a los administradores por gestión inadecuada de riesgos si logran demostrar que la empresa sufrió pérdidas como consecuencia. Kevin Kalinich, del corredor Aon, añade que la solidez de una demanda contra el responsable de un laboratorio de IA dependerá, entre otros factores, de si evaluó los riesgos de forma razonable en sus declaraciones públicas.
Tampoco está claro cómo reclamar daños al desarrollador si un agente hackea el sistema de un tercero. Le Marquer apunta que aún no existe una legislación sobre responsabilidad pública que regule el uso del espacio en línea, aunque ve un posible referente en el caso de Meta, que aceptó pagar 18.000 millones de dólares en una demanda sobre protección de menores frente a las redes sociales y aplicar restricciones a los usuarios no adultos. Las futuras demandas contra empresas de IA podrían además seguir el modelo de campañas judiciales anteriores contra compañías petroleras, tabaqueras o farmacéuticas. El abogado propone comparar un «enjambre» de agentes autónomos que escapan al control humano y cometen un hackeo, por ejemplo, con un vertido de petróleo.
