Control humano significativo
Control humano sensible de sistemas basados en inteligencia artificial
El Control Humano Sensible (CHS) surgió en 2016 como un concepto importante durante las reuniones de especialistas organizadas por la Convención de las Naciones Unidas sobre Ciertas Armas Convencionales (CCAC). Aunque el concepto se ha vinculado a las armas autónomas, puede aplicarse de forma más amplia a los sistemas militares basados en IA (tanto físicos como informativos) como requisito fundamental para preservar el comportamiento moral, la responsabilidad y la envolvente de rendimiento operativo eficaz de estos sistemas
.
El objetivo principal es aprender de los debates nacionales y entre múltiples organizaciones para extraer un conjunto de directrices prácticas centradas en el ser humano que sirvan de base a las futuras actuaciones de la OTAN en este ámbito cada vez más importante.
Se abordan varios temas de estudio, como las consideraciones organizativas, operativas y de integración entre el ser humano y el sistema en las MHC. Se proponen directrices de diseño inspiradas en los factores humanos para lograr la MHC, así como métodos e indicadores de ingeniería de sistemas para validar la MHC. También se abordan otros temas, como la explotación de las MHC por parte de adversarios, los sistemas sociotécnicos complejos y la responsabilidad moral en los equipos que combinan humanos e IA.
Sistemas de Inteligencia Artificial.
Entre los conceptos estudiados, se cita principalmente la confianza, tanto entre humanos y máquinas como entre humanos dentro de los límites de la organización o del sistema de sistemas, y vinculadas a este concepto están las nociones de rendimiento percibido, utilidad, pero también los enfoques en términos de certificación, o de gestión de la incertidumbre.
Entre los conceptos estudiados, se cita principalmente la confianza, tanto entre humanos y máquinas como entre humanos dentro de los límites de la organización o del sistema de sistemas.
Laboratorio de Investigación de la Fuerza Aérea, EE.UU.
TNO, Países Bajos
NASA, EEUU
SIFT, EE.UU.
Cranfield School of Management, Reino Unido
Fraunhofer, Alemania
Fraunhofer, Alemania
Agencia de Investigación de Defensa, Suecia
Laboratorio de Ciencia y Tecnología de Defensa, Reino Unido