[Aviso] Este artículo ha sido reconstruido a partir de información de fuentes externas. Por favor, verifique la fuente original antes de utilizar esta información.
Resumen de noticias
El siguiente contenido fue publicado en línea. A continuación se presenta un resumen traducido. Consulte la fuente para obtener más detalles.
El académico de derecho Khalil Dewan ha expresado preocupaciones sobre el uso de inteligencia artificial y sistemas automatizados en operaciones militares en Gaza. En una entrevista detallada, Dewan explica cómo los sistemas de vigilancia impulsados por IA pueden rastrear simultáneamente a miles de personas, analizar patrones de movimiento e identificar posibles objetivos sin supervisión humana. Discute informes de sistemas que pueden generar listas de objetivos más rápido de lo que los humanos pueden revisarlos, lo que lleva a que las decisiones sobre la vida y la muerte se automaticen parcialmente. Dewan enfatiza que el derecho humanitario internacional requiere el juicio humano en las decisiones militares, especialmente aquellas que involucran daños a civiles. Advierte que la velocidad y la escala de los sistemas de IA pueden estar superando los marcos legales diseñados para proteger a los civiles en zonas de conflicto. La conversación destaca las crecientes preocupaciones entre los expertos legales sobre la rendición de cuentas cuando los algoritmos contribuyen a las decisiones militares y la necesidad de actualizar las leyes internacionales para abordar la guerra con IA.
Fuente: UntoldMag a través de Global Voices
Nuestro comentario
Antecedentes y contexto
La inteligencia artificial (IA) en las operaciones militares ya no es ciencia ficción, sino una realidad presente. Los sistemas de IA pueden procesar enormes cantidades de datos provenientes de cámaras, drones, teléfonos y satélites para identificar patrones que los humanos podrían pasar por alto. En las zonas de conflicto, estos sistemas se utilizan para rastrear movimientos, predecir comportamientos e identificar posibles objetivos militares.
El derecho humanitario internacional, también conocido como las leyes de la guerra, ha existido durante más de 150 años. Estas leyes exigen que los ejércitos distingan entre combatientes y civiles, utilicen una fuerza proporcional y tomen precauciones para minimizar el daño a los civiles. Sin embargo, estas leyes se redactaron cuando los humanos tomaban todas las decisiones militares. La introducción de la IA plantea nuevos desafíos, ya que las máquinas ahora pueden influir o incluso tomar decisiones que anteriormente requerían el juicio humano.
Análisis de expertos
Académicos del derecho como Khalil Dewan se preocupan por varios problemas clave con la guerra de IA. El primero es el problema de la velocidad: la IA puede generar miles de posibles objetivos en minutos, pero revisarlos adecuadamente lleva mucho más tiempo. Esto crea presión para confiar en las recomendaciones de la IA sin una revisión humana adecuada.
El segundo es el problema de la rendición de cuentas: si un sistema de IA contribuye a una decisión que daña a los civiles, ¿quién es responsable? ¿El programador que escribió el código? ¿El comandante que aprobó el uso del sistema? ¿El soldado que actuó según su recomendación? Las leyes actuales no responden claramente a estas preguntas.
El tercero es el problema de la transparencia: muchos sistemas de IA son “cajas negras”, incluso sus creadores no entienden completamente cómo llegan a conclusiones específicas. Esto dificulta impugnar las decisiones o aprender de los errores.
Datos adicionales y hechos
Los modernos sistemas de vigilancia con IA pueden:
• Rastrear miles de individuos simultáneamente a través de múltiples cámaras
• Analizar patrones de comunicación a partir de datos de teléfonos e internet
• Predecir movimientos probables en función de patrones de comportamiento históricos
• Generar recomendaciones de objetivos en segundos o minutos
• Operar las 24 horas del día, 7 días a la semana, sin fatiga, a diferencia de los analistas humanos
Las Convenciones de Ginebra, las principales leyes internacionales que rigen la guerra, exigen que las decisiones de selección de objetivos incluyan el juicio humano sobre factores como:
• Si un objetivo es militar o civil
• El daño civil esperado en comparación con la ventaja militar
• Las precauciones disponibles para minimizar las bajas civiles
• El momento y los métodos de ataque
Noticias relacionadas
Las Naciones Unidas han iniciado discusiones sobre la regulación de los sistemas de armas autónomas, con algunos países que exigen una prohibición total de los “robots asesinos” que puedan seleccionar y atacar objetivos sin control humano. El Comité Internacional de la Cruz Roja ha publicado directrices que enfatizan que los humanos deben mantener el control sobre las decisiones que involucren vida o muerte.
Las empresas de tecnología enfrentan una presión creciente sobre los usos militares de su tecnología de IA. Algunos empleados de importantes empresas tecnológicas han protestado por los contratos con organizaciones militares, argumentando que su trabajo no debería contribuir a la guerra. Esto ha desencadenado debates sobre la responsabilidad de los tecnólogos en el uso que se hace de sus creaciones.
Resumen
El uso de la IA en la guerra representa uno de los cambios más significativos en la forma de librar los conflictos, planteando preguntas fundamentales sobre el control humano, la rendición de cuentas y la protección de los civiles. Si bien la IA puede potencialmente hacer que las operaciones militares sean más precisas, también corre el riesgo de eliminar el juicio humano de las decisiones de vida o muerte. Académicos del derecho como Khalil Dewan argumentan que el derecho internacional debe evolucionar rápidamente para abordar estas nuevas tecnologías antes de que se normalicen en la guerra. El desafío es garantizar que los beneficios de eficiencia de la IA no se logren a expensas de las protecciones humanitarias que han tardado siglos en establecerse.
Reacción pública
Las organizaciones de derechos humanos han expresado alarma por la guerra de IA, con Amnistía Internacional y Human Rights Watch pidiendo regulaciones estrictas. Los trabajadores tecnológicos han organizado peticiones contra los proyectos militares de IA, mientras que algunos argumentan que la IA podría reducir las bajas civiles si se usa adecuadamente. Los funcionarios militares de varios países defienden la IA como una herramienta necesaria en los conflictos modernos, creando un debate complejo sobre tecnología, ética y seguridad.
Preguntas frecuentes
P: ¿Qué es exactamente la vigilancia con IA?
R: La vigilancia con IA utiliza programas informáticos para analizar automáticamente las transmisiones de video, las comunicaciones y otros datos con el fin de identificar patrones o individuos específicos. A diferencia de la vigilancia tradicional, donde los humanos observan las pantallas, la IA puede monitorear miles de transmisiones simultáneamente y alertar a los operadores sobre cualquier cosa que considere importante.
P: ¿Cómo se diferencia la IA de los drones u otra tecnología militar?
R: Mientras que los drones son herramientas controladas por humanos, los sistemas de IA pueden analizar información y hacer recomendaciones o decisiones por sí mismos. Es como la diferencia entre un automóvil (que conduces) y un automóvil autónomo (que toma decisiones sobre a dónde ir). La preocupación radica en cuánto poder de decisión le otorgamos a las máquinas en la guerra.
P: ¿Por qué no podemos simplemente programar a la IA para que siga las leyes de la guerra?
R: Las leyes de la guerra a menudo requieren juicios complejos sobre el contexto, la intención y la proporcionalidad, que son difíciles de traducir a código informático. Por ejemplo, determinar si alguien es un civil o un combatiente puede depender de factores sutiles que cambian según las circunstancias. La IA tiene dificultades con este tipo de toma de decisiones matizada que los humanos hacen de manera natural.
