Categoría

Título

Autores

Artículo

Durante mucho tiempo hemos hablado de la tecnología como si fuera neutral. Como si innovar consistiera únicamente en empujar el límite de lo posible y dejar para más tarde la conversación sobre sus consecuencias. Esa mirada ya no sirve y menos cuando entra en guerra.

La inteligencia artificial no es solo una nueva ola de automatización. Es una capa de decisión que se está incrustando en ámbitos esenciales de la vida colectiva: la información, la educación, la seguridad, el trabajo, la salud y también la guerra territorial, económica y tecnológica. Por eso empieza a abrirse paso una idea: la necesidad de un juramento ético para quienes diseñan estas herramientas. Oxford ha planteado precisamente eso, una especie de juramento hipocrático para profesionales de la tecnología.

La cuestión de fondo no es si la tecnología tiene potencial. Lo tiene, y enorme, en positivo y en negativo según su uso, su decisión y su liderazgo. La cuestión es si una sociedad democrática puede permitirse desplegar tecnologías de alto impacto sin una conversación adulta sobre poder, responsabilidad y límites.

Ese cambio de mirada resulta especialmente urgente cuando hablamos de guerra y de armas autónomas. Porque aquí la discusión deja de ser abstracta. Ya no hablamos de recomendaciones de contenido ni de asistentes conversacionales. Hablamos de sistemas que pueden identificar objetivos, priorizar amenazas, asistir decisiones letales o, en su versión más inquietante, desplazar cada vez más al ser humano del centro de la decisión. Y ahí aparece una pregunta incómoda: ¿qué ocurre cuando matar es un tema de optimización? La promesa de la automatización militar suele presentarse en nombre de la precisión, la velocidad o la superioridad táctica. Pero también puede erosionar algo esencial: la fricción moral. Cuando una decisión letal se fragmenta entre sensores, modelos predictivos, cadenas de mando asistidas por software y sistemas opacos de clasificación, la responsabilidad se diluye. Y cuando la responsabilidad se diluye, el umbral de lo aceptable se mueve. La tecnología no solo aumenta capacidades; también reconfigura nuestra tolerancia al riesgo y al daño a la vez que nuestra necesidad de seguridad cibernética y física. Por eso organismos internacionales y alianzas de seguridad insisten cada vez más en principios como la supervisión humana, la trazabilidad, la fiabilidad, la gobernanza y la rendición de cuentas. No es retórica. Es una advertencia.

En este contexto, las renuncias y distanciamientos de investigadores en grandes laboratorios tecnológicos no deberían leerse como anécdotas corporativas, sino como síntoma cultural. Que personas profundamente implicadas en el desarrollo de la IA hayan decidido apartarse o alzar la voz revela algo importante: ni siquiera dentro del núcleo innovador existe consenso sobre la velocidad, las prioridades o las salvaguardas. Y eso obliga a escuchar. No porque quienes se van tengan toda la razón, sino porque la duda informada merece más atención que la euforia interesada.

Hablar de riesgos existenciales, pero en realidad nos devuelve a una virtud antigua: la prudencia. Prudencia no es miedo al progreso. Prudencia es comprender que hay tecnologías cuyo alcance desborda el ciclo habitual de prueba, error y corrección. Hay errores que no son fácilmente reversibles. Hay despliegues que transforman infraestructuras sociales enteras antes de que hayamos decidido qué legitimidad queremos darles. Y hay capacidades, como las vinculadas a la guerra autónoma, que una vez normalizadas cambian para siempre el paisaje ético y político.

Tampoco podemos ser ilusos y regular lo que no desarrollamos y simplemente depender de terceros con otros criterios porque estamos poniendo nuestro futuro en sus manos. Nos hacen creer que innovación y ética parecen estar reñidas pero nada más lejos de la realidad. Por eso necesitamos salvaguardas, pero no solo técnicas. Necesitamos instituciones capaces de diagnosticar y detener o potenciar según el caso. Necesitamos estándares claros, responsabilidad jurídica y supervisión humana real. Y necesitamos también una nueva ética profesional en el ámbito tecnológico. Una ética que no premie solo al que llega primero, sino también al que sabe decir todavía no.

Quizá los objetores de conciencia tecnológica no sean quienes se oponen a la innovación, sino quienes se niegan a confundir capacidad con legitimidad. En un tiempo fascinado por la aceleración, su papel es recordarnos algo elemental: no todo lo que podemos construir merece ser desplegado ni tampoco los temores deben frenar el desarrollo. Y no toda inteligencia, por avanzada que sea, puede sustituir el juicio moral que sigue siendo, y debe seguir siendo, profundamente humano.