Más de 100 directores generales de firmas de inteligencia artificial y robótica firmaron recientemente una carta abierta advirtiendo que su trabajo podría ser reutilizado para construir armas letales autónomas - " robots asesinos ". Argumentaron que construir tales armas sería abrir una "Caja de Pandora". podría alterar para siempre la guerra.
Más de 30 países tienen o están desarrollando drones armados , y con cada generación sucesiva, los drones tienen más autonomía. La automatización se ha utilizado durante mucho tiempo en armas para ayudar a identificar objetivos y maniobrar misiles. Pero hasta la fecha, los seres humanos han permanecido en control de decidir si utilizar la fuerza letal. Los militares sólo han utilizado compromisos automatizados en escenarios limitados para defenderse de cohetes de alta velocidad y misiles . Los avances en tecnología autónoma podrían cambiar eso. La misma inteligencia que permite a los automóviles conducir automóviles evitar a los peatones podría permitir que las futuras armas que cazan y ataquen a los objetivos por su cuenta.
Durante los últimos tres años, los países se han reunido a través de las Naciones Unidas para discutir armas letales autónomas. Más de 60 organizaciones no gubernamentales han pedido un tratado que prohíba las armas autónomas. Sin embargo, la mayoría de los países están cubriendo sus apuestas. Ningunas grandes potencias militares han dicho que planean construir armas autónomas, pero pocos las han sacado de la mesa.
Hay una cierta ironía en los CEOs de la robótica y las empresas de AI advirtiendo de los peligros de las mismas tecnologías que ellos mismos están construyendo. Imploran a los países a "duplicar sus esfuerzos" en las negociaciones internacionales y advierten que "no tenemos mucho tiempo para actuar". Pero si la situación es verdaderamente desalentadora, ¿no podrían estas compañías retrasar su investigación para comprar más tiempo a los diplomáticos?
En realidad, incluso si todas estas empresas dejaban de investigar, el campo de la IA seguiría avanzando. La inteligencia detrás de los robots autónomos no es como la tecnología furtiva, que fue creada en laboratorios secretos de defensa y fuertemente controlada por los militares. La tecnología autónoma está en todas partes. Los zánganos aficionados que venden al por menor por unos pocos cientos de dólares pueden despegar, aterrizar, seguir objetos en movimiento y evitar obstáculos por su cuenta. Los estudiantes de la escuela primaria construyen robots en competiciones. Incluso el estado islámico está consiguiendo adentro en el juego, amarrando las bombas a los drones pequeños. No hay detención AI/Robótica de las empresas no pueden unirse fácilmente para detener el progreso, ya que sólo se necesita una empresa para romper el acuerdo y avanzar en la tecnología. Además, pedir a las empresas que dejen de investigar sería pedirles que renuncien a las innovaciones que podrían generar beneficios y salvar vidas.
Estas mismas dinámicas hacen que las armas autónomas restrictivas sean muy difíciles a nivel internacional. Pedir a los países que firmen un tratado que prohíba un arma que aún no existe, significa pedirles que renuncien a una herramienta potencialmente útil para defenderse de las amenazas y salvar vidas. Por otra parte, el mismo problema de los tramposos se aplica en el ámbito internacional, pero las apuestas son más altas. En lugar de perder ganancias, una nación podría perder una guerra. La historia sugiere que incluso cuando la comunidad internacional condena ampliamente un arma como armas químicas inhumanas- algunos déspotas los usarán de todos modos. Los tratados por sí solos no impedirán que los regímenes deshonestos y los terroristas construyan armas autónomas. Si las armas autónomas produjeran una ventaja decisiva en la guerra, un tratado que desarmara sólo a los que se preocupan por el imperio de la ley sería el peor de todos los mundos posibles.
Es probable que los firmantes de la carta entiendan esto, lo cual puede ser la razón por la cual la carta no pide una prohibición, una notable salida de una carta similar hace dos años . En cambio, los signatarios piden a los países de las Naciones Unidas que "encuentren una manera de protegernos de todos estos peligros". Sin embargo, es más fácil decirlo que prohibir o regular las tecnologías de armas emergentes. Las naciones han tratado de prohibir ballestas, armas de fuego, ataques sorpresa de submarinos, ataques aéreos a ciudades y, en la Primera Guerra Mundial, gas venenoso. Todos han fallado.
Y, sin embargo, las naciones se negaron a usar gas venenoso en los campos de batalla de la Segunda Guerra Mundial. La Guerra Fría vio tratados que prohibían armas químicas y biológicas, utilizaban el medio ambiente como un arma y colocaban armas nucleares en el espacio o en el lecho marino. Estados Unidos y la Unión Soviética se retiraron de las bombas de neutrones y de las armas antisatélites, incluso sin tratados formales. Las armas nucleares han proliferado, pero no tan ampliamente como se predijo. En años más recientes, las naciones han aprobado prohibiciones sobre los láseres ciegos, las minas terrestres y las municiones en racimo.
Las armas son más fáciles de prohibir cuando pocos países tienen acceso a ellas, cuando son ampliamente vistas como horripilantes y cuando proporcionan pocos beneficios militares. Es extremadamente difícil prohibir las armas que se consideran como una ventaja decisiva, como son las armas nucleares. Un factor importante en lo que sucederá con las armas autónomas, por lo tanto, es cómo las naciones llegan a ver los beneficios y riesgos que plantean.Las armas autónomas plantean un dilema de seguridad clásico para los países. Todos los países pueden estar mejor sin ellos, pero la restricción mutua requiere cooperación. El año pasado, las naciones acordaron crear un grupo más formal de expertos gubernamentales para estudiar el asunto. El grupo se reunirá en noviembre y, una vez más, las naciones tratarán de detener una tecnología potencialmente peligrosa antes de que se utilice en la guerra.
Via:
http://time.com/4948633
