Inicio » Elon Musk y más de 2.400 científicos de la IA firman un compromiso contra los robots asesinos

Elon Musk y más de 2.400 científicos de la IA firman un compromiso contra los robots asesinos

Elon Musk y más de 2.400 científicos de la IA firman un compromiso contra los robots asesinos

  • Los hechos:

    Más de 2.400 científicos e investigadores de IA han firmado un compromiso que pretende disuadir a las empresas militares y a los países de construir sistemas de armas autónomas letales (LEYES).

  • Reflexione sobre ello:

    ¿Estamos como individuos, trabajando juntos en preocupaciones compartidas por todos los seres humanos del planeta, comenzando a ver el poder que tenemos para lograr un cambio positivo?

No es una historia poco común en la historia de la ciencia y la tecnología: las mentes más brillantes e innovadoras de su tiempo descubren, crean e inventan tecnologías que pueden tener beneficios enormemente positivos para la humanidad en su conjunto. Inevitablemente, el mayor y más rico “consumidor” de estas tecnologías es el Complejo Militar-Industrial, y las principales formas en que estas tecnologías se producen en nuestro mundo son como herramientas de control, guerra y sufrimiento humano.

En tiempos pasados, los científicos e inventores no tenían mucho que decir sobre cómo se utilizaba su trabajo, y a menudo se les podía persuadir de que su uso en aplicaciones militares era en realidad para el beneficio de la humanidad. Hoy, esos días ingenuos han pasado, y el paisaje es diferente. Algunas de las mentes más prominentes que están creando tecnologías avanzadas están empezando a hablar cada vez más sobre cómo se está utilizando su trabajo en el mundo.

Más de 2400 Signatarios

Elon Musk, de SpaceX, y Demis Hassabis, de Google DeepMind, son algunos de los más de 2.400 firmantes de la promesa, que pretende disuadir a las empresas militares y a los países de construir sistemas letales de armas autónomas, también conocidos como LAWS. Los firmantes son científicos especializados en inteligencia artificial (IA) y han declarado que no participarán en el desarrollo o fabricación de robots que puedan identificar y atacar a personas sin supervisión humana. El compromiso fue creado por el Instituto Futuro de la Vida:

PLEDGE DE ARMAS AUTÓNOMAS LETRAS

La inteligencia artificial (IA) está lista para desempeñar un papel cada vez más importante en los sistemas militares. Existe una oportunidad y una necesidad urgente para que los ciudadanos, los responsables políticos y los líderes distingan entre los usos aceptables e inaceptables de la IA.

En este sentido, los abajo firmantes estamos de acuerdo en que la decisión de tomar una vida humana nunca debe delegarse a una máquina. Hay un componente moral en esta posición, que no debemos permitir que las máquinas tomen decisiones de por vida por las que otros -o nadie- sean culpables. Existe también un poderoso argumento pragmático: las armas autónomas letales, que seleccionan y atacan objetivos sin intervención humana, serían peligrosamente desestabilizadoras para todos los países e individuos. Miles de investigadores de la IA coinciden en que, al eliminar el riesgo, la atribuibilidad y la dificultad de quitar vidas humanas, las armas autónomas letales podrían convertirse en poderosos instrumentos de violencia y opresión, especialmente cuando se vinculan a sistemas de vigilancia y datos. Además, las armas autónomas letales tienen características muy diferentes de las armas nucleares, químicas y biológicas, y las acciones unilaterales de un solo grupo podrían desencadenar fácilmente una carrera armamentista que la comunidad internacional carece de los instrumentos técnicos y los sistemas de gobernanza mundial necesarios para gestionar. La estigmatización y la prevención de una carrera de armamentos de este tipo deben ser una prioridad para la seguridad nacional y mundial.

Nosotros, los abajo firmantes, hacemos un llamamiento a los gobiernos y a los líderes gubernamentales para que creen un futuro con normas, reglamentos y leyes internacionales fuertes contra las armas autónomas letales. Al estar éstos actualmente ausentes, optamos por mantenernos a un alto nivel: no participaremos ni apoyaremos el desarrollo, la fabricación, el comercio o el uso de armas autónomas letales. Pedimos a las empresas y organizaciones de tecnología, así como a los líderes, políticos y otras personas, que se unan a nosotros en este compromiso.

El poder de la vergüenza pública

La promesa espera que sea algo más que palabras. Al hacer un llamado a los países para que legislen leyes, a las compañías de tecnología para que no acepten contratos, y a los individuos para que expresen su apoyo en contra de las armas autónomas letales, esperan influenciar a la opinión pública abrumadoramente en contra de las LEYES, y al hacerlo avergüenzan a cualquier persona o grupo que siga adelante con su desarrollo. Según Yoshua Bengio, pionero de la IA en el Instituto de Algoritmos de Aprendizaje de Montreal, existen algunos precedentes de este enfoque de trabajo:

Este enfoque realmente funcionó para las minas terrestres, gracias a los tratados internacionales y a la vergüenza pública, a pesar de que países importantes como los Estados Unidos no firmaron el tratado de prohibición de minas terrestres. Las empresas estadounidenses han dejado de construir minas terrestres.

El momento de esta promesa es crucial. El ejército es uno de los mayores financiadores y adoptadores de la tecnología de inteligencia artificial. Con sistemas informáticos avanzados, los robots pueden volar misiones sobre terrenos hostiles, navegar en tierra y patrullar bajo el mar. Se están preparando sistemas de armas más sofisticados. Toby Walsh, un profesor de inteligencia artificial de la Universidad de Nueva Gales del Sur en Sydney que firmó el compromiso, dijo lo siguiente al respecto:

Tenemos que convertir en norma internacional que las armas autónomas no son aceptables. Un humano siempre debe estar al tanto.

No podemos impedir que una persona determinada construya armas autónomas, del mismo modo que no podemos impedir que una persona determinada construya un arma química. Pero si no queremos que los Estados delincuentes o los terroristas tengan fácil acceso a las armas autónomas, debemos asegurarnos de que no sean vendidas abiertamente por las empresas armamentísticas.

Aumento de la Conciencia Colectiva

Esta promesa no es más que un ejemplo de cómo la gente se está implicando en el futuro del planeta. Ya no estamos esperando al margen y dejando las decisiones en manos de las corporaciones, los militares o nuestros líderes políticos. Cuando nos identificamos no como una raza, cultura o nación, sino como un planeta, donde toda la humanidad es considerada parte de la familia, entonces tenemos mayor acceso al poder de nuestra conciencia colectiva. Una vez que aprovechemos ese poder, ninguna iniciativa que sea en beneficio de la humanidad estará más allá de nuestras capacidades.

Add Comment

Click here to post a comment