América Latina y el Caribe acuerdan en Costa Rica la urgente necesidad de negociar un instrumento internacional para regular la autonomía en los sistemas de armas (English version at the end)

Heredia, 24 de febrero de 2023. En el segundo día de la Conferencia Regional sobre el Impacto Social y Humanitario de las Armas Autónomas, 33 Estados de América Latina y el Caribe coincidieron en la urgente necesidad de negociar un instrumento jurídicamente vinculante, con prohibiciones y regulaciones, respecto a la autonomía en los sistemas de armas para garantizar un control humano significativo.

Es la primera vez que una región del mundo se reúne fuera de los confines de la Organización de las Naciones Unidas, sede Ginebra, para con una sola voz, exhortar a fortalecer el marco jurídico internacional existente sobre este tema.

Durante la Conferencia, los Estados reafirmaron su compromiso de participar de manera activa para contar con posiciones comunes que logren proporcionar un renovado impulso a las negociaciones que se llevan a cabo en el marco de la Convención sobre Ciertas Armas Convencionales (CCAC), en Ginebra, Suiza; así como en otros foros internacionales de relevancia.

Se comprometieron, además, a continuar y reforzar la cooperación y la asociación con organizaciones internacionales y de la sociedad civil, el mundo académico y otras partes interesadas pertinentes, para aprovechar su experiencia y apoyo.

Respecto al uso de ciertas formas de inteligencia artificial que pueden socavar la paz y la seguridad internacionales, el ministro a.í. de Relaciones Exteriores y Culto de Costa Rica, Christian Guillermet, resaltó que “existe un verdadero sentido de urgencia por contar con nuevas prohibiciones y normativas guiadas por la Carta de las Naciones Unidas, el derecho internacional, incluido el derecho internacional humanitario y sus principios, basadas en los principios de humanidad y los dictados de la conciencia pública, así como en perspectivas éticas”.

Insistió además en que “no es solo el uso de la inteligencia artificial en sistemas y procesos militares lo que plantea riesgos éticos y de seguridad, sino también el posible uso malicioso de esta tecnología por parte de agentes estatales y no estatales para llevar a cabo sofisticadas operaciones cibernéticas e incluso campañas de desinformación”.

En palabras de la embajadora Maritza Chan, Representante Permanente de Costa Rica en la sede de la ONU en Nueva York, “esta Conferencia marca un punto de inflexión: existe un antes y un después de la adopción del Comunicado de Belén”. El espíritu de Belén debe guiar nuestros próximos pasos y servir para establecer una clara hoja de ruta, pues no es la primera vez que América Latina y el Caribe están a la vanguardia de los temas más importantes en materia de paz y seguridad”.

La Conferencia contó con participación de expertos y representantes de organizaciones de la sociedad civil y organismos internacionales, quienes exhortaron a los participantes de los Estados a trabajar juntos para asegurar el cumplimiento del derecho internacional, incluyendo el humanitario, así como la prevención del impacto que conlleva la autonomía en los sistemas de armas.

En el evento también hubo un espacio con miembros de la prensa internacional acreditada en Costa Rica, con el fin de sensibilizar sobre la importancia de la Conferencia, sus objetivos, así como de los riesgos para la paz y la seguridad internacionales de estos sistemas.

Esta actividad fue una iniciativa del Gobierno de Costa Rica, a través del Ministerio de Relaciones Exteriores y Culto y en coordinación con la Fundación para la paz y la democracia (FUNPADEM).

A su cierre, el documento final acordado entre los Estados será publicado en el siguiente enlace: https://bit.ly/41zMRBZ

Las armas autónomas. Al presentar su informe “Nuestra Agenda Común” en setiembre del 2021, el Secretario General de la ONU, Antonio Guterres, advirtió que “la tecnología avanza sin rieles que nos protejan de sus imprevistas consecuencias”.

También hizo un llamado “a promover regulación de la inteligencia artificial para asegurarse de que respete los valores globales comunes” (…) pues “no tenemos ni por asomo una arquitectura global para hacer frente a cualquiera de estos retos”

Un sistema de armas autónomo se define como: “Todo sistema de armas dotado de autonomía en sus funciones críticas, es decir, un sistema de armas que puede seleccionar (buscar, detectar, identificar, rastrear o seleccionar) y atacar (utilizar la fuerza contra, neutralizar, dañar o destruir) objetivos sin intervención humana”.

La idea de que una máquina pueda decidir en última instancia poner fin a una vida socava la dignidad humana y devalúa el concepto de humanidad. La noción de ética es parte fundamental del Derecho Internacional Humanitario.

El segundo párrafo del artículo 1 del Protocolo Adicional a los Convenios de Ginebra de 1949 (conocido como la Cláusula de Maarten) establece: “en los casos no previstos en el presente Protocolo o en otros acuerdos internacionales, las personas civiles y los combatientes quedan bajo protección y el imperio de los principios del derecho de gentes derivados de los usos establecidos, de los principios de humanidad y de los dictados de la conciencia pública”.

Además, se han planteado serias dudas sobre la capacidad de cualquier algoritmo para emitir juicios suficientemente humanos para evaluar la información disponible y tomar decisiones relacionadas con las normas del Derecho Internacional Humanitario de distinción, proporcionalidad y precauciones en el ataque.

________

Latin America and Caribbean states jointly agree on the urgent need to negotiate an international instrument to regulate autonomy in weapon systems

• Region acknowledges risks and expresses political will to negotiate a legally binding instrument on autonomous weapons

Heredia, 24 February 2023. On the second day of the Regional Conference on the Social and Humanitarian Impact of Autonomous Weapons, 33 Latin American and Caribbean States agreed on the urgent need to negotiate a legally binding instrument, with prohibitions and regulations, on autonomy in weapons systems in order to guarantee meaningful human control.

This is the first time that a region of the world has met outside the confines of the United Nations in Geneva to call with one voice for the strengthening of the international legal framework on this issue.

During the Conference, the States reaffirmed their commitment to develop common positions that will provide renewed impetus to the negotiations taking place in the framework of the Convention on Certain Conventional Weapons (CCW) in Geneva, Switzerland, as well as in other relevant international fora.

States further committed to continue and strengthen cooperation and partnership with international and civil society organisations, academia and other relevant stakeholders to draw on their relevant expertise and support.

Recognising that the use of certain forms of artificial intelligence can undermine international peace and security, Acting Costa Rican Minister of Foreign Affairs and Worship Christian Guillermet stressed that "there is a real sense of urgency for new prohibitions and regulations guided by the UN Charter and international law - including international humanitarian law and its principles. These rules should be based on the principles of humanity and the dictates of public conscience, as well as ethical perspectives.”

Guillermet further warned that "it is not only the use of artificial intelligence in military systems and processes that poses ethical and security risks, but also the possible malicious use of this technology by state and non-state actors to conduct sophisticated cyber operations and even disinformation campaigns.”

In the words of Ambassador Maritza Chan, Permanent Representative of Costa Rica to the UN Headquarters in New York, "this Conference marks a turning point: there is a before and an after the adoption of the Belén Communiqué. The spirit of Belén should guide our next steps and serve to establish a clear roadmap. This is not the first time that Latin America and the Caribbean are at the forefront of the most important peace and security issues.”

The Conference was attended by experts and representatives from civil society organisations and international organisations, who urged participants from States to work together to ensure compliance with international law, including humanitarian law, as well as to reduce the risks of autonomy in weapons systems.

As part of the Conference, members of the international press accredited in Costa Rica attended a briefing with Acting Foreign Minister Guillermet and Ambassador Chan. At the brief, the Minister clarified the objectives of the Conference and the risks that autonomous weapons pose to international peace and security.

The Conference was hosted by the Government of Costa Rica, through the Ministry of Foreign Affairs and Worship, and executed by the Foundation for Peace and Democracy (FUNPADEM).

The final document agreed upon by the Participating States is published at the following location: https://bit.ly/41zMRBZ

Autonomous weapons. Launching his report "Our Common Agenda" in September 2021, UN Secretary-General Antonio Guterres warned that "technology is moving ahead without guard rails to protect us from its unforeseen consequences."

He also called for "promoting regulation of artificial intelligence to ensure that it respects common global values" (...) as "we have nowhere near a global architecture to address any of these challenges".

An autonomous weapon system is defined as: "Any weapon system endowed with autonomy in its critical functions, i.e. a weapon system that can select (seek, detect, identify, track or select) and engage (use force against, neutralise, damage or destroy) targets without human intervention".

The idea that a machine can ultimately decide to end a life undermines human dignity and devalues the concept of humanity.  The notion of ethics is a fundamental integral part of international humanitarian law. The second paragraph of Article 1 of the Protocol Additional to the Geneva Conventions of 1949 (known as the Maarten Clause) states: "In cases not covered by this Protocol or by other international agreements, civilians and combatants remain under the protection and authority of the principles of international law derived from established custom, from the principles of humanity and from the dictates of public conscience."  

In addition, serious doubts have been raised about the ability of any algorithm to make sufficiently humane judgments to evaluate the available information and make decisions related to the International Humanitarian Law rules of distinction, proportionality and precautions in attack. Press contact:  José Loría Rojas, tel. +506 8330 4809, e-mail: jloria@rree.go.cr   

Comunicación Institucional

076-2023 América Latina y el Caribe acuerdan en Costa Rica la urgente necesidad de negociar un instrumento internacional para regular la autonomía en los sistemas de armas

Viernes 24 de febrero de 2023