Ook killer robots moeten regels volgen

Rode Kruis-Vlaanderen verwelkomt de aandacht in het federaal parlement en bij wetenschappers voor killer robots. De term killer robots wordt gebruikt voor wapens waarover geen menselijke controle meer bestaat oftewel volledig autonome wapens. 

Het Rode Kruis is al langer betrokken in het debat rond autonome wapens. De organisatie hanteert hierbij de volgende brede definitie voor dit soort wapen: "Elk wapensysteem met een autonomie in zijn kritieke functies, zoals een wapen dat doelwitten kan selecteren (zoeken naar, detecteren, identificeren, opsporen of selecteren) en aanvallen (gebruik van geweld tegen, neutraliseren, beschadigen, vernietigen) zonder enige menselijke tussenkomst.”

Het Rode Kruis roept op dat zowel bestaande als nieuwe opkomende wapensystemen en technologieën moeten voldoen aan de regels van het internationaal humanitair recht.

Het internationaal humanitair recht bevat regels over de manier van oorlogsvoering, die de partijen bij een gewapend conflict binden. Deze regels zijn echter gericht op strijders en andere actoren die verantwoordelijk zijn voor het respecteren van dit recht en die hiervoor verantwoordelijk kunnen worden gesteld bij het schenden ervan. Deze verplichtingen kunnen echter niet worden overgedragen aan een machine. Enkele belangrijke vragen die zich stellen met gebruik van autonome wapens:

• Zijn zij in staat om het onderscheid te maken tussen burgers en strijders, militaire doelwitten en burgerlijker goederen, strijders en personen hors de combat (principe van onderscheid)?
  
  
• Kunnen zij op basis van verschillende factoren en variabelen inschatten of een aanval “collateral damage” veroorzaakt aan burgers en burgerlijke goederen, en of dit excessief is in verhouding met het concrete en rechtstreekse militaire voordeel dat voorzien was (principe van proportionaliteit)?
  
  
• Kan het wapensysteem een aanval stoppen of onderbreken als duidelijk wordt dat een doel geen militair doelwit is of iets of iemand onder speciale bescherming staat?

Of een autonoom wapen kan gebruikt worden in overeenstemming met de regels van het internationaal humanitair recht zal afhangen van de specifieke technische karakteristieken van het wapensysteem en de voorziene en verwachte omstandigheden van het gebruik ervan. Het gaat dan bijvoorbeeld over de taak van het wapensysteem, het type van doelwitten waarbij het wapensysteem wordt gebruikt, de graad van betrouwbaarheid van het wapen, mogelijkheid voor menselijke controle en interventie om het wapen systeem te deactiveren etc.

Er zijn een aantal ontwikkelingen waardoor autonome wapens minder voorspelbaar worden. Een voorbeeld: toegenomen aanpasbaarheid, zoals wapensystemen die hun eigen doelen stellen of hun functioneren aanpassen aan de omgeving of zelf eigen leeralgoritmen toepassen.

Het Rode Kruis stelt daarom dat beperkingen nodig zijn op de autonomie van een wapen, om naleving van het internationaal humanitair recht te kunnen verzekeren. Dit kan door een bepaalde mate van menselijke controle over dit soort wapen.

Bij de ontwikkeling of ingebruikname van nieuwe wapens, bestaat er een de verplichting voor Staten onder artikel 36 van het Eerste Aanvullende Protocol van 1977 (bij de Verdragen van Genève). Concreet moeten staten nieuwe wapens juridisch te beoordelen om te controleren of deze kunnen gebruikt worden in overeenstemming met de internationale verplichtingen.

Het Rode Kruis vraagt dan ook om aandacht te besteden aan de menselijke controle over autonome wapens en hier in alle transparantie duidelijke criteria over te ontwikkelen, zodat de naleving van het internationaal humanitair recht wordt verzekerd.