Al llarg d'aquesta setmana tindrà lloc la reunió de la Convenció sobre Prohibicions o Restriccions en la Utilització de Certes Armes Convencionals en Ginebra. En aquesta reunió s’abordaran els Sistemes d'armes autònomes letals o armes robòtiques que tenen la capacitat de disparar sense intervenció humana en la presa de decisions.
La indústria i els centres de recerca robòtica estan treballant en prototips de robots amb majors capacitats autònomes, s'especula que en uns 20 o 30 anys existiran robots que una vegada activats puguin seleccionar i atacar objectius sense la intervenció humana, els anomenats “robots autònoms letals” o “robots assassins”.
Aquestes noves armes amb capacitat de decidir per si mateixes si disparen o no, si maten o no, estan generant un intens debat. En Ginebra el debat girarà al voltant de quatre temes, qüestions tècniques, qüestions ètiques i sociològiques, qüestions jurídiques del dret internacional i dret humanitari i aspectes operacionals i militars.
En les qüestions tècniques s'examinaran les funcions cada cop més autònomes dels sistemes tècnics en general, la seva complexitat i l’autonomia, l’estat de recerca actual i les novetats previstes; la justificació militar de les funcions autònomes en els sistemes d'armes així com la resiliència a errors de programació, a errors de desplegament i la vulnerabilitat d'aquestes armes davant atacs cibernètics. En aquesta sessió tècnica s'intentarà entendre millor elements conceptuals com el “control humà significatiu”, la responsabilitat i predicibilitat de l'autonomia en referència al context i a les tasques d'aquests sistemes, també s'inclourà la qüestió de la responsabilitat jurídica en referència a la delegació d'autoritat i a la presa de decisions (per exemple en cas de risc d'accident).
Referent a les qüestions ètiques i relatives als drets humans, s'abordarà l'impacte que aquestes armes puguin tenir sobre els drets humans, en particular sobre el dret a la vida, el dret a una mort digna i el dret a la protecció dels éssers humans.
Els humans sota certes condicions: calor, ràbia, por, ira, rancor, desig de venjança, etc. actuem de la pitjor manera. Els robots no tenen aquests sentiments i per tant eviten morts innecessàries. Els robots no senten l'adrenalina, la privació de somni, moral baixa o fatiga. En situació de conflicte armat els humans cometen baixeses com violar a dones, torturar, etc. els robots sinó estan programats per a això no causarien danys intencionadament a la població.
Extrapolar aquest raonament condueix al fet que els robots actuant en la guerra poden reduir les morts il·legítimes o accidentals, produir menys destrucció i per tant actuar millor que els humans, és a dir els robots representarien una força civilitzadora.
D'altra banda les emocions són una salvaguarda, sense elles es pot matar més fàcilment. Els robots no poden tenir sentit comú, no poden sentir compassió, llàstima, no poden tenir intuïció. Igual que no pot usar trucs psicològics com guanyar-se la confiança de l'adversari. Decidir sobre la vida o la mort de les persones pot requerir visió de conjunt, de comprensió d'intencions, de previsió d'esdeveniments, d'intuïció. Els robots no poden preveure les conseqüències dels seus actes, els humans sí. Els robots poden abordar i avaluar situacions de forma quantitativa difícilment qualitativa. Aquesta és una habilitat necessària quan es tracta d'avaluar sobre la vida o la mort de les persones.
El mateix podem dir sobre la capacitat de distingir i avaluar ordres licites o il·lícites, o avaluar i interpretar un context en càlcul de valors.
El robot no sentirà empatia, no s'identificarà amb les víctimes, per això les guerres podran ser més eficients, cosa que dubto, però seran segur més inhumanes.
En el tema relatiu al compliment de dret internacional humanitari s'abordarà el risc que pot suposar desplegar aquest tipus d'armes per al respecte incondicional al DIH, concretament abordaran problemes específics en quant a la seqüència ininterrompuda de responsabilitat i principis com el de distinció, proporcionalitat i les precaucions en els atacs.
El que es qüestiona és, si és possible o no, que els algorismes de programació dels robots incloguin el compliment del Dret Internacional, el Dret Internacional Humanitari o la Convenció de Ginebra. En concret es debaten tres principis jurídics essencials.
La responsabilitat, un robot és evident que no té capacitat legal, moral o de qualsevol un altre tipus i, per tant, no pot ser responsable de les seves accions. Si hi ha un error o un acte de crim de guerra qui serà el responsable? El programador informàtic? El fabricant?, El militar? El polític que autoritza el desplegament? I sí és usat per un agent privat no estatal?
El principi de proporcionalitat exigeix que, abans d'atacar, s'ha d'avaluar el dany que pugui causar-se a la població civil pel que fa a l'avantatge militar obtingut amb l'acció. La proporcionalitat és pròpia del discerniment humà i es basa en conceptes com el sentit comú, actuar de bona fe o que l'ordre sigui raonable; per determinar si una atac ha estat proporcional és necessari examinar si la persona que ha pres la decisió d'atacar estava raonablement ben informada de la situació, de les circumstàncies o si ha fet un ús raonable de la informació disponible. La qüestió estreba a determinar si els robots poden ser programats per replicar processos psicològics en els judicis de valor humans necessaris per avaluar la proporcionalitat d'una decisió.
El principi de distinció entre combatents i altres actors com a insurgents, civils, nens, dones ancians, etc. El robot no solament ha de ser capaç de distingir si l'objectiu és combatent o no, sinó que també ha de fer un balanç d'intencions. En els conflictes actuals no és fàcil identificar als combatents, ja que sovint no porten uniforme o insígnies distintives i solen barrejar-se amb la població civil.
En el tram final de la Convenció, el debat se centrarà en possibles elements d'acord en relació amb si cal establir uns reglaments o restriccions sobre robots autònoms letals o si cal establir un codi de conducta.
