Η ταχύτατη είσοδος της Τεχνητής Νοημοσύνης στα σύγχρονα πεδία μάχης ανοίγει ένα από τα δυσκολότερα διπλωματικά και ηθικά μέτωπα της εποχής μας. Στο επίκεντρο βρίσκεται ένα θεμελιώδες ερώτημα: ποιος θα έχει τελικά την εξουσία να αποφασίζει για τη χρήση θανατηφόρας βίας, ο άνθρωπος ή ο αλγόριθμος;
Οι πρόσφατες διαπραγματεύσεις στη Γενεύη για τα θανατηφόρα αυτόνομα οπλικά συστήματα έδειξαν πόσο δύσκολη είναι η επίτευξη διεθνούς συμφωνίας. Σύμφωνα με τη Washington Post, οι ΗΠΑ και η Ρωσία πρωταγωνίστησαν στην αφαίρεση σημαντικών δικλίδων ασφαλείας από το υπό διαμόρφωση κείμενο του ΟΗΕ. Το Reuters είχε ήδη μεταδώσει στις 4 Σεπτεμβρίου ότι η αντίθεση Ουάσιγκτον και Μόσχας και οι αλλαγές που πρότειναν την τελευταία στιγμή δημιουργούσαν σοβαρές αμφιβολίες για το αποτέλεσμα των συνομιλιών.
Οι κρίσιμες διατυπώσεις που αφαιρέθηκαν
Οι συνομιλίες διεξήχθησαν στο πλαίσιο της Σύμβασης για Ορισμένα Συμβατικά Όπλα (CCW), στην οποία συμμετέχουν 128 κράτη. Αντικείμενο ήταν ένα μη δεσμευτικό προς το παρόν κείμενο, το οποίο θα μπορούσε να αποτελέσει τη βάση για μελλοντικές διεθνείς απαγορεύσεις ή περιορισμούς στα Lethal Autonomous Weapons Systems (LAWS).
Κατά τη Washington Post, την τελευταία ημέρα των διαπραγματεύσεων Αμερικανοί και Ρώσοι διπλωμάτες εργάστηκαν επί περίπου 15 ώρες πάνω στο κείμενο. Μεταξύ άλλων, αφαιρέθηκαν αναφορές σύμφωνα με τις οποίες τα αυτόνομα συστήματα θα έπρεπε να λειτουργούν με προβλέψιμο και αξιόπιστο τρόπο, καθώς και διάταξη που προέβλεπε ότι κατά τη χρήση τους θα έπρεπε να λαμβάνονται υπόψη ηθικοί παράγοντες.
Ακόμη σημαντικότερη ήταν η αφαίρεση πρόβλεψης που απαιτούσε ανθρώπινο έλεγχο συγκεκριμένων στρατιωτικών στόχων που είχε προσδιορίσει η AI πριν πραγματοποιηθεί πλήγμα. Οι πληροφορίες της εφημερίδας βασίζονται σε τρεις ανθρώπους που γνώριζαν τις κλειστές διαπραγματεύσεις και σε έγγραφα που εξέτασε η ίδια. Το αμερικανικό Στέιτ Ντιπάρτμεντ, το ρωσικό υπουργείο Εξωτερικών και ο ΟΗΕ δεν είχαν απαντήσει στα αιτήματα της εφημερίδας για σχόλιο κατά τη δημοσίευση του ρεπορτάζ.
Ένα κοινό μέτωπο Ουάσιγκτον και Μόσχας
Η σύμπλευση ΗΠΑ και Ρωσίας αποκτά ιδιαίτερη σημασία, καθώς οι δύο χώρες βρίσκονται αντιμέτωπες σε πολλά από τα σημαντικότερα γεωπολιτικά μέτωπα. Στο συγκεκριμένο ζήτημα, όμως, φαίνεται να συγκλίνουν στην αντίθεσή τους απέναντι σε ένα αυστηρό διεθνές πλαίσιο που θα μπορούσε να περιορίσει την ανάπτυξη και επιχειρησιακή αξιοποίηση αυτόνομων όπλων.
Το Reuters ανέφερε ότι η πλειονότητα των κρατών που συμμετείχαν στις συνομιλίες υποστήριζε το σχέδιο, ενώ ΗΠΑ και Ρωσία είχαν ζητήσει αλλαγές και διαγραφές την τελευταία στιγμή. Τα κράτη συμφωνούν ότι το Διεθνές Ανθρωπιστικό Δίκαιο εφαρμόζεται και στα αυτόνομα όπλα, ωστόσο ειδικά δεσμευτικά διεθνή πρότυπα για αυτά εξακολουθούν ουσιαστικά να απουσιάζουν.
Η Human Rights Watch σημείωσε μετά την ολοκλήρωση των συνομιλιών ότι το τελικό κείμενο διατήρησε ορισμένες σημαντικές αρχές, μεταξύ των οποίων ότι ο ανθρώπινος έλεγχος και η ανθρώπινη κρίση παραμένουν απαραίτητα στοιχεία για τη συμμόρφωση με το διεθνές δίκαιο. Παράλληλα, όμως, καταγράφηκαν σημαντικές υποχωρήσεις, όπως η αφαίρεση αναφορών στην προβλεψιμότητα, την αξιοπιστία, την εξηγησιμότητα και την ιχνηλασιμότητα των συστημάτων.
Ο πόλεμος με AI δεν είναι πλέον επιστημονική φαντασία
Η συζήτηση δεν αφορά ένα μακρινό τεχνολογικό μέλλον. Τα σύγχρονα πεδία συγκρούσεων έχουν ήδη μετατραπεί σε εργαστήρια στρατιωτικής αυτοματοποίησης.
Το Reuters επισημαίνει ότι αυξάνονται οι ανησυχίες για τη χρήση ημιαυτόνομων συστημάτων, ικανών να αναγνωρίζουν και να προσβάλλουν στόχους με διαφορετικούς βαθμούς αυτονομίας, σε πολέμους όπως εκείνοι στην Ουκρανία, το Σουδάν και τη Μέση Ανατολή.
Ο ΟΗΕ και η Διεθνής Επιτροπή του Ερυθρού Σταυρού έχουν προειδοποιήσει ότι η ανάπτυξη αυτόνομων οπλικών συστημάτων μπορεί να μειώσει τον ανθρώπινο έλεγχο στη χρήση βίας. Τον Αύγουστο επανέλαβαν την έκκλησή τους για διεθνείς κανόνες, υπογραμμίζοντας ότι η κούρσα προς μεγαλύτερη αυτονομία στα οπλικά συστήματα βρίσκεται ήδη σε εξέλιξη.
Το μεγάλο πρόβλημα της ευθύνης
Πίσω από την τεχνολογική συζήτηση κρύβεται ένα πολύ πρακτικό νομικό πρόβλημα. Ποιος ευθύνεται όταν ένα αυτόνομο σύστημα κάνει λάθος;
Εάν ένας αλγόριθμος χαρακτηρίσει λανθασμένα ένα πολιτικό όχημα ως στρατιωτικό στόχο ή δεν μπορέσει να διακρίνει έναν άμαχο από έναν μαχητή, η αλυσίδα της ευθύνης γίνεται πολύ πιο περίπλοκη. Είναι υπεύθυνος ο διοικητής που ενεργοποίησε το σύστημα, ο χειριστής, ο προγραμματιστής, η εταιρεία που το κατασκεύασε ή το κράτος που το ανέπτυξε;
Ακριβώς γι' αυτό η απαίτηση για ουσιαστικό ανθρώπινο έλεγχο θεωρείται από πολλές χώρες και οργανώσεις κεντρικής σημασίας. Η Διακήρυξη των Παρισίων του 2025 για την AI στα οπλικά συστήματα, την οποία έχει υποστηρίξει και η Ελλάδα, αναφέρει ότι η ευθύνη και η λογοδοσία δεν μπορούν να μεταβιβαστούν στις μηχανές και ότι οι άνθρωποι πρέπει να παραμένουν υπεύθυνοι για την ανάπτυξη, την εγκατάσταση και τη χρήση στρατιωτικών εφαρμογών AI.
Η επόμενη κρίσιμη μάχη τον Νοέμβριο
Παρά την αποδυνάμωση του κειμένου, η διαδικασία δεν έχει τελειώσει. Η Human Rights Watch καταγράφει ότι 76 κράτη έχουν πλέον εκφράσει υποστήριξη για μετάβαση σε διαπραγματεύσεις, ενώ 70 από αυτά είναι συμβαλλόμενα μέρη της CCW. Η επόμενη κρίσιμη στιγμή αναμένεται στη Διάσκεψη Αναθεώρησης της Σύμβασης τον Νοέμβριο, όπου θα εξεταστεί εάν πρέπει να δοθεί επίσημη εντολή για διαπραγμάτευση ενός νέου νομικού πλαισίου.
Η διαμάχη επομένως ξεπερνά κατά πολύ μια τεχνική συζήτηση για drones και αλγορίθμους. Αφορά το ποιος θα διατηρεί την τελική εξουσία πάνω στη χρήση θανατηφόρας βίας στον πόλεμο του μέλλοντος.
Καθώς η AI αποκτά ολοένα μεγαλύτερη θέση στα στρατιωτικά δόγματα των μεγάλων δυνάμεων, το χρονικό περιθώριο για τη δημιουργία κοινών κανόνων στενεύει. Και το βασικό δίλημμα γίνεται όλο και πιο πιεστικό: εάν η διεθνής κοινότητα δεν καθορίσει εγκαίρως πού πρέπει να σταματά η αυτονομία της μηχανής, η τεχνολογία μπορεί να καθορίσει τα όρια πριν προλάβει να τα καθορίσει η διπλωματία.
