Μέχρι πριν από λίγα χρόνια έμοιαζε με σενάριο επιστημονικής φαντασίας. Σήμερα αποτελεί αντικείμενο διαπραγμάτευσης στον ΟΗΕ, σύγκρουσης ανάμεσα στο Πεντάγωνο και κορυφαίες εταιρείες τεχνητής νοημοσύνης και μιας ολοένα ταχύτερης στρατιωτικής τεχνολογικής κούρσας.

Πόσο μακριά μπορεί να φτάσει ένα όπλο χωρίς άνθρωπο να αποφασίζει κάθε φορά ποιον θα πλήξει;

Ο γενικός γραμματέας του ΟΗΕ Αντόνιο Γκουτέρες και η πρόεδρος της Διεθνούς Επιτροπής του Ερυθρού Σταυρού Μιριάνα Σπόλιαριτς προειδοποίησαν ότι η διεθνής κοινότητα βρίσκεται πλέον «επικίνδυνα κοντά» σε μια ηθική κόκκινη γραμμή: την αυτόνομη στοχοποίηση ανθρώπων από μηχανές.

Το αίτημα τους είναι σαφές: να ξεκινήσουν επειγόντως διαπραγματεύσεις για ένα νομικά δεσμευτικό διεθνές πλαίσιο που θα απαγορεύει ορισμένες κατηγορίες αυτόνομων όπλων και θα επιβάλλει αυστηρούς περιορισμούς στις υπόλοιπες.

Τι είναι τα «killer robots»

Ο όρος δεν παραπέμπει απαραίτητα σε ανθρωπόμορφα ρομπότ που κινούνται στο πεδίο της μάχης.

Τα αυτόνομα οπλικά συστήματα μπορούν να περιλαμβάνουν drones, πυραυλικά συστήματα ή άλλες πλατφόρμες οι οποίες, αφού ενεργοποιηθούν, χρησιμοποιούν αισθητήρες και λογισμικό για να εντοπίζουν, να επιλέγουν και να προσβάλλουν στόχους χωρίς να απαιτείται νέα ανθρώπινη απόφαση για κάθε πλήγμα.

Αυτό ακριβώς είναι το σημείο που προκαλεί τη μεγαλύτερη ανησυχία.

Όσο αυξάνεται η αυτονομία, τόσο μικραίνει ο ανθρώπινος ρόλος στη στιγμή κατά την οποία λαμβάνεται μια απόφαση ζωής και θανάτου.

Ο ΟΗΕ και ο Ερυθρός Σταυρός ζητούν να απαγορευτούν ιδιαίτερα δύο κατηγορίες: τα αυτόνομα συστήματα των οποίων η συμπεριφορά δεν μπορεί να προβλεφθεί επαρκώς και τα όπλα που έχουν σχεδιαστεί για να χρησιμοποιούνται αυτόνομα εναντίον ανθρώπων.

«Αν δεν μπορείς να προβλέψεις τι θα κάνει, πώς θα το περιορίσεις;»

Το πρόβλημα δεν είναι μόνο η ηθική διάσταση.

Στο χάος μιας πραγματικής μάχης, οι συνθήκες μπορούν να αλλάξουν μέσα σε δευτερόλεπτα.

Ένας στρατιώτης μπορεί να παραδοθεί ή να τραυματιστεί και να πάψει να αποτελεί νόμιμο στόχο. Ένας άμαχος μπορεί να εισέλθει ξαφνικά στην περιοχή. Ένα αυτόνομο σύστημα μπορεί να βρεθεί μπροστά σε μια κατάσταση που οι σχεδιαστές του δεν είχαν προβλέψει.

Για τον Ερυθρό Σταυρό, ακριβώς αυτή η απρόβλεπτη συμπεριφορά δημιουργεί σοβαρά ζητήματα συμμόρφωσης με το διεθνές ανθρωπιστικό δίκαιο.

Δεν έχει επιβεβαιωθεί ακόμη πλήρως αυτόνομη «δολοφονία»

Εδώ χρειάζεται μία κρίσιμη διάκριση.

Παρά τις αναφορές για ολοένα πιο προηγμένα drones και συστήματα AI στα σύγχρονα πεδία μάχης, ο Ερυθρός Σταυρός διευκρίνισε στις 25 Αυγούστου ότι δεν υπάρχει μέχρι στιγμής επιβεβαιωμένη περίπτωση πλήρως αυτόνομου οπλικού συστήματος που να έχει επιλέξει και πλήξει άνθρωπο χωρίς ανθρώπινο έλεγχο.

Αυτό, όμως, δεν σημαίνει ότι η τεχνολογία βρίσκεται μακριά.

Ο ίδιος ο ΟΗΕ προειδοποιεί ότι η κούρσα για όλο και μεγαλύτερη αυτονομία στα όπλα βρίσκεται ήδη σε εξέλιξη και ότι η τεχνολογική ανάπτυξη προχωρά ταχύτερα από τους διεθνείς κανόνες.

Η AI έχει ήδη μπει βαθιά στη διαδικασία επιλογής στόχων

Υπάρχει επίσης μια σημαντική διαφορά ανάμεσα στο πλήρως αυτόνομο όπλο και στην τεχνητή νοημοσύνη που χρησιμοποιείται ως εργαλείο υποστήριξης στρατιωτικών αποφάσεων.

Το δεύτερο αποτελεί ήδη πραγματικότητα.

Το International Institute for Strategic Studies καταγράφει αυξανόμενη χρήση AI από στρατιωτικές δυνάμεις για συλλογή και ανάλυση πληροφοριών, αναγνώριση στόχων, δημιουργία καταλόγων στόχων και ιεράρχηση επιθέσεων.

Στη Γάζα, έρευνα του +972 Magazine και του Local Call είχε αποκαλύψει από το 2024 τη χρήση του συστήματος Lavender, το οποίο, σύμφωνα με έξι Ισραηλινούς αξιωματικούς πληροφοριών που μίλησαν στα δύο μέσα, χρησιμοποιήθηκε για να βαθμολογήσει και να επισημάνει δεκάδες χιλιάδες πιθανούς στόχους.

Ο ισραηλινός στρατός είχε αμφισβητήσει την παρουσίαση του συστήματος ως αυτόνομης «λίστας θανάτου» και είχε τονίσει τον ρόλο ανθρώπινων αξιωματικών στις τελικές αποφάσεις.

Το συγκεκριμένο παράδειγμα αποτυπώνει ακριβώς τη γκρίζα ζώνη που απασχολεί τους διεθνείς οργανισμούς: πόσο πραγματικός παραμένει ο ανθρώπινος έλεγχος όταν ένας αλγόριθμος παράγει χιλιάδες πιθανούς στόχους μέσα σε ελάχιστο χρόνο;

Και μετά ήρθε η σύγκρουση Anthropic–Πενταγώνου

Η διαμάχη δεν περιορίζεται πλέον σε οργανώσεις ανθρωπίνων δικαιωμάτων και διπλωμάτες.

Έχει φτάσει στον πυρήνα της αμερικανικής στρατιωτικής μηχανής.

Η Anthropic, δημιουργός του Claude, συγκρούστηκε με το αμερικανικό Πεντάγωνο όταν επέμεινε ότι δύο χρήσεις της τεχνολογίας της πρέπει να παραμείνουν εκτός ορίων: η μαζική εσωτερική παρακολούθηση Αμερικανών και τα πλήρως αυτόνομα όπλα.

Η εταιρεία υποστήριξε ότι τα σημερινά προηγμένα μοντέλα AI δεν είναι ακόμη αρκετά αξιόπιστα ώστε να χρησιμοποιούνται με ασφάλεια σε συστήματα που επιλέγουν και προσβάλλουν στόχους χωρίς ανθρώπινη παρέμβαση.

Η σύγκρουση οδήγησε το Πεντάγωνο να χαρακτηρίσει την Anthropic κίνδυνο για την εφοδιαστική αλυσίδα εθνικής ασφάλειας.

Στις 27 Αυγούστου, όμως, ομοσπονδιακή δικαστής ακύρωσε το συγκεκριμένο μέτρο, κρίνοντας ότι η αντιμετώπιση της εταιρείας ήταν παράνομη και αβάσιμη και ότι υπήρξε παράνομη κυβερνητική αντίδραση απέναντι στις θέσεις που είχε εκφράσει η Anthropic.

Η δικαστική απόφαση δεν εμποδίζει το Πεντάγωνο να επιλέξει διαφορετικό πάροχο AI. Αναδεικνύει, όμως, ένα ζήτημα που μέχρι πρόσφατα φάνταζε θεωρητικό: ποιος θα αποφασίζει τελικά τα όρια της τεχνητής νοημοσύνης στον πόλεμο;

Δεν ζητούν να απαγορευτεί κάθε αυτόνομο σύστημα

Ο ΟΗΕ και ο Ερυθρός Σταυρός δεν ζητούν γενική απαγόρευση κάθε οπλικού συστήματος που διαθέτει αυτοματισμούς.

Η πρόταση είναι πιο συγκεκριμένη.

Ζητούν πλήρη απαγόρευση των πλέον επικίνδυνων κατηγοριών και σαφείς περιορισμούς για τα υπόλοιπα, με διατήρηση επαρκούς ανθρώπινου ελέγχου και κρίσης στη χρήση φονικής δύναμης.

Τα κράτη, ωστόσο, δεν έχουν ακόμη ξεκινήσει διαπραγματεύσεις για δεσμευτική διεθνή συνθήκη.

Και ο χρόνος πιέζει.

Το κρίσιμο ερώτημα: Ποιος έχει την ευθύνη όταν σκοτώνει ο αλγόριθμος;

Πίσω από όλη τη συζήτηση βρίσκεται ένα εξαιρετικά δύσκολο νομικό και επιχειρησιακό ζήτημα.

Εάν ένα αυτόνομο σύστημα επιλέξει λανθασμένο στόχο και σκοτώσει αμάχους, ποιος ευθύνεται;

Ο διοικητής που ενεργοποίησε το όπλο; Ο χειριστής; Ο κατασκευαστής; Ο προγραμματιστής; Το κράτος που το χρησιμοποίησε;

Το διεθνές ανθρωπιστικό δίκαιο επιβάλλει ήδη στους εμπόλεμους την υποχρέωση διάκρισης μεταξύ στρατιωτικών στόχων και αμάχων και την τήρηση των αρχών της αναλογικότητας και της προφύλαξης.

Το ερώτημα είναι εάν ένα σύστημα αυξανόμενης αυτονομίας μπορεί να εφαρμόσει αυτές τις αρχές σε ένα πραγματικό πεδίο μάχης, όπου οι συνθήκες μεταβάλλονται συνεχώς.

Η τεχνολογία τρέχει – Οι κανόνες ακολουθούν

Αυτό είναι τελικά το σημείο στο οποίο συγκλίνουν οι τελευταίες προειδοποιήσεις.

Δεν υπάρχει ακόμη επιβεβαιωμένη εικόνα ενός πολέμου στον οποίο ρομπότ περιφέρονται αυτόνομα και αποφασίζουν ποιον άνθρωπο θα σκοτώσουν.

Υπάρχει, όμως, μια σαφής πορεία προς όλο και μεγαλύτερη αυτονομία, ισχυρότερα μοντέλα τεχνητής νοημοσύνης και πολύ ταχύτερη παραγωγή στρατιωτικών στόχων.

Ο ΟΗΕ και ο Ερυθρός Σταυρός ζητούν να θεσπιστούν οι κανόνες πριν και όχι αφού αυτή η τεχνολογία περάσει το επόμενο όριο.

Γιατί τότε το ερώτημα δεν θα είναι πλέον αν μια μηχανή μπορεί να πατήσει τη σκανδάλη.