Η μεγαλύτερη πρόκληση από την ενσωμάτωση της τεχνητής νοημοσύνης (ΤΝ) στις στρατιωτικές επιχειρήσεις ίσως δεν είναι η πιθανότητα να πάρουν οι μηχανές τον έλεγχο από τον άνθρωπο. Είναι κάτι πιο δύσκολο να εντοπιστεί: ο άνθρωπος να παραμένει τυπικά «στα ηνία», αλλά να χάνει σταδιακά την ουσιαστική ικανότητα να ελέγχει, να αμφισβητεί και τελικά να κρίνει.
Η ΤΝ μπορεί ήδη να επεξεργάζεται τεράστιους όγκους πληροφοριών από αισθητήρες, δορυφόρους, ηλεκτρονικές επικοινωνίες και ανθρώπινες πηγές, επιταχύνοντας δραστικά τον κύκλο λήψης αποφάσεων. Για τις ένοπλες δυνάμεις, αυτό δημιουργεί ένα σημαντικό επιχειρησιακό πλεονέκτημα. Δημιουργεί όμως και ένα παράδοξο: όσο ταχύτερα αποφασίζει η μηχανή, τόσο λιγότερος χρόνος απομένει στον άνθρωπο για να σκεφτεί.
Αυτό αγγίζει τον πυρήνα της καθοδήγησης της αποστολής (Mission Command). Η φιλοσοφία αυτή δεν βασίζεται απλώς στην ταχεία εκτέλεση διαταγών, αλλά στην ανθρώπινη κρίση, την πρωτοβουλία, την εμπιστοσύνη και την ικανότητα προσαρμογής, όταν οι συνθήκες αλλάζουν. Η ΤΝ μπορεί να ενισχύσει αυτές τις ικανότητες, παρέχοντας καλύτερη επίγνωση της κατάστασης και ταχύτερη επεξεργασία πληροφοριών. Μπορεί όμως να τις αποδυναμώσει εάν οι στρατιωτικοί αρχίσουν να αντιμετωπίζουν τις αλγοριθμικές εισηγήσεις ως την προεπιλεγμένη απάντηση.
Εδώ βρίσκεται ο πραγματικός κίνδυνος. Το cognitive offloading όπως λέγεται μεταφέρει σταδιακά τη διανοητική εργασία από τον άνθρωπο στη μηχανή, ενώ το automation bias ενισχύει την τάση αποδοχής των αποτελεσμάτων μιας αυτοματοποιημένης διαδικασίας. Ο υπεύθυνος μπορεί να εξακολουθεί να έχει την τελική εξουσία, αλλά να μην έχει πλέον τον χρόνο ή την πνευματική απόσταση την γνώση ή ακόμη και την τόλμη ώστε να αμφισβητήσει την πρόταση δράσης που βρίσκεται μπροστά του.
Το πρόβλημα γίνεται ακόμη πιο κρίσιμο στη χρήση ΤΝ για στόχευση και αυτόνομα ή ημιαυτόνομα οπλικά συστήματα. Η ύπαρξη ανθρώπου που εγκρίνει την τελική ενέργεια δεν αρκεί για να διασφαλίσει ουσιαστικό ανθρώπινο έλεγχο. Ένας άνθρωπος που εγκρίνει μια απόφαση μέσα σε δευτερόλεπτα, χωρίς να μπορεί να κατανοήσει τη συλλογιστική του συστήματος, δεν ασκεί κατ’ ανάγκην πραγματικό έλεγχο· απλώς επικυρώνει μια μηχανική διαδικασία.
Γι’ αυτό η συζήτηση για την ΤΝ στις ένοπλες δυνάμεις δεν πρέπει να περιορίζεται στο δίλημμα «άνθρωπος ή μηχανή». Το κρίσιμο ερώτημα είναι αν η ΤΝ θα ενισχύσει την ανθρώπινη κρίση ή θα την καταστήσει σταδιακά περιττή.
Η απάντηση προϋποθέτει διαφορετική αντίληψη του «human-in-the-loop» (την ενεργό συμμετοχή ανθρώπων στη λήψη αποφάσεων). Ο άνθρωπος δεν πρέπει απλώς να βρίσκεται στο τέλος της αλυσίδας για να πατήσει ένα κουμπί. Πρέπει να διαθέτει τον χρόνο, τις πληροφορίες, την εκπαίδευση και την εξουσία να αμφισβητήσει την αλγοριθμική πρόταση και να αναλάβει προσωπικά την ευθύνη της απόφασης.
Η στρατιωτική υπεροχή, επομένως, δεν θα κριθεί μόνο από το ποιος διαθέτει τον ταχύτερο αλγόριθμο. Θα κριθεί από το ποιος μπορεί να αξιοποιήσει την ταχύτητα της ΤΝ χωρίς να θυσιάσει την ανθρώπινη κρίση που μετατρέπει την πληροφορία σε στρατηγική απόφαση. Η πραγματική πρόκληση δεν είναι να κρατήσουμε τον άνθρωπο «στα ηνία» της διαδικασίας. Είναι να διασφαλίσουμε ότι, όταν έρθει η κρίσιμη στιγμή, εξακολουθεί να είναι ο άνθρωπος αυτός που σκέφτεται, αμφισβητεί και αποφασίζει.
