Chatbot κατέληξε στο συμπέρασμα ότι κινεζικό πλοίο μετέφερε εξαρτήματα που συνδέονταν με πρόγραμμα πυρηνικών όπλων
Ένα λάθος της τεχνητής νοημοσύνης λίγο έλειψε να προκαλέσει μια σοβαρή κρίση μεταξύ των Ηνωμένων Πολιτειών και της Κίνας.
Όλα ξεκίνησαν από ένα κινεζικό πλοίο που έπλεε στη Μέση Ανατολή, την περίοδο του πολέμου με το Ιράν. Αμερικανός αναλυτής χρησιμοποίησε εργαλείο τεχνητής νοημοσύνης για να εξετάσει πληροφορίες σχετικά με το φορτίο του πλοίου. Το AI όμως έκανε λάθος.
Κατέληξε στο συμπέρασμα ότι το πλοίο μετέφερε εξαρτήματα που συνδέονταν με κινεζικό πρόγραμμα πυρηνικών όπλων.
Η πληροφορία ήταν λανθασμένη.
Όμως το πρόβλημα δεν σταμάτησε εκεί.
Από το chatbot στον αμερικανικό στρατό
Ο αναλυτής χρησιμοποίησε στη συνέχεια AI για να δημιουργήσει την έκθεση σχετικά με τα ευρήματα. Έτσι, το λανθασμένο συμπέρασμα δεν έμεινε απλώς σε μια συνομιλία με ένα chatbot.
Μπήκε σε μια κανονική έκθεση πληροφοριών και διανεμήθηκε μέσα στις αμερικανικές ένοπλες δυνάμεις. Με απλά λόγια, μια λανθασμένη απάντηση της τεχνητής νοημοσύνης απέκτησε τη μορφή επίσημης στρατιωτικής πληροφορίας.
Και τότε τα πράγματα άρχισαν να παίρνουν επικίνδυνη τροπή.
Ετοιμάστηκε επιχείρηση αναχαίτισης
Οι Αμερικανοί αξιωματούχοι αντιμετώπισαν την πληροφορία ως πραγματική.
Σύμφωνα με πηγές που μίλησαν στο CNN, ξεκίνησαν οι προετοιμασίες για την αναχαίτιση του κινεζικού πλοίου.
Αμερικανικό ένοπλο προσωπικό ετοιμαζόταν να επιβιβαστεί στο πλοίο, ενώ αμερικανικά στρατιωτικά αεροσκάφη είχαν ήδη απογειωθεί.
Η υπόθεση είχε πλέον περάσει από την οθόνη ενός υπολογιστή στο πεδίο της δράσης.
Και όλα αυτά βασίζονταν σε μια πληροφορία που είχε προκύψει από λάθος του AI.
Το λάθος αποκαλύφθηκε την τελευταία στιγμή
Λίγο πριν από την επιχείρηση, Αμερικανοί αξιωματούχοι εξέτασαν ξανά την έκθεση και τα στοιχεία στα οποία βασιζόταν.
Τότε διαπιστώθηκε ότι η πληροφορία για το φορτίο του κινεζικού πλοίου ήταν λανθασμένη.
Αποκαλύφθηκε επίσης ότι ο αναλυτής είχε χρησιμοποιήσει chatbot τεχνητής νοημοσύνης για την ανάλυση και τη σύνταξη της έκθεσης.
Η επιχείρηση τελικά σταμάτησε.
Το λάθος είχε εντοπιστεί πριν υπάρξει πραγματική αντιπαράθεση με το κινεζικό πλοίο.
Πώς φτάσαμε τόσο κοντά;
Η υπόθεση μπορεί να περιγραφεί πολύ απλά:
AI, λάθος πληροφορία, στρατιωτική έκθεση, λανθασμένη εκτίμηση, προετοιμασία επιχείρησης.
Το AI δεν αποφάσισε μόνο του να επιτεθεί σε κάποιον. Δεν έδωσε εντολή στον αμερικανικό στρατό.
Το πρόβλημα ήταν ότι ένας άνθρωπος εμπιστεύτηκε το αποτέλεσμα του συστήματος και στη συνέχεια το αποτέλεσμα αυτό μπήκε στην επίσημη διαδικασία ενημέρωσης των στρατιωτικών αρχών.
Έτσι, ένα λάθος που θα μπορούσε να είχε διορθωθεί μέσα σε λίγα λεπτά, έφτασε να έχει πραγματικές επιχειρησιακές συνέπειες.
Το επικίνδυνο σημείο
Το περιστατικό δείχνει με τον πιο απλό τρόπο τον κίνδυνο από τη χρήση της τεχνητής νοημοσύνης σε στρατιωτικές πληροφορίες. Ένα AI μπορεί να δώσει μια απάντηση που ακούγεται απολύτως πειστική, ακόμη και όταν είναι λάθος.
Αν κάποιος χρησιμοποιήσει αυτή την απάντηση χωρίς να την ελέγξει, το λάθος μπορεί να περάσει στον επόμενο άνθρωπο. Και στον επόμενο. Μέχρι που κανείς να μην αντιμετωπίζει πλέον την πληροφορία ως απάντηση ενός chatbot, αλλά ως πραγματικό δεδομένο.
Αυτό ακριβώς συνέβη στην περίπτωση του κινεζικού πλοίου. Μια λάθος απάντηση μετατράπηκε σε έκθεση. Η έκθεση μετατράπηκε σε στρατιωτική εκτίμηση.
Και η εκτίμηση οδήγησε στην προετοιμασία μιας επιχείρησης.
«Η AI σε οδηγεί πιο γρήγορα σε μια κακή ιδέα»
Μία από τις πηγές του CNN περιέγραψε το περιστατικό με μια χαρακτηριστική φράση: «Η AI σού επιτρέπει να φτάσεις σε μια κακή ιδέα πιο γρήγορα».
Και ίσως αυτή να είναι η ουσία της υπόθεσης.
Το AI δεν χρειάζεται να πάρει μόνο του μια στρατιωτική απόφαση για να δημιουργήσει πρόβλημα.
Αρκεί να κάνει ένα λάθος και κάποιος άνθρωπος να το θεωρήσει σωστό.
Στην συγκεκριμένη περίπτωση, το λάθος εντοπίστηκε πριν γίνει το επόμενο βήμα.
Το κινεζικό πλοίο δεν αναχαιτίστηκε και η επιχείρηση σταμάτησε.
Όμως το περιστατικό έδειξε πόσο γρήγορα μια λανθασμένη πληροφορία που παράγεται από τεχνητή νοημοσύνη μπορεί να περάσει από έναν υπολογιστή στο πεδίο των πραγματικών στρατιωτικών επιχειρήσεων.
zougla.gr