Μια έκθεση των μυστικών υπηρεσιών, που κυκλοφόρησε στον αμερικανικό στρατό την άνοιξη εν μέσω του πολέμου με το Ιράν, σήμανε αμέσως συναγερμό: Ένα κινεζικό πλοίο στη Μέση Ανατολή μετέφερε εξαρτήματα ενός προγράμματος πυρηνικών όπλων.
Οι αναλυτές φοβούνται εδώ και καιρό ότι η Τεχνητή Νοημοσύνη θα μπορούσε να οδηγήσει σε έναν καταστροφικό λανθασμένο υπολογισμό εάν τα έθνη-κράτη βασίζονται σε κακά ή αλλοιωμένα δεδομένα
Ο αμερικανικός στρατός ανέλαβε δράση με σχέδια αναχαίτισης του πλοίου, σύμφωνα με τέσσερις πηγές που γνωρίζουν το περιστατικό και μίλησαν στο CNN. Σύμφωνα με δύο από τις πηγές, ένοπλα μέλη του αμερικανικού στρατού ετοιμάζονταν να επιβιβαστούν στο πλοίο. Στρατιωτικά αεροσκάφη βρίσκονταν στον αέρα, ανέφερε μία από αυτές τις πηγές και μια άλλη πηγή που γνωρίζει το περιστατικό.
«Ψευδής αναφορά»
Μόλις λίγο πριν από την προγραμματισμένη επιχείρηση, οι αξιωματούχοι έψαξαν βαθύτερα στην έκθεση που συνέταξε ένας αναλυτής της διοίκησης ειδικών επιχειρήσεων και διαπίστωσαν ότι είχε δημιουργηθεί με τη βοήθεια τεχνητής νοημοσύνης (AI) – και ότι ένα chatbot που είχε χρησιμοποιήσει ο αναλυτής αναγνώρισε ανακριβώς το υλικό που μετέφερε το πλοίο. Το CNN δεν μπόρεσε να μάθει τι ήταν το λανθασμένα αναγνωρισμένο φορτίο.
Η αναφορά, σύμφωνα με μία από τις πηγές, ήταν «εντελώς ψευδής». Αλλά επίσης «παραλίγο να ξεκινήσει έναν πόλεμο», ανέφερε η πηγή. Οποιαδήποτε επιχείρηση των ΗΠΑ εναντίον ενός κινεζικού πλοίου θα μπορούσε να κινδυνεύσει να εξελιχθεί σε ένοπλη σύγκρουση μεταξύ των δύο κρατών.
Σε ολόκληρο τον αμερικανικό στρατό και την κοινότητα των μυστικών υπηρεσιών, οι αξιωματούχοι πιέζουν να ενσωματώσουν την Τεχνητή Νοημοσύνη σε σχεδόν κάθε πτυχή της εργασίας τους, από την ανάλυση των τεράστιων όγκων ακατέργαστων πληροφοριών που συλλέγουν οι ΗΠΑ και την επιλογή στόχων για επιθέσεις, έως πιο απλές εφαρμογές όπως η διαχείριση του προϋπολογισμού, της εφοδιαστικής και των αλυσίδων εφοδιασμού.
Ωστόσο, το επεισόδιο υπογραμμίζει τους σοβαρούς κινδύνους της χρήσης αυτής της ισχυρής, νέας και σχετικά ελάχιστα κατανοητής τεχνολογίας για στόχευση εν μέσω πολέμου. Οι αναλυτές φοβούνται εδώ και καιρό ότι η Τεχνητή Νοημοσύνη θα μπορούσε να οδηγήσει σε έναν καταστροφικό λανθασμένο υπολογισμό εάν τα έθνη-κράτη βασίζονται σε κακά ή αλλοιωμένα δεδομένα – το είδος του λανθασμένου υπολογισμού που θα μπορούσε να οδηγήσει τις Ηνωμένες Πολιτείες να πυροβολήσουν ένα κινεζικό πλοίο με βάση ανακριβείς πληροφορίες.
Σε αυτήν την συγκεκριμένη περίπτωση, ο αναλυτής ρώτησε ένα chatbot σχετικά με κάποιες αναφορές πληροφοριών σχετικά με το μανιφέστο του πλοίου που προέρχονταν από την Διοίκηση Ειδικών Επιχειρήσεων του Ειρηνικού των ΗΠΑ, με έδρα τη Χαβάη. Δεν ήταν σαφές εάν το chatbot ήταν εμπορικά διαθέσιμο ή προϊόν της κυβέρνησης των ΗΠΑ.
«Τα εσωτερικά εργαλεία είναι ως επί το πλείστον απλώς αντίγραφα των εμπορικών συσκευών που φορούν κραγιόν», δήλωσε ένας πρώην ανώτερος Αμερικανός αξιωματούχος που γνωρίζει τα συστήματα τεχνητής νοημοσύνης που χρησιμοποιούνται από στρατιωτικούς και αναλυτές πληροφοριών.
Το bot συνδύασε πληροφορίες ανοιχτού κώδικα με μυστικές πληροφορίες από σήματα που διαθέτει η κυβέρνηση και κατέληξε στο καθοριστικό συμπέρασμα σχετικά με το φορτίο που μετέφερε το πλοίο.
Στη συνέχεια, ο αναλυτής χρησιμοποίησε ξανά την τεχνητή νοημοσύνη για να συγκεντρώσει τα ευρήματα σε μια τυποποιημένη αναφορά πληροφοριών — του είδους που εμπιστεύονται οι στρατιωτικοί αξιωματούχοι — και τη διέδωσε.
Η Διοίκηση Ειδικών Επιχειρήσεων των ΗΠΑ στον Ειρηνικό και το Πεντάγωνο δεν απάντησαν σε αίτημα για σχόλιο.
Η λογική πίσω από την ταχεία υιοθέτηση της τεχνητής νοημοσύνης είναι ότι μπορεί να βοηθήσει τον στρατό να λαμβάνει ταχύτερα αποφάσεις στο πεδίο της μάχης, όπως ποιοι στόχοι πρέπει να χτυπηθούν ή ποια στρατιωτικά μέσα πρέπει να μετακινηθούν και πού. Αξιωματούχοι αναφέρουν ότι οι ΗΠΑ δεν μπορούν να αντέξουν να μείνουν πίσω στην ενσωμάτωση της τεχνητής νοημοσύνης, σε περίπτωση που κάποια μέρα χρειαστεί να πολεμήσουν την Κίνα ή κάποιον άλλο αντίπαλο που θα μπορούσε ενδεχομένως να βρίσκεται ένα βήμα μπροστά από τις ΗΠΑ.
«Στρατηγική Επιτάχυνσης Τεχνητής Νοημοσύνης»
Τον Ιανουάριο, ο Υπουργός Άμυνας Πιτ Χέγκσεθ δημοσίευσε τη «Στρατηγική Επιτάχυνσης Τεχνητής Νοημοσύνης» της υπηρεσίας του, σε μια προσπάθεια να επιταχύνει τη χρήση της Τεχνητής Νοημοσύνης από τον στρατό.
«Θα απελευθερώσουμε τους πειραματισμούς, θα εξαλείψουμε τα γραφειοκρατικά εμπόδια, θα εστιάσουμε τις επενδύσεις μας και θα επιδείξουμε την προσέγγιση εκτέλεσης που απαιτείται για να διασφαλίσουμε ότι θα ηγηθούμε στην στρατιωτική Τεχνητή Νοημοσύνη», δήλωσε ο Χέγσεθ σε ομιλία του ανακοινώνοντας τη στρατηγική .
Η στρατηγική προωθεί επίσης την ευρεία χρήση της σε ολόκληρο τον στρατό, διατάσσοντας το υπουργείο να διαθέσει την Τεχνητή Νοημοσύνη μέσω διαφόρων προγραμμάτων με στόχο τον «εκδημοκρατισμό του πειραματισμού και του μετασχηματισμού της Τεχνητής Νοημοσύνης σε ολόκληρο το Υπουργείο, θέτοντας τα κορυφαία παγκοσμίως μοντέλα Τεχνητής Νοημοσύνης της Αμερικής απευθείας στα χέρια των τριών εκατομμυρίων πολιτικών και στρατιωτικών υπαλλήλων μας, σε όλα τα επίπεδα ταξινόμησης», ανέφερε ένα υπόμνημα που ανακοίνωνε τη στρατηγική .
Ωστόσο, η προσπάθεια είναι αποκεντρωμένη, όπως ανέφεραν πολλοί Αμερικανοί αξιωματούχοι που είναι εξοικειωμένοι με τη δυναμική, με διαφορετικά τμήματα της κυβέρνησης να χρησιμοποιούν διαφορετικά εργαλεία βάσει διαφορετικών εντολών και προτύπων ασφαλείας. Δεν υπάρχει ένα ενιαίο σύνολο προτύπων για τον τρόπο με τον οποίο οι ΗΠΑ επαληθεύουν τις πληροφορίες που παράγονται από αυτά τα εργαλεία. Ο συνδυασμός διαφορετικών συστημάτων Τεχνητής Νοημοσύνης που αναπτύσσονται από διαφορετικές γωνιές της στρατιωτικής και της μυστικής κοινότητας σημαίνει ότι η σχετική αξιοπιστία και λειτουργικότητα ποικίλλουν σημαντικά.
Κίνδυνοι και έλεγχος πληροφοριών στην τεχνητή νοημοσύνη
Για εβδομάδες, οι υπεύθυνοι χάραξης πολιτικής στην Ουάσινγκτον συζητούν έντονα την Τεχνητή Νοημοσύνη μετά από μια σειρά δυσοίωνων προειδοποιήσεων από μηχανικούς της Σίλικον Βάλεϊ και CEOs τεχνολογίας για την πιθανότητα η Τεχνητή Νοημοσύνη να απελευθερωθεί από τους ανθρώπινους περιορισμούς, με πιθανές συνέπειες που θα οδηγήσουν στο τέλος του πολιτισμού.
Αλλά το επεισόδιο με το κινεζικό πλοίο υπογραμμίζει έναν διαφορετικό και πιο άμεσο κίνδυνο: τους ανθρώπους να λαμβάνουν καταστροφικές αποφάσεις βασισμένες σε ανακριβείς ή παραπλανητικές πληροφορίες που παράγονται από την Τεχνητή Νοημοσύνη ή άλλα αυτοματοποιημένα συστήματα. Πηγές ανέφεραν ότι ο στρατός στρέφεται γρήγορα στην Τεχνητή Νοημοσύνη για να βοηθήσει στη στόχευση, έναν τομέα που ενέχει τον προφανή κίνδυνο μοιραίων λαθών.
«Η Τεχνητή Νοημοσύνη στη στόχευση είναι σίγουρα κάτι που αυξάνεται ραγδαία και δεν υπάρχει πραγματική καθοδήγηση για το πώς η παρουσία ενός ανθρώπου στον κύκλο θα αποτρέψει θύματα αμάχων ή αδελφοκτονία», δήλωσε μια άλλη πηγή που γνωρίζει τις τρέχουσες πολιτικές του στρατού.
Το είδος της «ψευδαίσθησης» που προκάλεσε το εργαλείο που χρησιμοποίησε ο αναλυτής στην συγκεκριμένη περίπτωση δεν αποτελεί μεμονωμένο περιστατικό στον χώρο των μυστικών υπηρεσιών, από τότε που τα εργαλεία αυτά άρχισαν να διαδίδονται ευρέως σε ολόκληρη την κυβέρνηση, σύμφωνα με μία από τις πηγές.
Για ορισμένους παλαιότερους αξιωματούχους των μυστικών υπηρεσιών — ακόμη και εκείνους που υποστηρίζουν γενικά τη χρήση της τεχνητής νοημοσύνης στο στρατό — η τεχνητή νοημοσύνη έχει ασκήσει πίεση στους αναλυτές να παράγουν και να διαδίδουν πληροφορίες πιο γρήγορα, ανοίγοντας το δρόμο για λάθη. Ιδιαίτερα οι νεότεροι αναλυτές, σύμφωνα με αρκετές πηγές, είναι εξοικειωμένοι με αυτά τα εργαλεία και πιο πιθανό να τα εμπιστεύονται χωρίς κριτική σκέψη.
«Η τεχνητή νοημοσύνη σου επιτρέπει να καταλήξεις πιο γρήγορα σε μια λανθασμένη ιδέα», ανέφερε μία από τις πηγές.
Πηγή: ot.gr
