Πόλεμος των αλγορίθμων

Όταν πρόκειται για τη χρήση της τεχνητής νοημοσύνης στον στρατό, εμφανίζεται ένας εφιάλτης επιστημονικής φαντασίας, μια επαναστατική και θανατηφόρα τεχνητή νοημοσύνη που ξεσηκώνεται εναντίον της ανθρωπότητας για να την καταστρέψει. Δυστυχώς, οι φόβοι του στρατιωτικού προσωπικού και των ηγετών ότι «ο εχθρός θα μας προλάβει» είναι εξίσου ισχυροί όταν αναπτύσσονται αλγόριθμοι για τη διεξαγωγή πολέμου.

Αλγοριθμικός Πόλεμοςπου πολλοί πιστεύουν ότι θα μπορούσε να αλλάξει θεμελιωδώς το πρόσωπο του πεδίου μάχης όπως το γνωρίζουμε, κυρίως επειδή ο πόλεμος θα γινόταν ταχύτερος, ξεπερνώντας κατά πολύ την ανθρώπινη ικανότητα λήψης αποφάσεων. Αμερικανός στρατηγός Τζακ Σάναχαν (1), επικεφαλής του Κοινού Κέντρου Τεχνητής Νοημοσύνης των ΗΠΑ, τονίζει, ωστόσο, ότι πριν εισαγάγουμε την τεχνητή νοημοσύνη στα οπλοστάσια, πρέπει να διασφαλίσουμε ότι αυτά τα συστήματα εξακολουθούν να βρίσκονται υπό τον ανθρώπινο έλεγχο και δεν θα αρχίσουν να πολεμούν από μόνα τους.

«Αν ο εχθρός έχει μηχανές και αλγόριθμους, θα χάσουμε αυτή τη σύγκρουση».

Ικανότητα οδήγησης αλγοριθμικός πόλεμος βασίζεται στη χρήση των επιτευγμάτων της τεχνολογίας των υπολογιστών σε τρεις βασικούς τομείς. Πρώτα δεκαετίες εκθετικής ανάπτυξης της υπολογιστικής ισχύοςΑυτό επέτρεψε σημαντικές βελτιώσεις στην απόδοση μηχανικής εκμάθησης. Δεύτερος ταχεία αύξηση των πόρων Τα "Big Data" αναφέρονται σε τεράστια, τυπικά αυτοματοποιημένα, διαχειριζόμενα και συνεχώς παραγόμενα σύνολα δεδομένων κατάλληλα για μηχανική εκμάθηση. Το τρίτο αφορά ταχεία ανάπτυξη τεχνολογιών υπολογιστικού νέφους, μέσω του οποίου οι υπολογιστές μπορούν εύκολα να έχουν πρόσβαση σε πόρους δεδομένων και να τους επεξεργάζονται για την επίλυση προβλημάτων.

Αλγόριθμος πολέμουόπως ορίζεται από ειδικούς, πρέπει πρώτα να εκφραστεί χρησιμοποιώντας κωδικός υπολογιστή. Δεύτερον, πρέπει να είναι το αποτέλεσμα μιας πλατφόρμας ικανής να συλλέγει πληροφορίες και να κάνει επιλογές, λαμβάνοντας αποφάσεις που, τουλάχιστον θεωρητικά, δεν απαιτούν ανθρώπινη παρέμβαση. Τρίτον, το οποίο φαίνεται προφανές, αλλά δεν είναι απαραίτητα έτσι, γιατί μόνο στη δράση γίνεται σαφές εάν ο εξοπλισμός που προορίζεται για κάτι άλλο μπορεί να είναι χρήσιμος στον πόλεμο και, αντιστρόφως, πρέπει να μπορεί να λειτουργεί υπό τις συνθήκες. ένοπλη σύγκρουση.

Η ανάλυση των παραπάνω περιοχών και η αλληλεπίδρασή τους δείχνει ότι αλγοριθμικός πόλεμος δεν είναι ξεχωριστή τεχνολογία όπως π.χ. ενεργειακό όπλο ή υπερηχητικούς πυραύλους. Οι συνέπειές του είναι ευρείες και σταδιακά γίνονται πανταχού παρούσες στον πόλεμο. Για πρώτη φορά στρατιωτικά οχήματα γίνονται ευφυείς, καθιστώντας ενδεχομένως τις αμυντικές δυνάμεις που τις αναπτύσσουν πιο αποτελεσματικές και αποτελεσματικές. Τέτοιες έξυπνες μηχανές έχουν σαφείς περιορισμούς που πρέπει να γίνουν καλά κατανοητοί.

"" είπε ο Shanahan το περασμένο φθινόπωρο σε μια συνέντευξη με τον πρώην CEO της Google, Eric Schmidt και τον Αντιπρόεδρο Παγκόσμιας Υποθέσεων της Google, Kent Walker. "".

Το σχέδιο έκθεσης του Συμβουλίου Εθνικής Ασφαλείας των ΗΠΑ για την τεχνητή νοημοσύνη αναφέρει την Κίνα περισσότερες από 50 φορές, τονίζοντας τον δεδηλωμένο στόχο της κινεζικής ηγεσίας να γίνει παγκόσμιος ηγέτης στην τεχνητή νοημοσύνη έως το 2030 (δείτε επίσης: ).

Αυτά τα λόγια έγιναν στην Ουάσιγκτον σε ένα ειδικό συνέδριο που έλαβε χώρα αφού το προαναφερθέν Shanahan Center παρουσίασε στο Κογκρέσο την προκαταρκτική του έκθεση, η οποία εκπονήθηκε σε συνεργασία με διάσημους ειδικούς στον τομέα της τεχνητής νοημοσύνης, συμπεριλαμβανομένων του Διευθυντή Ερευνών της Microsoft, Έρικ Χόρβιτς, του Διευθύνοντος Συμβούλου της AWS Andy Jassa και της Google. Ο κύριος ερευνητής του Cloud Andrew Moore. Η τελική έκθεση θα δημοσιευθεί τον Οκτώβριο του 2020.

Οι υπάλληλοι της Google διαμαρτύρονται

Πριν από μερικά χρόνια, το Πεντάγωνο ενεπλάκη στο θέμα. αλγοριθμικός πόλεμος και μια σειρά από έργα που σχετίζονται με την τεχνητή νοημοσύνη στο πλαίσιο του έργου Maven, που βασίζονται σε συνεργασίες με εταιρείες τεχνολογίας, συμπεριλαμβανομένης της Google και startups όπως η Clarifai. Αυτό αφορούσε κυρίως εργασίες για τεχνητή νοημοσύνηγια διευκόλυνση της αναγνώρισης αντικειμένων.

Όταν η εμπλοκή της Google στο έργο έγινε γνωστή την άνοιξη του 2018, χιλιάδες εργαζόμενοι του γίγαντα Mountain View υπέγραψαν μια ανοιχτή επιστολή διαμαρτυρόμενη για τη συμμετοχή της εταιρείας σε στρατιωτικές επιχειρήσεις. Μετά από μήνες εργατικής αναταραχής Η Google έχει υιοθετήσει το δικό της σύνολο κανόνων τεχνητής νοημοσύνηςπου περιλαμβάνει απαγόρευση συμμετοχής σε εκδηλώσεις.

Η Google έχει επίσης δεσμευτεί να ολοκληρώσει τη σύμβαση Project Maven έως το τέλος του 2019. Η έξοδος της Google δεν τερμάτισε το Project Maven. Το απέκτησε η Palantir του Peter Thiel. Η Πολεμική Αεροπορία των ΗΠΑ και το Σώμα Πεζοναυτών σχεδιάζουν να χρησιμοποιήσουν αποκλειστικά μη επανδρωμένα εναέρια οχήματα όπως το Global Hawk ως μέρος του Project Maven, καθένα από τα οποία θα πρέπει να παρακολουθεί οπτικά έως και 100 τετραγωνικά χιλιόμετρα.

Με βάση τα όσα συνέβαιναν γύρω από το Project Maven, έγινε σαφές ότι ο αμερικανικός στρατός χρειάζεται επειγόντως το δικό του σύννεφο. Αυτό είπε ο Shanahan κατά τη διάρκεια του συνεδρίου. Αυτό ήταν εμφανές όταν το βίντεο και οι ενημερώσεις του συστήματος έπρεπε να μεταφερθούν με φορτηγό σε στρατιωτικές εγκαταστάσεις διάσπαρτες σε όλο το πεδίο. Στο κτίριο ενοποιημένο cloud computing, το οποίο θα βοηθήσει στην επίλυση προβλημάτων αυτού του τύπου, ως μέρος ενός ενοποιημένου έργου υποδομής πληροφορικής για τον στρατό Τζεντάι, τη Microsoft, την Amazon, την Oracle και την IBM. Η Google δεν οφείλεται στους ηθικούς της κώδικες.

Είναι σαφές από τη δήλωση του Shanahan ότι η μεγάλη επανάσταση της τεχνητής νοημοσύνης στον στρατό μόλις αρχίζει. Και ο ρόλος του κέντρου της στις ένοπλες δυνάμεις των ΗΠΑ αυξάνεται. Αυτό φαίνεται ξεκάθαρα στον προτεινόμενο προϋπολογισμό της JAIC. Το 2019, ήταν λίγο λιγότερο από 90 εκατομμύρια δολάρια. Το 2020, αναμένεται ήδη να φτάσει τα 414 εκατομμύρια δολάρια, ή περίπου το 10 τοις εκατό του εκτιμώμενου προϋπολογισμού τεχνητής νοημοσύνης των 4 δισεκατομμυρίων δολαρίων του Πενταγώνου.

Το μηχάνημα αναγνωρίζει έναν παραδομένο στρατιώτη

Οι αμερικανικές δυνάμεις είναι ήδη εξοπλισμένες με συστήματα όπως το Phalanx (2), το οποίο είναι ένας τύπος αυτόνομου όπλου που χρησιμοποιείται σε πλοία του αμερικανικού πολεμικού ναυτικού για την επίθεση σε εισερχόμενους πυραύλους. Όταν εντοπιστεί ένα βλήμα, ενεργοποιείται αυτόματα και καταστρέφει τα πάντα στο πέρασμά του. Μπορεί να επιτεθεί με τέσσερις ή πέντε πυραύλους σε μισό δευτερόλεπτο χωρίς να χρειάζεται να περάσει και να κοιτάξει κάθε στόχο, είπε ο Ford.

Ένα άλλο παράδειγμα είναι το ημιαυτόνομο Harpy (3), ένα μη επανδρωμένο σύστημα που διατίθεται στο εμπόριο. Το Harpy χρησιμοποιείται για την καταστροφή των εχθρικών ραντάρ. Για παράδειγμα, το 2003, όταν οι Ηνωμένες Πολιτείες επιτέθηκαν στο Ιράκ, το οποίο διέθετε συστήματα αναχαίτισης ραντάρ αεροσκαφών, drones ισραηλινής κατασκευής βοήθησαν στην εύρεση και καταστροφή τους, ώστε οι Αμερικανοί να μπορούν να πετάξουν με ασφάλεια στον ιρακινό εναέριο χώρο.

3. Εκτόξευση του drone IAI Harpy

Ένα άλλο διάσημο παράδειγμα αυτόνομου όπλου είναι Κορεάτικο σύστημα Samsung SGR-1, που βρίσκεται στην αποστρατικοποιημένη ζώνη μεταξύ Βόρειας και Νότιας Κορέας, σχεδιασμένη να εντοπίζει και να πυροβολεί εισβολείς σε απόσταση έως και τεσσάρων χιλιομέτρων. Σύμφωνα με την περιγραφή, το σύστημα «μπορεί να διακρίνει ένα άτομο που παραδίδεται και ένα άτομο που δεν παραδίδεται» με βάση τη θέση των χεριών του ή την αναγνώριση της θέσης του όπλου στα χέρια του.

4. Επίδειξη ανίχνευσης στρατιώτη που παραδόθηκε από το σύστημα Samsung SGR-1

Οι Αμερικανοί φοβούνται ότι θα μείνουν πίσω

Επί του παρόντος, τουλάχιστον 30 χώρες σε όλο τον κόσμο χρησιμοποιούν αυτόματα όπλα με διαφορετικά επίπεδα ανάπτυξης και χρήσης τεχνητής νοημοσύνης. Η Κίνα, η Ρωσία και οι Ηνωμένες Πολιτείες θεωρούν την τεχνητή νοημοσύνη ως απαραίτητο στοιχείο για την οικοδόμηση της μελλοντικής τους θέσης στον κόσμο. «Όποιος κερδίσει τον αγώνα της τεχνητής νοημοσύνης θα κυβερνήσει τον κόσμο», είπε ο Ρώσος πρόεδρος Βλαντιμίρ Πούτιν στους φοιτητές τον Αύγουστο του 2017. Ο Πρόεδρος της Λαϊκής Δημοκρατίας της Κίνας, Xi Jinping, δεν έχει κάνει τόσο μεγάλες δηλώσεις στα μέσα ενημέρωσης, αλλά είναι ο κύριος μοχλός της οδηγίας που ζητά η Κίνα να γίνει η κυρίαρχη δύναμη στην τεχνητή νοημοσύνη έως το 2030.

Στις Ηνωμένες Πολιτείες, υπάρχει αυξανόμενη ανησυχία για το «φαινόμενο του Σπούτνικ», το οποίο έχει δείξει ότι οι Ηνωμένες Πολιτείες είναι θλιβερά ανεπαρκώς εξοπλισμένες για να αντιμετωπίσουν τις νέες προκλήσεις που θέτει η τεχνητή νοημοσύνη. Και αυτό μπορεί να είναι επικίνδυνο για τον κόσμο, έστω και μόνο επειδή η χώρα που απειλείται από κυριαρχία μπορεί να θέλει να εξαλείψει το στρατηγικό πλεονέκτημα του εχθρού με άλλο τρόπο, δηλαδή μέσω πολέμου.

Αν και ο αρχικός σκοπός του έργου Maven ήταν να βοηθήσει στην εύρεση μαχητών του Ισλαμικού ISIS, η σημασία του για την περαιτέρω ανάπτυξη στρατιωτικών συστημάτων τεχνητής νοημοσύνης είναι τεράστια. Ο ηλεκτρονικός πόλεμος, που βασίζεται σε καταγραφείς, οθόνες και αισθητήρες (συμπεριλαμβανομένων κινητών, ιπτάμενων) πολέμου, σχετίζεται με έναν τεράστιο αριθμό ετερογενών ροών δεδομένων, οι οποίες μπορούν να χρησιμοποιηθούν αποτελεσματικά μόνο με τη βοήθεια αλγορίθμων AI.

Το υβριδικό πεδίο μάχης έχει γίνει στρατιωτική έκδοση του IoT, πλούσιο σε κρίσιμες πληροφορίες για την αξιολόγηση τακτικών και στρατηγικών απειλών και ευκαιριών. Η δυνατότητα διαχείρισης αυτών των δεδομένων σε πραγματικό χρόνο έχει μεγάλα πλεονεκτήματα, αλλά η αποτυχία μάθησης από αυτές τις πληροφορίες μπορεί να οδηγήσει σε καταστροφή. Η ικανότητα γρήγορης επεξεργασίας ροών πληροφοριών από πολλαπλές πλατφόρμες σε πολλούς τομείς παρέχει δύο σημαντικά στρατιωτικά πλεονεκτήματα: ταχύτητα i φθάνω. Η τεχνητή νοημοσύνη σάς επιτρέπει να αναλύετε τις δυναμικές συνθήκες του πεδίου μάχης σε πραγματικό χρόνο και να εκτελείτε χτυπήματα γρήγορα και βέλτιστα, ελαχιστοποιώντας παράλληλα τον κίνδυνο για τις δικές σας δυνάμεις.

Αυτό το νέο πεδίο μάχης είναι επίσης πανταχού παρόν και. Η τεχνητή νοημοσύνη βρίσκεται στο επίκεντρο του λεγόμενου σμήνος drone, το οποίο έχει λάβει μεγάλη προσοχή τα τελευταία χρόνια. Με τη βοήθεια των απανταχού αισθητήρων, όχι μόνο επιτρέπει στα μη επανδρωμένα οχήματα να πλοηγούνται σε εχθρικό έδαφος, αλλά θα μπορούσε τελικά να επιτρέψει τον σχηματισμό πολύπλοκων σχηματισμών διαφορετικών τύπων μη επανδρωμένων εναέριων οχημάτων που λειτουργούν σε πολλές περιοχές, με πρόσθετα όπλα που επιτρέπουν τη χρήση εξελιγμένων τακτικών μάχης, αμέσως. προσαρμογή στον εχθρό. ελιγμούς για να εκμεταλλευτούμε τις ευκαιρίες στο πεδίο της μάχης και να επικοινωνήσουμε τις μεταβαλλόμενες συνθήκες.

Η πρόοδος στη στόχευση και την πλοήγηση με τη βοήθεια τεχνητής νοημοσύνης βελτιώνει επίσης τις προοπτικές αποτελεσματικότητας σε ένα ευρύ φάσμα τακτικών και στρατηγικών αμυντικών συστημάτων, ιδιαίτερα πυραυλικής άμυνας, βελτιώνοντας τις μεθόδους ανίχνευσης, παρακολούθησης και αναγνώρισης στόχων.

αυξάνει συνεχώς τη δύναμη των προσομοιώσεων και των εργαλείων παιχνιδιών που χρησιμοποιούνται για την έρευνα πυρηνικών και συμβατικών όπλων. Η μαζική μοντελοποίηση και προσομοίωση θα είναι ουσιαστικής σημασίας για την ανάπτυξη ενός ολοκληρωμένου συστήματος συστημάτων στόχων πολλαπλών τομέων για διοίκηση και έλεγχο μάχης και περίπλοκων αποστολών. Η τεχνητή νοημοσύνη εμπλουτίζει επίσης τις αλληλεπιδράσεις με πολλούς συμμετέχοντες (5). Η τεχνητή νοημοσύνη επιτρέπει στους παίκτες να προσθέτουν και να αλλάζουν μεταβλητές παιχνιδιού για να εξερευνήσουν πώς οι δυναμικές συνθήκες (όπλα, συμμαχική συμμετοχή, πρόσθετα στρατεύματα κ.λπ.) μπορούν να επηρεάσουν την απόδοση και τη λήψη αποφάσεων.

Για τον στρατό, η αναγνώριση αντικειμένων είναι ένα φυσικό σημείο εκκίνησης για την τεχνητή νοημοσύνη. Πρώτον, απαιτείται εκτενής και ταχεία ανάλυση του αυξανόμενου αριθμού εικόνων και πληροφοριών που συλλέγονται από δορυφόρους και drones για την εύρεση στρατιωτικών στόχων όπως πύραυλοι, κινήσεις στρατευμάτων και άλλα δεδομένα που σχετίζονται με πληροφορίες. Σήμερα, το πεδίο της μάχης εκτείνεται σε όλα τα τοπία - θάλασσα, ξηρά, αέρας, διάστημα και κυβερνοχώρος - σε παγκόσμια κλίμακα.

ΚυβερνοχώροςΩς εγγενώς ψηφιακός τομέας, είναι φυσικά κατάλληλος για εφαρμογές τεχνητής νοημοσύνης. Στην επιθετική πλευρά, η τεχνητή νοημοσύνη μπορεί να βοηθήσει στην εύρεση και στόχευση μεμονωμένων κόμβων δικτύου ή μεμονωμένων λογαριασμών για συλλογή, διακοπή ή παραπληροφόρηση. Οι κυβερνοεπιθέσεις σε εσωτερικές υποδομές και δίκτυα διοίκησης μπορεί να έχουν καταστροφικές συνέπειες. Από την πλευρά της άμυνας, η τεχνητή νοημοσύνη μπορεί να βοηθήσει στον εντοπισμό τέτοιων εισβολών και στην εύρεση καταστροφικών ανωμαλιών σε πολιτικά και στρατιωτικά λειτουργικά συστήματα.

Αναμενόμενη και επικίνδυνη ταχύτητα

Ωστόσο, η γρήγορη λήψη αποφάσεων και η έγκαιρη εκτέλεση μπορεί να μην σας εξυπηρετήσουν καλά. με σκοπό την αποτελεσματική διαχείριση κρίσεων. Τα πλεονεκτήματα της τεχνητής νοημοσύνης και των αυτόνομων συστημάτων στο πεδίο της μάχης μπορεί να μην αφήνουν χρόνο για διπλωματία, η οποία, όπως γνωρίζουμε από την ιστορία, ήταν συχνά επιτυχημένη ως μέσο πρόληψης ή διαχείρισης μιας κρίσης. Στην πράξη, η επιβράδυνση, η παύση και ο χρόνος για τη διαπραγμάτευση μπορεί να είναι το κλειδί για τη νίκη ή τουλάχιστον την αποτροπή της καταστροφής, ειδικά όταν διακυβεύονται πυρηνικά όπλα.

Οι αποφάσεις για τον πόλεμο και την ειρήνη δεν μπορούν να αφεθούν στην προγνωστική ανάλυση. Υπάρχουν θεμελιώδεις διαφορές στον τρόπο με τον οποίο χρησιμοποιούνται τα δεδομένα για επιστημονικούς, οικονομικούς, υλικοτεχνικούς και προγνωστικούς σκοπούς. ανθρώπινη συμπεριφορά.

Κάποιοι μπορεί να αντιλαμβάνονται την τεχνητή νοημοσύνη ως μια δύναμη που αποδυναμώνει την αμοιβαία στρατηγική ευαισθησία και έτσι αυξάνει τον κίνδυνο πολέμου. Τα τυχαία ή εκ προθέσεως αλλοιωμένα δεδομένα μπορεί να αναγκάσουν τα συστήματα τεχνητής νοημοσύνης να εκτελούν ακούσιες ενέργειες, όπως η εσφαλμένη αναγνώριση και η επιδίωξη λανθασμένων στόχων. Η ταχύτητα δράσης που υποτίθεται στην ανάπτυξη πολεμικών αλγορίθμων μπορεί να σημαίνει πρόωρη ή και περιττή κλιμάκωση, εμποδίζοντας την ορθολογική διαχείριση της κρίσης. Από την άλλη πλευρά, οι αλγόριθμοι επίσης δεν θα περιμένουν και θα εξηγήσουν, επειδή αναμένεται επίσης να είναι γρήγοροι.

Ενοχλητική όψη λειτουργία αλγορίθμων τεχνητής νοημοσύνης παρουσιάστηκε επίσης από εμάς πρόσφατα στο ΜΤ. Ακόμη και οι ειδικοί δεν γνωρίζουν ακριβώς πώς η τεχνητή νοημοσύνη παράγει τα αποτελέσματα που βλέπουμε.

Στην περίπτωση των αλγορίθμων του πολέμου, δεν έχουμε την πολυτέλεια να αγνοούμε τόσο τη φύση και το πώς τη «σκέφτονται». Δεν θέλουμε να ξυπνάμε στη μέση της νύχτας από πυρηνικές λάμψεις γιατί η τεχνητή νοημοσύνη «δική μας» ή «τους» έχει αποφασίσει ότι ήρθε η ώρα να διευθετηθεί επιτέλους το παιχνίδι.