Πόλεμοι Τεχνητής Νοημοσύνης: Πώς τα όπλα με ΑΙ αλλάζουν τον πόλεμο, ποιοι είναι οι κίνδυνοι.
Πόλεμοι Τεχνητής Νοημοσύνης: Πώς τα όπλα με ΑΙ αλλάζουν τον πόλεμο, ποιοι είναι οι κίνδυνοι.
Η Mπράνκα Μαριτζάν, ερευνήτρια σε θέματα στρατιωτικής χρήσης αναδυόμενων τεχνολογιών, μιλά στη HuffPost Greece.
O πόλεμος στην Ουκρανία ανέδειξε σε όλο τον κόσμο ότι οι προηγμένες τεχνολογίες της «high tech» εποχής μας αλλάζουν δραματικά και τα πεδία των μαχών μιας γενικευμένης σύγκρουσης, ενώ παράλληλα η Τεχνητή Νοημοσύνη (ΑΙ) έχει εισέλθει στην καθημερινότητά μας και στις συζητήσεις της δημόσιας σφαίρας χάρη στις πρόσφατες, ταχύτατες εξελίξεις στον κλάδο, με χαρακτηριστική περίπτωση το «ηχηρό» ντεμπούτο του ChatGPT και παρεμφερών εργαλείων. Σε αυτό το πλαίσιο, πολλοί εκφράζουν ανησυχίες για την επέλαση της ΑΙ σε κάθε επίπεδο, από τον χώρο της απασχόλησης (θέσεις εργασίας που θα χαθούν) μέχρι τον τομέα των «killer robots»- όπλων τεχνητής νοημοσύνης, φέρνοντας στο μυαλό ουκ ολίγων σενάρια επιστημονικής φαντασίας όπως του «Εξολοθρευτή» (Terminator) ή του «Battlestar Galactica».
Η Τεχνητή Νοημοσύνη είναι προφανώς εδώ για να μείνει- και ο τομέας των όπλων και των στρατιωτικών τεχνολογιών δεν πρόκειται να αποτελέσει εξαίρεση. Η Μπράνκα Μαριτζάν, ερευνήτρια του Project Ploughshares, η οποία ασχολείται με θέματα επίδρασης αναδυόμενων τεχνολογιών στους τομείς των ενόπλων δυνάμεων και της ασφαλείας, μίλησε στη HuffPost Greece για ένα εύρος σχετικών θεμάτων, περιλαμβανομένων των κινδύνων για «αυτοματοποιημένους» πολέμους, για «ευκολότερες» συγκρούσεις και άλλα παρεμφερή.
Στο
πλαίσιο της δουλειάς της, η κ. Μαριτζάν ασχολείται με προβληματισμούς
ως προς την ανάπτυξη αυτόνομων οπλικών συστημάτων και τις επιπτώσεις της
Τεχνητής Νοημοσύνης και της ρομποτικής στην ασφάλεια και τις τάσεις
στον πόλεμο. Είναι κάτοχος PhD από το Balsillie School of International Affairs, με εξειδίκευση στους τομείς των συγκρούσεων και της ασφαλείας (conflict and security). Έχει
πραγματοποιήσει έρευνες πάνω σε κοινωνίες μετά από ένοπλες συγκρούσεις
και δημοσιεύσει σειρά ακαδημαϊκών άρθρων για τις επιπτώσεις των
συγκρούσεων στους αμάχους, ενώ, μεταξύ άλλων, είναι μέλος του συμβουλίου
του PACS-Can (Peace and Conflict Studies Association of Canada).
HuffPost Greece: Όλοι φαίνονται να μιλούν για την Τεχνητή Νοημοσύνη αυτό τον καιρό, και πολλοί ανησυχούν για αυτά που μπορεί να φέρνει στην απασχόληση, στην κυβερνοασφάλεια, στα fake news- στα πάντα. Αν εστιάσουμε στις πιθανές στρατιωτικές εφαρμογές, για τι ακριβώς εφαρμογές μιλάμε στα αλήθεια;
Μπράνκα Μαριτζάν: Οι στρατιωτικές χρήσεις της ΑΙ ποικίλλουν- τα πάντα από «backend» λειτουργίες και επιμελητεία μέχρι τη χρήση της ΑΙ σε οπλικά συστήματα. Δεν είναι όλες αυτές οι χρήσεις ανησυχητικές. Αυτό που είναι κρίσιμης σημασίας και χρήζει προσοχής είναι η υιοθέτηση της ΑΙ στη στόχευση και η χρήση ΑΙ στη λήψη αποφάσεων σε μεγαλύτερο εύρος. Πρόσφατα η Palantir παρουσίασε την Artificial Intelligence Platform της, που είναι στην ουσία ένα chatbot για τον στρατό. Στο demo της Palantir βλέπεις ότι το σύστημα ενημερώνει το στρατιωτικό προσωπικό για κινήσεις στρατευμάτων από εχθρικές δυνάμεις και μπορεί ακόμα και να εξαπολύσει ένα στρατιωτικό drone. Η ποιότητα της ανθρώπινης λήψης αποφάσεων εδώ μειώνεται, καθώς ο άνθρωπος απλά επιβλέπει το σύστημα και εγκρίνει τις προτάσεις που κάνει αυτό. Δεν είναι σαφές αν το άνθρωπος κατανοεί πώς η ΑΙ κατέληξε στο συμπέρασμα στο οποίο κατέληξε. Σε οπλικά συστήματα και στόχευση αυτή η έλλειψη κατανόησης είναι ιδιαίτερα ανησυχητική, καθώς πρόκειται για αποφάσεις σχετικά με ανθρώπινες ζωές. Αυτή τη στιγμή δεν υπάρχει πλαίσιο που διασφαλίζει ότι κάποιος είναι υπόλογος για αποφάσεις που λαμβάνονται από την ΑΙ.
Πόσο πιθανό θεωρείτε ότι είναι να δούμε πλήρως αυτοματοποιημένα/ αυτόνομα όπλα ή ακόμα και στρατούς; Πιστεύετε πως υπάρχει πραγματική πιθανότητα για «πολέμους- αστραπή;» (flash wars). Πώς θα ορίζατε και θα αξιολογούσατε τον ίδιο τον όρο «flash war»; (Ο όρος αυτός περιγράφει μια υποθετική σύγκρουση μεταξύ αυτοματοποιημένων συστημάτων, που αντιδρούν ταχύτατα το ένα στο άλλο, δημιουργώντας μια ανεξέλεγκτη αλυσιδωτή αντίδραση)
Βραχυπρόθεσμα αυτό που θα δούμε είναι η ανάπτυξη ολοένα και πιο αυτόνομων συστημάτων. Υπάρχουν όρια στα συνθετικά δεδομένα και τις προσομοιώσεις, και τα κράτη θα θελήσουν να δοκιμάσουν συστήματα σε πλαίσια πραγματικού κόσμου. Απουσία κάποιου διεθνούς μηχανισμού διακυβέρνησης, αυτό θα οδηγήσει στην ανάπτυξη συστημάτων που μπορεί να μην είναι έτοιμα για τα πεδία των μαχών. Δεν νομίζω ότι θα δούμε πλήρως αυτόνομα συστήματα και στρατούς, καθώς τα κράτη και πάλι θα θέλουν να διασφαλίσουν πως υπάρχει μια ιεραρχία και τα συστήματα υποστηρίζουν έναν συνολικό αντικειμενικό στόχο. Και πάλι όμως, υπάρχει ένας βαθμός αδυναμίας πρόβλεψης σε συστήματα ΑΙ που μπορεί να έχουν ένα επίπεδο ανθρώπινης εμπλοκής- συγκεκριμένα πώς αυτά τα συστήματα θα αλληλεπιδρούν με άλλα, περιλαμβανομένων επανδρωμένων πλατφορμών. Εδώ μπορείς να σκεφτείς λάθος ταυτοποίηση φιλικών πλατφορμών ως εχθρικών, καθώς και θέματα όπως το χακάρισμα τέτοιων συστημάτων και επιθέσεις από αντιπάλους. Υπό αυτή την έννοια, οι «flash wars» αποτελούν λόγο προβληματισμού, καθώς μπορείτε να φανταστείτε πώς λάθη ή ανεπιθύμητες επιπτώσεις θα μπορούσαν, σε μια τεταμένη γεωπολιτική κατάσταση, να κλιμακώσουν συγκρούσεις.
Τα πυρηνικά όπλα φαίνονται να κατέστησαν τις μεγάλες συγκρούσεις μεταξύ μεγάλων δυνάμεων πιο απίθανες, λόγω του status «υπερόπλων» που διαθέτουν. Πιστεύετε πως η ΑΙ θα μπορούσε να εξελιχθεί σε κάτι τέτοιο, ή θα αποδειχθεί ένα «πυρηνικό όπλο των φτωχών», ευκολότερο να διαδοθεί; Υπό αυτή την έννοια, πόσο πιθανό θα ήταν μικρότερες δυνάμεις να χρησιμοποιήσουν εκτενώς τέτοια όπλα; Θα μπορούσαν τα όπλα τεχνητής νοημοσύνης να καταστήσουν ευκολότερη την έναρξη πολέμων ή όχι;
Η ΑΙ είναι «enabler» (παρέχει δυνατότητες), και για μικρότερες χώρες υπάρχει η αντίληψη πως θα μπορούσε να αποτελέσει πολλαπλασιαστή ισχύος. Ήδη βλέπετε πώς περιφερόμενα πυρομαχικά (loitering munitions) και φθηνότερα drones, και ακόμα και drones εμπορίου, αξιοποιούνται από μικρότερες χώρες. Η Ουκρανία έχει δείξει πώς η πρόσβαση σε λογισμικό Τεχνητής Νοημοσύνης για στόχευση μπορεί να βοηθήσει μια μικρότερη δύναμη να απαντήσει σε έναν μεγαλύτερο στρατό. Χωρίς αμφιβολία, η πλειονότητα των κρατών αφιερώνουν πόρους στην ανάπτυξη στρατιωτικών συστημάτων ΑΙ. Με πιο πολλά συστήματα ήδη στη διάθεσή τους, οι πιο προηγμένοι στρατοί θα έχουν και πάλι πλεονέκτημα, καθώς έχουν το δυναμικό και τους πόρους για την ανάπτυξη εξελιγμένων συστημάτων. Καθώς περισσότερες χώρες αναπτύσσουν όπλα με δυνατότητες Τεχνητής Νοημοσύνης, η πρόκληση είναι να διασφαλιστεί πως δεν θα υπάρξει περαιτέρω αποστασιοποίηση από τις επιπτώσεις που θα έχουν αυτά τα συστήματα σε μια συγκεκριμένη εμπόλεμη ζώνη και, ευρύτερα, την παγκόσμια ασφάλεια. Η μείωση του «ορίου» για την έναρξη ενός πολέμου είναι λόγος προβληματισμού ειδικά σε περιοχές όπου υπάρχουν συνεχιζόμενες συγκρούσεις ή εντάσεις που «σιγοκαίνε».
Τα σενάρια τύπου «Terminator» γίνονται όλο και δημοφιλέστερα τελευταία- στρατιές από νοήμονες πολεμικές μηχανές που στρέφονται εναντίον των κυρίων τους. Θα λέγατε πως υπάρχει κάποια ρεαλιστική βάση σε αυτό;
Πραγματικά δεν πιστεύω ότι ο προβληματισμός μεσο/μακροπρόθεσμα είναι τα εξαιρετικά νοήμονα συστήματα. Το πραγματικό ζήτημα είναι η ανάπτυξη προκατειλημμένων και επιρρεπών σε λάθη συστημάτων που ήδη προκαλούν ζημιά σε άλλους τομείς. Φανταστείτε, για παράδειγμα, τεχνολογίες προγνωστικής αστυνόμευσης και αναγνώρισης προσώπου που έχουν οδηγήσει στη στοχοποίησε ήδη μειονεκτούντων κοινοτήτων και σε λάθος ταυτοποιήσεις ατόμων. Αυτά είναι τα ζητήματα στα οποία πρέπει να εστιάζουμε, καθώς είναι άμεσα και προκαλούν ζημιά. Το επιχείρημα του υπαρξιακού κινδύνου παραβλέπει τη ζημιά που προκαλεί ήδη η ανάπτυξη συστημάτων Τεχνητής Νοημοσύνης και θα προκαλέσει σε μεγάλα τμήματα του παγκοσμίου πληθυσμού. Δηλαδή περισσότερη παρακολούθηση, αποφάσεις από συστήματα Τεχνητής Νοημοσύνης χωρίς διαφάνεια για τη λήψη αποφάσεων και την πίεση για τη χρήση συστημάτων Τεχνητής Νοημοσύνης σε στρατιωτικά πλαίσια.
Ποια είναι τα μαθήματα από την Ουκρανία ως προς τη χρήση νέων, υψηλής τεχνολογίας μα χαμηλού κόστους συστημάτων σε γενικευμένες συγκρούσεις; Μιλάμε για πραγματικά «game changers», περισσότερο πολλαπλασιαστές ισχύος, μέσα που διαταράσσουν ισορροπίες, υπερεκτιμημένα όπλα ή κάτι άλλο;
Χρησιμοποίησα
την Ουκρανία νωρίτερα ως παράδειγμα ακριβώς επειδή κράτη παρατηρούν ήδη
στενά αυτή τη σύγκρουση για να κατανοήσουν καλύτερα το μέλλον του
πολέμου. Το μάθημα από την Ουκρανία είναι πως οι νέες τεχνολογίες θα
παίξουν σημαντικό ρόλο στον μελλοντικό πόλεμο, μα αυτό δεν αντικαθιστά
τις καλά εκπαιδευμένες και εξοπλισμένες ένοπλες δυνάμεις. Είναι θέμα
συνδυασμού αντί αντικατάστασης. Με άλλα λόγια, ο συμβατικός πόλεμος
δίπλα στις νέες τεχνολογίες είναι η πιο ρεαλιστική κατανόηδη του
μεταβαλλόμενου χαρακτήρα του πολέμου. Ενώ υπάρχει μεγάλο «hype»
(θόρυβος), κάποιες από τις τεχνολογίες Τεχνητής Νοημοσύνης που
αναπτύσσονται στον πολιτικό τομέα θα αλλάξουν επίσης και θα διαμορφώσουν
τις τεχνολογίες που είναι διαθέσιμες στις ένοπλες δυνάμεις. Οι
στρατιωτικές χρήσης της ΑΙ, ως εκ τούτου χρειάζονται στενότερη
παρακολούθηση και συζήτηση, καθώς τα κράτη πρέπει να διασφαλίσουν πως οι
άνθρωποι θα ασκούν ουσιώδη ανθρώπινο έλεγχο πάνω στα όπλα, ακόμα και
ενώ η τεχνολογία εξελίσσεται.
Κώστας Μαυραγάνης
28/05/2023
Σπούδασε Δημοσιογραφία και ΜΜΕ στο ΑΠΘ και είναι κάτοχος MA (Newspaper
Journalism) από το Nottingham Trent University. Έχει εργαστεί στο
Kathimerini.gr, στο Naftemporiki.gr, στο Newsbomb.gr, στην εφημερίδα
«Μακεδονία», στην ΕΡΤ3, στο Future Events News Service (Λονδίνο), καθώς
και ως εξωτερικός συνεργάτης σε διάφορα περιοδικά.
https://www.huffingtonpost.gr/entry/polemoi-technetes-noemosenes-pos-ta-opla-me-ai-allazoen-ton-polemo-poioi-einai-oi-kindenoi_gr_647092ebe4b045ce24828d5b