Η επανάσταση των αλγορίθμων.
«Η αυτοματοποίηση είναι σαν να έχεις ένα άλογο. Δεν ανησυχείς για το αν θα σε ξεπεράσει το άλογο. Ιππεύοντας το άλογο, ξέρεις ότι θα πας πιο γρήγορα».
ΣΥΝΕΝΤΕΥΞΕΙΣ: Η επανάσταση των αλγορίθμων.
Ο καθηγητής της επιστήμης των υπολογιστών Πέντρο Ντομίνγκος μιλάει στην «Κ» για την τεχνολογία και τις κακοτοπιές της.
Βρισκόμαστε εν μέσω μιας μεγάλης επανάστασης. Αν θέλουμε να ευημερήσουμε, αποφεύγοντας τις πολλές κακοτοπιές, πρέπει να κατανοήσουμε βαθιά τους αλγορίθμους, τη μηχανική μάθηση (Μ.Μ.) και την τεχνητή νοημοσύνη (Τ.Ν.). Στην εποχή των αυτοδίδακτων μηχανών, είναι επιτακτικό να εμβαθύνουμε και να διευρύνουμε τη γνώση των μηχανισμών που κινούν τον κόσμο. Ο καθηγητής της επιστήμης των υπολογιστών Πέντρο Ντομίνγκος, στο Πανεπιστήμιο Ουάσιγκτον του Σιάτλ, και συγγραφέας ενός σπουδαίου βιβλίου, του «The Master Algorithm», το οποίο σύμφωνα με τα λόγια του Μπιλ Γκέιτς πρέπει απαραιτήτως να διαβαστεί απ’ όλους, εξηγεί πώς θα πλοηγηθούμε στο μέλλον.
– Γιατί πρέπει να μας απασχολoύν όλους οι αλγόριθμοι;
– Σήμερα οι αλγόριθμοι βρίσκονται παντού στη ζωή μας, ακόμη και αν δεν το συνειδητοποιούμε. Δεν αρκεί όμως να τους γνωρίζουν βαθιά μόνον οι ειδήμονες, πρέπει οι πάντες να τους κατανοήσουν. Το ποιος ελέγχει τους αλγορίθμους είναι προφανώς αποφασιστικό, αλλά δεν είναι προκαθορισμένο. Θα είναι αυτός που τους καταλαβαίνει και τους χρησιμοποιεί. Το θέμα λοιπόν είναι εσύ ο ίδιος να αρχίσεις να τους καταλαβαίνεις, γιατί αν δεν το κάνεις εσύ, θα το κάνει κάποιος άλλος.
– Ακούμε όμως συχνά ότι οι αλγόριθμοι μεροληπτούν και κάνουν διακρίσεις.
– Σύμφωνοι, σε κάποιο βαθμό οι αλγόριθμοι είναι ατελείς, γι’ αυτό και πρέπει όλοι να τους καταλάβουμε και να τους βελτιώσουμε. Εξαιτίας όμως των αλγορίθμων προσλαμβάνονται άνθρωποι που δεν θα είχαν καμία ελπίδα εάν τους αξιολογούσαν άλλοι. Η Google έχει υπαλλήλους πολύ καλά αμειβόμενους μηχανικούς λογισμικού που δεν έχουν πτυχίο στην επιστήμη των υπολογιστών ή ούτε καν πτυχίο πανεπιστημίου. Τους προσλαμβάνει γιατί αξιοποιεί άλλες, καλές πληροφορίες, στις οποίες έχουν πρόσβαση οι αλγόριθμοι. Οι αλγόριθμοι αυξάνουν δραστικά την αντικειμενικότητα και την ευκαιρία, καθώς ανοίγονται σε μεγαλύτερο όγκο πληροφοριών. Οι μεροληψίες που είναι μέσα στα κεφάλια των ανθρώπων είναι δυσκολότερο να αναγνωριστούν και είναι πολύ δυσκολότερο να αλλάξουν. Ενώ τις μεροληψίες στους αλγορίθμους μπορείς να τις επιθεωρήσεις και να τις αλλάξεις ανά πάσα στιγμή. Οι άνθρωποι που ανησυχούν για τις μεροληψίες θα ’πρεπε να είναι οι ισχυρότεροι υπέρμαχοι της χρησιμοποίησης περισσότερων αλγορίθμων και όχι αρνητές τους.
– Εχουν δίκιο όσοι ανησυχούν για τις προοπτικές της δημοκρατίας την εποχή της αυτοματοποίησης;
– Η Τ.Ν. μπορεί να είναι ένα φανταστικό εργαλείο για τη δημοκρατία, αλλά, δυστυχώς, και αυτό είναι κάτι στο οποίο ήμαστε λίγο αφελείς δέκα χρόνια πριν· οι υπολογιστές και οι αλγόριθμοι είναι επίσης κι ένα απίθανο εργαλείο για τους δικτάτορες. Κόβει αμφίπλευρα. Διαδηλωτές χρησιμοποιούν αλγορίθμους για να αυτο-οργανωθούν, αλλά από την άλλη, εάν είσαι δικτάτορας, η τεχνητή νοημοσύνη είναι ό,τι καλύτερο θα μπορούσες να ονειρευτείς. Η Τ.Ν. είναι ο απόλυτος γραφειοκράτης: μπορεί να κρατάει αρχεία για τους πάντες, να παρακολουθεί τους πάντες, δεν κουράζεται ποτέ, δεν αμφισβητεί ποτέ. Σε κάποιες χώρες έχουμε αρχίσει να το βλέπουμε ήδη: οι αλγόριθμοι έχουν αρχίσει να καταπιέζουν ανθρώπους. Η Κίνα με το «σύστημα κοινωνικού σκορ» είναι μακράν το χειρότερο παράδειγμα, αλλά συμβαίνει και σε άλλες αυταρχικές χώρες. Η τεχνολογία εξελίσσεται και η κοινωνία ακολουθεί αλλάζοντας. Εχουμε αυτή τη νοοτροπία ότι η δημοκρατία θα νικήσει γιατί είναι καλύτερη, αλλά αυτό δεν ευσταθεί. Η δημοκρατία θα επικρατήσει εάν χρησιμοποιήσουμε καλύτερα τα εργαλεία που έχουμε στη διάθεσή μας. Αν δεν κινητοποιηθούμε, θα νικήσουν οι απολυταρχικοί, και αν γίνει αυτό θα είναι δύσκολο να γυρίσουμε πίσω. Γι’ αυτό είναι σημαντικό να είναι ενήμεροι όχι μόνον όσοι παίρνουν αποφάσεις, αλλά όλοι οι πολίτες. Πρέπει να κρούσουμε τον συναγερμό.
– Γράφετε ότι ο μεγαλύτερος κίνδυνος της Τ.Ν. είναι το να πέσει σε λάθος χέρια.
– Ναι, και για τον λόγο αυτόν πρέπει να διασφαλίσουμε ότι οι κυβερνητικές υπηρεσίες θα έχουν πάντα την καλύτερη Τ.Ν. Αυτό ισχύει και για τη σχέση της κυβέρνησης με τον επιχειρηματικό κόσμο. Δεν μπορείς να ρυθμίσεις και να νομοθετήσεις τις τεχνολογικές εταιρείες που στην πραγματικότητα δουλεύουν πολύ καλά, γιατί η τεχνολογία κινείται πολύ γρήγορα και η νομοθετική διαδικασία κινείται πολύ αργά, θα είναι πάντα ένα βήμα πίσω. Το GDPR είναι ένα καλό παράδειγμα αποτυχίας. Αλγόριθμοι για τον 21ο αιώνα βγαλμένοι από νοοτροπίες του 20ού αιώνα…
– Πώς κρίνετε ότι θα εξελιχθεί το μέλλον της εργασίας;
– Υπάρχει μια λανθασμένη διχοτόμηση μεταξύ ανθρώπου εναντίον μηχανής. «Θα χάσουμε όλοι τις δουλειές μας», ακούμε, «και θα τις αναλάβουν οι υπολογιστές». Οι άνθρωποι ανησυχούν γι’ αυτό τα τελευταία 200 χρόνια και δεν συμβαίνει ποτέ. Στο μέλλον, δεν θα είναι ο άνθρωπος εναντίον της μηχανής, αλλά ο άνθρωπος μαζί με τη μηχανή εναντίον του ανθρώπου χωρίς τη μηχανή. Σε τελική ανάλυση, η μηχανή είναι ένα εργαλείο που βρίσκεται υπό τον έλεγχό μας. Αυτή θα είναι η κατάσταση και με την Τ.Ν., εκτός και αν κάνουμε κάτι ανόητο. Ο τρόπος για να εξασφαλίσεις το επάγγελμά σου απ’ την αυτοματοποίηση είναι εσύ ο ίδιος να το αυτοματοποιήσεις. Αυτοί που λένε ότι το μέλλον ανήκει στους μηχανικούς των υπολογιστών κάνουν λάθος. Εχουμε ακόμη άγνοια της ιατρικής, των οικονομικών, της βιολογίας. Το μέλλον ανήκει στους ανθρώπους που γνωρίζουν το πεδίο τους και χρησιμοποιούν τους υπολογιστές για να το εξερευνήσουν. Αυτός είναι ο συνδυασμός. Η αυτοματοποίηση είναι σαν να έχεις ένα άλογο. Δεν ανησυχείς για το αν θα σε ξεπεράσει το άλογο. Ιππεύοντας το άλογο, ξέρεις ότι θα πας πιο γρήγορα. Αυτό είναι η Τ.Ν.: ένα άλογο για τον νου. Ας πάρουμε για παράδειγμα τη βιολογία. Η παλιά γενιά βιολόγων ήταν στο εργαστήριο μέσα και χρησιμοποιούσε μολύβια και τρυβλία Πέτρι. Η νέα γενιά βιολόγων χρησιμοποιεί υπολογιστές για να χτίσει μοντέλα πάνω στη λειτουργία των κυττάρων. Ετσι θα θεραπευθεί ο καρκίνος, όχι με τρυβλία Πέτρι.
– Επισημαίνετε επίσης ότι η διαχείριση και το μοίρασμα των δεδομένων είναι το σπουδαιότερο ζήτημα του 21ου αιώνα.
– Ενα ανθρώπινο ον έχει το σώμα, τον εγκέφαλο, το νευρικό του σύστημα, και όλα αυτά είναι συνδεδεμένα μεταξύ τους. Φανταστείτε λοιπόν ένα μέρος του σώματός σας, τα δάχτυλά σας ας πούμε, εάν ζητούσε ιδιωτικότητα. Θα πεθαίνατε. Το ζητούμενο στις κοινωνίες της πληροφορίας είναι να συγκεντρώνεις πληροφορίες και να τις χρησιμοποιείς για να παίρνεις καλύτερες αποφάσεις, από το εργοστάσιο έως ολόκληρη τη χώρα. Εχω το δικαίωμα να διατηρώ ιδιωτικά τα δικά μου ατομικά προσωπικά δεδομένα, να μην τα μοιράζομαι. Αυτό όμως είναι πολύ εγωιστικό. Ως χρήστης και ως πολίτης θέλω τα δεδομένα μου να χρησιμοποιούνται προς όφελός μου. Ο πιο ωφελημένος απ’ τη χρήση των δεδομένων σου είσαι εσύ. Πολλοί λένε ότι «αν το προϊόν είναι δωρεάν, τότε το προϊόν είσαι εσύ». Αυτό κι αν είναι λάθος. Η τεχνολογία της πληροφορίας είναι νέα και οι άνθρωποι δεν την κατανοούν ακόμη καλά. Μια ομάδα ερευνητών του ΜΙΤ θέλησε να βρει πόσο αξίζει η μηχανή αναζήτησης της Google για τον καθένα μας. Ρώτησαν λοιπόν ένα ικανό δείγμα χρηστών, πόσα χρήματα θα έπρεπε να τους δώσουν για να σταματήσουν να χρησιμοποιούν τη μηχανή αναζήτησης για ένα χρόνο. Ο μέσος όρος ήταν 17.000 δολάρια! Χοντρικά, η αξία του κάθε χρήστη για την Google με βάση τα έσοδά της είναι περίπου 100 δολάρια. Εσύ λοιπόν αξίζεις στην Google 100 δολάρια, ενώ από την Google παίρνεις 17.000 δολάρια τον χρόνο. Ε, λοιπόν, δεν θέλω να πουλήσω τα δεδομένα μου! Η αξία των δικών μου δεδομένων είναι μηδαμινή συγκρινόμενη με αυτά που παίρνω.
Η εμπειρία τού να είσαι άνθρωπος δεν αυτοματοποιείται
– Πολλοί, ωστόσο, εξακολουθούν να είναι διστακτικοί με τα δεδομένα τους.
– Το κρίσιμο ερώτημα είναι: ποιον εμπιστεύομαι να έχει τα δεδομένα μου και να τα χρησιμοποιεί προς όφελός μου; Γενικά εμπιστεύομαι περισσότερο την Google και την Amazon, αλλά δεν εμπιστεύομαι το Facebook, έχω μιαν αίσθηση ότι θα τα χρησιμοποιήσουν περισσότερο για δικό τους όφελος. Παλιά όταν μας έλεγαν να βάλουμε τα χρήματά μας στην τράπεζα, λέγαμε «αποκλείεται, να δώσουμε τα λεφτά μας σε ξένους; Θα τα κλέψουν, καλύτερα να τα κρατήσουμε στο στρώμα μας». Δεν θα ’πρεπε να κρατάς τα δεδομένα σου κάτω από το στρώμα, είναι το ίδιο πράγμα. Γιατί οι τράπεζες δεν το σκάνε με τα λεφτά μας; Γιατί έτσι θα καταστραφούν. Το χρηματοπιστωτικό σύστημα βασίζεται πάνω απ’ όλα στην εμπιστοσύνη, και υπάρχουν βέβαια και οι νόμοι ενάντια στην απάτη. Το ίδιο χρειάζεται να κάνουμε και για τα δεδομένα. Πρέπει να φτιάξουμε οργανισμούς, ακόμη και μη κερδοσκοπικούς, ας τους πούμε «συνδικάτα δεδομένων», των οποίων η αποστολή θα είναι να εξασφαλίζεται ότι τα δεδομένα θα χρησιμοποιούνται προς όφελός μας. Το GDPR λέει ότι τα δεδομένα πρέπει να χρησιμοποιούνται μόνο για τον σκοπό για τον οποίο έχουν συλλεχθεί. Αυτό είναι εντελώς ανόητο. Οι καλύτερες χρήσεις των δεδομένων είναι οι αναπάντεχες. Αν αυτός ο νόμος υπήρχε παλιά, σήμερα δεν θα είχαμε την πενικιλίνη, τις ακτίνες Χ, τίποτε απ’ αυτά που ανακαλύφθηκαν κατά τύχη.
– Τι θα προτείνατε στους νέους ανθρώπους που αγωνιούν για το μέλλον;
– Είμαστε στο μέσον μιας επανάστασης. Το πεδίο της Τ.Ν. συνεχώς αναπτύσσεται, αλλά πρέπει να το κατανοήσουμε βαθιά για να μας είναι χρήσιμο. Ο Γκάρι Κασπάροφ, ένας απ’ τους καλύτερους σκακιστές στον κόσμο, επινόησε ένα καλύτερο είδος παίκτη, τον Κένταυρο, ο οποίος είναι μισός μηχανή και μισός άνθρωπος. Εφερε κοντά τη μηχανή με την τεράστια βάση δεδομένων της και τον άνθρωπο με την εκπληκτική του ικανότητα να αναγνωρίζει μοτίβα. Και αυτοί οι δύο μαζί μπορούν να νικήσουν οποιονδήποτε υπολογιστή. Πολλοί λένε λανθασμένα ότι οι ανθρωπιστικές επιστήμες πεθαίνουν. Πιθανώς σε μερικά χρόνια από τώρα οι άνθρωποι να προγραμματίζουν σε φυσική γλώσσα, οπότε όλες αυτές οι γλώσσες που είναι απαραίτητο να ξέρει κάποιος σήμερα να είναι άχρηστες. Παραδόξως, η δουλειά που κάνει ένας επιστήμονας των υπολογιστών είναι πάρα πολύ εύκολο να γίνει απ’ τους υπολογιστές. Μου αρέσει να αστειεύομαι με τους φοιτητές μου, λέγοντάς τους ότι οι επιστήμονες των υπολογιστών κλέβουν τα επαγγέλματα όλου του κόσμου και τώρα οι υπολογιστές κλέβουν το επάγγελμα των επιστημόνων. Ο κλέφτης γίνεται θύμα του κλέφτη. Ομως η εμπειρία τού να είσαι άνθρωπος δεν αυτοματοποιείται. ΜόνονΑ οι άνθρωποι μπορούν να την έχουν. Τα πεδία λοιπόν που μπορούν να ανθήσουν στο μέλλον είναι αυτά που βασίζονται σε αυτή την εμπειρία: οι ανθρωπιστικές επιστήμες. Και ναι, φυσικά οι τέχνες, επίσης.
ΜΑΝΩΛΗΣ ΑΝΔΡΙΩΤΑΚΗΣ
28/12/2020