'Ανθρωπος και ρομπότ: Η κανονιστική προσέγγιση μιας συναρπαστικής σχέσης.


Από την εποχή που ο νεαρός Ισαάκ Ασίμοφ διατύπωνε, το 1942, για πρώτη φορά, τους τρεις νόμους της ρομποτικής, στο διήγημα «Runaround», η συζήτηση για την ηθική πλευρά της τεχνολογικής εξέλιξης, κυρίως σε ό,τι αφορά στην τεχνητή νοημοσύνη, επέχει ουσιαστικά την θέση ολόκληρου φιλοσοφικού κλάδου.

Οι νόμοι στους οποίους υπακούν τα ρομπότ με ποζιτρονικό εγκέφαλο (σσ. φανταστικός όρος του Ασίμοφ για να περιγράψει έναν ρομποτικό εγκέφαλο τεχνητής νοημοσύνης) είναι οι εξής:

-Το ρομπότ δε θα κάνει κακό σε άνθρωπο, ούτε με την αδράνειά του θα επιτρέψει να βλαφτεί ανθρώπινο ον

-Το ρομπότ πρέπει να υπακούει τις διαταγές που του δίνουν οι άνθρωποι, εκτός αν αυτές οι διαταγές έρχονται σε αντίθεση με τον πρώτο νόμο

-Το ρομπότ οφείλει να προστατεύει την ύπαρξή του, εφόσον αυτό δεν συγκρούεται με τον πρώτο και τον δεύτερο νόμο

Σε μεταγενέστερα μυθιστορήματα του Ασίμωφ, οι τρεις νόμοι της ρομποτικής συμπληρώθηκαν από το ρομπότ «Ντάνιελ Όλιβοου» με τον μηδενικό νόμο της ρομποτικής:

Το ρομπότ δε θα κάνει κακό στην ανθρωπότητα, ούτε με την αδράνειά του θα επιτρέψει να βλαφτεί η ανθρωπότητα, οπότε και ο πρώτος νόμος συμπληρώθηκε ανάλογα (παρόμοιες προσαρμογές έγιναν και στον δεύτερο και τρίτο νόμο): Το ρομπότ δε θα κάνει κακό σε άνθρωπο, ούτε με την αδράνειά του θα επιτρέψει να βλαφτεί ανθρώπινο ον, εφόσον αυτό δεν αντιτίθεται στο μηδενικό νόμο. Ως είθισται σε ό,τι αφορά (και) στην τεχνολογική πρόοδο, το σύνολο της ανθρωπότητας θα γίνει γνώστης του πραγματικού, σημερινού επιπέδου της εξέλιξης και στον τομέα της τεχνητής νοημοσύνης, πολύ αργότερα.

‘Η μήπως όχι τόσο αργά;

Αλλαγή και του ΚΟΚ λόγω των ρομπότ στην Ρωσία

Ο πρόεδρος της ρωσικής Κρατικής Δούμας (σσ. Κάτω Βουλή) Βιτσισλάβ Βολόντιν ανακοίνωσε ότι σύντομα οι βουλευτές θα ασχοληθούν με την ρύθμιση των σχέσεων μεταξύ ανθρώπων και ρομπότ.

«Τα ζητήματα της σχέσης του ανθρώπου με την τεχνητή νοημοσύνη, της σχέσης ανθρώπου και ρομπότ, πρέπει να περιγραφούν νομοθετικά. Εάν δεν τον κάνουμε, θα μείνουμε πίσω. Τα καθήκοντα που έθεσε ο πρόεδρος μας στο Οικονομικό Φόρουμ της Αγίας Πετρούπολης, μιλώντας για την ανάπτυξη της ψηφιακής οικονομίας, πρέπει βεβαίως να επιλυθούν αποτελεσματικά μέσω νομοθετικής ρύθμισης» σημείωσε.

Τον περασμένο Ιούνιο, στην ομιλία του στο Διεθνές Οικονομικό Φόρουμ της Αγίας Πετρούπολης, ο Πούτιν μίλησε για την αναγκαιότητα να «να διαμορφώσουμε ένα ουσιαστικά νέο, ευέλικτο ρυθμιστικό πλαίσιο για την εισαγωγή των ψηφιακών τεχνολογιών σε όλους τους τομείς της ζωής». Πρόσθεσε, ότι το κράτος θα υποστηρίξει τις επιχειρήσεις που καινοτομούν στην σφαίρα των ψηφιακών τεχνολογιών.

Το ενδιαφέρον της ρωσικής πολιτικής ηγεσίας σε αυτόν τον τομέα, όπως το περιέγραψε ο Πούτιν, εντοπίζεται κυρίως στην επεξεργασία και ανάλυση μεγάλου αριθμού δεδομένων, την τεχνητή νοημοσύνη, την νευροτεχνολογία και την τεχνολογία εικονικής και επαυξημένης πραγματικότητας.

Από την ομιλία του επικεφαλής της Επιτροπής Ψηφιακής Πολιτικής της Κρατικής Δουμάς, Λεονίντ Λέβιν, στο Φόρουμ έγινε φανερό, ότι τους νομοθέτες ενδιαφέρει κυρίως η ανάπτυξη μη επανδρωμένων αυτοκινήτων και οι αλλαγές της έννοιας του «πνευματικού δικαιώματος» λόγω της δημιουργίας καλλιτεχνικών έργων από τεχνητή νοημοσύνη. Στο ζήτημα των αυτοκινήτων χωρίς άνθρωπο οδηγό, απαιτούνται, σύμφωνα με τους Ρώσους, αλλαγές στον Κώδικα Οδικής Κυκλοφορίας.

Σύμφωνα με τον Λέβιν, η ρομποτική συνεπάγεται την «εξαφάνιση του ζωντανού εργατικού δυναμικού», για παράδειγμα, στον τομέα των τραπεζών, της λογιστικής, των νομικών υπηρεσιών και της βιομηχανίας. «”Έτσι, στο εγγύς μέλλον μπορεί να αντιμετωπίσουμε αυξανόμενη ανεργία», κατέληξε.

Οι φόβοι του Λέβιν κάθε άλλα παρά καινούργιοι είναι. Ήδη από τις απαρχές της Βιομηχανικής Επανάστασης και την ένταξη των αυτόματων κλωστοϋφαντουργικών μηχανών στην Βρετανία, οι εργάτες που έχαναν τις δουλειές τους πίστευαν ότι για την εξαθλίωσή τους φταίνε οι μηχανές. Το αποτέλεσμα ήταν να τις καταστρέφουν. Χρειάστηκε η ανάλυση της πολιτικής οικονομίας του καπιταλισμού από τον Μαρξ για να κατανοηθεί, ότι το πρόβλημα βρίσκεται στις σχέσεις παραγωγής και όχι στην εισαγωγή της τεχνολογίας, η οποία, αντίθετα, υπό προϋποθέσεις, μπορεί να λειτουργήσει ευεργετικά για το σύνολο της ανθρωπότητας και όχι μόνο για τον εκάστοτε εργοστασιάρχη.

Δεδομένου ότι υπάρχουν πολλοί λόγοι και σήμερα για να ενοχοποιηθούν τα ρομπότ για την επικείμενη αύξηση της ανεργίας, η οπτική του Λέβιν παραμένει σε ισχύ, αν και αυτήν την φορά δεν θα πρόκειται μόνο για άβουλες αυτόματες κλωστοϋφαντουργικές μηχανές, αλλά για τεχνητή νοημοσύνη. Η οποία, ως τέτοια, μπορεί να έχει και άποψη επί του θέματος.

Για να επιστρέψουμε στο παρόν, η ρωσική Κρατική Δούμα προχωρά ακόμη παραπέρα, σχεδιάζοντας την δημιουργία ενός κυβερνογραμματέα που θα συντονίζει τις δραστηριότητες των κοινοβουλίων διαφόρων χωρών στην ανάπτυξη της ψηφιακής τεχνολογίας. Η σχετική απόφαση για την δημιουργία αυτού του κυβερμογραμματέα ελήφθη τον περασμένο Ιούλιο στην διάσκεψη των προέδρων των κοινοβουλίων της Ευρασίας, στην Νότια Κορέα.

ΕΕ: Θα έχουν τα ρομπότ ταυτότητα;

Με την επεξεργασία κανόνων στην επικοινωνία του ανθρώπου με την τεχνητή νοημοσύνη ασχολείται και το Ευρωπαϊκό Κοινοβούλιο. Πιο συγκεκριμένα, τους νομοθέτες της Ευρωπαϊκής Ένωσης απασχολεί το αν είναι δόκιμο ή όχι να δώσουν στα μελλοντικά ρομπότ νομικό καθεστώς «ηλεκτρονικής προσωπικότητας».

Σε κάθε περίπτωση, στην ΕΕ προβλέπουν και τα χειρότερα: Όπως συνιστά η έκθεση που υποβλήθηκε στο Ευρωπαϊκό Κοινοβούλιο, οι προγραμματιστές ρομπότ πρέπει να εξασφαλίσουν, ότι κάθε ένα από αυτά θα πρέπει να διαθέτει έναν μηχανισμό που θα επιτρέπει την απενεργοποίηση όλων των λειτουργιών του, εάν κριθεί απαραίτητο.

Αναλυτικότερα, τον περασμένο Φεβρουάριο, το Ευρωπαϊκό Κοινοβούλιο υιοθέτησε ψήφισμα με το οποία ζητά τη θέσπιση πανευρωπαϊκών κανόνων για τον ταχέως αναπτυσσόμενο κλάδο της ρομποτικής, «όπως π.χ. κανόνων δεοντολογίας και καθορισμού των ευθυνών σε περιπτώσεις πρόκλησης ατυχημάτων από αυτόνομα οχήματα».

Οι ευρωβουλευτές ζητούν από την Ευρωπαϊκή Επιτροπή να καταθέσει νομοθετική πρόταση για την θέσπιση κανόνων στους τομείς της ρομποτικής και της τεχνητής νοημοσύνης, «προκειμένου να αξιοποιηθούν πλήρως οι δυνατότητες τους και να διασφαλισθεί παράλληλα ένα επαρκές επίπεδο ασφάλειας και προστασίας».

Σημειώνουν ότι κάποιες χώρες έχουν ήδη αρχίσει να σχεδιάζουν τα ρυθμιστικά πρότυπα για τη ρομποτική, και επισημαίνουν ότι η ΕΕ πρέπει να αναλάβει ηγετικό ρόλο στον καθορισμό των προτύπων αυτών, ώστε να αποφύγει το σενάριο κατά το οποίο θα βρεθεί αναγκασμένη να ακολουθήσει εκείνα που θα καθορίσουν τρίτες χώρες.

Η εισηγήτρια Mady Delvaux (Σοσιαλιστές, Λουξεμβούργο), δήλωσε τα εξής: «Παρότι χαίρομαι που η ολομέλεια ενέκρινε την έκθεσή μου για την ρομποτική, είμαι επίσης απογοητευμένη που ο δεξιός συνασπισμός των πολιτικών ομάδων του ΕΛΚ, των Φιλελευθέρων και των Ευρωπαίων Συντηρητικών και Μεταρρυθμιστών αρνήθηκε να λάβει υπόψη τις πιθανές αρνητικές συνέπειές της στην αγορά εργασίας. Απέρριψαν μία ανοιχτόμυαλη και μακρόπνοη συζήτηση και, κατά συνέπεια, δεν έλαβαν υπόψη τις ανησυχίες των πολιτών μας.».

Η Delvaux αναφερόταν στο σημείο του ψηφίσματος για τις «επιπτώσεις της ρομποτικής στο εργατικό δυναμικό» όπου αναφέρεται, πως «η ταχεία εξέλιξη των ρομπότ μπορεί να επιφέρει αλλαγές στην αγορά εργασίας μέσω της δημιουργίας, της μετακίνησης και της απώλειας ορισμένων θέσεων εργασίας. Οι ευρωβουλευτές καλούν την Επιτροπή να αναλύσει αυτή τη σειρά δυνητικών εξελίξεων».

Με τον «καθορισμό ευθύνης» οι ευρωβουλευτές τονίζουν την επείγουσα ανάγκη να υπάρξει νομοθεσία για να αποσαφηνιστούν τα ζητήματα ευθύνης, ειδικά σε ό,τι αφορά τα αυτόνομα οχήματα. Ζητούν τη δημιουργία υποχρεωτικού συστήματος ασφάλισης και τη σύσταση συμπληρωματικού ταμείου αποζημίωσης για να εξασφαλιστεί ότι τα θύματα των ατυχημάτων στα οποία εμπλέκονται αυτόνομα αυτοκίνητα θα αποζημιώνονται πλήρως.

Οι ευρωβουλευτές ζητούν επίσης από την Επιτροπή να εξετάσει το ενδεχόμενο δημιουργίας μακροπρόθεσμα ενός ειδικού νομικού καθεστώτος για τα ρομπότ, ώστε να καταστεί ευκολότερος ο καθορισμός των ευθυνών σε περιπτώσεις πρόκλησης ζημιών.

Κώδικας δεοντολογίας

Η αυξανόμενη χρήση της ρομποτικής θέτει επίσης ηθικά ζητήματα, όπως για παράδειγμα η προστασία της ιδιωτικής ζωής και της ασφάλειας, επισημαίνουν οι ευρωβουλευτές. Προτείνουν την εφαρμογή ενός εθελοντικού κώδικα δεοντολογίας για τη ρομποτική που θα αφορά τους ερευνητές και τους σχεδιαστές και θα εξασφαλίζει ότι ενεργούν σύμφωνα με τα νομικά και ηθικά πρότυπα. Ο κώδικας θα διασφαλίζει ακόμη ότι ο σχεδιασμός και η χρήση των ρομπότ σέβεται την ανθρώπινη αξιοπρέπεια.

Ευρωπαϊκός οργανισμός για την ρομποτική

Το Ευρωκοινοβούλιο καλεί την Επιτροπή να εξετάσει το ενδεχόμενο δημιουργίας ενός ευρωπαϊκού οργανισμού για τη ρομποτική και την τεχνητή νοημοσύνη, ο οποίος θα παρέχει την απαραίτητη τεχνογνωσία και εμπειρογνωμοσύνη σε ρυθμιστικά και δεοντολογικά θέματα για τη στήριξη των οικείων δημόσιων φορέων, τόσο σε επίπεδο Ένωσης όσο και σε επίπεδο κρατών μελών.

Για την ιστορία, το ψήφισμα εγκρίθηκε με 396 ψήφους υπέρ, 123 κατά και 85 αποχές.

Συνοδεύεται και από ένα στοιχείο που αποτελεί σαφή ένδειξη της αυξητικής τάσης της εισαγωγής της ρομποτικής στην ζωή: Κατά την περίοδο 2010 - 2014 η μέση αύξηση των πωλήσεων ρομπότ ανήλθε στο 17% ετησίως ενώ το 2014 οι πωλήσεις αυξήθηκαν κατά 29%.

Την «διαπαιδαγώγηση» των ρομπότ με τις δημοκρατικές αξίες προτείνουν οι Βρετανοί

Αντίθετα, οι Βρετανοί εμφανίζονται πιο ψύχραιμοι. Σε πρόσφατη έκθεση της Βασιλικής Επιστημονικής Εταιρείας και της Βρετανικής Ακαδημίας αναφέρεται, ότι δεν υπάρχει καμία ανάγκη για τους τρεις κανόνες ρομποτικής του Ασίμοφ, οι οποίοι μπορούν με μία παγκόσμια αρχή: «Ο άνθρωπος πρέπει να πετύχει».

Οι επιστήμονες της Βασιλικής Εταιρίας εξηγούν, ότι η αρχή της ευημερίας της ανθρωπότητας πρέπει να τεθεί στην βάση της διαχείρισης όλου του συστήματος της τεχνητής νοημοσύνης, αφού, ουσιαστικά, συνενώνει και τους τρεις νόμους σε έναν.

Στην έκθεση των Βρετανών περιλαμβάνεται και το κάλεσμα για την δημιουργία ενός νέου, ειδικού οργανισμού, ο οποίος θα έχει σαν αποκλειστικό καθήκον να εξασφαλίζει ότι οι έξυπνες μηχανές θα υπηρετούν την ανθρωπότητα και δεν θα την ελέγχουν.

Οι Βρετανοί προσθέτουν, ότι για την διαχείριση της επεξεργασίας της αυτοδιδασκαλίας των μηχανών, είναι απαραίτητο ένα σύστημα «δημοκρατικής εποπτείας». Η απουσίας ενός τέτοιου συστήματος μπορεί να επιφέρει φριχτές συνέπειες στην ανθρωπότητα.

Στην έκθεση δεν γίνεται λόγος για πιθανότητα «υποδούλωσης» των ανθρώπων στα ρομπότ, αλλά από την στιγμή που οι μηχανές θα είναι ικανές στην αυτομόρφωση και την λήψη δικών τους αποφάσεων σε τομείς όπως οι κρατικές υπηρεσίες και οι επιχειρήσεις, η πιθανότητα να χαθεί ο έλεγχος φαντάζει τρομακτική. Έτσι προτείνει την τοποθέτηση αμετάβλητης προεπιλογής, η οποία θα βάζει τα συμφέροντα του ανθρώπου πάνω από τα συμφέροντα της μηχανής.

Μάλιστα, αυτό το σύστημα κανόνων, λένε οι Βρετανοί επιστήμονες στην έκθεσή τους, δεν χρειάζεται να επιβληθεί αποκλειστικά με τεχνικά μέσα. Οι έξυπνες μηχανές πρέπει να μπορούν να καθοδηγούνται από ηθικές και δημοκρατικές αξίες, εκτιμά ο Αντονι Ουόκερ, υψηλόβαθμο στέλεχος της TechUK (σσ. λομπίστικη εταιρία προώθησης του βρετανικού τομέα υψηλής τεχνολογίας) και εκ των συντακτών της έκθεσης. «Οι τεχνολογίες είναι ικανές να μας προσφέρουν πολλά πλεονεκτήματα, αλλά οι άνθρωποι πρέπει να είναι βέβαιοι, ότι αυτά τα συστήματα είναι ασφαλή, καλά μελετημένα και διαχειρίσιμα» σημειώνει.

Αν ισχύει και στην περίπτωση της τεχνητής νοημοσύνης ότι η κοινωνία ακολουθεί την εξέλιξη της τεχνολογίας και προσαρμόζει τους κανόνες ανάλογα, όταν αυτή η εξέλιξη φτάνει σε ένα σημείο που καθιστά αναγκαία την πολιτική διαχείριση των επιστημονικών επιτευγμάτων, τότε, η εγρήγορση από τις Βρυξέλλες μέχρι την Μόσχα και την Ασία για λήψη κανόνων και νόμων μάλλον δείχνει ότι τα έξυπνα ρομπότ βρίσκονται περισσότερο κοντά από όσο νομίζουμε στο να γίνουν καθημερινότητα.


26/9/2017