Ο Θαυμαστός Νέος Κόσμος της Τεχνητής Νοημοσύνης: Ουτοπία ή Δυστοπία για τη Δημοκρατία;

Γράφει η  Πηνελόπη Αντζουλάτου- Αβδελίδη* Φανταστείτε έναν κόσμο όπου κάθε κλικ του ποντικιού σας, κάθε αγορά που πραγματοποιείτε, κάθε μέρος που επισκέπτεστε τακτικά, ακόμη και κάθε σας ψίθυρος, καταγράφεται σχολαστικά με κάθε λεπτομέρεια και αποθηκεύεται ες αεί, όχι από έναν ανθρώπινο παρατηρητή, αλλά από μία άγνωστη και «αόρατη» νοήμονα αρχή, της οποίας το μέγεθος και […]

​

Γράφει η 

Πηνελόπη Αντζουλάτου- Αβδελίδη*

Φανταστείτε έναν κόσμο όπου κάθε κλικ του ποντικιού σας, κάθε αγορά που πραγματοποιείτε, κάθε μέρος που επισκέπτεστε τακτικά, ακόμη και κάθε σας ψίθυρος, καταγράφεται σχολαστικά με κάθε λεπτομέρεια και αποθηκεύεται ες αεί, όχι από έναν ανθρώπινο παρατηρητή, αλλά από μία άγνωστη και «αόρατη» νοήμονα αρχή, της οποίας το μέγεθος και η δύναμη ξεπερνούν τα όρια της ανθρώπινης λογικής. Αν νομίζετε ότι το παραπάνω γεγονός αποτελεί προϊόν φουτουριστικής μυθοπλασίας, ευφάνταστη θεωρία συνομωσίας ή κάποια Οργουελική πλοκή δυστοπικής λογοτεχνίας, τότε ίσως ήρθε η ώρα να αναρωτηθείτε, μήπως αυταπατάσθε;

Φυσικά λίγο έως πολύ, όλοι γνωρίζουμε κι έχουμε αποδεχτεί ότι διανύουμε την εποχή της 4ης βιομηχανικής επανάστασης. Ακόμη κι αν κάποιος αγνοεί τον νεολογικό αυτόν όρο, μπορεί αδιαμφισβήτητα να διαπιστώσει τις άμεσες επιπτώσεις του κρίσιμου και κατά πολλούς αμφιλεγόμενου αυτού φαινομένου στην καθημερινότητά του. Πρόκειται πραγματικά για μια κομβικής σημασίας πολιτικοοικονομική καμπή, με πολύπλευρες προεκτάσεις η οποία έχει απασχολήσει, απασχολεί και θα εξακολουθήσει να απασχολεί πολιτικούς &κοινωνικούς επιστήμονες, στοχαστές, πολιτικούς ηγέτες, τον επιχειρηματικό κόσμο καθώς και το σύνολο της κοινωνίας των πολιτών. Ωστόσο, πρέπει να καταστεί σαφές ότι η έλευση και η ραγδαία εξέλιξη που γνώρισε η επονομαζόμενη 4η βιομηχανική επανάσταση δεν θα αποτελούσε γεγονός, χωρίς την αρωγή της Τεχνητής Νοημοσύνης.

Η Εποχή Της Αλγοριθμικής Υπεροχής

Από τις σελίδες των βιβλίων επιστημονικής φαντασίας του Ασίμωφ, που μεσουράνησαν στα μέσα του 20ου αιώνα, μέχρι τα αποκαλυπτήρια του πρώτου ανθρωποειδούς ρομπότ το 2016, ο τομέας της Τεχνητής Νοημοσύνης έχει αναντίρρητα σημειώσει αλματώδη πρόοδο, καθώς κατάφερε να μετασχηματιστεί από μια συγκεχυμένη, θεωρητική έννοια σε μία απτή πραγματικότητα μέσα σε μόλις μισό αιώνα. Η δεκαετία που διανύουμε, ίσως αποτελεί το σημαντικότερο ορόσημο στην εξελικτική πορεία της Τεχνητής Νοημοσύνης.

Η έλευση της νέας δεκαετίας, βρίσκει ολόκληρο τον πλανήτη αντιμέτωπο με μία πρωτοφανή για την εποχή υγειονομική κρίση. Με τα γρανάζια της παγκόσμιας οικονομίας  ακινητοποιημένα και με τη διεθνή κοινότητα κείμενη σε μία κατάσταση πλήρους αμηχανίας και σύγχυσης, η Τεχνητή Νοημοσύνη βρίσκει ένα ιδανικά εύφορο έδαφος για την εδραίωση και ανάπτυξή της. Η πανδημική περίοδος διαδραμάτισε καταλυτικό ρόλο στην επικράτηση των μέσων τεχνολογίας σε κάθε πτυχή της ανθρώπινης καθημερινότητας. Από τη μαζική παγίωση της τηλεκπαίδευσης και τηλεργασίας. μέχρι την εδραίωση των ηλεκτρονικών συναλλαγών, το μήνυμα είναι σαφές: Η μετάβαση στη νέα δεκαετία εγκαινιάζει την εποχή της αλγοριθμικής υπεροχής, όπου το φάσμα της ανθρώπινης καθημερινής δραστηριότητας σε όλο του το εύρος, μεταφράζεται πλέον σε δεδομένα και αλγόριθμους.

Το 2022 για πρώτη φορά γίνεται διαθέσιμο στο ευρύ κοινό το εξελιγμένο chatbot ChatGPT, της εταιρείας OpenAI. Για την συντριπτική πλειοψηφία των ανθρώπων, μια «αθώα» και διασκεδαστική συζήτηση με το ChatGPT, αποτέλεσε την πρώτη προσωπική επαφή με τον μαγικό κόσμο της Τεχνητής Νοημοσύνης. Και πολλοί εύλογα αναρωτήθηκαν, αυτή είναι η περιβόητη τεχνητή νοημοσύνη που θα αλλάξει τον κόσμο; Ένας αθώος και ανάλαφρος διάλογος με ένα chatbot; Η πραγματικότητα ωστόσο δεν είναι τόσο αθώα όσο θα θέλαμε να πιστεύουμε.

Από τις απαρχές της ψηφιακής εποχής στα τέλη της δεκαετίας του 1990 έως και σήμερα, η συσσώρευση των δεδομένων σε παγκόσμια κλίμακα έχει σημειώσει εκθετική αύξηση, με κάθε byte πληροφορίας να προστίθεται σ’ ένα ταχύτατα επεκτεινόμενο ψηφιακό σύμπαν. Πρόκειται λοιπόν για μία ακατάπαυστη διαδικασία αποθήκευσης προσωπικών και μή δεδομένων, η οποία μεταξύ άλλων αποσκοπεί στη βελτιστοποίηση της εκπαίδευσης των συστημάτων τεχνητής νοημοσύνης. Ποιο είναι όμως το τίμημα αυτής της διαδικασίας;

Η ζοφερή πλευρά της υπόθεσης έγκειται στο πολύ πιθανό ενδεχόμενο εκμετάλλευσης προσωπικών δεδομένων, χωρίς φυσικά την ρητή συναίνεση των χρηστών, στο όνομα της βελτίωσης των συστημάτων Τεχνητής Νοημοσύνης. Το προαναφερθέν σενάριο δεν είναι εξωπραγματικό, καθώς έχει αποδειχθεί ότι στις αρχές της δεκαετίας του 2010, η βρετανική εταιρεία ανάλυσης δεδομένων Cambridge Analytica, συνέλλεξε και χρησιμοποίησε προσωπικά δεδομένα 87 εκατομμυρίων χρηστών του Facebook, με σκοπό την εξατομίκευση πολιτικών διαφημίσεων αλλά και την ευρύτερη αναβάθμιση των επικοινωνιακών στρατηγικών που αφορούσαν πολιτικές εκστρατείες.

Εύλογα λοιπόν εξάγουμε το συμπέρασμα ότι η Τεχνητή Νοημοσύνη, με την εξελιγμένη  ικανότητά της για βαθιά μάθηση (deep learning) και συνεχή αναγνώριση μοτίβων, μπορεί να αποτελέσει ένα δίκοπο μαχαίρι. Ενώ υπόσχεται χρήσιμες εξατομικευμένες εμπειρίες και διευκόλυνση της καθημερινής ζωής, ενέχει σημαντικούς κινδύνους όσον αφορά την ιδιωτικότητα και την αυτονομία των χρηστών. Η  μαζική συγκέντρωση προσωπικών δεδομένων ενδέχεται να επιφέρει παρεμβατική επιτήρηση και απώλεια της ανωνυμίας, καθώς όπως ήδη κατέστη γνωστό, τα συστήματα Τεχνητής Νοημοσύνης μπορούν να αναγνωρίζουν, να παρακολουθούν ακόμη και να προβλέπουν με μαθηματική ακρίβεια τις ατομικές ενέργειες των χρηστών. Το παραπάνω γεγονός, αναντίρρητα εγείρει σοβαρούς ηθικούς προβληματισμούς σχετικά με τη συγκατάθεση, την ιδιωτικότητα και τη διαφάνεια αναφορικά με τη συσσώρευση και οποιαδήποτε πιθανή μετέπειτα χρήση των συλλεχθέντων δεδομένων.

Συνεπώς, την επόμενη φορά που θα συμμετάσχετε σε έναν φαινομενικά αθώο και ακίνδυνο διάλογο με το αγαπημένο σας chatbot, θυμηθείτε ότι κάθε αλληλεπίδραση αποτελεί μία διαδικασία συναλλαγής με κάθε δεδομένο που πληκτρολογείτε να είναι το νόμισμα. Εν πλήρη αγνοία των περισσότερων χρηστών, οι προσωπικές τους προτιμήσεις, οι συμπεριφορές τους καθώς και οι γλωσσικές τους ιδιαιτερότητες καταγράφονται και αναλύονται λεπτομερώς, συμβάλλοντας στη δημιουργία ενός προσωπικού αποθέματος δεδομένων, το οποίο με τη σειρά του χρησιμοποιείται για την βελτίωση και εξατομίκευση των αλγορίθμων της Τεχνητής Νοημοσύνης.  Με απλά λόγια, κάθε συζήτηση που πραγματοποιείτε αφήνει πίσω ανεξίτηλο το ψηφιακό σας αποτύπωμα.

Κατά παρόμοιο τρόπο, κάθε ιστοσελίδα που επισκέπτεστε έχει ως απαράβατο όρο το «κέρασμα» ενός cookie. Φυσικά δεν πρόκειται για κάποιο είδος ψηφιακού γλυκύσματος, αλλά για έναν μηχανισμό συλλογής προσωπικών δεδομένων, που σχεδιάστηκε με σκοπό τη διαρκή τροφοδοσία των «πεινασμένων» αλγορίθμων, οι οποίοι στοχεύουν στην κατηγοριοποίηση του αγοραστικού κοινού με χειρουργική ακρίβεια. Με απλά λόγια την επόμενη φορά που πχ θα αναζητήσετε τον όρο πράσινο σφουγγάρι, μην εκπλαγείτε εάν σύντομα παρατηρήσετε στο feed σας να «ξεφυτρώνουν» αλλεπάλληλες διαφημίσεις για πράσινα σφουγγάρια.

Ο Καπιταλισμός της Επιτήρησης και η Τυραννία των Δεδομένων

Ο καπιταλισμός αδιαμφισβήτητα αποτέλεσε τον ακρογωνιαίο λίθο του σύγχρονου Δυτικού πολιτισμού, όπως αυτός διαμορφώθηκε από τη βιομηχανική επανάσταση μέχρι σήμερα. Πρόκειται για ένα οικονομικό σύστημα το οποίο ενέχει ποικίλες αρνητικές πτυχές, ωστόσο είναι βέβαιο ότι συνέβαλλε στην οικονομική και κοινωνική εξέλιξη του δυτικού κόσμου. Στην εποχή της λεγόμενης 4ης Βιομηχανικής Επανάστασης, η οποία χαρακτηρίζεται από την προώθηση της αλγοριθμικής υπεροχής, ο καπιταλισμός έτσι όπως τον γνωρίζουμε, κινδυνεύει από έναν επίδοξο σφετεριστή, το σύστημα του Καπιταλισμού της Επιτήρησης.

Πρόκειται για ένα ανερχόμενο σύστημα το οποίο είναι προϊόν μίας ανίερης συμμαχίας μεταξύ των τεχνολογικών κολοσσών πχ Google, Facebook, Amazon κλπ με εταιρείες που εξειδικεύονται στην ανάλυση και το εμπόριο δεδομένων, γνωστές ως data brokers π.χ Acxiom, Oracle κλπ, οι οποίες με τη σειρά τους κυριολεκτικά εμπορεύονται τα προσωπικά δεδομένα των χρηστών έχοντας ως πρωταρχικό σκοπό την επιρροή και χειραγώγηση του μαζικού καταναλωτικού κοινού.

Είναι ευκόλως κατανοητό ότι η συγκέντρωση τεραστίων όγκων δεδομένων στα χέρια των ολίγων και «εκλεκτών» είναι μία αρκετά ανησυχητική πρόκληση της Τεχνητής Νοημοσύνης, και αφορά άμεσα την εποχή μας, όπου σχεδόν όλες μας οι δραστηριότητες υφίστανται ριζικό ψηφιακό μετασχηματισμό. Μέχρι στιγμής όπως είδαμε, τα συλλεχθέντα δεδομένα μας επιστρατεύονται και χρησιμοποιούνται από διάφορες εταιρείες με σκοπό τη βελτιστοποίηση των μεθόδων marketing. Τι θα συνέβαινε όμως σε περίπτωση που οι ίδιες αυτές εταιρείες-κολοσσοί αποφάσιζαν να προβούν σε συνεργασία με κυβερνήσεις; Με πιο απλά λόγια, υπάρχει πιθανότητα οι κυβερνήσεις του μέλλοντος να έχουν άμεση πρόσβαση στα προσωπικά μας δεδομένα καταπατώντας διαχρονικές έννοιες και αξίες όπως είναι η ιδιωτικότητα και η αυτονομία με πρόφαση την προάσπιση και ενίσχυση της ασφάλειας;

Η ισχύουσα κατάσταση συλλογής και εργαλειοποίησης τεραστίων όγκων δεδομένων είναι πολύ πιθανό, στο εγγύς μέλλον να αποτελέσει πρόσφορο έδαφος για την εδραίωση και άνθηση μιας συμβιωτικής σχέσης μεταξύ των τεχνολογικών κολοσσών και των εκάστοτε κυβερνήσεων, όπου θα προσφέρεται η δυνατότητα στους κυβερνώντες να ασκούν πλήρη και αυθαίρετο έλεγχο στην ιδιωτική ζωή των πολιτών. Σε περίπτωση που υλοποιηθεί το παραπάνω δυστοπικό ενδεχόμενο, τότε μπορούμε μετά βεβαιότητος να κάνουμε λόγο για την εγκαθίδρυση μιας «Τυραννίας των Δεδομένων», ενός ολοκληρωτικού καθεστώτος όπου οι ατομικές ελευθερίες θα διαβρώνονται συστηματικά υπό το πρόσχημα της προτεραιοποίησης της ασφάλειας και της κοινωνικής ευημερίας.

Το ενδεχόμενο της «Τυραννίας των Δεδομένων» δυστυχώς δεν είναι αποκύημα νοσηρής φαντασίας. Τρανή απόδειξη αποτελεί το παράδειγμα της Κίνας, όπου η κυβέρνηση τα τελευταία δέκα χρόνια έχει κατορθώσει να θέσει σε εφαρμογή ένα περίπλοκο σύστημα παρακολούθησης σε όλη την επικράτεια. Το καθεστώς της τεχνολογικής επιτήρησης ενισχύθηκε μέσω της εφαρμογής ενός εξίσου δαιδαλώδους οικονομικού συστήματος, γνωστό ως: Σύστημα Κοινωνικής Πίστωσης, μέσω του οποίου οι διαρκώς επιτηρούμενοι πολίτες επιβραβεύονται ή αντίστοιχα τιμωρούνται ανάλογα με το πόσο θεμιτές και αρεστές προς την κυβέρνηση είναι οι πράξεις τους. Ακόμη και η παραβίαση ενός κόκκινου φαναριού, έχει ως αποτέλεσμα την αυτόματη αφαίρεση κοινωνικών πιστωτικών μονάδων. Σε περίπτωση που το σύστημα καταγράψει πολλές παραβάσεις, οι πολίτες τιμωρούνται παραδειγματικά π.χ δεν δύνανται να εργαστούν σε διάφορους εργασιακούς τομείς, ακυρώνονται οι ηλεκτρονικές τους συναλλαγές κλπ.

Η Τεχνητή Νοημοσύνη και το Μέλλον της Δημοκρατίας

Η τεχνητή νοημοσύνη αποτελεί αναμφίβολα το πιο ραγδαία αναπτυσσόμενο πεδίο του 21ου αιώνα κι ενώ βρίσκεται ακόμη σε εμβρυικό στάδιο, έχει καταφέρει να επηρεάσει ποικιλοτρόπως, πολυάριθμους επαγγελματικούς κλάδους. Ωστόσο, το σοβαρότερο και το πιο καθολικό ερώτημα που εγείρεται είναι εάν η Τεχνητή Νοημοσύνη μακροπρόθεσμα αποδειχθεί ένα «Προμήθειο δώρο», η μία «Πανδώρεια κατάρα» για το μέλλον των δημοκρατικών κοινωνιών.

Ο συγκεντρωτισμός των υπηρεσιών Τεχνητής Νοημοσύνης στα χέρια ολιγάριθμων τεχνολογικών κολοσσών τους προσφέρει μία απαράμιλλη εξουσία, της οποίας η κατάχρηση έχει τη δυνατότητα να φιμώσει την ελευθερία του λόγου και να επηρεάσει την αυτονομία των διαδικασιών χάραξης πολιτικής, διαβρώνοντας κατ’ αυτόν τον τρόπο τις θεμελιώδεις αρχές της ισότιμης εκπροσώπησης και της αμεροληψίας που είναι εγγενείς στα δημοκρατικά πολιτεύματα. Επιπλέον, οι πολιτικές επιτήρησης, οι οποίες αδιαφιλονίκητα διευκολύνονται από την εφαρμογή εξειδικευμένων συστημάτων Τεχνητής Νοημοσύνης, παραβιάζουν την ιδιωτική ζωή των πολιτών, καταπατώντας τα θεμελιώδη και αναπαλλοτρίωτα δημοκρατικά δικαιώματα της ατομικής ελευθερίας και αυτονομίας.

Προς το παρόν, το μέλλον της Τεχνητής Νοημοσύνης διαγράφεται ομιχλώδες παρουσιάζοντας ένα διφυές πρόσωπο, τόσο ελπιδοφόρο όσο και δυσοίωνο. Αφενός, ξεπροβάλλει σαν ένα «Προμήθειο δώρο», ως ένας φάρος αξιοθαύμαστης ανέλιξης της ανθρώπινης ευφυίας, ο οποίος υπόσχεται μεταξύ άλλων να μας απαλλάξει από το βάρος των επίμοχθων και επουσιωδών εργασιών, να επιλύσει πολυσύνθετα προβλήματα και να βελτιώσει σημαντικά την ποιότητα ζωής μας. Αφετέρου, η κατάχρηση ακόμη και η πιθανή «οπλοποίηση» του ισχυρότερου τεχνολογικού εργαλείου που επινοήθηκε στην ανθρώπινη ιστορία, θα μπορούσε κυριολεκτικά να αποτελέσει ένα νέο «κουτί της Πανδώρας» και να γίνει η αρχή του τέλους του ανθρώπινου πολιτισμού όπως τον γνωρίζουμε.

Αν κάτι μας διδάσκει η χειμαρρώδης εισβολή της Τεχνητής Νοημοσύνης στην καθημερινότητά μας, είναι ότι αυτή τη στιγμή βρισκόμαστε σε ένα σταυροδρόμι εξέχουσας σημασίας, το οποίο μας καλεί επιτακτικά να στοχαστούμε σε βάθος σχετικά με το πως θα οικοδομήσουμε τον κόσμο του μέλλοντος. Είναι απαράβατο καθήκον μας, τόσο των κυβερνώντων όσο και ολόκληρης της κοινωνίας των πολιτών, να μην παραμείνουμε άβουλοι και άπραγοι θεατές μπροστά στο καταιγιστικό θέαμα των τεχνολογικών εξελίξεων. Αντιθέτως οφείλουμε να επιμορφωθούμε πάνω σε ζητήματα που φέρουν άμεσες επιπτώσεις στη ζωή μας και να διαφυλάξουμε τις διαχρονικές δημοκρατικές αξίες που αποτέλεσαν τους στυλοβάτες της ανθρώπινης προόδου.

•Τελειόφοιτη του Τμήματος Πολιτικής Επιστήμης και Ιστορίας του Παντείου Πανεπιστημίου