Σε άρθρο του για το HIGGS, ο Λευτέρης Χελιουδάκης, Εκτελεστικός Διευθυντής της Homo Digitalis, εξετάζει δύο φαινόμενα που, όπως υποστηρίζει, αλλάζουν βαθιά τις σχέσεις ανάμεσα σε πολίτες, κράτη και ιδιωτικές εταιρείες. Το πρώτο είναι η οικονομία της προσοχής, το δεύτερο η αλγοριθμική διακυβέρνηση.
Η προσοχή ως εμπόρευμα
Κατά τον συγγραφέα, οι ψηφιακές πλατφόρμες δεν «πουλούν» μόνο δεδομένα. Αυτό που τελικά διεκδικούν είναι ο χρόνος και η συμπεριφορά μας. Οι ειδοποιήσεις, η ατελείωτη κύλιση και οι εξατομικευμένες προτάσεις εντάσσονται σε ένα σύστημα που προβλέπει και μεγιστοποιεί την αλληλεπίδρασή μας για εμπορικούς σκοπούς.
Με τα μεγάλα γλωσσικά μοντέλα αυτή η λογική μπαίνει σε νέα φάση. Στις συνομιλίες με chatbots οι χρήστες μοιράζονται συχνά σκέψεις, διλήμματα και συναισθήματα που δεν θα εμπιστεύονταν ούτε σε κοντινούς τους ανθρώπους. Οι πλατφόρμες δεν χρειάζεται πια να μαντεύουν τι σκεφτόμαστε, γιατί συχνά τους το λέμε οι ίδιοι. Έτσι, σύμφωνα με τον συγγραφέα, η τεχνολογία περνά από την πρόβλεψη στη διαμόρφωση της συμπεριφοράς. Το ζήτημα ξεπερνά την προστασία των δεδομένων και αγγίζει την ίδια την ανθρώπινη αυτονομία. Ως παράδειγμα αναφέρεται η υπόθεση Cambridge Analytica.
Όταν οι αλγόριθμοι αποφασίζουν
Οι αλγόριθμοι καθορίζουν πλέον ποιες ειδήσεις και αγγελίες εργασίας βλέπουμε και ποιος κρίνεται αξιόπιστος. Ολοένα περισσότερο χρησιμοποιούνται και από δημόσιες αρχές, σε τομείς όπως η αστυνόμευση και η μετανάστευση. Με αναφορές στον Melvin Kranzberg και τον Neil Postman, ο συγγραφέας θυμίζει ότι η τεχνολογία δεν είναι ουδέτερη: ενσωματώνει αξίες και σχέσεις ισχύος και αλλάζει το περιβάλλον στο οποίο ζούμε.
Τον μεγαλύτερο κίνδυνο τον βλέπει στη σταδιακή κανονικοποίηση της επιτήρησης. Κάθε νέο σύστημα μπορεί να φαίνεται εύλογο μεμονωμένα, όλα μαζί όμως μπορούν να αλλάξουν τα όρια της ελευθερίας. Το συμπέρασμά του είναι ότι δεν χρειάζεται να σταματήσουμε την τεχνολογική πρόοδο. Χρειάζεται να εξασφαλίσουμε ότι το κράτος δικαίου και τα θεμελιώδη δικαιώματα παραμένουν στο κέντρο. Το κρίσιμο ερώτημα, κατά τον ίδιο, δεν είναι αν οι αλγόριθμοι λειτουργούν αποτελεσματικά, αλλά σε τι κόσμο μάς οδηγούν.
Διαβάστε ολόκληρο το άρθρο στο HIGGS