Συνεπώς, μπορεί να αποκαλύψει με αυτοπεποίθηση τον κόσμο που διαμορφώνουν οι προγνωστικοί αλγόριθμοι και η οικονομία των Big Data, ασκώντας, τεκμηριωμένα και χωρίς τεχνοφοβικά υπονοούμενα, σκληρή κριτική στον τρόπο διαχείρισης αυτών των δεδομένων.

Παρουσίαση, από τον Γιώργο Καρουζάκη

Η συγκέντρωση των πληροφοριών δεν πρόκειται, φυσικά, να εξαφανιστεί. Ούτε οι υπολογιστές και, ακόμη λιγότερο, τα μαθηματικά. «Τα μοντέλα προβλέψεων θα γίνονται, ολοένα και περισσότερο, τα εργαλεία στα οποία θα βασιζόμαστε για τη διαχείριση των θεσμών μας, την ανάπτυξη των πόρων μας και τη διαχείριση της ζωής μας», σημειώνει. Και επισημαίνει την ηθική διάσταση των ανθρώπινων επιλογών σε αυτό το πεδίο, οι οποίες, για να σταματήσουν να ανατροφοδοτούν ποικίλες ανισότητες, θα πρέπει να πάψουν να αφορούν αποκλειστικά τις εφοδιαστικές αλυσίδες, τα κέρδη και ένα συγκεκριμένο είδος αποτελεσματικότητας.

Τα παραδείγματα είναι άφθονα: από τον τρόπο με τον οποίο αξιολογούνται τα αμερικανικά πανεπιστήμια μέχρι τον έλεγχο των βιογραφικών από τις επιχειρήσεις, τους αλγόριθμους που χρησιμοποιούνται στην αστυνόμευση ατόμων και περιοχών, και τα δεκάδες μοντέλα που υπολογίζουν διαρκώς ποσοτικά χαρακτηριστικά για να ανταμείψουν, τις περισσότερες φορές, τους εύπορους και να τιμωρήσουν τους κοινωνικά και οικονομικά ευάλωτους.

Ένα πρόγραμμα υπολογιστή που μπορεί να ελέγξει χιλιάδες βιογραφικά σημειώματα ή αιτήσεις χορήγησης δανείων μέσα σε δύο δευτερόλεπτα, και να τα συγκεντρώσει σε λίστες με τους πιο υποσχόμενους υποψηφίους στην κορυφή, δεν εγγυάται πάντα δικαιοσύνη και αντικειμενικότητα στη διαδικασία επιλογής. «Οι μαθηματικές εφαρμογές που τροφοδοτούν την οικονομία των δεδομένων βασίζονται σε επιλογές που γίνονται από ανθρώπους – και οι άνθρωποι πέφτουν σε πλάνες», τονίζει η Cathy O’ Neil.

Η συγγραφέας αναφέρεται ειδικότερα στην αξιολόγηση των αμερικανικών κολεγίων και πανεπιστημίων όπως τη διαμόρφωσε το μοντέλο του ειδησεογραφικού περιοδικού U. S. News, το οποίο έχει γίνει de facto νόμος της χώρας. Αναλύει τις βοηθητικές μεταβλητές του μοντέλου που σχετίζονται με την επιτυχία (βαθμολογίες SAT προς αναλογία φοιτητών-διδακτικού προσωπικού, ποσοστό εισερχόμενων πρωτοετών που πέρασαν στο δεύτερο έτος, αριθμός αποφοίτων που βοήθησαν οικονομικά τη σχολή τους κ.λπ.), για να μιλήσει για ένα φαύλο βρόχο ανατροφοδότησης.

Το πρόβλημα είναι ότι οι βαθμολογίες αξιολόγησης άρχισαν να αυτοενισχύονται. «Αν κάποιο κολέγιο έπαιρνε άσχημη κατάταξη στο U. S. News, η φήμη του υπέφερε και οι συνθήκες της λειτουργίας του επιδεινώνονταν. Οι καλύτεροι μαθητές το απέφευγαν, το ίδιο και οι κορυφαίοι καθηγητές. Οι απόφοιτοι διαμαρτύρονταν και περιόριζαν τις συνεισφορές τους. Η κατάταξη χειροτέρευε και άλλο. Με άλλα λόγια, η κατάταξη μεταβαλλόταν σε πεπρωμένο», εξηγεί η συγγραφέας σε ένα από τα πολλά παραδείγματά της.

Εργοστάσια πτυχίων

Όσον αφορά το πεδίο της διαδικτυακής διαφήμισης, μας υπενθυμίζει ότι αξιολογούμαστε, ταξινομούμαστε και βαθμολογούμαστε με βάση τις συνήθειές μας σε εκατοντάδες μοντέλα. Αυτό δημιουργεί μία σταθερή βάση για νόμιμες διαφημιστικές εκστρατείες, αλλά και για τα επιθετικά ξαδέλφια τους: «διαφημίσεις που εντοπίζουν ανθρώπους με μεγάλη ανάγκη και τους πουλάνε ψευδείς ή υπερτιμημένες υποσχέσεις».

Αυτή η κατάσταση ευνοεί, για παράδειγμα, τα λεγόμενα «εργοστάσια πτυχίων», αμφιβόλου αξιοπιστίας πανεπιστήμια, που αναζητούν πελάτες στα χαμηλότερα οικονομικά στρώματα, το κυνήγι υπερχρεωμένων ανθρώπων και ευάλωτων καταναλωτών, στους οποίους πουλάνε την υπόσχεση για εκπαίδευση, ανοδική κινητικότητα ή οικονομική ευμάρεια για να τους χώσουν βαθύτερα στο χρέος. Η άγνοια και η φιλοδοξία των απελπισμένων ανοίγει τον δρόμο για την ακόμη χειρότερη εκμετάλλευσή τους.

Μία παρόμοια πρακτική εξαπλώνεται σε διαφορετικά πεδία της ανθρώπινης ζωής και δραστηριότητας που σχετίζονται με ζητήματα δικαιοσύνης, εργασίας, ασφάλισης, πολιτικού μάρκετινγκ κ.ά. «Ολόκληρα επιχειρηματικά μοντέλα, όπως τα κερδοσκοπικά πανεπιστήμια και τα επισφαλή δάνεια υψηλού επιτοκίου, βασίζονται σε αυτήν την προσέγγιση. Και όταν ένα λογισμικό εντοπίζει με επιτυχία ανθρώπους που είναι αρκετά απελπισμένοι ώστε να πληρώνουν 18 τοις εκατό τον μήνα, εκείνοι που αποκομίζουν τα κέρδη θεωρούν ότι το μοντέλο λειτουργεί καλά», γράφει.

Η κριτική της Cathy O’ Neil αποκτά μεγαλύτερη ισχύ επειδή προέρχεται από ένα πρόσωπο που δεν εχθρεύεται την τεχνολογία και την εξέλιξη της επιστήμης, και έχει εμπιστοσύνη στην επιστήμη των δεδομένων. Η συγγραφέας δεν αντιμετωπίζει απλώς τα μαθηματικά μοντέλα ως ουδέτερη και αναπόφευκτη δύναμη, «σαν τον καιρό ή την παλίρροια», αλλά αναζητά ευθύνες για τον τρόπο τροφοδότησης και λειτουργίας τους. Για αυτό και απαιτεί την αλλαγή της νομοθεσίας που διέπει την αγορά των προσωπικών δεδομένων. Και καταλήγει: «Τα Όπλα Μαθημαζικής Καταστροφής δεν αξίζει να συνδέονται με τα μαθηματικά και, πολύ περισσότερο, δεν αξίζουν στη δημοκρατία».

Πηγή:  thalesandfriends.org