Σήμερα είμαστε στην ευχάριστη θέση να μοιραστούμε περισσότερες λεπτομέρειες σχετικά με το νέο στρατηγικό δικαστικό έργο του Open Knowledge Justice Programme: αμφισβητώντας τη(ν) (εσφαλμένη) χρήση λογισμικού απομακρυσμένης επιτήρησης.
Τι είναι η απομακρυσμένη επιτήρηση;
Το λογισμικό επιτήρησης χρησιμοποιεί μια ποικιλία τεχνικών για να «παρακολουθεί» τους συμμετέχοντες\σπουδαστές, καθώς λαμβάνουν μέρος στις εξετάσεις. Αυτά τα προϊόντα λογισμικού που επιτηρούν τις εξετάσεις ισχυρίζονται ότι ανιχνεύουν, και επομένως αποτρέπουν, την εξαπάτηση. Εάν αυτό το λογισμικό μπορεί να κάνει ό, τι ισχυρίζεται ή όχι, υπάρχει ανησυχία ότι παραβιάζονται τα δικαιώματα απορρήτου, δεδομένων και ισότητας και ότι οι αρνητικές επιπτώσεις της χρήσης του στους σπουδαστές είναι σημαντικές και σοβαρές.
Μελέτη περίπτωσης: Bar Exams στο Ηνωμένο Βασίλειο
Στο Ηνωμένο Βασίλειο, οι barristers είναι δικηγόροι που ειδικεύονται στην υπεράσπιση στα δικαστήρια. Το Bar Professional Training Course (BPTC) διευθύνεται από τον επαγγελματικό ρυθμιστικό φορέα: το Bar Standards Board (BSB).
Τον Αύγουστο του 2020, λόγω COVID 19, οι εξετάσεις BPTC πραγματοποιήθηκαν εξ αποστάσεως και χρησιμοποιήθηκε μια εφαρμογή επιτήρησης από την αμερικανική εταιρεία Pearson Vue.
Οι σπουδαστές που συμμετείχαν στις εξετάσεις έπρεπε να αφήσουν το δωμάτιό τους να σαρωθεί, κι ένας άγνωστος, αόρατος επιτηρητής εξετάσεων να τους παρακολουθεί. Οι συμμετέχοντες στις εξετάσεις έπρεπε να υποβάλουν μια σάρωση στο πρόσωπό τους για να επαληθεύσουν την ταυτότητά τους – και απαγορεύτηκε να εγκαταλείψουν τη θέση τους κατά τη διάρκεια της εξέτασης. Αυτό διήρκησε έως και 5 ώρες (!), χωρίς διάλειμμα για τουαλέτα. Μερικοί σπουδαστές έπρεπε “να ανακουφιστούν” σε μπουκάλια και κουβάδες κάτω από τα γραφεία τους, διατηρώντας παράλληλα «επαφή με τα μάτια» με τον απρόσωπο επιτηρητή τους. Οι Μουσουλμάνες αναγκάστηκαν να αφαιρέσουν τη μαντίλα τους – και τουλάχιστον ένα άτομο αποσύρθηκε από τις εξετάσεις παρά, όπως ένιωθε, να τεθεί σε κίνδυνο η πίστη του. Το λογισμικό είχε πολλά σφάλματα στη λειτουργικότητα, όπως ξαφνικό πάγωμα χωρίς προειδοποίηση και διαγραφή κειμένου. Το ένα τρίτο των συμμετεχόντων δεν μπόρεσε να ολοκληρώσει τις εξετάσεις του λόγω τεχνικών λαθών.
Η απάντησή μας
Οι αναφορές των συμμετεχόντων, μαζί με την αντίληψή μας για τις πιθανές βλάβες που προκαλούνται από τους αλγόριθμους δημόσιου αντίκτυπου, μας ώθησε να δράσουμε. Αντιλαμβανόμαστε αυτό που υπέστησαν οι σπουδαστές σε παραβιάσεις δεδομένων, απορρήτου και άλλων νομικών δικαιωμάτων ως εξής:
Προστασία δεδομένων και δικαιώματα απορρήτου
- Αθέμιτοι και αδιαφανείς αλγόριθμοι. Το λογισμικό χρησιμοποίησε αλγοριθμική λήψη αποφάσεων σε σχέση με την αναγνώριση προσώπου ή / και την ταυτοποίηση σπουδαστών και ανάλυση συμπεριφοράς κατά τη διάρκεια των εξετάσεων. Η λειτουργία αυτών των αλγορίθμων ήταν άγνωστη και μυστική.
- Οι ειδοποιήσεις απορρήτου της εφαρμογής ήταν ανεπαρκείς. Δεν υπήρχε επαρκής προστασία των προσωπικών δεδομένων των συμμετεχόντων. Για παράδειγμα, οι σπουδαστές υποχρεώθηκαν ρητά να επιβεβαιώσουν ότι δεν είχαν “δικαίωμα στην προστασία της ιδιωτικής ζωής στην τρέχουσα τοποθεσία σας κατά τη διάρκεια της δοκιμαστικής περιόδου” και “να παραιτηθούν ρητά από κάθε και όλες τις αξιώσεις που ισχυρίζονται ότι έχουν δικαίωμα σε ατομικό απόρρητο ή άλλες παρόμοιες αξιώσεις”. Οι σπουδαστές κλήθηκαν να συναινέσουν σε αυτές τις ερωτήσεις λίγο πριν ξεκινήσουν μια εξαιρετικά σημαντική εξέταση και χωρίς να προειδοποιηθούν εκ των προτέρων.
- Η παρέμβαση ήταν δυσανάλογη. Το λογισμικό απαιτούσε από όλους τους συμμετέχοντες στις εξετάσεις να πραγματοποιήσουν μια «σάρωση δωματίου» (που δείχνει τον απομακρυσμένο επιτηρητή γύρω από το δωμάτιό τους). Στη συνέχεια, παρακολουθήθηκαν από έναν αόρατο επιτηρητή άνθρωπο κατά τη διάρκεια της εξέτασης. Πολλοί σπουδαστές θεώρησαν ότι αυτό ήταν ενοχλητικό και παρεμβατικό.
- Υπερβολική συλλογή δεδομένων. Η ειδοποίηση απορρήτου Pearson VUE διατηρεί τη δύναμη της συλλογής δεδομένων πολύ μεγάλων κατηγοριών προσωπικών δεδομένων, συμπεριλαμβανομένων των βιομετρικών πληροφοριών, των πληροφοριών δραστηριότητας στο Διαδίκτυο (που συλλέγονται μέσω cookies ή αλλιώς), «συμπεράσματα σχετικά με τις προτιμήσεις, τα χαρακτηριστικά, τις ψυχολογικές τάσεις, τις προτιμήσεις, τις προθέσεις, τη συμπεριφορά, τη νοημοσύνη, και τις ικανότητες» και προστατευμένα χαρακτηριστικά.
- Ανεπαρκώς περιορισμένοι σκοποί. Οι σπουδαστές υποχρεώθηκαν να συναινέσουν σε αυτούς, αποκαλύπτοντας σε τρίτους τα προσωπικά τους δεδομένα “προκειμένου να διαχειριστούν τις καθημερινές επιχειρηματικές ανάγκες” και να συναινέσουν στη μελλοντική χρήση “των εικόνων των αναγνωριστικών σας με σκοπό την περαιτέρω ανάπτυξη, αναβάθμιση και βελτίωση στις εφαρμογές και τα συστήματά μας”.
- Παράνομη διατήρηση δεδομένων. Η ειδοποίηση απορρήτου της Pearson VUE αναφέρει σε σχέση με τη διατήρηση δεδομένων ότι “θα διατηρήσουμε τα Προσωπικά σας Δεδομένα για όσο διάστημα απαιτείται για να παρέχουμε τις υπηρεσίες μας και για τέτοιο χρονικό διάστημα σύμφωνα με τις οδηγίες του χορηγού δοκιμών”.
- Κίνδυνοι για την ασφάλεια δεδομένων. Δεδομένης της ευαισθησίας των δεδομένων που απαιτούνται από τους σπουδαστές, για να λάβουν μέρος στις εξετάσεις, απαιτούνται υψηλά πρότυπα ασφάλειας δεδομένων. Η Pearson VUE δεν έδωσε καμία διαβεβαίωση σχετικά με τη χρήση της κρυπτογράφησης. Αντίθετα, υπήρξε αποποίηση ότι “οι πληροφορίες και οι προσωπικές μεταδόσεις δεδομένων σε αυτόν τον Ιστότοπο και τα μηνύματα ηλεκτρονικού ταχυδρομείου που μας στάλθηκαν ενδέχεται να μην είναι ασφαλή. Δεδομένης της εγγενούς λειτουργίας και της φύσης του Διαδικτύου, όλες οι μεταδόσεις στο Διαδίκτυο γίνονται με δική τους ευθύνη του χρήστη”.
- Υποχρεωτικά “opt-in”. Η συγκατάθεση που ζητήθηκε από τους σπουδαστές ήταν απατηλή, καθώς δεν τους επέτρεπε να ασκήσουν έλεγχο στη χρήση των προσωπικών τους δεδομένων. Εάν δεν σημείωναν όλα τα κουτάκια, δεν θα μπορούσαν να συμμετάσχουν στην εξέταση. Οι σπουδαστές δεν μπορούσαν να δώσουν έγκυρη συγκατάθεση για την εισβολή της ιδιωτικής ζωής που προκλήθηκε από διαδικτυακή επιτήρηση, όταν τα επαγγελματικά προσόντα τους εξαρτιόνταν από αυτό. Στην πραγματικότητα, εξαναγκάστηκαν να παραδώσουν τα δικαιώματά τους στην ιδιωτική ζωή. Σύμφωνα με τον GDPR, η συγκατάθεση πρέπει να “δίνεται ελεύθερα και να μην επιβάλλεται ως όρος λειτουργίας”.
Δικαιώματα Ισότητας
Οι δημόσιοι φορείς στο Ηνωμένο Βασίλειο έχουν νομική υποχρέωση να εξετάζουν προσεκτικά τις επιπτώσεις των αποφάσεων που λαμβάνουν στην ισότητα. Αυτό σημαίνει ότι μια πολιτική, ένα σχέδιο ή ένα σχήμα δεν πρέπει να εισάγουν παράνομα διακρίσεις εις βάρος ατόμων βάσει ενός «προστατευόμενου χαρακτηριστικού»: φυλή, θρησκεία ή πεποιθήσεις, αναπηρία, φύλο, αλλαγή φύλου, σεξουαλικό προσανατολισμό, ηλικία, γάμο ή πολιτική σύμπραξη και / ή εγκυμοσύνη και μητρότητα.
Στην επιστολή μας προς το BSB, είπαμε ότι το BSB παραβίασε τα καθήκοντά του για τα δικαιώματα ισότητας χρησιμοποιώντας ένα λογισμικό που περιελάμβανε αναγνώριση προσώπου ή / και διαδικασίες αντιστοίχισης, οι οποίες είναι ευρέως αποδεδειγμένες ότι κάνουν διακρίσεις εις βάρος ατόμων με σκούρο δέρμα.
Η διαδικασία αναγνώρισης προσώπου απαιτούσε, επίσης, από τις φοιτήτριες να αφαιρέσουν το θρησκευτικό τους ένδυμα, παραβιάζοντας τις προστασίες που παρέχονται στους ανθρώπους για να τηρούν τη θρησκεία τους. Οι Μουσουλμάνες σπουδάστριες δεν μπόρεσαν να επιλέξουν να επιτηρηθούν από γυναίκες, παρά την αρνητική πολιτιστική σημασία άγνωστοι άνδρες επιτηρητές να τις βλέπουν στα σπίτια τους.
Αναφέραμε, επίσης, το γεγονός ότι ορισμένα άτομα με αναπηρία ή γυναίκες που ήταν έγκυες επηρεάστηκαν άδικα και υπερβολικά από την απουσία διακοπών για τουαλέτα κατά τη διάρκεια της αξιολόγησης. Η χρήση καινοτόμου και μη δοκιμασμένου λογισμικού, είπαμε, είχε τη δυνατότητα να κάνει διακρίσεις εναντίον μεγαλύτερων σπουδαστών με λιγότερες δεξιότητες πληροφορικής.
Η απάντηση του BSB
Αφού γράψαμε για να εκφράσουμε αυτές τις ανησυχίες, το BSB:
- σταμάτησε να χρησιμοποιεί εφαρμογές απομακρυσμένης επιτήρησης, όπως είχε προγραμματιστεί για τον επόμενο γύρο των εξετάσεων
- ανακοίνωσε μια έρευνα σχετικά με τη χρήση των εφαρμογών απομακρυσμένης επιτήρησης τον Αύγουστο του 2020 για την παραγωγή ανεξάρτητου λογαριασμού σχετικά με τα γεγονότα, τις περιστάσεις και τους λόγους για τους οποίους τα πράγματα πήγαν στραβά. Το BSB μας κάλεσε να υποβάλουμε αυτήν την έρευνα, την οποία κάναμε. Μπορείτε να τα διαβάσετε εδώ.
Επόμενα βήματα
Εδώ στο Open Knowledge Justice Programme, είμαστε ευτυχείς που το BSB έχει σταματήσει τη χρήση του τηλεπρογράμματος και περιμένουμε με ανυπομονησία τη δημοσίευση των ευρημάτων της ανεξάρτητης έρευνας.
Ωστόσο, πρόσφατα μας ανησύχησε ότι το BSB έχει αναθέσει την αρχή λήψης αποφάσεων για τη χρήση εφαρμογών απομακρυσμένης επιτήρησης σε μεμονωμένους εκπαιδευτικούς παρόχους – π.χ. πανεπιστήμια, νομικές σχολές – και ότι πολλοί από αυτούς τους παρόχους προγραμματίζουν εξετάσεις χρησιμοποιώντας εφαρμογές απομακρυσμένης επιτήρησης.
Ελπίζουμε ότι τα ευρήματα της ανεξάρτητης έρευνας θα καθορίσουν οριστικά ότι αυτό δεν πρέπει να συνεχιστεί.
*Μπορείτε να βρείτε το πρωτότυπο κείμενο εδώ.
