Πέρα από τα σύνορα: πώς τα εργαλεία επιτήρησης με τεχνητή νοημοσύνη μετέτρεψαν τα μέσα κοινωνικής δικτύωσης σε μηχανισμό ελέγχου της μετανάστευσης

Τον Σεπτέμβριο του 2019, μια ασυνήθιστη πρόσκληση υποβολής προσφορών (tender call) δημοσιεύθηκε στην πύλη χρηματοδοτήσεων της ΕΕ. Σύμφωνα με αυτή, η Frontex (ο Ευρωπαϊκός Οργανισμός Συνοριοφυλακής και Ακτοφυλακής), σχεδίαζε να διαθέσει έως και 400.000 ευρώ σε εταιρεία επιτήρησης για την παρακολούθηση μέσων κοινωνικής δικτύωσης, την κατάρτιση προφίλ χρηστών και την πρόβλεψη μελλοντικών παράτυπων μεταναστευτικών ροών προς τα εξωτερικά σύνορα της ΕΕ. Πιο συγκεκριμένα, σύμφωνα με τους Όρους Εντολής (Terms of Reference) του διαγωνισμού, το έργο στόχευε στην ανάλυση της χρήσης μέσων κοινωνικής δικτύωσης σε περιοχές που συνδέονται με μεταναστευτικές ροές προς την ΕΕ, με ιδιαίτερη έμφαση στις διαδικτυακές δραστηριότητες μεταναστών, διακινητών, οργανώσεων της κοινωνίας των πολιτών και κοινοτήτων της διασποράς. Στόχος ήταν όχι μόνο η χαρτογράφηση του υφιστάμενου τοπίου των μέσων κοινωνικής δικτύωσης, αλλά και η ανάπτυξη ενός στρατηγικού συστήματος έγκαιρης προειδοποίησης, ικανού να εντοπίζει αναδυόμενες κοινωνικοπολιτικές, οικονομικές και σχετιζόμενες με την ασφάλεια εξελίξεις που θα μπορούσαν να επηρεάσουν τη δυναμική των μεταναστευτικών ροών και να θέσουν σε δοκιμασία τις πολιτικές της Frontex.

Ωστόσο, λιγότερο από δύο μήνες αργότερα, τον Νοέμβριο του 2019, η Frontex αναγκάστηκε να ακυρώσει τον διαγωνισμό, έπειτα από τον έλεγχο δημοσιογράφων του MEDIAPART και νομικές παρεμβάσεις από οργανώσεις της κοινωνίας των πολιτών, όπως η Privacy International και η Statewatch, οι οποίες αμφισβήτησαν τη συμμόρφωση του οργανισμού με τις υποχρεώσεις του βάσει του ενωσιακού δικαίου προστασίας δεδομένων. Πιο συγκεκριμένα, η Privacy International αμφισβήτησε τη νομιμότητα του διαγωνισμού της Frontex για την παρακολούθηση μέσων κοινωνικής δικτύωσης, θέτοντας υπό αμφισβήτηση τη συμμόρφωσή του με τον Κανονισμό (ΕΕ) 2018/1725. Υποστήριξε ότι το έργο θα συνεπαγόταν επεξεργασία δεδομένων προσωπικού χαρακτήρα και, ως εκ τούτου, θα απαιτούσε από τη Frontex να προσδιορίσει τη νομική βάση της επεξεργασίας, να διενεργήσει Εκτίμηση Αντικτύπου σχετικά με την Προστασία Δεδομένων (Data Protection Impact Assessment – DPIA), να συμβουλευτεί τον Ευρωπαίο Επόπτη Προστασίας Δεδομένων (European Data Protection Supervisor – ΕΕΠΔ / EDPS) όπου απαιτείται, και να αποδείξει πώς θα συμμορφωνόταν με τις βασικές αρχές προστασίας δεδομένων, διασφαλίζοντας τα δικαιώματα των ατόμων.

Η ακύρωση αυτού του διαγωνισμού αποτέλεσε σημαντική νίκη για την προστασία των θεμελιωδών δικαιωμάτων σε επίπεδο ΕΕ, καταδεικνύοντας τον κρίσιμο ρόλο του δικαίου προστασίας δεδομένων στον περιορισμό παράνομων πρωτοβουλιών επιτήρησης. Παρότι το ενωσιακό πλαίσιο προστασίας δεδομένων δεν στερείται αδυναμιών, επιβάλλει, εντούτοις, σημαντικούς νομικούς περιορισμούς στον βαθμό στον οποίο θεσμικά όργανα της ΕΕ, δημόσιες αρχές και ιδιωτικοί φορείς μπορούν να εμπλέκονται σε δραστηριότητες επεξεργασίας δεδομένων προσανατολισμένες στην επιτήρηση.

Ωστόσο, μόλις 28 μήνες αργότερα, η ελληνική ακτοφυλακή πέτυχε εκεί όπου η Frontex είχε αποτύχει.

Πιο συγκεκριμένα, τον Φεβρουάριο του 2022, ο ερευνητής Φοίβος Συμεωνίδης εντόπισε στη «Διαύγεια» μια διακήρυξη σύμβασης προμήθειας του Λιμενικού Σώματος – Ελληνικής Ακτοφυλακής για την αναβάθμιση/ συντήρηση του computer room της Διεύθυνσης Ασφάλειας και Προστασίας Θαλασσίων Συνόρων (Δ.Α.Π.ΘΑ.Σ.). Ανάμεσα στα επιμέρους προϊόντα αυτής της ευρύτερης προμήθειας ήταν η προμήθεια λογισμικού παρακολούθησης μέσων κοινωνικής δικτύωσης με τεχνητή νοημοσύνη, ικανού να καταρτίζει προφίλ ατόμων σε μέσα κοινωνικής δικτύωσης και εφαρμογές ανταλλαγής μηνυμάτων, να παρακολουθεί επικοινωνίες σχετικές με τη μετανάστευση στις πλατφόρμες αυτές, και να προβλέπει μεταναστευτικές ροές προς τα εξωτερικά σύνορα της ΕΕ εντός της Ελλάδας. Το έργο είχε συνολικό προϋπολογισμό 726.000 ευρώ (συμπεριλαμβανομένου ΦΠΑ) και συγχρηματοδοτήθηκε από την Ευρωπαϊκή Ένωση μέσω του Ταμείου Εσωτερικής Ασφάλειας (Internal Security Fund – ISF).

Έτσι, αυτό που η Frontex δεν είχε καταφέρει να υλοποιήσει σε επίπεδο ΕΕ φαινόταν να επανεισάγεται μέσω μιας εθνικής διαδικασίας προμήθειας, προωθώντας ουσιαστικά το ίδιο όραμα επιτήρησης μέσω του Λιμενικού Σώματος – Ελληνικής Ακτοφυλακής..

Το λογισμικό, σύμφωνα με την αναλυτική περιγραφή στο Παράρτημα Δ’ του διαγωνισμού, αναμενόταν να καλύπτει τα Facebook, Twitter, VK, Xing, Instagram και Telegram. Οι απαιτούμενες λειτουργίες του περιλάμβαναν τη χρήση bots για τη χαρτογράφηση των κοινωνικών δικτύων και των αλληλεπιδράσεων των χρηστών (όπως φίλοι, ακόλουθοι, σχόλια, αναρτήσεις και «likes»), τον εντοπισμό λογαριασμών χρηστών μέσω προηγμένων δυνατοτήτων αναζήτησης, καθώς και την προσομοίωση ανθρώπινης δραστηριότητας για την αποφυγή αυτόματου αποκλεισμού λογαριασμών. Ενδεικτικά, για το Facebook, το λογισμικό αναμενόταν να συλλέγει δημόσιες λίστες επαφών, επαφές δευτέρου βαθμού, αναρτήσεις στη χρονοσειρά (timeline), εικόνες, βίντεο, σχόλια, αντιδράσεις, πληροφορίες προφίλ (συμπεριλαμβανομένης της απασχόλησης, της κατοικίας και της εκπαίδευσης), καθώς και να επιτρέπει αναζητήσεις βάσει προσωπικών χαρακτηριστικών. Για το Telegram, αναμενόταν να αποθηκεύει τις ταυτότητες των συμμετεχόντων σε ομαδικές συζητήσεις με έως και 10.000 χρήστες, μαζί με το πλήρες περιεχόμενο των συνομιλιών αυτών, συμπεριλαμβανομένου κειμένου, φωτογραφιών και άλλου κοινοποιημένου υλικού.

Μόλις ο διαγωνισμός εντοπίστηκε τον Φεβρουάριο του 2022, η Homo Digitalis, η Privacy International, η Ελληνική Ένωση για τα Δικαιώματα του Ανθρώπου, η HIAS Greece και ο ερευνητής Φοίβος Συμεωνίδης υπέβαλαν από κοινού αίτημα ενώπιον της Αρχής Προστασίας Δεδομένων Προσωπικού Χαρακτήρα (ΑΠΔΠΧ) για τη διερεύνηση της υπόθεσης και την αξιολόγηση της συμμόρφωσής της με τους ισχύοντες κανόνες προστασίας δεδομένων. Η Αρχή δέχθηκε την κοινή καταγγελία και κίνησε έρευνα τον ίδιο μήνα.

Είναι επομένως προφανές ότι το λογισμικό αποσκοπούσε στην μαζική παρακολούθηση απεριόριστου αριθμού χρηστών σε πολλαπλές πλατφόρμες μέσων κοινωνικής δικτύωσης, καθώς και στη συλλογή και ανάλυση των προσωπικών τους δεδομένων. Ωστόσο, ο διαγωνισμός δεν προσδιόριζε τους συγκεκριμένους σκοπούς των πράξεων επεξεργασίας, τη νομική βάση που θα τη νομιμοποιούσε, ούτε τις δικλείδες ασφαλείας που απαιτούνται για τη συμμόρφωση με το ενωσιακό δίκαιο προστασίας δεδομένων, συμπεριλαμβανομένης της διενέργειας Εκτίμησης Αντικτύπου σχετικά με την Προστασία Δεδομένων (Data Protection Impact Assessment – DPIA).

Κατά συνέπεια, η προμήθεια αυτού του λογισμικού, σχεδιασμένου να διευκολύνει τη μαζική παρακολούθηση μέσων κοινωνικής δικτύωσης, εγείρει σοβαρές ανησυχίες ότι θα μπορούσε να επιτρέψει τη μαζική επιτήρηση και να υπονομεύσει τη συμμόρφωση με τις αρχές της νομιμότητας, του περιορισμού του σκοπού και της ελαχιστοποίησης των δεδομένων, όπως αυτές κατοχυρώνονται τόσο στο ενωσιακό όσο και στο εθνικό δίκαιο προστασίας δεδομένων.

Επιπλέον, η δημιουργία ψεύτικων λογαριασμών με τεχνητή νοημοσύνη, με σκοπό την προσομοίωση ανθρώπινης δραστηριότητας, ήταν αντίθετη με τους όρους χρήσης των πλατφορμών μέσων κοινωνικής δικτύωσης και ανταλλαγής μηνυμάτων που αναφέρονταν στον διαγωνισμό.

Παρ’ όλα αυτά, παρά τις σοβαρές νομικές ανησυχίες που εγέρθηκαν και την έρευνα της Αρχής, η διαδικασία προμήθειας συνεχίστηκε απρόσκοπτα. Σύμφωνα με δημόσια διαθέσιμες πληροφορίες που αναρτήθηκαν στη «Διαύγεια», η σύμβαση ανατέθηκε τον Σεπτέμβριο του 2022 σε κοινοπραξία δύο ελληνικών εταιρειών, της BYTE Α.Ε. και της GRIVAS Α.Ε., ενώ το λογισμικό και τα εργαλεία που αναπτύχθηκαν παραδόθηκαν στο Λιμενικό Σώμα – Ελληνική Ακτοφυλακή τον Μάρτιο του 2023. Η τελική πληρωμή ολοκληρώθηκε τον Νοέμβριο του 2023, φέρνοντας τη διαδικασία προμήθειας στο τέλος της.

Δημιουργώντας ένα οικοσύστημα μέσων κοινωνικής δικτύωσης υπό διαρκή παρακολούθηση, τεχνολογίες όπως αυτές που διαθέτει το Λιμενικό Σώμα – Ελληνική Ακτοφυλακή επεκτείνουν τα σύνορα πολύ πέρα από τα φυσικά σημεία συνοριακής διέλευσης και συμβάλλουν σε αυτό που οι μελετητές περιγράφουν ως εσωτερίκευση των συνόρων. Υπό αυτή την έννοια, ο συνοριακός έλεγχος δεν λειτουργεί πλέον αποκλειστικά στα γεωγραφικά όρια, αλλά ενσωματώνεται στην καθημερινή ζωή μέσω διάχυτων πρακτικών επιτήρησης, αστυνόμευσης και συλλογής δεδομένων.

Τέτοιες μορφές εσωτερίκευσης των συνόρων έχουν σημαντικές επιπτώσεις στην προστασία δεδομένων, την ιδιωτικότητα και την ελευθερία της έκφρασης, μεταξύ άλλων δικαιωμάτων.

Όταν οι δημόσιες αρχές συλλέγουν συστηματικά πληροφορίες από διαδικτυακές πλατφόρμες, παρακολουθούν διαδικτυακές συζητήσεις και καταρτίζουν προφίλ ατόμων, οι μετακινούμενοι πληθυσμοί, καθώς και όσοι εκφράζουν αλληλεγγύη προς αυτούς, όπως ακτιβιστές, δημοσιογράφοι και υπερασπιστές των ανθρωπίνων δικαιωμάτων, ενδέχεται να αποθαρρύνονται από το να εκφράζουν τις απόψεις τους, να αναζητούν πληροφορίες ή να συμμετέχουν σε διαδικτυακές κοινότητες, από φόβο μήπως εντοπιστούν, παρακολουθηθούν ή αντιμετωπίσουν μέτρα επιβολής της μεταναστευτικής νομοθεσίας.

Η έλλειψη δημόσια διαθέσιμων πληροφοριών σχετικά με την ανάπτυξη και λειτουργία του συστήματος υπονομεύει σημαντικά τη διαφάνεια και καθιστά δύσκολη την αξιολόγηση της συμμόρφωσής του με το δίκαιο προστασίας δεδομένων. Παράλληλα, η παρατεταμένη διάρκεια της έρευνας της Αρχής έχει συντηρήσει την αβεβαιότητα ως προς το εάν το σύστημα έχει αναπτυχθεί ή χρησιμοποιηθεί στην πράξη και, εάν ναι, υπό ποιες νομικές και επιχειρησιακές δικλείδες ασφαλείας.

Ο διαγωνισμός του Λιμενικού Σώματος – Ελληνικής Ακτοφυλακής καταδεικνύει πώς πρωτοβουλίες επιτήρησης που συναντούν νομικά εμπόδια σε επίπεδο ΕΕ, μπορούν να επανεμφανιστούν μέσω εθνικών αρχών, ακόμη και με συγχρηματοδότηση από κονδύλια της ΕΕ.

Καθώς η διαχείριση των συνόρων επεκτείνεται όλο και περισσότερο στην ψηφιακή σφαίρα, η διασφάλιση ουσιαστικής εποπτείας τέτοιων τεχνολογιών δεν αποτελεί πλέον απλώς ζήτημα κανονιστικής συμμόρφωσης, αλλά προϋπόθεση για τη διαφύλαξη του κράτους δικαίου και των θεμελιωδών δικαιωμάτων στην Ευρωπαϊκή Ένωση. Ο ρόλος της ερευνητικής δημοσιογραφίας, των οργανώσεων της κοινωνίας των πολιτών και των ανεξάρτητων εποπτικών αρχών στην ενδελεχή εξέταση της ανάπτυξης τέτοιων συστημάτων τεχνητής νοημοσύνης είναι απαραίτητος.

---

Οι απόψεις και θέσεις που εκφράζονται στο παρόν άρθρο είναι του συγγραφέα και δεν αντικατοπτρίζουν κατ’ ανάγκη την επίσημη θέση της Μονάδας Διεπιστημονικής Μελέτης της Μετανάστευσης (IMRU) ή του Εθνικού Κέντρου Κοινωνικών Ερευνών (ΕΚΚΕ).

---

---