Η Τεχνητή Νοημοσύνη εισέρχεται με μεγάλη ταχύτητα στην εκπαίδευση, την εργασία, τη δημόσια διοίκηση, την υγεία, την αστυνόμευση και την ενημέρωση. Το κρίσιμο ερώτημα, επομένως, δεν είναι πλέον αν θα χρησιμοποιούμε ΤΝ, αλλά με ποιους κανόνες, ποιος θα μπορεί να ελέγχει τη λειτουργία της και ποιος θα λογοδοτεί όταν επηρεάζονται δικαιώματα.
Σε αυτό το πεδίο αποκτά ιδιαίτερη σημασία το ελληνικό Δίκτυο-Παρατηρητήριο για την Τεχνητή Νοημοσύνη και τις Τεχνολογίες Αιχμής, που ξεκίνησε ως Greek Artificial Intelligence Network, GAIN. Η αξία μιας τέτοιας πρωτοβουλίας δεν βρίσκεται μόνο στην παρακολούθηση της εφαρμογής της ευρωπαϊκής νομοθεσίας. Βρίσκεται στη δυνατότητα να συνδέσει οργανώσεις δικαιωμάτων, τεχνικές κοινότητες, ερευνητές, κοινωνικούς φορείς και ανεξάρτητες αρχές σε ένα μόνιμο οικοσύστημα δημόσιου ελέγχου.
Από την προστασία των δικαιωμάτων στον έλεγχο της τεχνολογίας
Το δίκτυο δημιουργήθηκε το 2025 μέσα από συνεργασία οργανώσεων της κοινωνίας των πολιτών, μεταξύ των οποίων και ο Οργανισμός Ανοιχτών Τεχνολογιών ΕΕΛΛΑΚ. Αφετηρία του ήταν η ανάγκη προστασίας των ανθρωπίνων δικαιωμάτων, της δημοκρατίας και του κράτους δικαίου κατά την ανάπτυξη και χρήση συστημάτων ΤΝ στην Ελλάδα.
Αυτό αποκτά ιδιαίτερη σημασία καθώς εφαρμόζεται ο ευρωπαϊκός Κανονισμός για την Τεχνητή Νοημοσύνη. Ο Κανονισμός δημιουργεί κανόνες, υποχρεώσεις και μηχανισμούς εποπτείας. Η νομοθεσία, όμως, δεν αρκεί από μόνη της. Χρειάζονται φορείς που μπορούν να παρακολουθούν πώς εφαρμόζεται στην πράξη, να εντοπίζουν προβλήματα, να εκπροσωπούν όσους επηρεάζονται και να μετατρέπουν τεχνικά ζητήματα σε αντικείμενο δημόσιου διαλόγου.
Εδώ βρίσκεται ο ιδιαίτερος ρόλος ενός κοινωνικού παρατηρητηρίου. Δεν αντικαθιστά τις αρμόδιες δημόσιες αρχές. Τις συμπληρώνει με ανεξάρτητη έρευνα, κοινωνικό έλεγχο, ενημέρωση και τεχνική τεκμηρίωση.
Η Ευρώπη διαθέτει ήδη ένα οικοσύστημα ελέγχου
Το ελληνικό εγχείρημα δεν ξεκινά από το μηδέν. Στην Ευρώπη λειτουργεί ήδη ένα πλέγμα οργανώσεων και θεσμών από το οποίο μπορεί να αντλήσει τεχνογνωσία.
Το European Digital Rights, EDRi, έχει αναπτύξει ένα πανευρωπαϊκό δίκτυο οργανώσεων ψηφιακών δικαιωμάτων και έχει συμβάλει συστηματικά στη δημόσια συζήτηση για τον Κανονισμό ΤΝ. Η AlgorithmWatch έχει αναπτύξει ένα διαφορετικό αλλά συμπληρωματικό πρότυπο: συνδυάζει έρευνα, τεχνική ανάλυση και δημόσια παρέμβαση για τις κοινωνικές επιπτώσεις των αλγοριθμικών συστημάτων.
Παράλληλα, το ENNHRI συνδέει τους εθνικούς θεσμούς ανθρωπίνων δικαιωμάτων, ενώ το Equinet έχει αναπτύξει ειδική τεχνογνωσία για τις αλγοριθμικές διακρίσεις και τον ρόλο των φορέων ισότητας. Στον δημόσιο τομέα, το Public Sector Tech Watch της Ευρωπαϊκής Επιτροπής καταγράφει περισσότερες από 1.500 περιπτώσεις αξιοποίησης αναδυόμενων τεχνολογιών στις ευρωπαϊκές δημόσιες διοικήσεις. Στον ιδιαίτερα ευαίσθητο χώρο των φαρμάκων, ο Ευρωπαϊκός Οργανισμός Φαρμάκων και οι εθνικές ρυθμιστικές αρχές χρησιμοποιούν το δικό τους AI Observatory για τη συστηματική παρακολούθηση των εξελίξεων.
Από αυτά τα παραδείγματα προκύπτει ένα χρήσιμο ευρωπαϊκό πρότυπο: δικτύωση της κοινωνίας των πολιτών, ανεξάρτητη έρευνα, τεχνική ικανότητα, θεσμική συνεργασία και συστηματική συλλογή δεδομένων.
Ανθρωποκεντρική ΤΝ σημαίνει δυνατότητα ελέγχου
Ο όρος «ανθρωποκεντρική ΤΝ» δεν πρέπει να περιοριστεί σε μια γενική διακήρυξη αρχών. Σημαίνει ότι ο άνθρωπος που επηρεάζεται από ένα σύστημα πρέπει να γνωρίζει ότι αυτό χρησιμοποιείται, να μπορεί να κατανοήσει τον ρόλο του στη λήψη μιας απόφασης και να έχει πραγματική δυνατότητα αμφισβήτησης και προσφυγής.
Αυτό είναι ιδιαίτερα κρίσιμο όταν η ΤΝ χρησιμοποιείται για προσλήψεις, κοινωνικές παροχές, εκπαίδευση, αστυνόμευση, μετανάστευση ή πρόσβαση σε δημόσιες υπηρεσίες. Σε τέτοιες περιπτώσεις δεν αρκεί να γνωρίζουμε ότι ένας προμηθευτής δηλώνει πως το προϊόν του είναι «υπεύθυνο». Χρειαζόμαστε τεκμηρίωση, ανεξάρτητη αξιολόγηση, καταγραφή περιστατικών και δυνατότητα δημόσιου ελέγχου.
Το παρατηρητήριο μπορεί επομένως να λειτουργεί ως μηχανισμός έγκαιρης προειδοποίησης. Να εντοπίζει εφαρμογές υψηλού κοινωνικού κινδύνου πριν τα προβλήματα μετατραπούν σε παγιωμένες διοικητικές πρακτικές.
Η ανθρωποκεντρική ΤΝ πρέπει να είναι και ανοιχτή
Εδώ η συμμετοχή της ΕΕΛΛΑΚ μπορεί να προσθέσει μια κρίσιμη διάσταση. Η προστασία δικαιωμάτων συνδέεται άμεσα με την τεχνική ελεγξιμότητα.
Η ανοιχτή ΤΝ δεν σημαίνει απλώς δημοσίευση των βαρών ενός μοντέλου. Χρειάζεται ευρύτερη διαφάνεια για τα δεδομένα, τις μεθόδους αξιολόγησης, τις τεχνικές εξαρτήσεις, τους περιορισμούς και τις συνθήκες λειτουργίας του συστήματος. Όπου το επιτρέπουν η ασφάλεια και η προστασία προσωπικών δεδομένων, ο κώδικας, τα πρότυπα, οι διεπαφές και τα μη προσωπικά δεδομένα πρέπει να είναι διαθέσιμα για ανεξάρτητο έλεγχο και επαναχρησιμοποίηση.
Ιδιαίτερα στον δημόσιο τομέα, κάθε σύστημα ΤΝ πρέπει να αφήνει πίσω του δημόσια γνώση και όχι μια νέα εξάρτηση από τον προμηθευτή. Ανοιχτά πρότυπα, τεκμηριωμένες διεπαφές, δημόσια μητρώα συστημάτων ΤΝ, ανοιχτά δεδομένα και ελέγξιμος κώδικας μπορούν να μετατρέψουν τη διαφάνεια από πολιτική διακήρυξη σε τεχνική ιδιότητα της δημόσιας υποδομής.
Από την παρακολούθηση σε ένα ευρωπαϊκό κοινό αγαθό
Το επόμενο βήμα θα μπορούσε να είναι η στενότερη διασύνδεση αυτών των ευρωπαϊκών πρωτοβουλιών. Ένα ελληνικό παρατηρητήριο δεν χρειάζεται να δημιουργήσει μόνο του μεθοδολογίες ελέγχου, δείκτες κινδύνου, εργαλεία καταγραφής ή πρότυπα αξιολόγησης. Μπορεί να συνεργάζεται με ομόλογους φορείς, να ανταλλάσσει δεδομένα και εργαλεία και να συμμετέχει στη δημιουργία κοινών, ανοιχτών μεθοδολογιών.
Έτσι, τα παρατηρητήρια μπορούν να εξελιχθούν από χώρους καταγραφής προβλημάτων σε υποδομές δημοκρατικής διακυβέρνησης της ΤΝ.
Η Ευρώπη έχει μια πραγματική ευκαιρία να διαφοροποιηθεί από ένα μοντέλο στο οποίο λίγες εταιρείες ελέγχουν τα μοντέλα, τα δεδομένα, τις υπολογιστικές υποδομές και τελικά τους όρους πρόσβασης στη νέα τεχνολογία. Η εναλλακτική είναι ένα οικοσύστημα όπου δημόσιοι θεσμοί, πανεπιστήμια, επιχειρήσεις, κοινότητες ανοιχτού λογισμικού και οργανώσεις της κοινωνίας των πολιτών συνδιαμορφώνουν την ΤΝ.
Η Τεχνητή Νοημοσύνη γίνεται πραγματικά ανθρωποκεντρική όταν ο άνθρωπος διατηρεί δικαιώματα και ουσιαστικό έλεγχο. Και γίνεται πραγματικά ανοιχτή όταν η κοινωνία διαθέτει τα μέσα όχι μόνο να τη χρησιμοποιεί, αλλά και να την εξετάζει, να την αμφισβητεί, να τη βελτιώνει και να συμμετέχει στη διακυβέρνησή της.
Πηγές άρθρου:
- Homo Digitalis, Κοινή διακήρυξη για τη δημιουργία δικτύου προστασίας Δικαιωμάτων του Ανθρώπου κατά την ανάπτυξη και χρήση συστημάτων ΤΝ, GAIN: Τεκμηριώνει τη δημιουργία του ελληνικού δικτύου το 2025, τη συμμετοχή οργανώσεων της κοινωνίας των πολιτών και τον προσανατολισμό του στην προστασία ανθρωπίνων δικαιωμάτων, δημοκρατίας και κράτους δικαίου: https://homodigitalis.gr/posts/134783/,
- Ευρωπαϊκή Επιτροπή, AI Act: Η παρουσίαση του Κανονισμού (ΕΕ) 2024/1689 και της προσέγγισης της Ευρωπαϊκής Ένωσης για αξιόπιστη και ανθρωποκεντρική ΤΝ, με προστασία της ασφάλειας και των θεμελιωδών δικαιωμάτων: https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai,
- European Digital Rights, EDRi, Civil Society and the AI Act: Το μεγαλύτερο ευρωπαϊκό δίκτυο ψηφιακών δικαιωμάτων έχει συντονίσει οργανώσεις της κοινωνίας των πολιτών γύρω από την προστασία δικαιωμάτων, τη διαφάνεια, τη λογοδοσία και τη δυνατότητα προσφυγής απέναντι σε συστήματα ΤΝ: https://edri.org/our-work/the-eus-artificial-intelligence-act-civil-society-amendments/,
- AlgorithmWatch, Vision, Mission & Values: Ευρωπαϊκό παράδειγμα ανεξάρτητης παρακολούθησης αλγοριθμικών συστημάτων, με σύνδεση της τεχνικής έρευνας με τη δημοκρατία, το κράτος δικαίου, τα ανθρώπινα δικαιώματα, την ισότητα και τη βιωσιμότητα: https://algorithmwatch.org/en/vision-mission-values/,
- European AI & Society Fund, Homo Digitalis και G.A.I.N.: Τεκμηριώνει τη χρηματοδότηση του G.A.I.N. για τον συντονισμό της ελληνικής κοινωνίας των πολιτών, καθώς και νεότερο έργο για τη δημιουργία δημόσιου μητρώου συστημάτων ΤΝ που χρησιμοποιούν ελληνικές αρχές και οργανισμοί της ΕΕ: https://europeanaifund.org/our-grantees/
- ENNHRI, Artificial Intelligence: Το ευρωπαϊκό δίκτυο εθνικών θεσμών ανθρωπίνων δικαιωμάτων αναπτύσσει εργαλεία και κοινές δράσεις ώστε η ανάπτυξη και χρήση ΤΝ να συμμορφώνεται με τα ανθρώπινα δικαιώματα, τη δημοκρατία και το κράτος δικαίου: https://ennhri.org/our-work/topics/artificial-intelligence/,
- Equinet, AI & Equality: Η ευρωπαϊκή πλατφόρμα των φορέων ισότητας συγκεντρώνει τεχνογνωσία, καλές πρακτικές και εργαλεία για τον εντοπισμό και την αντιμετώπιση αλγοριθμικών διακρίσεων και για την ενίσχυση της εποπτείας των συστημάτων ΤΝ: https://ai.equineteurope.org/,
- Ευρωπαϊκή Επιτροπή, Public Sector Tech Watch: Ευρωπαϊκό παρατηρητήριο που καταγράφει περισσότερες από 1.500 περιπτώσεις αξιοποίησης ΤΝ, blockchain και άλλων αναδυόμενων τεχνολογιών στον δημόσιο τομέα, παρέχοντας ένα πρότυπο συστηματικής και ανοιχτής τεκμηρίωσης: https://interoperable-europe.ec.europa.eu/collection/public-sector-tech-watch,
- European Medicines Agency και Heads of Medicines Agencies, AI Observatory: Θεσμικό παράδειγμα συστηματικής παρακολούθησης της ΤΝ σε έναν ιδιαίτερα ευαίσθητο τομέα, με ετήσιες εκθέσεις για εφαρμογές, κανονιστικές εξελίξεις, έρευνα και αναδυόμενες τάσεις: https://www.ema.europa.eu/en/about-us/how-we-work/data-regulation-big-data-other-sources/artificial-intelligence.