Γιατί η ποιότητα του ψηφιακού περιεχομένου, η δημοκρατική λογοδοσία και η ασφάλεια των δημόσιων υπηρεσιών προϋποθέτουν πραγματικά ανοιχτά μοντέλα Τεχνητής Νοημοσύνης.
Από τη δημιουργία περιεχομένου στη διαμόρφωση της γνώσης
Η Τεχνητή Νοημοσύνη αλλάζει ριζικά τον τρόπο με τον οποίο παράγεται και διαδίδεται η πληροφορία. Κείμενα, εικόνες, βίντεο, εκπαιδευτικό υλικό, δημοσιογραφικές αναλύσεις και επιστημονικές περιλήψεις δημιουργούνται πλέον με τη βοήθεια μεγάλων γλωσσικών μοντέλων. Το κρίσιμο ερώτημα δεν είναι μόνο αν αυτό το περιεχόμενο είναι χρήσιμο, αλλά ποιος μπορεί να ελέγξει την αξιοπιστία του και τις διαδικασίες παραγωγής του.
Τα περισσότερα ισχυρά εμπορικά μοντέλα λειτουργούν ως αδιαφανή συστήματα. Οι εταιρείες που τα αναπτύσσουν δεν δημοσιοποιούν πλήρως τα δεδομένα εκπαίδευσης, τον κώδικα εκπαίδευσης, τις διαδικασίες επιλογής και αποκλεισμού περιεχομένου ή τις μεθόδους με τις οποίες καθορίζεται η συμπεριφορά τους.
Έτσι, ένας εκπαιδευτικός, ένας δημοσιογράφος, ένας ερευνητής ή ένας δημόσιος υπάλληλος μπορεί να χρησιμοποιεί ένα σύστημα χωρίς να γνωρίζει επαρκώς γιατί αυτό παράγει συγκεκριμένες απαντήσεις, ποιες πηγές επηρεάζουν τα αποτελέσματά του και ποιες προκαταλήψεις ενσωματώνει.
Το πρόβλημα αποκτά πολιτική διάσταση όταν λίγες ιδιωτικές επιχειρήσεις επηρεάζουν την παραγωγή και την πρόσβαση στη γνώση για εκατομμύρια ανθρώπους, χωρίς να υπόκεινται σε αντίστοιχο επίπεδο δημόσιου ελέγχου.
Το πρόβλημα δεν περιορίζεται στην παραπληροφόρηση
Η συζήτηση για την Τεχνητή Νοημοσύνη συχνά επικεντρώνεται στις ψευδείς ειδήσεις και στα παραποιημένα βίντεο. Όμως η ποιότητα του παραγόμενου περιεχομένου είναι πολύ ευρύτερο ζήτημα.
Ένα γλωσσικό μοντέλο μπορεί να επινοήσει βιβλιογραφικές αναφορές, να παρουσιάσει λανθασμένες νομικές πληροφορίες, να αναπαράγει κοινωνικές προκαταλήψεις ή να παραλείψει σημαντικές επιστημονικές απόψεις. Ακόμη και όταν το αποτέλεσμα φαίνεται πειστικό, δεν υπάρχει εγγύηση ότι είναι ακριβές.
Στην εκπαίδευση, τέτοια σφάλματα μπορούν να μεταφερθούν σε μαθητές και φοιτητές. Στη δημόσια διοίκηση, μπορούν να επηρεάσουν την ενημέρωση των πολιτών για δικαιώματα και υποχρεώσεις. Σε κρίσιμες κρατικές υπηρεσίες, η αναξιόπιστη πληροφορία μπορεί να δημιουργήσει κινδύνους ασφάλειας και να οδηγήσει σε λανθασμένες ενέργειες.
Υπάρχει και μια λιγότερο ορατή συνέπεια. Το περιεχόμενο που παράγεται σήμερα από ΤΝ δημοσιεύεται στο διαδίκτυο και μπορεί να χρησιμοποιηθεί στην εκπαίδευση επόμενων μοντέλων. Εάν δεν ελέγχεται η προέλευσή του, υπάρχει κίνδυνος να ανακυκλώνονται σφάλματα, προκαταλήψεις και τεχνητά παραγόμενες πληροφορίες. Η έρευνα έχει δείξει ότι η ανεξέλεγκτη επαναχρησιμοποίηση συνθετικών δεδομένων μπορεί, υπό συγκεκριμένες συνθήκες, να υποβαθμίσει την ποιότητα των επόμενων μοντέλων.
Επομένως, η αξιοπιστία του περιεχομένου αποτελεί πλέον ζήτημα ποιότητας της ίδιας της ψηφιακής γνώσης.
Μπορούν οι δημοκρατικοί θεσμοί να ελέγξουν ένα κλειστό μοντέλο;
Η Ευρωπαϊκή Ένωση έχει ήδη δημιουργήσει ένα σημαντικό ρυθμιστικό πλαίσιο με τον Κανονισμό για την Τεχνητή Νοημοσύνη (AI Act). Προβλέπει υποχρεώσεις διαφάνειας, τεκμηρίωσης, διαχείρισης κινδύνων και αξιολόγησης, ανάλογα με την κατηγορία του συστήματος. Παράλληλα, ο ΟΗΕ έχει αναδείξει την ανάγκη διεθνούς επιστημονικής συνεργασίας και διακυβέρνησης της ΤΝ με επίκεντρο τα ανθρώπινα δικαιώματα.
Ωστόσο, η ρύθμιση δεν ταυτίζεται με την πλήρη δυνατότητα ανεξάρτητου τεχνικού ελέγχου.
Οι αρμόδιες αρχές μπορούν να απαιτούν πληροφορίες, να πραγματοποιούν ελέγχους και να επιβάλλουν κυρώσεις. Ακόμη και ένα κλειστό μοντέλο μπορεί να υποβληθεί σε εξωτερικές δοκιμές. Χωρίς όμως επαρκή πρόσβαση στα δεδομένα, στον κώδικα και στις διαδικασίες εκπαίδευσης, δεν μπορούν να εξεταστούν ανεξάρτητα όλες οι πηγές πιθανών προβλημάτων.
Αυτό δημιουργεί μια ουσιαστική δημοκρατική ασυμμετρία. Οι δημόσιοι θεσμοί καλούνται να ελέγξουν τεχνολογίες των οποίων η εσωτερική λειτουργία παραμένει σε μεγάλο βαθμό ιδιωτική γνώση.
Γιατί δεν αρκούν τα ανοιχτά βάρη των μοντέλων
Η δημοσιοποίηση των παραμέτρων ενός μοντέλου, γνωστή ως open weights, επιτρέπει την τοπική εκτέλεση και συχνά την περαιτέρω προσαρμογή του. Δεν αποκαλύπτει όμως αναγκαστικά πώς εκπαιδεύτηκε.
Για ουσιαστικό επιστημονικό και θεσμικό έλεγχο χρειάζονται πλήρως ανοιχτά μοντέλα, με διαθέσιμο κώδικα, τεκμηριωμένες πηγές δεδομένων, μεθοδολογία εκπαίδευσης, ενδιάμεσα αποτελέσματα, διαδικασίες αξιολόγησης και άδειες που επιτρέπουν την ανεξάρτητη μελέτη και επαναχρησιμοποίηση.
Πρωτοβουλίες όπως το OLMo του Allen Institute for AI και το ευρωπαϊκό Apertus δείχνουν ότι αυτή η κατεύθυνση είναι τεχνικά εφικτή. Η πλήρης διαφάνεια δεν εξαλείφει αυτομάτως τα σφάλματα ούτε εγγυάται την ασφάλεια. Επιτρέπει όμως σε πανεπιστήμια, ανεξάρτητους ερευνητές και δημόσιους ελεγκτικούς φορείς να διερευνούν προβλήματα χωρίς να εξαρτώνται αποκλειστικά από τις διαβεβαιώσεις των κατασκευαστών.
Χωρίς πλήρως ανοιχτά μοντέλα, ο ανεξάρτητος θεσμικός έλεγχος της διαδικασίας ανάπτυξης της ΤΝ παραμένει αναγκαστικά περιορισμένος.
Από την ευρωπαϊκή ρύθμιση στη δημόσια υποδομή ελέγχου
Η ΕΕ χρειάζεται να συμπληρώσει τη νομοθεσία της με δημόσιες υποδομές αξιολόγησης, ανεξάρτητα εργαστήρια και κοινά ευρωπαϊκά σύνολα δοκιμών για γλώσσες, επιστημονικά πεδία και δημόσιες υπηρεσίες.
Κάθε δημοκρατική χώρα οφείλει να διαθέτει την τεχνική ικανότητα να ελέγχει τα μοντέλα που χρησιμοποιεί, ιδιαίτερα στην εκπαίδευση, στην υγεία, στη δικαιοσύνη και στη δημόσια διοίκηση. Στις κρίσιμες δημόσιες εφαρμογές πρέπει να προτιμώνται πλήρως ανοιχτά και ανεξάρτητα ελέγξιμα μοντέλα, με ανθρώπινη εποπτεία, τεκμηριωμένες απαντήσεις, περιοδικές δοκιμές ασφάλειας και δημόσια λογοδοσία.
Ο ΟΗΕ μπορεί να συμβάλει στη δημιουργία κοινών διεθνών προτύπων αξιολόγησης και στη διάθεση ανοιχτών εργαλείων ελέγχου, ώστε και οι χώρες με περιορισμένους τεχνολογικούς πόρους να μπορούν να συμμετέχουν ισότιμα.
Απαραίτητη είναι επίσης η ιχνηλασιμότητα του περιεχομένου, με τεκμηρίωση της προέλευσης, της χρήσης ΤΝ και των ανθρώπινων παρεμβάσεων, χωρίς να υπονομεύονται η ιδιωτικότητα και η ελευθερία της έκφρασης.
Η ανοιχτή ΤΝ ως προϋπόθεση δημοκρατικής κυριαρχίας
Η επιλογή ανάμεσα σε κλειστά και πλήρως ανοιχτά μοντέλα δεν αφορά μόνο την τεχνολογία ή το κόστος. Αφορά τη δυνατότητα των δημοκρατικών κοινωνιών να ελέγχουν τις ψηφιακές υποδομές που επηρεάζουν τη γνώση, την εκπαίδευση και τη λειτουργία των θεσμών τους.
Οι δημιουργοί περιεχομένου χρειάζονται αξιόπιστες πηγές, διαφανή εργαλεία και τη δυνατότητα επαλήθευσης. Οι δημόσιοι φορείς χρειάζονται ανεξάρτητο έλεγχο και τεχνολογική αυτονομία. Οι πολίτες χρειάζονται εγγυήσεις ότι οι πληροφορίες που επηρεάζουν τη ζωή τους δεν καθορίζονται αποκλειστικά από αδιαφανείς εμπορικές διαδικασίες.
Η δημοκρατία δεν μπορεί να περιορίζεται στο δικαίωμα χρήσης της Τεχνητής Νοημοσύνης. Πρέπει να διαθέτει και την πραγματική δυνατότητα να την κατανοεί, να την ελέγχει και να την αλλάζει.
Αυτός είναι ο λόγος που η ανάπτυξη πλήρως ανοιχτών μοντέλων ΤΝ πρέπει να αντιμετωπιστεί ως στρατηγική δημόσια επένδυση στην επιστήμη, στη γνώση και στη δημοκρατία.
Βασικές πηγές τεκμηρίωσης:
1. Ευρωπαϊκή Επιτροπή, General-Purpose AI Obligations under the AI Act: Παρουσίαση των υποχρεώσεων τεχνικής τεκμηρίωσης, διαφάνειας σχετικά με το περιεχόμενο εκπαίδευσης, προστασίας πνευματικών δικαιωμάτων και αντιμετώπισης συστημικών κινδύνων. Αποτυπώνει τις δυνατότητες και τα όρια της ευρωπαϊκής ρύθμισης: https://digital-strategy.ec.europa.eu/en/factpages/general-purpose-ai-obligations-under-ai-act.
2. Οργανισμός Ηνωμένων Εθνών, Independent International Scientific Panel on AI: Η ανεξάρτητη διεθνής επιστημονική επιτροπή, που συστάθηκε με απόφαση της Γενικής Συνέλευσης το 2025, αποτελεί θεσμικό μηχανισμό επιστημονικής αξιολόγησης των ευκαιριών, κινδύνων και κοινωνικών επιπτώσεων της ΤΝ. Τεκμηριώνει την ανάγκη διεθνούς δημόσιου ελέγχου: https://www.un.org/independent-international-scientific-panel-ai/en.
3. Allen Institute for AI, OLMo 2: Fully Open Language Models: Παρουσιάζει μια οικογένεια πλήρως ανοιχτών γλωσσικών μοντέλων με διαθέσιμα δεδομένα εκπαίδευσης, κώδικα, μεθοδολογία, ενδιάμεσα αποτελέσματα και διαδικασίες αξιολόγησης. Αποτελεί συγκεκριμένο τεχνικό παράδειγμα ανεξάρτητου επιστημονικού ελέγχου: https://allenai.org/olmo2.
4. ETH Zurich, Apertus: A Fully Open, Transparent, Multilingual Language Model: Παρουσιάζει το ευρωπαϊκό πολυγλωσσικό μοντέλο Apertus, που αναπτύχθηκε από ελβετικά ερευνητικά ιδρύματα με έμφαση στη διαφάνεια και στην ανοιχτή επιστήμη. Αποτελεί παράδειγμα δημόσιας ερευνητικής υποδομής ΤΝ: ETH Zurich, Apertus.
5. Shumailov et al., AI Models Collapse When Trained on Recursively Generated Data, Nature (2024): Επιστημονική μελέτη που τεκμηριώνει τον κίνδυνο υποβάθμισης μοντέλων όταν εκπαιδεύονται επανειλημμένα με συνθετικά δεδομένα χωρίς κατάλληλες δικλίδες. Αναδεικνύει τη σημασία της ποιότητας και της προέλευσης του περιεχομένου εκπαίδευσης: https://www.nature.com/articles/s41586-024-07566-y.
6. NIST, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (2024): Τεχνικό πλαίσιο αναγνώρισης, αξιολόγησης και διαχείρισης κινδύνων της παραγωγικής ΤΝ, συμπεριλαμβανομένων της αναξιοπιστίας, της ασφάλειας, της ιδιωτικότητας και των κοινωνικών επιπτώσεων. Χρήσιμο για δημόσιους οργανισμούς και ανεξάρτητους αξιολογητές: https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf.
7. ΟΗΕ, Global Digital Compact: AI Panel and Global Dialogue on AI Governance: Παρουσιάζει το διεθνές πλαίσιο συνεργασίας για τη διακυβέρνηση της ΤΝ και τη συγκρότηση της ανεξάρτητης επιστημονικής επιτροπής και του παγκόσμιου διαλόγου. Τεκμηριώνει τη δυνατότητα κοινών θεσμικών προσεγγίσεων μεταξύ κρατών: https://www.un.org/global-digital-compact/en/ai.