Η μαζική παραγωγή δεν είναι πολιτιστική δημιουργία
Η συζήτηση για την Τεχνητή Νοημοσύνη συχνά εγκλωβίζεται σε ένα επιφανειακό ερώτημα: αν τα εργαλεία αυτά μπορούν να παράγουν κείμενα, εικόνες, μουσική και βίντεο πιο γρήγορα και πιο φθηνά από τους ανθρώπους. Όμως για τον πολιτισμό το καθοριστικό ερώτημα δεν είναι η ταχύτητα ούτε ο όγκος. Είναι η ποιότητα, η ιδιαιτερότητα, η εσωτερική αναγκαιότητα του έργου και η σχέση του με την ανθρώπινη εμπειρία. Εκεί ακριβώς αποκαλύπτεται το βασικό όριο της Τεχνητής Νοημοσύνης: μπορεί να ανασυνδυάζει μοτίβα, να αναπαράγει ύφη και να μιμείται μορφές, αλλά δεν διαθέτει βίωμα, πρόθεση, κίνδυνο, μνήμη, επιθυμία, ευθύνη. Δεν έχει δηλαδή τα συστατικά από τα οποία γεννιέται η πραγματική δημιουργικότητα.
Αυτό δεν σημαίνει ότι τα συστήματα Τεχνητής Νοημοσύνης δεν μπορούν να είναι τεχνικά εντυπωσιακά. Μπορούν. Μπορούν επίσης να λειτουργήσουν ως εργαλεία υποβοήθησης, ως βοηθήματα στην τεκμηρίωση, στη μετάφραση, στην επιτάχυνση ορισμένων σταδίων παραγωγής. Όταν όμως τους ανατίθεται η ίδια η πολιτιστική δημιουργία, τότε το αποτέλεσμα σπανίως είναι πρωτότυπο με ουσιαστικό τρόπο. Είναι συνήθως γυαλισμένο, άμεσο, αναγνωρίσιμο και εύπεπτο, αλλά ταυτόχρονα επίπεδο, προβλέψιμο και χωρίς εσωτερική ένταση. Μοιάζει με πολιτιστικό περιεχόμενο, χωρίς να φέρει πραγματικά το βάρος της δημιουργίας.
Η δημιουργικότητα δεν είναι στατιστικός μέσος όρος
Η πολιτιστική δημιουργία δεν προκύπτει από τον μέσο όρο όσων έχουν ήδη ειπωθεί. Προκύπτει συχνά από τη ρήξη με τον μέσο όρο. Από την απόκλιση, την αμηχανία, το λάθος, την αποτυχία, την παραφωνία, την εμμονή ενός δημιουργού με κάτι που οι άλλοι ακόμη δεν βλέπουν. Ένα μυθιστόρημα, ένα τραγούδι, μια ταινία ή ένας πίνακας δεν αποκτούν αξία επειδή μοιάζουν αρκετά με όσα έχουμε ήδη αγαπήσει. Αποκτούν αξία επειδή μετακινούν το βλέμμα μας, επειδή κάνουν χώρο για κάτι που πριν δεν υπήρχε.
Η Τεχνητή Νοημοσύνη, αντιθέτως, λειτουργεί πάνω σε τεράστιες δεξαμενές υπαρχόντων δεδομένων και μαθαίνει να προβλέπει το πιθανότερο επόμενο στοιχείο. Γι’ αυτό είναι τόσο καλή στη μίμηση της μορφής και τόσο αδύναμη στη γέννηση ενός πραγματικά νέου πολιτιστικού συμβάντος. Το αποτέλεσμα μπορεί να είναι εντυπωσιακό στην πρώτη επαφή, αλλά συχνά αποδεικνύεται άδειο στη δεύτερη. Λείπει το απρόβλεπτο που πηγάζει από μια ζωή που εκτέθηκε στον κόσμο και πάλεψε να του δώσει νόημα.
Ακριβώς γι’ αυτό το πολιτιστικό περιεχόμενο που παράγεται μαζικά με Τεχνητή Νοημοσύνη τείνει να συγκλίνει σε ασφαλείς συνταγές. Οικείοι ρυθμοί, ανακυκλωμένες αισθητικές επιλογές, προβλέψιμες συναισθηματικές κορυφώσεις, ύφος χωρίς προσωπικότητα. Μπορεί να αυξάνεται η ποσότητα, αλλά μειώνεται η ποικιλία με ουσιαστικούς όρους. Έχουμε περισσότερο περιεχόμενο, αλλά λιγότερες αληθινά ξεχωριστές φωνές.
Από τον δημιουργό περνάμε στον χειριστή εργαλείων
Η υποβάθμιση δεν αφορά μόνο το τελικό αποτέλεσμα. Αφορά και τη θέση του ίδιου του δημιουργού. Όταν η πολιτιστική παραγωγή οργανώνεται γύρω από έτοιμα αυτοματοποιημένα συστήματα, ο καλλιτέχνης, ο συγγραφέας, ο δημοσιογράφος, ο μεταφραστής, ο σεναριογράφος ή ο μουσικός κινδυνεύει να μετατραπεί από δημιουργός σε επιμελητή έτοιμων εξόδων. Από πρόσωπο που δοκιμάζει μορφές και γλώσσες, γίνεται χρήστης που επιλέγει παραλλαγές από ένα εργαλείο.
Αυτή η μετατόπιση είναι κρίσιμη. Ο πολιτισμός δεν παράγεται μόνο από το τελικό έργο, αλλά και από τις κοινότητες πρακτικής που το καθιστούν δυνατό. Από τα εργαστήρια, τις πρόβες, τα μικρά περιοδικά, τις ανεξάρτητες σκηνές, τις δημιουργικές αποτυχίες, τις συνομιλίες ανάμεσα σε γενιές δημιουργών. Αν η Τεχνητή Νοημοσύνη επιβάλει ένα μοντέλο στο οποίο το ζητούμενο είναι η γρήγορη παραγωγή άφθονου περιεχομένου χαμηλού κόστους, τότε αποδυναμώνονται ακριβώς οι συνθήκες που γεννούν πολιτισμό με διάρκεια.
Δεν είναι τυχαίο ότι τόσο μεγάλο μέρος του παραγόμενου περιεχομένου με Τεχνητή Νοημοσύνη μοιάζει φτιαγμένο για πλατφόρμες, όχι για ανθρώπους. Στόχος του είναι να τραβήξει για λίγο την προσοχή, να γεμίσει ροές, να εξυπηρετήσει αλγοριθμικές απαιτήσεις ορατότητας, να παραγάγει κλικ, προβολές και σύντομες αντιδράσεις. Αυτή η οικονομία της υπερπαραγωγής δεν ευνοεί την ποιότητα. Ευνοεί τον θόρυβο.
Ο πολιτιστικός «πολτός» και η απώλεια κριτηρίων
Εδώ βρίσκεται ένας ακόμη σοβαρός κίνδυνος. Η μαζική εξάπλωση χαμηλής ποιότητας περιεχομένου που έχει παραχθεί με Τεχνητή Νοημοσύνη δημιουργεί ένα περιβάλλον πολιτιστικού κορεσμού. Ο χρήστης βομβαρδίζεται από ατελείωτες εικόνες, κείμενα, αφηγήσεις, βίντεο και ηχητικά αποσπάσματα που είναι επαρκώς καλοφτιαγμένα ώστε να κυκλοφορούν, αλλά όχι αρκετά ουσιαστικά ώστε να μένουν. Έτσι σχηματίζεται ένας πολιτιστικός πολτός χαμηλής ποιότητας, ένα είδος φτηνού υποκατάστατου δημιουργίας, που δυσκολεύει ακόμη περισσότερο την ανάδειξη έργων με αληθινό βάθος.
Το πρόβλημα είναι και αισθητικό και δημοκρατικό. Είναι αισθητικό, επειδή η συνεχής έκθεση σε τυποποιημένο περιεχόμενο χαμηλώνει τις προσδοκίες μας από την τέχνη, τη γραφή, την εικόνα και τη μουσική. Είναι δημοκρατικό, επειδή όταν η πολιτιστική σφαίρα πλημμυρίζει από συνθετικό περιεχόμενο, οι πολίτες δυσκολεύονται περισσότερο να ξεχωρίσουν τι αξίζει πραγματικά την προσοχή τους, ποιος μιλά με προσωπική ευθύνη και ποιος απλώς πατά ένα κουμπί παραγωγής.
Η πολιτιστική ζωή, όμως, απαιτεί κριτήρια. Απαιτεί τη δυνατότητα να αναγνωρίζουμε τη φωνή, τη διαδρομή, τη δουλειά, το ρίσκο, τη σιωπή πίσω από ένα έργο. Όταν όλα ισοπεδώνονται σε μια αδιάκοπη ροή παραγόμενου περιεχομένου, δεν χάνεται μόνο η ποιότητα. Χάνεται και η σχέση μας με την προέλευση του έργου.
Η ανθρώπινη εμπειρία δεν αυτοματοποιείται
Υπάρχει μια ουσιώδης διαφορά ανάμεσα σε ένα έργο που προκύπτει από ανθρώπινη εμπειρία και σε ένα περιεχόμενο που κατασκευάζεται από στατιστική πρόβλεψη. Ο άνθρωπος δημιουργεί μέσα από αντιφάσεις. Μέσα από απώλειες, σχέσεις, ιστορικές μνήμες, τοπικές γλώσσες, σωματική παρουσία, κοινωνικές συγκρούσεις, προσωπικές εμμονές. Η δημιουργία του κουβαλά το ίχνος μιας ύπαρξης. Η Τεχνητή Νοημοσύνη δεν κουβαλά τίποτα. Συνθέτει πιθανότητες.
Γι’ αυτό μπορεί να αναπαράγει το ύφος μιας εξομολόγησης, αλλά όχι την αλήθεια της. Μπορεί να μιμείται τη μορφή ενός ποιήματος, αλλά όχι την ανάγκη που το γέννησε. Μπορεί να συνδυάζει πολιτισμικά στοιχεία, αλλά όχι να κατοικεί μέσα σε έναν κόσμο νοημάτων. Όταν αυτή η διάκριση θολώνει, τότε το πολιτιστικό οικοσύστημα εκφυλίζεται προς μια ατελείωτη ανακύκλωση επιφανειών.
Χρειαζόμαστε πολιτική προστασίας της ανθρώπινης δημιουργίας
Αν θέλουμε να προστατεύσουμε την ποιότητα του πολιτιστικού περιεχομένου, δεν αρκεί να μιλάμε γενικά για καινοτομία. Χρειάζεται σαφής πολιτική επιλογή υπέρ της ανθρώπινης δημιουργίας. Αυτό σημαίνει υποχρεωτική σήμανση του περιεχομένου που έχει παραχθεί ή αλλοιωθεί ουσιωδώς με Τεχνητή Νοημοσύνη. Σημαίνει ενίσχυση των δημιουργών, των εκδοτών, των ανεξάρτητων μέσων και των πολιτιστικών φορέων που επενδύουν σε πρωτότυπο έργο. Σημαίνει κανόνες διαφάνειας για τις πλατφόρμες που διοχετεύουν μαζικά συνθετικό περιεχόμενο. Σημαίνει επίσης εκπαίδευση των πολιτών, ώστε να μπορούν να αναγνωρίζουν τη διαφορά ανάμεσα σε έργο και σε προσομοίωση έργου.
Η Τεχνητή Νοημοσύνη μπορεί να είναι εργαλείο. Δεν πρέπει να αναγορευτεί σε δημιουργό. Αν το κάνουμε, δεν θα έχουμε έναν πλουσιότερο πολιτισμό. Θα έχουμε μια αγορά πλημμυρισμένη από εύκολα παράγωγα, από περιεχόμενο χωρίς μνήμη, χωρίς ρίσκο, χωρίς πραγματική φωνή. Και τότε το μεγάλο κόστος δεν θα είναι τεχνολογικό. Θα είναι πολιτιστικό.
Ο πολιτισμός δε χρειάζεται περισσότερη αυτοματοποίηση. Χρειάζεται περισσότερους ανθρώπους που να έχουν τον χρόνο, τον χώρο και την ελευθερία να δημιουργούν κάτι που δεν ήταν ήδη προβλέψιμο. Εκεί βρίσκεται η ποιότητα. Εκεί βρίσκεται η πρωτοτυπία. Εκεί βρίσκεται, τελικά, η ίδια η αξία του πολιτισμού.
Πηγές:
Science Advances, “Generative AI enhances individual creativity but reduces the collective diversity of novel content”: Ερευνητική δημοσίευση που δείχνει ότι η χρήση Τεχνητής Νοημοσύνης μπορεί να βελτιώνει την ατομική απόδοση, αλλά ταυτόχρονα να μειώνει τη συλλογική ποικιλία και πρωτοτυπία του παραγόμενου περιεχομένου: https://www.science.org/
UNESCO, “Artificial Intelligence and Culture: Report of the Independent Expert Group”: Εκθεση της UNESCO για τη σχέση Τεχνητής Νοημοσύνης και πολιτισμού, με έμφαση στις επιπτώσεις στα πολιτιστικά οικοσυστήματα, στη γλωσσική ποικιλία, στα δικαιώματα των δημιουργών και στη δημόσια πολιτική: https://www.unesco.org/
The New Yorker, “A.I. Is Homogenizing Our Thoughts”: Άρθρο που συνοψίζει πρόσφατα ερευνητικά ευρήματα και τεκμηριώνει ότι τα συστήματα Τεχνητής Νοημοσύνης τείνουν να ομογενοποιούν τη γραφή, να αποδυναμώνουν την προσωπική φωνή και να προωθούν τυποποιημένες μορφές έκφρασης: https://www.newyorker.com/
Korea Risk Institute, “AI Slop I: Pollution in Our Communication Environment”: Αναλυτικό κείμενο για το χαμηλής ποιότητας περιεχομένου που παράγεται με Τεχνητή Νοημοσύνη και για το πώς αυτό αλλοιώνει το ψηφιακό και πολιτιστικό περιβάλλον: https://www.krinstitute.org/