Ο Τέλισον Ορελιέν αρνείται ότι χρησιμοποίησε τεχνητή νοημοσύνη για το C’était ça ou mourir, ενώ οι δύο εκδότες του τον στηρίζουν
Ένα από τα πιο πολυσυζητημένα μυθιστορήματα της φετινής γαλλικής λογοτεχνικής σεζόν βρίσκεται ξαφνικά στο κέντρο μιας εντελώς διαφορετικής συζήτησης: όχι για την ιστορία που αφηγείται ή για την πορεία του στα μεγάλα λογοτεχνικά βραβεία, αλλά για το ποιος ή τι το έγραψε.
Το C’était ça ou mourir, πρώτο μυθιστόρημα του 38χρονου Τέλισον Ορελιέν, έχει πουλήσει περίπου 35.000 αντίτυπα μέσα σε πέντε εβδομάδες στη Γαλλία, κέρδισε το Prix du Roman Fnac και βρίσκεται στις πρώτες λίστες σημαντικών λογοτεχνικών βραβείων, ανάμεσά τους το Goncourt, το Renaudot, το Femina και το Médicis.
Η διαμάχη ξεκίνησε από έναν ανώνυμο λογαριασμό στο X με το όνομα «Balance ton Claude». Λίγες ώρες μετά τη βράβευση του βιβλίου από τη Fnac, ο λογαριασμός υποστήριξε ότι πέρασε αποσπάσματα του μυθιστορήματος από το Pangram, ένα εργαλείο που επιχειρεί να εντοπίσει αν ένα κείμενο έχει παραχθεί με τεχνητή νοημοσύνη. Το συμπέρασμα που δημοσίευσε ήταν κατηγορηματικό: το βιβλίο, υποστήριξε, είχε γραφτεί «σχεδόν ολόκληρο» με AI.
Η ανάρτηση εξαπλώθηκε γρήγορα. Μέσα σε περίπου μία ημέρα είχε συγκεντρώσει εκατομμύρια προβολές και έφερε τον Ορελιέν, τους εκδότες του και τον κόσμο των γαλλικών λογοτεχνικών βραβείων αντιμέτωπους με ένα πρόβλημα για το οποίο δεν υπάρχουν ακόμη σαφείς κανόνες.
Ένας ξεχωριστός, πολύ πιο εκτεταμένος δημοσιογραφικός έλεγχος έκανε την υπόθεση ακόμη πιο περίπλοκη. Περισσότερο από το μισό μυθιστόρημα πέρασε από το Pangram και το εργαλείο έκρινε ότι πάνω από το 95% του κειμένου είχε παραχθεί με AI, με υψηλό βαθμό βεβαιότητας. Για σύγκριση, οι πρώτες σελίδες περίπου δεκαπέντε άλλων μυθιστορημάτων που εξετάστηκαν με το ίδιο εργαλείο χαρακτηρίστηκαν «100% ανθρώπινη γραφή».
Το αποτέλεσμα δεν μπορεί να αγνοηθεί. Δεν αποδεικνύει, όμως, ότι ο Ορελιέν δεν έγραψε το βιβλίο του.
Τα εργαλεία ανίχνευσης AI δεν έχουν πρόσβαση στη διαδικασία της συγγραφής. Δεν γνωρίζουν τα προσχέδια, τις διορθώσεις, τις παλαιότερες εκδοχές ή το ιστορικό εργασίας ενός συγγραφέα. Αναλύουν το τελικό κείμενο και αναζητούν γλωσσικά και στατιστικά μοτίβα που έχουν μάθει να συνδέουν με κείμενα παραγόμενα από μοντέλα τεχνητής νοημοσύνης.
Το Pangram συγκαταλέγεται στα εργαλεία που έχουν παρουσιάσει τις καλύτερες επιδόσεις σε ανεξάρτητες δοκιμές, με πολύ χαμηλά ποσοστά ανθρώπινων κειμένων που χαρακτηρίζονται λανθασμένα ως προϊόντα AI. Παραμένει όμως ένα κλειστό σύστημα, ενώ η απόδοση τέτοιων εργαλείων μπορεί να αλλάξει ανάλογα με τη γλώσσα, το μήκος και το είδος του κειμένου. Τα πολύ καλά αποτελέσματα σε αγγλόφωνα δείγματα δεν σημαίνουν αυτομάτως ότι η ίδια ακρίβεια ισχύει και για γαλλόφωνη λογοτεχνική πρόζα με ιδιαίτερο ύφος.
Η περίπτωση του C’était ça ou mourir έχει και μία ακόμη ιδιαιτερότητα. Το βιβλίο είναι γραμμένο στα γαλλικά, αλλά στους διαλόγους παρεμβάλλονται και οι μητρικές γλώσσες των μεταναστών που εμφανίζονται στην ιστορία. Ο ίδιος ο Ορελιέν λέει ότι άρχισε να δουλεύει πάνω στο μυθιστόρημα το 2017, χρόνια πριν από τη σημερινή έκρηξη των εργαλείων παραγωγικής τεχνητής νοημοσύνης, και ότι συγκεντρώνει μαζί με τους εκδότες του στοιχεία από τη διαδικασία συγγραφής για να υποστηρίξει τη θέση του.
Ο συγγραφέας αρνείται κατηγορηματικά ότι χρησιμοποίησε τεχνητή νοημοσύνη για να γράψει το βιβλίο. «Πάντα αγαπούσα τη δημιουργία και τη γραφή, δεν βλέπω γιατί θα χρησιμοποιούσα μια μηχανή», έχει δηλώσει. Έχει πει επίσης ότι η κατηγορία τον εξόργισε και ότι, από τότε που έφτασε στη Γαλλία, έχει δεχθεί ρατσιστικές επιθέσεις. Δεν υπάρχουν, ωστόσο, στοιχεία που να αποδεικνύουν ότι πίσω από τη συγκεκριμένη κατηγορία για χρήση AI υπήρχε ρατσιστικό κίνητρο.
Στο πλευρό του έχουν σταθεί και οι δύο εκδοτικοί οίκοι του. Ο Grasset, που κυκλοφόρησε το βιβλίο στη Γαλλία στις 19 Αυγούστου, έχει εκφράσει την «απόλυτη εμπιστοσύνη» του στον συγγραφέα. Οι Éditions du Boréal, που είχαν εκδώσει το μυθιστόρημα στον Καναδά τον Μάρτιο, δηλώνουν ότι παίρνουν σοβαρά τις καταγγελίες, αλλά εξακολουθούν να εμπιστεύονται τη δουλειά του Ορελιέν.
Το μυθιστόρημα αφηγείται την ιστορία του Ζονάς Ντορλεόν, ενός καθηγητή ιστορίας που εγκαταλείπει την Αϊτή όταν η βία φτάνει στη γειτονιά του και ξεκινά ένα ταξίδι μέσα από τη Λατινική Αμερική και τις Ηνωμένες Πολιτείες με τελικό προορισμό τον Καναδά. Η επιτυχία του είναι ήδη αρκετά μεγάλη ώστε να έχουν δρομολογηθεί μεταφράσεις του σε περισσότερες από είκοσι γλώσσες.
Η διαμάχη έχει φτάσει πλέον μέχρι το Goncourt. Η Ακαδημία Γκονκούρ δεν έχει αποφασίσει να απομακρύνει το μυθιστόρημα από την πρώτη λίστα των υποψηφίων. Η δεύτερη επιλογή ανακοινώνεται στις 6 Οκτωβρίου και ο πρόεδρός της, Φιλίπ Κλοντέλ, έχει δηλώσει ότι, αν μέχρι τότε υπάρξουν αδιαμφισβήτητα στοιχεία για χρήση AI, το ζήτημα θα εξεταστεί.
Ο Κλοντέλ θεωρεί επίσης σχεδόν αναπόφευκτο να θεσπιστούν κανόνες που θα επιτρέπουν να διακρίνεται τι έχει παραχθεί από τεχνητή νοημοσύνη και τι από άνθρωπο. Το πρόβλημα γίνεται ακόμη πιο σύνθετο καθώς ένας συγγραφέας μπορεί σήμερα να χρησιμοποιήσει AI με πολύ διαφορετικούς τρόπους από μια απλή γλωσσική βοήθεια μέχρι τη δημιουργία ολόκληρων αποσπασμάτων.
Η υπόθεση του Ορελιέν μετατοπίζει έτσι το ερώτημα. Η λογοτεχνία έχει περάσει τα τελευταία χρόνια συζητώντας αν μια τεχνητή νοημοσύνη μπορεί να γράψει ένα καλό μυθιστόρημα. Τώρα εμφανίζεται ένα ίσως δυσκολότερο πρόβλημα: όταν ένας αλγόριθμος υποστηρίζει ότι ένα βιβλίο δεν γράφτηκε από τον άνθρωπο του οποίου το όνομα βρίσκεται στο εξώφυλλο, ποιος αναλαμβάνει πλέον το βάρος της απόδειξης;
Με στοιχεία από Le Monde
