Μια γερμανική έρευνα αναφέρει ότι ένα σημαντικό ποσοστό επιστημονικών άρθρων γράφονται σήμερα από τσάτμποτ. Λες και δεν είχαμε αρκετά προβλήματα…
Από τον Νοέμβριο του 2022, όταν κυκλοφόρησε ως καταναλωτικό προϊόν το ChatGPT, γινόμαστε μάρτυρες μιας κοσμογονίας στον τομέα της παραγωγής κειμένων παγκοσμίως. Άνθρωποι χωρίς ιδιαίτερη συγγραφική εμπειρία ή παιδεία λόγου εμφανίζονται πλέον ως λόγιοι και ειδήμονες της γραφής σε δημόσιες και ιδιωτικές επικοινωνίες, έχοντας απλώς μπει στον κόπο να διατυπώσουν ένα prompt σε κάποιο από τα Μεγάλα Γλωσσικά Μοντέλα.
Στις ΗΠΑ, το φαινόμενο αυτό έχει ήδη αποκτήσει όνομα, λέγεται «σαβούρα της τεχνητής νοημοσύνης» (AI slop) και αναφέρεται σε ένα πλήθος κειμένων χαμηλής ποιότητας που μιμούνται το ύφος της γνώσης χωρίς να παράγουν ουσιαστικό νόημα: σκουπίδια, δηλαδή, που εμφανίζονται σαν διαμάντια. Το έμπειρο μάτι καταλαβαίνει την απάτη, αλλά ποιος νοιάζεται; Ποιος έχει τον χρόνο, μέσα σε αυτόν τον γενικευμένο επικοινωνιακό πόλεμο, να ασκήσει ουσιαστική κριτική; Οι κολοσσοί της τεχνολογίας αποκομίζουν τα οφέλη τους χωρίς να νοιάζονται για τις κοινωνικές επιπτώσεις των προϊόντων τους και οι κυβερνήσεις παρακολουθούν αποσβολωμένες.
Ας δεχτούμε ότι δεν είναι φλέγον ζήτημα η πλημμυρίδα των AI ποιητικών συλλογών και των ΑΙ μυθιστορημάτων. Τι να σκεφτούμε όμως για τη χρήση των τσάτμποτ στη συγγραφή επιστημονικών εργασιών; Το 2024, μια έρευνα του Πανεπιστημίου του Τύμπιγκεν βρήκε ότι 454 συγκεκριμένες λέξεις εμφανίζονταν δυσανάλογα συχνά σε κείμενα γραμμένα από τσάτμποτ. Αναλύοντας τη γλωσσική σφραγίδα της ΤΝ, ο επικεφαλής της έρευνας, δρ Κόμπακ, υπολόγισε ότι τουλάχιστον το 13,5% των άρθρων του 2024 στον τομέα της βιοϊατρικής γράφτηκε με τη βοήθεια της ΤΝ. Σε κάποιες πιο «χαλαρές» χώρες, αυτό το ποσοστό έφτανε ακόμα και το 40%.
Πρόκειται για ένα σημαντικό πρόβλημα αξιοπιστίας. Τα μεγάλα επιστημονικά περιοδικά δέχονταν ανέκαθεν μεγαλύτερο όγκο κειμένων από αυτόν που μπορούσαν να διαχειριστούν. Σήμερα, ομολογούν ότι αυτό το κύμα, εξαιτίας των ΜΓΜ, τους έχει καταπλακώσει. Τα τελευταία δύο χρόνια, επιστήμονες που δεν είχαν υποβάλει ούτε ένα άρθρο σε όλη την καριέρα τους ξαφνικά άρχισαν να στέλνουν δεκάδες άρθρα τον χρόνο. Σήμερα, παράγονται επιστημονικά άρθρα σαν να μην υπάρχει αύριο.
Και όσο αυξάνεται ο αριθμός των συνθετικών εργασιών, τόσο πληθαίνουν τα φαινόμενα επινοημένων πηγών. Ακόμα και κυβερνητικές εκθέσεις, όπως η MAHA (Make America Healthy Again) της αμερικανικής κυβέρνησης, προσβλήθηκε από τις λεγόμενες «ψευδαισθήσεις της ΤΝ». Η επιστήμη προχώρησε έως τώρα με μια μέθοδο, η υπονόμευση της οποίας δημιουργεί μια άνευ προηγουμένου διανοητική ρύπανση: Η ΤΝ δεν μπορεί να κάνει έρευνα, δεν είναι επιστήμονας. Αναθέτοντας στα στατιστικά μοντέλα την εκπόνηση μελετών για λογαριασμό μας, διακινδυνεύουμε μια μεγάλη οπισθοδρόμηση: να μην μπορούμε πια να ξεχωρίσουμε το αληθές από το ψεύτικο. Κινδυνεύουμε να πνιγούμε μέσα στα όνειρα και στους εφιάλτες των μηχανών μας.
