Τι είναι το φαινόμενο «λαγούμι», που μέσω αλγορίθμου οι χρήστες παρασύρονται σε μια ατέρμονη αλυσίδα προβολών
Έχει περιγραφεί ως φαινόμενο «λαγούμι» (rabbit hole): πρόκειται για τον μηχανισμό μέσω του οποίου, όταν κάποιος παρακολουθεί ένα βίντεο στα μέσα κοινωνικής δικτύωσης, ο αλγόριθμος προτείνει αυτόματα άλλο παρόμοιο ή ολοένα και πιο ακραίο περιεχόμενο, παρασύροντας τους χρήστες σε μια ατέρμονη αλυσίδα προβολών.Το φαινόμενο αυτό εντοπίζεται στο σύστημα συστάσεων περιεχομένου «Για εσάς» (For You) του TikTok. Για τον λόγο αυτό, η Ευρωπαϊκή Επιτροπή διαπίστωσε- σε προκαταρκτικό επίπεδο- ότι ο κινεζικός τεχνολογικός κολοσσός παραβιάζει την Ευρωπαϊκή Πράξη για τις Ψηφιακές Υπηρεσίες (Digital Services Act – DSA), την ευρωπαϊκή νομοθεσία που αποσκοπεί στο να καταστήσει τον διαδικτυακό χώρο ασφαλέστερο, διαφανέστερο και περισσότερο υπόλογο.
Η εκτελεστική αντιπρόεδρος της Επιτροπής, αρμόδια για την Τεχνολογική Κυριαρχία, την Ασφάλεια και τη Δημοκρατία, Χένα Βιρκούνεν, δήλωσε: «Κάθε φορά που ένας χρήστης κάνει κύλιση στην οθόνη ή επισημαίνει με “μου αρέσει” ένα βίντεο στο TikTok, ο αλγόριθμος τού προβάλλει περισσότερο περιεχόμενο του ίδιου είδους, οδηγώντας τον σε ένα ψηφιακό λαγούμι από το οποίο δεν μπορεί εύκολα να ξεφύγει».
Ευρωπαίος αξιωματούχος που γνωρίζει την υπόθεση εξήγησε ότι η αξιολόγηση «είναι αποτέλεσμα εντατικής εργασίας, η οποία περιλάμβανε τη συγκέντρωση αποδεικτικών στοιχείων, τη διεξαγωγή πειραμάτων, συνεντεύξεων και την ανάλυση επιστημονικών ερευνών».
Τα προκαταρκτικά συμπεράσματα που παρουσιάστηκαν επικεντρώθηκαν σε δύο στοιχεία: την αξιολόγηση των κινδύνων και τα μέτρα περιορισμού τους, τα οποία ο αξιωματούχος περιέγραψε ως «συγκεκριμένες διορθωτικές παρεμβάσεις που ζητούμε από το TikTok να εξετάσει».
Αξιολόγηση κινδύνων
Σύμφωνα με την Επιτροπή, όταν ένας χρήστης παρακολουθεί επανειλημμένα ή επισημαίνει με «μου αρέσει» ευαίσθητο περιεχόμενο, όπως αναρτήσεις σχετικά με την απώλεια βάρους ή την εικόνα του σώματος, το σύστημα εκλαμβάνει αυτές τις αλληλεπιδράσεις ως θετικές ενδείξεις ενδιαφέροντος και του προτείνει παρόμοιο περιεχόμενο.
Ωστόσο, η επανειλημμένη έκθεση σε τέτοιου είδους περιεχόμενο μπορεί να έχει σοβαρές αρνητικές επιπτώσεις στην ευημερία των χρηστών, όπως αύξηση των αισθημάτων θλίψης ή άγχους, δυσαρέσκεια για την εικόνα του σώματός τους, μείωση της αυτοεκτίμησης ή επιδείνωση προϋπαρχουσών διατροφικών διαταραχών και προβλημάτων ψυχικής υγείας.
Ειδικότερα, η ενότητα «Για εσάς» του TikTok «προβάλλει στους χρήστες μια αδιάκοπη ροή εξατομικευμένων βίντεο, ακόμη και όταν αυτά σχετίζονται με προβλήματα ψυχικής υγείας και την εικόνα του σώματος».
Μέσα στην εφαρμογή, όσο περισσότερο αλληλεπιδρά ένας χρήστης με έναν συγκεκριμένο τύπο περιεχομένου, τόσο περισσότερο ο αλγόριθμος της συγκεκριμένης ενότητας τού προτείνει παρόμοιο υλικό.
Το σύστημα αυτό καθίσταται επικίνδυνο όταν περιεχόμενο «που σχετίζεται με τη θλίψη, την απομόνωση ή την εικόνα του σώματος» προβάλλεται αδιάκοπα και επανειλημμένα.
«Τα σημερινά προκαταρκτικά ευρήματα καταδεικνύουν για ακόμη μία φορά ότι το TikTok πρέπει να εντείνει τις προσπάθειές του για την προστασία της ευημερίας των χρηστών, συμπεριλαμβανομένων των ανηλίκων», υπογράμμισε η Βιρκούνεν.
Μέτρα περιορισμού των κινδύνων
Πηγές της ΕΕ που γνωρίζουν την υπόθεση εξήγησαν ότι η κινεζική πλατφόρμα «έχει υιοθετήσει ορισμένα συγκεκριμένα μέτρα για την αντιμετώπιση του ζητήματος των λεγόμενων “κρυφών” μηχανισμών».
Ειδικότερα, «η εταιρεία χρησιμοποιεί τεχνικές “διασποράς”, οι οποίες αποσκοπούν στην προσφορά ποικίλου περιεχομένου, ωστόσο η ανάλυσή μας έχει καταδείξει σαφώς ότι τα μέτρα αυτά δεν είναι αποτελεσματικά», πρόσθεσαν.
Ο τεχνολογικός κολοσσός έχει επίσης «εισαγάγει μια λειτουργία ανανέωσης της ροής περιεχομένου, η οποία, ωστόσο, αποδείχθηκε προσωρινή: έπειτα από σύντομο χρονικό διάστημα, το σύστημα επανέρχεται στην προβολή του προηγούμενου περιεχομένου, επαναφέροντας τον χρήστη στον ίδιο φαύλο κύκλο».
Ευρωπαίος αξιωματούχος επισήμανε ότι ακόμη και η επιλογή «Δεν με ενδιαφέρει» της εφαρμογής είναι αναποτελεσματική, καθώς ο χρήστης εξακολουθεί να λαμβάνει περιεχόμενο του ίδιου τύπου.
Σύμφωνα με τις εκτιμήσεις του, «μόλις το 0,2% των χρηστών του TikTok χρησιμοποιεί πράγματι αυτή τη δυνατότητα», με αποτέλεσμα να αποτελεί «ανεπαρκή λύση».
Τα σημερινά προκαταρκτικά συμπεράσματα καταδεικνύουν επίσης ότι το TikTok δεν έχει υιοθετήσει «αναλογικά, εύλογα και αποτελεσματικά μέτρα περιορισμού για την αντιμετώπιση αυτών των κινδύνων».
Σε ανακοίνωσή της, η Ευρωπαϊκή Επιτροπή επανέλαβε τη συγκεκριμένη διαπίστωση: «Παρότι το TikTok έχει ήδη θέσει σε εφαρμογή ορισμένα μέτρα για τον περιορισμό του κινδύνου που συνδέεται με το φαινόμενο του “λαγουμιού”, η Επιτροπή διαπίστωσε σε προκαταρκτικό επίπεδο ότι τα μέτρα αυτά δεν είναι αποτελεσματικά», καθώς «δεν περιορίζουν επαρκώς τη συχνότητα με την οποία προτείνεται παρόμοιο περιεχόμενο, συμπεριλαμβανομένου υλικού που σχετίζεται με προβλήματα ψυχικής υγείας και την εικόνα του σώματος».
Όσον αφορά τα μέτρα που πρέπει να ληφθούν, αξιωματούχος της ΕΕ σημείωσε ότι «οι πλατφόρμες —το TikTok, για να αναφέρουμε ένα παράδειγμα, χωρίς να είναι η μοναδική— βασίζουν τα συστήματα συστάσεών τους στις έμμεσες αλληλεπιδράσεις των χρηστών». Πρόκειται, δηλαδή, για τον τρόπο με τον οποίο ο αλγόριθμος της πλατφόρμας παρατηρεί και καταγράφει τη συμπεριφορά των χρηστών, προκειμένου να κατανοήσει τις προτιμήσεις και τα ενδιαφέροντά τους.
«Στόχος μας είναι το TikTok να απομακρυνθεί από αυτή την προσέγγιση και, αντίθετα, να επικεντρωθεί στις ρητές προτιμήσεις που εκφράζουν οι ίδιοι οι χρήστες», ανέφερε.
Πέρα από αυτό το μέτρο, ζητείται επίσης η βελτίωση της λειτουργίας «Δεν με ενδιαφέρει»: όταν «ένας χρήστης δηλώνει ότι δεν ενδιαφέρεται για κάποιο περιεχόμενο, η επιλογή του πρέπει να γίνεται ουσιαστικά σεβαστή και να μην παρακάμπτεται έπειτα από σύντομο χρονικό διάστημα», δήλωσε, διευκρινίζοντας ότι «αυτού του είδους είναι οι διορθωτικές παρεμβάσεις που περιλαμβάνονται στα προκαταρκτικά συμπεράσματά μας».
Σε αυτό το στάδιο, επομένως, η Επιτροπή θεωρεί ότι το TikTok θα πρέπει να τροποποιήσει τη δομή της ροής περιεχομένου «Για εσάς» και, πέρα από τη συνεκτίμηση των ρητών προτιμήσεων των χρηστών, να «απενεργοποιήσει τον χρόνο παρακολούθησης ως δείκτη για τις συστάσεις περιεχομένου, να βελτιώσει την προσβασιμότητα και τη χρηστικότητα των εργαλείων ελέγχου που διαθέτει στους χρήστες και να υποβάλλει τακτικά τον αλγόριθμό του σε δοκιμές».
Ευρωπαίος αξιωματούχος υπογράμμισε ότι το περιεχόμενο αυτής της προκαταρκτικής αξιολόγησης συνάδει με το άρθρο 10 της πρότασης για την Ευρωπαϊκή Πράξη για τα Παιδιά (European Children’s Act).
«Θέλουμε τα μέτρα αυτά να υιοθετηθούν στο μέλλον από όλες τις πλατφόρμες. Υπό αυτή την έννοια, λοιπόν, το έργο αυτό λειτουργεί ως θεμέλιο για όσα θα ακολουθήσουν», τόνισε.
Το TikTok έχει πλέον τη δυνατότητα να ασκήσει το δικαίωμα υπεράσπισής του. Θα μπορεί να εξετάσει τα έγγραφα που περιλαμβάνονται στον φάκελο της έρευνας της Επιτροπής και να απαντήσει γραπτώς στα προκαταρκτικά συμπεράσματά της.
Παράλληλα, θα ζητηθεί η γνώμη του Ευρωπαϊκού Συμβουλίου Ψηφιακών Υπηρεσιών.
Εφόσον επιβεβαιωθούν τα συμπεράσματα της Επιτροπής, η τελευταία μπορεί να εκδώσει απόφαση με την οποία θα διαπιστώνεται η μη συμμόρφωση του TikTok με την Πράξη για τις Ψηφιακές Υπηρεσίες (DSA). Η απόφαση αυτή ενδέχεται να οδηγήσει στην επιβολή προστίμου, το ύψος του οποίου θα είναι ανάλογο με «τη φύση, τη σοβαρότητα, την επαναληπτικότητα και τη διάρκεια της παράβασης».
