Οι μισές αλήθειες του Social Dilemma

Γιώργος Τζήκας Από Γιώργος Τζήκας 13 Λεπτά Ανάγνωσης

Γράφουν οι Τίνα Δάδε και Γιώργος Τζήκας

Για όσες/ους δεν το ξέρουν, το “Social Dilemma” είναι ένα ντοκιμαντέρ που κυκλοφόρησε στο Netflix τον Σεπτέμβρη. Ένα ντοκυμαντέρ που προσπαθεί να ανοίξει την κουβέντα – καλοπροαίρετα φαινομενικά – για τη γιγάντωση, την επικινδυνότητα και το ρόλο των μέσων κοινωνικής δικτύωσης σήμερα. Παρόλο που όντως ανοίγει, λοιπόν, ένα σωρό ενδιαφέροντα ζητήματα, θεωρούμε ότι το κάνει με έναν αρκετά προβληματικό τρόπο, με τον οποίο τελικά καταλήγει να συσκοτίζει και όχι να διαφωτίζει την κατάσταση.

Ο μπαμπούλας της τεχνητής “νοημοσύνης”

Τρεις κακόβουλοι άνθρωποι που συζητούν, προβληματίζονται και διαφωνούν για το τι θα προτείνουν και πώς θα χειραγωγήσουν τον χρήστη και στο τέλος διαμορφώνουν ένα ολόκληρο προφίλ με τις επιθυμίες και τα ενδιαφέροντά του. Οι συντελεστές του ντοκιμαντέρ προσπαθούν να προσδώσουν στους αλγορίθμους μηχανικής μάθησης και τεχνητής νοημοσύνης αναβαθμισμένα συνειδησιακά ανθρώπινα χαρακτηριστικά. Είναι αυτή η εικόνα δυστυχώς που συμπυκνώνει και τον τρόπο με τον οποίο παρουσιάζουν αυτές τις τεχνολογίες όλοι οι “κομπιουτεράκηδες” του ντοκιμαντέρ.

Υπάρχει κάτι που πρέπει να γίνει σαφές. Η “τεχνητή νοημοσύνη” είναι μία σύμβαση. Μία φράση που επιλέξαμε να χρησιμοποιούμε και που μάλλον δεν ανταποκρίνεται και τόσο στην πραγματική διάσταση των πραγμάτων. Ο υπολογιστής δεν σκέφτεται! (Και ούτε πρόκειται προφανώς να εξεγερθεί και να μας κατακτήσει.)

Οι αλγόριθμοι αυτοί δεν πράττουν κατά βούληση, ούτε κάνουν κάποια “μαγικά”. Οι άνθρωποι που τους σχεδιάζουν ξέρουν ποιοτικά τι αποτελέσματα αναμένουν από αυτούς. Τα μοντέλα μηχανικής μάθησης, όντως βελτιώνονται. Ή για να το θέσουμε πιο συγκεκριμένα, η αποτελεσματικότητά τους βελτιώνεται – και με την αξιοποίηση όλο και μεγαλύτερου όγκου δεδομένων. Αλλά η αποτελεσματικότητα αυτή βελτιώνεται στο να πετυχαίνει το αναμενόμενο αποτέλεσμα. Το αποτέλεσμα που αναμένει ο σχεδιαστής τους. Οι αλγόριθμοι λοιπόν αυτοί δεν “έχουν ξεφύγει από τον έλεγχό μας”.

Τι ρόλο παίζει η κοινότητα σε όλα αυτά;

Επομένως, ένα σημείο στο οποίο θέλουμε να μείνουμε, είναι η στάση των ανθρώπων της κοινότητας. Είναι θλιβερό άνθρωποι που διαθέτουν αντίληψη των τεχνολογιών αυτών να τις παρουσιάζουν με αυτό τον τρόπο, καταλήγοντας να τρομοκρατούν τον κόσμο. Σε αυτό σίγουρα δεν έχει βοηθήσει και το hype που δημιουργείται γύρω από τις τεχνολογίες αυτές και το “κυνήγι της καινοτομίας” από τη βιομηχανία. Συνιστούμε ψυχραιμία λοιπόν! Καλό είναι να αποφεύγεται ο εύκολος εντυπωσιασμός που οδηγεί ακόμη και στην τρομοκρατία (- έχει βάλει βέβαια και το Χόλιγουντ το χεράκι του σ’αυτό).

Μία άλλη συζήτηση που οφείλει επιτέλους να ανοίξει είναι αυτή γύρω από την ανοιχτότητα του κώδικα. Θα είχε πραγματικά νόημα να υπάρχει ελεύθερη πρόσβαση από τον καθένα στους αλγορίθμους και στα μοντέλα νευρωνικών δικτύων που αξιοποιούνται. Να μπορούσαμε για παράδειγμα να έχουμε εικόνα του πώς καθορίζεται το τι βλέπουμε στην αρχική μας στο facebook. Ίσως έτσι να μπορέσουμε να συζητήσουμε ευκολότερα και με πιο τεχνικούς όρους, λόγου χάρη για το πώς τα μέσα κοινωνικής δικτύωσης καταλήγουν να τροφοδοτούν το φαινόμενο του echo chamber, του πώς φτάνουμε να εγκλωβιζόμαστε πολλές φορές σε μια φούσκα στα μέσα κοινωνικής δικτύωσης που ακούμε μόνο απόψεις που θέλουμε να ακούσουμε.

Και με τα δεδομένα τι συμβαίνει;

Μπορεί να απέχουμε απ’ το να δούμε όλο τον κώδικα του facebook δημοσιευμένο, αλλά πιστεύουμε πως το να απαιτήσουμε να γνωρίζουμε ότι έχει να κάνει με την εξόρυξη και την χρήση των δεδομένων μας δεν είναι ουτοπικό, αλλά απόλυτα αναγκαίο. Πολλοί παρουσιάζουν την προσωποποίηση που φέρνουν οι αλγόριθμοι χρησιμοποιώντας τα δεδομένα μας ως κάτι θετικό. Δεν έχουμε λόγο να αμφισβητήσουμε ότι σε κάποιες περιπτώσεις μπορεί και να είναι. Παρ’ όλ΄ αυτά εγείρεται σοβαρό ζήτημα συγκατάθεσής μας. Πότε παίρνεται και με τι τρόπο; Επίσης από πού αντλούνται τα δεδομένα αυτά; Από τις συζητήσεις μας στο messenger; Από την περιήγησή μας στο διαδίκτυο; Από πού αλλού και με τι τρόπο;

Δεν νοείται να μην υπάρχει κατάλληλο ρυθμιστικό πλαίσιο που να προστατεύει τον χρήστη και μάλιστα να παρουσιάζεται το γεγονός αυτό ως κάτι λογικό με αφορμή την πολυπλοκότητα/συνθετότητα των αλγορίθμων.

Επίσης θεωρούμε αναγκαίο να ανοίξει μία συζήτηση για την πρόσβαση και τους όρους διαχείρισης των δεδομένων μας και από την σκοπιά του αν αυτή καταλήγει – φυσικά και εν ελλείψει του απαραίτητου ρυθμιστικού πλαισίου – να οδηγεί στην περιστολή των ελευθεριών μας, την καταπάτηση των προσωπικών δεδομένων μας και σε γενικότερη επιτήρηση των ζωών μας.

Σε τι κόσμο θα φέρουμε τα παιδιά μας, Νίκο Τσιαμτσίκα;

Σημαντικό μέρος του ντοκιμαντέρ καταλαμβάνει η καθημερινότητα μιας «τυπικής» αμερικανικής οικογένειας η οποία βιώνει τις αρνητικές συνέπειες της ανεξέλεγκτης χρήσης των μέσων δικτύωσης. Ένας πατέρας μάλλον αμέτοχος και light, μία μητέρα ανήσυχη που προσπαθεί να θέσει όρια, δύο μικρότερα παιδιά «εθισμένα» στα μέσα και μία μεγαλύτερη κόρη μπορούμε να πούμε εμμονικά αντίθετη στη χρήση τους. Η ιστορία τους χρησιμοποιείται για να στηρίξει σκηνοθετικά το επιθυμητό μήνυμα του ντοκιμαντέρ.

Σίγουρα, δε μπορούμε να αρνηθούμε το γεγονός ότι στην ιστορία που εκτυλίσσεται θίγονται και ορισμένες υπαρκτές προβληματικές καταστάσεις. Στο μικρότερο κορίτσι, η οποία δείχνει να παρουσιάζει και την πιο έντονη εξάρτηση από τα μέσα κοινωνικής δικτύωσης, φαίνεται όντως να της ασκείται ιδιαίτερη επιρροή από αυτά, καθώς ανησυχεί για τη γνώμη των «followers» της και επιζητά την επιβεβαίωση. Πρόκειται για μία κατάσταση που αν μη τι άλλο υπάρχει. Το ντοκυμαντέρ στέκεται σε αυτό. Αλλά επιφανειακά. Δημιουργεί την εντύπωση ότι το πρόβλημα προέκυψε ξαφνικά. Για το ντοκιμαντέρ, τα μέσα κοινωνικής δικτύωσης είναι το πρόβλημα, και όχι το νέο πεδίο ενός υπαρκτού προβλήματος. Το πρόβλημα των «στρεβλών» προτύπων και της επιβεβαίωσης μέσω της ικανοποίησης τους δεν αποτελεί κάτι νέο. Χθες ήταν το περιοδικό και η τηλεόραση ή ακόμη και το ίντερνετ πριν τα μέσα κοινωνικής δικτύωσης.

Να το κλείσω το ρημάδι να ησυχάσω;

Ενδεχομένως τα τελευταία είναι ένα πρόσφορο έδαφος για τέτοιες συμπεριφορές, αλλά είναι ρεαλιστικό σήμερα να προβάλλεται ως λύση η αποχή από αυτά; Φυσικά και μια τέτοια αξίωση βρίσκεται εκτός τόπου και χρόνου και παραβλέπει (εσκεμμένα ή αφελώς;) πως ήδη υπάρχει μια βάση που ορίζει την κατεύθυνση των κοινωνικών προτύπων. Τα μέσα κοινωνικής δικτύωσης μάλλον δεν πρωτοτυπούν αλλά εντείνουν την ευκολία στην επιρροή και την πρόσβαση.

Και τα παιδιά που αποβλακώνονται;

Ας μη φτάσουμε να μιλάμε για τα ιδεολογήματα και τα κυρίαρχα πρότυπα εντός των καπιταλιστικών κοινωνιών. Μπορούμε όμως σίγουρα να μιλήσουμε για μια πιο ασφαλή ή περιορισμένη χρήση κυρίως για ηλικίες που χαρακτηρίζονται από μια έντονη ευαισθησία απέναντι στα όποια ερεθίσματα. Φυσικά ας μην παραβλέψουμε το γεγονός ότι τα μέσα μάλλον “εξυπηρετήσανε” τους κατάκοπους εργαζόμενους – και πολλές φορές υπερπροστατευτικούς – γονείς των “επικίνδυνων” μητροπόλεων όταν πήρανε από τα χέρια των παιδιών τους το τηλεκοντρόλ και τους δώσανε το τάμπλετ.

Για να μην παρεξηγηθούμε, θέλουμε να πούμε τελικά το εξής. Αν δεν έχεις διάθεση να ασχοληθείς με το ίδιο σου το παιδί, δεν υπάρχει κανένα νόημα να κράζεις οποιαδήποτε πλατφόρμα ή να του απαγορεύεις την πρόσβαση σε αυτή κατόπιν εορτής. Πρώτα λοιπόν να βρούμε τον χρόνο και τη διάθεση να δώσουμε στα παιδιά την απαραίτητη προσοχή και αγάπη που χρειάζονται και σε επόμενο βήμα να ορίσουμε μαζί τους το πλαίσιο χρήσης (ή μη χρήσης) οποιασδήποτε γωνιάς του Διαδικτύου. Και πέρα από την ευθύνη των γονέων φυσικά, έρχεται και η ευθύνη μιας ολόκληρης κοινωνίας που δυσλειτουργεί εις βάρους του ελεύθερου χρόνου μας και της όποιας ανεμελιάς, που κατάντησε να είναι πολυτέλεια.

Είχες και στο χωριό σου fake news;

Μένοντας στην οικογένεια, αλλά πιάνοντας ένα λίγο πιο σκοτεινό κομμάτι, θα συνεχίσουμε με το έφηβο αγόρι, το οποίο έχει περιέλθει και σε μια πιο σύνθετα προβληματική κατάσταση. Φλερτάρει μέσω του κινητού με το crush του, παρότι βρίσκονται στον ίδιο χώρο (σε άλλο σημείο βρίσκεται παρέα με τον φίλο του αλλά και οι δύο είναι απορροφημένοι στις οθόνες τους), ενώ τον βλέπουμε αργότερα να περιφέρεται άσκοπα όσο δε μπορεί να έχει πρόσβαση στο σμαρτ-φόουν του. Υπονοείται (και όχι δύσκολα) ότι η ζωή του κυλά πλήρως συνδεδεμένη με αυτό.

Εντάξει, δεν είναι πως δεν συμβαίνει κι αυτό, σωστά; Κι ακριβώς εκεί είναι που το ντοκιμαντέρ γίνεται από γελοίο μέχρι επικίνδυνο. Γελοίο γιατί προβάλει τα πάντα μέσα από έναν μεγεθυντικό φακό και επικίνδυνο καθώς προσπαθεί να αναμετρηθεί με πραγματικά ερωτήματα της σύγχρονης εποχής δίνοντας (μάλλον όχι) απαντήσεις εκτός πραγματικού πλαισίου. Το ντοκιμαντέρ θέλει να μας μιλήσει για πολλά. Θέλει να στηλιτεύσει τον τρόπο με τον οποίο έχουν μπει στη ζωή μας τα μέσα και επιλέγει μια προσέγγιση που προσομοιάζει τον άνθρωπο με μαριονέτα.

Εδώ βέβαια βλέπουμε ίσως και μία από τις πολλές αντιφάσεις του. Ενώ καθ΄ όλη τη διάρκειά του καλλιεργεί την αίσθηση της απόλυτης κατασκόπευσης της ζωής μας σε ένα πλήρως τεχνοφοβικό πλαίσιο ξαφνικά ο «κακόβουλος» αλγόριθμος που όλα τα ξέρει, αναγκάζεται να κάνει «πειράματα» και «αλχημείες» για να τραβήξει εκ νέου την προσοχή του και μάλιστα πλασάροντας fake news. Κάμερα σε μένα!

Ναι, και όμως, τα fake news προϋπήρχαν και αν μιλήσουμε και πιο συγκεκριμένα για τον ελλαδικό χώρο είχαν καθημερινή θέση στις τηλεοπτικές οθόνες μας σε ένα μέσο που μετράει χρόνια ύπαρξης, είναι σαφώς πιο ελεγχόμενο και έχει και το αντίστοιχο ρυθμιστικό πλαίσιο (βλέπε ΕΣΡ).

Θέλουμε να πούμε πως, όπως και για την περίπτωση των κοινωνικών προτύπων, τα fake news πρώτα απ΄όλα υπάρχουν “εκεί έξω” και διάφοροι λόγοι (άλλοι προφανείς κι άλλοι λιγότερο προφανείς) οδηγούν μερίδα ανθρώπων να τα ενστερνιστούν. Εντάξει. Ο έφηβός μας με τα κατάλληλα ερεθίσματα ίσως και να μπορούσε ήδη να είναι σε θέση να τα απορρίψει, αλλά αν δεν είχε καλλιεργηθεί αυτό το κατάλληλο κριτήριο μάλλον τότε θα έπεφτε έτσι κ αλλιώς «θύμα» αυτής της απάτης. Όλοι μας εξάλλου γνωρίζουμε τον μεσήλικα κύριο που πιστεύει πως στο κέντρο της γης ζούνε τα νεφελίμ – και όχι δε μεγάλωσε με το facebook ως προέκταση του εαυτού του. Και μάλλον δεν είναι τόσο εύκολο να παρασυρθείς τελικά, αν δεν θέλεις να παρασυρθείς. Ναι Kyrie Irving, για σένα λέμε.

Τελικά γιατί όλος αυτός ο ντόρος;

Σε αυτό το σημείο, δεν μπορούμε να αποφύγουμε να αναφέρουμε πως από το δεύτερο μισό το ντοκιμαντέρ (όπου εξελίσσεται και η σχετική ιστορία του έφηβου ήρωα) και έπειτα, αφήνεται συνεχώς ένας υπαινιγμός για τη μερίδα του τραμπικού εκλογικού κοινού και της αμερικανικής (ας μας επιτραπεί) “ψεκασμένης” ακροδεξιάς. Κι κάπου εδώ αρχίζει και η δική μας θεωρία συνωμοσίας για τα κίνητρα του συγκεκριμένου ντοκιμαντέρ στη μεγάλη πλατφόρμα του Netflix, ένα μήνα πριν τις αμερικανικές εκλογές!

Προσωπική μας γνώμη (θα έχει γίνει ήδη σαφές) είναι πως το “Social Dilemma” αποτελεί ένα συσκοτιστικό προϊόν που εγκλωβίζει και τρομοκρατεί τον θεατή, ενθαρρύνοντας την τεχνοφοβία και απαντώντας σε υπαρκτά ερωτήματα και προβληματικές με τρομολαγνικό, αφοριστικό και αλματώδη ενδεχομένως τρόπο, καθώς παραβλέπει και την ουσία του προβλήματος. Μπορεί να έχουμε δρόμο μπροστά μας μέχρι να απαντήσουμε πειστικά όλα αυτά τα ερωτήματα, αλλά στη διαδρομή αυτή ο μίτος του ντοκιμαντέρ όχι απλά δεν βοηθάει, αλλά θα μας βγάλει σίγουρα σε αδιέξοδο.

Όσον αφορά, τέλος, το ίδιο το Netflix, ας βελτιώσει πρώτα τον αλγόριθμο των προτάσεων του και τα ξαναλέμε.

Μοιραστείτε το Άρθρο
Κομπιουτεράκιας από μικρός, προτιμούσε πάντα τα Digimon από τα Pokemon. Τη βρίσκει με post-apocalyptic και σκανδιναβικές μουντίλες. Ζει κάπου στο Twin Peaks και περιμένει ακόμα τη Laura.