.=
Έπεσα πρόσφατα σε ένα βίντεο όπου η Κάρεν Χάο, συγγραφέας του βιβλίου Η Αυτοκρατορία της Τεχνητής Νοημοσύνης και πολλών άρθρων και παρεμβάσεων για το θέμα, σχολιάζει αυτό που δεσπόζει τελευταία στις ειδήσεις: την τάση πολλών από τους επιφανείς της τεχνολογικής ολιγαρχίας να συμφωνούν με όσους-ες διαβλέπουν υπαρξιακή απειλή και κοινωνικούς κινδύνους στην ανταγωνιστική κούρσα για όλο και πιο εξελιγμένες εκδοχές agentic συστημάτων ‘βαθιάς μάθησης’.
Η Χάο παραδέχεται κάτι που το διαπιστώνουμε όσοι-ες έχουμε από καιρό μια κριτική στάση όχι μεμονωμένα για την ΤΝ όσο για το οικοσύστημα παραγωγής, τη διεύθυνση και τις ιδεολογικές πλάνες που πλαισιώνουν το νέο τεχνολογικό και επιχειρηματικό πλέγμα. Είναι εμφανής μια αλλαγή ύφους και επικοινωνίας σε χώρους επιρροής των ίδιων των εταιρειών. Όλο και πιο πολλοί άνθρωποι από το πεδίο συμφωνούν στην κριτική, υιοθετώντας ένα μέρος ή αρκετά στοιχεία των ηθικών, πολιτικών και ανθρωπολογικών ακόμα αιτιάσεων. Ακόμα και οι καουμπόΐσες μελαγχολούν, που έλεγε ένας γνωστός τίτλος. Παραφράζοντας, μπορεί να δει κανείς ότι κάθε μέρα, στελέχη από τα ηγετικά κλιμάκια και το απαράτους των μηχανικών της Σίλικον Βάλει αποδελτιώνουν συμβάντα αντάξια του Black Mirror, του Terminator κλπ. Ενας από τους τελευταίους στο χορό των προειδοποιήσεων ο Μπιλάλ Τσουγκτάι της Google DeepMind. Οι φωνές όμως ακούγονται και στο ανώτερο ηγετικό επίπεδο (Αμοντέι, Αλτμαν, ακόμα κι από τον Μπιλ Γκέιτς)
Φυσικά, υπάρχει πάντα απτόητο ένα μεγάλο κομμάτι τεχνο-αισιόδοξης μελλοντολογίας με την απαρίθμηση διαφόρων θαυμάτων σύμφωνα με τα οποία άνθρωποι, μηχανές, τα υβρίδια και ένας νέος πολιτισμός που έρχεται θα συνθέσουν μια ασύλληπτη Αφθονία και Ευημερία. Κάμποσες σελίδες σε χρηματοδοτημένα ένθετα, άρθρα προώθησης ή συνεντεύξεις τραγουδούν το άσμα που παραπέμπει σε μια τεχνολογική-καπιταλιστική εκδοχή για την πλήρη ανάπτυξη των παραγωγικών δυνάμεων, σε μια παράδοξη μίξη φιλελεύθερης, ‘κομμουνιστικής’ και μετανθρωπιστικής φαντασίας όπου ο κομπογιαννιτισμός συνυπάρχει με μια ερμητική γλώσσα ικανή να εντυπωσιάζει το κοινό, ακριβώς επειδή είναι ακατάληπτη.
Αυτό που κερδίζει έδαφος πάντως όλους τους τελευταίους μήνες (και θα έπρεπε βέβαια να μας χαροποιεί όσους-ες ήμασταν εξαρχής σκεπτικιστές) είναι, πράγματι, ο θορυβημένος τόνος και ο συναγερμός για πιθανές ή εν τω γεννάσθαι καταστροφές. Τίτλοι του τύπου losing control? γίνονται μέρος της πιο συμβατικής ειδησεογραφίας. Και θα αναρωτηθεί κανείς: καλύτερα δεν είναι έστω αυτός ο ποπ καταστροφισμός από μια ανόητη αμεριμνησία; Ακόμα και αν προέρχεται από πρόσωπα και περιβάλλοντα που μπορείς να υποψιαστείς τα κίνητρά τους ή να θεωρήσεις πως παίζουν τα δικά τους παιχνίδια;
Η Χάο, κάποια στιγμή, γράφει: μα για σταθείτε παιδιά αυτά, κανονικά, τα λέμε εμείς. Όπως πάει το πράγμα, δεν αποκλείεται να ακούσουμε και κουβέντες για τεχνο-φασισμό από τον κ. Αμοντέι ή τον Σαμ Άλτμαν- πόσο μάλλον από τους εκατοντάδες αρθρογράφους που έως προσφάτως ήταν στη βασική γραμμή της αντιμετώπισης κάθε κριτικής και αντιρρητικής φωνής ως λουδιτισμού, τεχνοφοβίας ή εξυπηρέτησης «αλλότριων (κινεζικών, ρωσικών κλπ) συμφερόντων». Ακόμα και οι συνήθως αδιάβροχοι σε κάθε ιδέα τραγικού φιλελεύθεροι εκσυγχρονιστές του Κέντρου, πάνε να συμμεριστούν κάπως παραπάνω το κλίμα ανησυχίας και κινδύνου.
Κάπου εδώ πρέπει να αντιληφθούμε ένα μάλλον διεστραμμένο εφέ. Θα το ονομάσω ‘ζαλίζεις το κοινό με τεράστιες δόσεις μοιραίων γεγονότων και με αυτό τον τρόπο, εγκαθίστασαι, ως μοναδικός δυνατός κόσμος’. Ενώ προφανώς και η αισιόδοξη, μανατζήριαλ περιγραφή της κατάστασης πρέπει να πεταχτεί στον κάλαθο των αχρήστων της σκέψης μας, χρειάζεται προσοχή για την χρήση της τεχνολογικής δυστοπίας. Η υπερβολική έμφαση στην τεχνολογία ως κάποια μοίρα του Είναι από την οποία καμιά θέληση δεν μπορεί να παρεκλίνει, φτιάχνει επίσης μια κουλτούρα παραιτημένης συγκατάθεσης. Το κρυφό μήνυμα των CEOs που δεν αποκλείουν μεγάλα συμβάντα και καταστροφές, είναι ουσιαστικά πως οι πολίτες δεν έχουν καμιά άλλη διέξοδο από το να συνηθίσουν στην ιδέα ότι ‘αυτό όλο’ έχει ‘ήδη κλειδώσει’ και, επομένως, πρέπει να δείξουν εμπιστοσύνη στις ίδιες τις εταιρείες για καλύτερα πρωτόκολλα ασφαλείας. Να αναθέσουν την πορεία προς το μέλλον στα ίδια τα συστήματα από τα οποία αναμένονται και ‘συμβάντα’. Η αναφορά σε επεισόδια απώλειας ελέγχου, αυτονόμησης πρακτορικών συστημάτων κλπ. μπορεί έτσι να είναι το ακριβώς αντίθετο μιας κλήσης για αφύπνιση, για ενεργοποίηση, για συνειδητοποίηση και δράση. Να μεταβάλλεται τελικά σε απολαυστική περιγραφή ενός αναπότρεπτου και για τα ‘αφεντικά΄ σε σύσταση για συνέχιση του ίδιου πάνω-κάτω δρόμου. Σαν να μας λέει: αν θέλετε να αποφύγετε τα χειρότερα, εξακολουθήστε να συνδέεστε προνομιακά με τα προϊόντα και τις υπηρεσίες μας, να επιβεβαιώνετε πως δεν μπορεί να σταθεί πια η ζωή σας (και η όποια λειτουργικότητα των κοινωνιών μας) ‘δίχως εμάς’. Οι εταιρίες υποδεικνύουν έτσι τις πιθανότητες βίαιου θανάτου ή μεγάλων ατυχημάτων ανεβάζοντας, με αυτό τον τρόπο, την αξία τους ως υποκειμένων της Ιστορίας- και μάλιστα ως αναπόδραστων gatekeepers της μετάβασης σε μετα-ανθρώπινες συνθήκες, σε άλλους πολιτισμούς κλπ.
Αυτό βέβαια δεν σημαίνει ότι τα συμβάντα, οι προειδοποιήσεις, οι δυνατότητες πραγματικών καταστροφών είναι απλώς ‘παιχνίδια του Κεφαλαίου’ ή τεχνικές διαπραγμάτευσης με τις δυσκολίες ανταγωνισμού και τα επενδυτικά κενά από μέρους των ισχυρών της Σίλικον Βάλει. Ο οικονομισμός και μια αφελής, μαρξίζουσα υποτίμηση των τεχνολογικών και μηδενιστικών απειλών φτιάχνει επίσης έναν εφησυχασμό.
Ας παραδεχτούμε ότι υπάρχει μεγάλη αλήθεια στο γεγονός πως ένα μέρος των ‘αγγελμάτων καταστροφής’ συνδέεται με τις επιχειρηματικές τοποθετήσεις και την αγορά χρόνου των αμερικανικων, κυρίως, εταιρειών. Όμως είναι λάθος να επιμένει κανείς σε αυτή τη γραμμή, λέγοντας πως πρόκειται για ψεύτικους συναγερμούς ή αποπροσανατολισμό. Είναι, πιστεύω, δυνατό και καλύτερο να ασκήσουμε κριτική στον καταστροφισμό (doomerism) με διαφορετικό τρόπο και σε άλλη βάση: παίρνοντας συγχρόνως στα σοβαρά τις πολλαπλές απειλές της ξέφρενης κούρσας ΤΝ για τους φυσικούς πόρους, για τις γνωστικές ικανότητες, για τα δικαιώματα των πολιτών απέναντι σε νέες επιτηρητικές και κατασκοπευτικές δομές- και επίσης τις απειλές για τη ψυχική ζωή των υποκειμένων και την ίδια την οικονομία της επιθυμίας. Αυτά πιστεύω πως είναι θεμελιώδη ζητήματα μαζί με τα κατεξοχήν θέματα της εργασίας, των data centers, της διαφάνειας των αλγορίθμων. Για μένα επομένως το βασικό πρόβλημα με τον ποπ καταστροφισμό είναι ότι παράγει παραίτηση ή ενισχύει μια τάση συμβιβασμού με το απαράδεκτο στο όνομα κάποιου ‘σιδερένιου νόμου’. Καταλήγει στον πολιτικό μιθριδατισμό ή έστω σε έναν υποτονικό θεσμικό και δεοντολογικό μεταρρυθμισμό που αφήνει βασικά άθικτες τις εξουσίες των εταιρειών στη διεύθυνση, στον προγραμματισμό και στην υλοποίηση των τεχνολογικών μετασχηματισμών. Είναι ένα κλείσιμο του ματιού στην ιδέα ότι ζούμε ένα τόσο περίπλοκο χάος και το μόνο που μας μένει είναι είτε να γλεντήσουμε το χρόνο που υπολείπεται μέχρι το ‘μπαμ’ είτε να προσποιούμαστε πως δεν συμβαίνει και κάτι ιδιαίτερο. Ο καταστροφισμός λειτουργεί έτσι ως πραξιακός αντι-ανθρωπισμός, στρατηγική μετατροπής της Ιστορίας σε Μοίρα και της τεχνολογίας σε φετιχιστικό αντικείμενο και παγερή υπερβατικότητα.
Χρειαζόμαστε όμως κάτι άλλο. Να αφουγκραζόμαστε το επείγον της κατάστασης δίχως να παραλύουμε από τις αναγγελίες του ‘θανάτου μας’.
Νικόλας Σεβαστάκης 