Nathan E. Sanders & Bruce Schneier
Λίγες εβδομάδες μετά την κυκλοφορία της, η εφαρμογή Chat GPT απειλεί ήδη να ανατρέψει πολλές μορφές της καθημερινής επικοινωνίας μας, όπως το πώς γράφουμε mail, πανεπιστημιακές εργασίες και αναρίθμητες άλλες μορφές γραφής.
Αλλά, πέρα από την κατάπληξη σχετικά με τη δυνατότητα αντικατάστασης του ανθρώπου από μηχανήματα σε μορφές λόγου όπως η ποίηση και το σενάριο, είναι ορατή μια πολύ μεγαλύτερη απειλή: η υποκατάσταση των ανθρώπων από την τεχνητή νοημοσύνη στις δημοκρατικές διαδικασίες -όχι μέσω της ψήφου, αλλά μέσω της άσκησης πίεσης.
Το Chat GPT μπορεί να συντάξει αυτόματα σχόλια που υποβάλλονται κατά τη νομοθετική διαδικασία. Μπορεί να γράψει επιστολές προς δημοσίευση προς αρχισυντάκτες σε τοπικές εφημερίδες. Μπορεί να σχολιάσει άρθρα ειδήσεων, αναρτήσεις σε μπλογκ και μέσα κοινωνικής δικτύωσης εκατομμύρια φορές μέσα σε μια μέρα. Μπορεί να μιμηθεί το έργο της Ρωσικής Υπηρεσίας Πληροφοριών για το Διαδίκτυο κατά την απόπειρά του να επηρεάσει τις αμερικανικές εκλογές του 2016, αλλά χωρίς να απαιτεί τον καταγεγραμμένο προϋπολογισμό πολλών εκατομμυρίων και τους εκατοντάδες εργαζομένους που επιστρατεύτηκαν γι’ αυτόν τον σκοπό.
Τα σχόλια που παράγονται αυτόματα δεν αποτελούν καινούργιο πρόβλημα. Για αρκετό διάστημα αντιμετωπίσαμε τις απειλές των μποτ, δηλαδή των μηχανημάτων που αναρτούν αυτόματα περιεχόμενο. Θεωρείται πως πριν από μία πενταετία, τουλάχιστον ένα εκατομμύριο σχόλια που είχαν παραχθεί αυτόματα υποβλήθηκαν στην Ομοσπονδιακή Επιτροπή Επικοινωνιών όσον αφορά προταθείσες νομοθετικές ρυθμίσεις για την ουδετερότητα του Διαδικτύου. Το 2019, ένας προπτυχιακός φοιτητής του Χάρβαρντ χρησιμοποίησε δοκιμαστικά ένα πρόγραμμα αυτόματης παραγωγής κειμένου προκειμένου να υποβάλει 1.001 σχόλια σε δημόσια διαβούλευση για ένα θέμα που αφορούσε το σύστημα Υγείας. Εκείνη την εποχή το να υποβάλει κανείς σχόλια ήταν απλώς ένα παιχνίδι αριθμητικής υπεροχής.
Ο κίνδυνος για τα μέλη του Κογκρέσου
Εκτοτε οι πλατφόρμες έχουν βελτιωθεί στο να αφαιρούν «τεχνητές, μη αυθεντικές συμπεριφορές». Το Facebook, για παράδειγμα, αφαιρεί πάνω από ένα δισεκατομμύριο ψεύτικους λογαριασμούς ετησίως. Αλλά τέτοιου είδους μηνύματα είναι μόνο η αρχή. Αντί να κατακλύζουν τα εισερχόμενα των μελών του νομοθετικού σώματος με μηνύματα υποστήριξης, ή να ελέγχουν το τηλεφωνικό κέντρο του Καπιτωλίου με κλήσεις από ρομπότ, ένα σύστημα τεχνητής νοημοσύνης προηγμένο όσο και η εφαρμογή Chat GPT και εκπαιδευμένο σε δεδομένα που σχετίζονται με αυτές τις διαδικασίες θα μπορούσε να βάλει στο στόχαστρο μέλη του νομοθετικού σώματος και πρόσωπα με επιρροή σε κρίσιμες θέσεις προκειμένου να εντοπίσει τα πιο αδύναμα κομμάτια της νομοθετικής διαδικασίας και να τα χειραγωγήσει ανελέητα με τη χρήση άμεσης επικοινωνίας, εκστρατειών δημοσίων σχέσεων, παζαριών ή άλλων τρόπων μόχλευσης.
Οταν εμείς οι άνθρωποι προβαίνουμε σε τέτοιες πράξεις, ονομάζεται άσκηση πίεσης. Οι επιτυχημένοι του είδους, δηλαδή οι κορυφαίοι λομπίστες, συνδυάζουν την ακρίβεια κατά τη σύνταξη μηνυμάτων και τις τακτικές έξυπνης στόχευσης. Αυτή τη στιγμή, το μόνο που εμποδίζει έναν εξοπλισμένο με το Chat GPT λομπίστα από το να διαπράξει κάτι που θα μπορούσε να συγκριθεί σε επίπεδο λόγου με την πολεμική επίθεση με drones είναι η έλλειψη ακριβούς στόχευσης. Η τεχνητή νοημοσύνη, όμως, θα μπορούσε δυνητικά να παράσχει τεχνικές και γι’ αυτόν τον σκοπό.
Ενα σύστημα που μπορεί να ερμηνεύσει τα πολιτικά δίκτυα, σε συνδυασμό με τις δυνατότητες παραγωγής κειμένου της εφαρμογής, θα μπορούσε να εντοπίσει το μέλος του Κογκρέσου με τη μεγαλύτερη βαρύτητα σε μια συγκεκριμένη πολιτική -λ.χ. την εταιρική φορολόγηση ή τις στρατιωτικές δαπάνες. Λειτουργώντας όπως οι λομπίστες, ένα τέτοιο σύστημα θα μπορούσε να στοχεύσει στους αναποφάσιστους αντιπροσώπους του έθνους που είναι μέλη επιτροπών οι οποίες αποφασίζουν για την πολιτική που συμφέρει κάποιον, και κατόπιν να εστιάσουν τις δυνατότητές τους σε μέλη του κυβερνώντος κόμματος όταν ένα νομοσχέδιο τίθεται σε ψηφοφορία.
Από τη στιγμή που πρόσωπα και στρατηγικές θα εντοπιστούν, ένα ρομπότ συζήτησης όπως το Chat GPT θα μπορούσε να δημιουργήσει γραπτά μηνύματα προκειμένου να χρησιμοποιηθούν σε επιστολές, σε σχόλια, και οπουδήποτε είναι χρήσιμο το κείμενο. Οι λομπίστες θα μπορούσαν επίσης να στοχεύσουν αυτά τα πρόσωπα ευθέως, και εκείνο που έχει σημασία είναι ο συνδυασμός: τα σχόλια σε άρθρα και στα μέσα κοινωνικής δικτύωσης έχουν πεπερασμένες δυνατότητες, και το να ξέρει κανείς ποια μέλη του νομοθετικού σώματος να στοχεύσει δεν είναι από μόνο του ικανή συνθήκη χειραγώγησης.
Αυτή η δυνατότητα κατανόησης και στόχευσης προσώπων που δρουν μέσα σε ένα δίκτυο θα δημιουργούσε ένα εργαλείο τεχνητής νοημοσύνης για χακάρισμα, το οποίο θα χρησιμοποιούσε τα τρωτά σημεία κοινωνικών, οικονομικών και πολιτικών συστημάτων με απίστευτη ταχύτητα και εμβέλεια. Τα νομοθετικά συστήματα θα αποτελούσαν έναν ιδιαίτερο στόχο καθώς το κίνητρο για επιθέσεις σε συστήματα παραγωγής πολιτικών αποφάσεων είναι τόσο ισχυρό επειδή τα δεδομένα για την εκπαίδευση τέτοιων συστημάτων είναι τόσο ευρέως διαθέσιμα και επειδή η χρήση τεχνητής νοημοσύνης μπορεί να εντοπιστεί τόσο δύσκολα -ιδιαίτερα όταν χρησιμοποιείται στρατηγικά προκειμένου να χειραγωγήσει τις πράξεις ανθρώπων.
Τα δεδομένα που είναι απαραίτητα για να διαμορφωθούν τέτοια συστήματα στρατηγικής στόχευσης είναι απλώς θέμα χρόνου να αποκτηθούν. Οι ανοιχτές κοινωνίες εν γένει στηρίζονται στη διαφάνεια, και οι περισσότεροι νομοθέτες είναι διατεθειμένοι -τουλάχιστον τυπικά- να λαμβάνουν και να απαντούν σε μηνύματα που φαίνεται να έχουν ως αποστολείς τους τον λαό τους.
Ενδεχομένως ένα σύστημα τεχνητής νοημοσύνης θα μπορούσε να αποκαλύψει ποια μέλη του Κογκρέσου διαθέτουν αποφασιστική επιρροή στην ηγεσία αλλά το δημόσιο προφίλ τους είναι αρκετά χαμηλών τόνων ώστε να μη ζητείται συχνά η προσοχή τους. Στη συνέχεια θα μπορούσε να εντοπίσει την ομάδα του κοινού ενδιαφέροντος με τον μεγαλύτερο αντίκτυπο στις δημόσιες θέσεις αυτού του μέλους του νομοθετικού σώματος. Ισως θα μπορούσε ακόμη και να υπολογίσει το μέγεθος της δωρεάς που απαιτείται για να επηρεάσει έναν οργανισμό ή να απευθύνει στοχευμένα διαφημιστικά που εμπεριέχουν ένα στρατηγικό μήνυμα στα μέλη του. Για κάθε σκοπό για τον οποίο είναι να ληφθεί μια πολιτική απόφαση, το κατάλληλο κοινό, το κατάλληλο μήνυμα στη σωστή στιγμή.
Εκείνο που καθιστά την απειλή που συνιστούν οι λομπίστες με τα όπλα της τεχνητής νοημοσύνης μεγαλύτερη από εκείνη την οποία αποτελούν οι ακριβές εταιρείες άσκησης πίεσης με έδρα την οδό Κ της Ουάσιγκτον είναι η δυνατότητα επιτάχυνσής τους. Οι λομπίστες βασίζονται σε δεκαετίες εμπειρίας προκειμένου να βρουν στρατηγικές λύσεις προκειμένου να διαμορφώσουν επιτυχώς το αποτέλεσμα μιας πολιτικής απόφασης. Αυτή η εμπειρία είναι περιορισμένη, και γι’ αυτόν τον λόγο ακριβή.
Πιο γρήγορα και πιο φθηνά
Θεωρητικά, όμως, η τεχνητή νοημοσύνη θα μπορούσε να επιτύχει το ίδιο αποτέλεσμα πολύ πιο γρήγορα και πιο φθηνά. Το πλεονέκτημα της ταχύτητας κατά την αφετηρία είναι τεράστιο σε ένα οικοσύστημα όπου η κοινή γνώμη και τα αφηγήματα των μέσων ενημέρωσης μπορούν να παγιωθούν γρήγορα, όσο είναι και ευεπίφορα στο να μεταβάλλονται γρήγορα ανάλογα με τα χαοτικά γεγονότα που συμβαίνουν παγκοσμίως.
Επιπροσθέτως, η ευελιξία της τεχνητής νοημοσύνης θα μπορούσε να βοηθήσει ώστε να επιτευχθεί επιρροή σε πολλές διαδικασίες διαμόρφωσης πολιτικής και διαφορετικές δικαιοδοσίες ταυτόχρονα. Φανταστείτε μια εταιρεία άσκησης πίεσης εξοπλισμένη με τεχνητή νοημοσύνη η οποία μπορεί να επιχειρήσει να εισαγάγει τροπολογίες σε κάθε νομοσχέδιο που τίθεται στο αμερικανικό Κογκρέσο, ή ακόμη και σε όλα τις πολιτειακά νομοθετικά σώματα. Οι εταιρείες άσκησης επιρροής συνήθως δραστηριοποιούνται μόνο σε μία πολιτεία, καθώς υπάρχουν τόσο περίπλοκες διαφοροποιήσεις στους νόμους, στις διαδικασίες και στην πολιτική δομή. Με τη βοήθεια της τεχνητής νοημοσύνης μπορεί να καταστεί ευκολότερο το να ασκηθεί επιρροή πέρα από τα συνήθη πολιτικά όρια.
Οπως οι καθηγητές θα πρέπει να αλλάξουν τον τρόπο με τον οποίο διεξάγουν τις εξετάσεις των φοιτητών και τις εργασίες τους υπό το φως των αλλαγών που επιφέρει το Chat GPT, έτσι και οι κυβερνήσεις θα πρέπει να αλλάξουν τον τρόπο με τον οποίο σχετίζονται με τους λομπίστες.
Αναμφίβολα μπορεί να υπάρξουν και οφέλη αυτής της τεχνολογίας για το περιβάλλον της δημοκρατίας, με μεγαλύτερο την προσβασιμότητα. Ενας έμπειρος λομπίστας δεν μπορεί να πληρωθεί από τον καθένα, αλλά ένα λογισμικό πρόσβασης σε ένα σύστημα τεχνητής νοημοσύνης θα μπορούσε να είναι διαθέσιμο σε όλους. Αν είμαστε τυχεροί, ίσως αυτού του είδους η τεχνητή νοημοσύνη για παραγωγή στρατηγικής θα μπορούσε να αναζωογονήσει τον εκδημοκρατισμό της ίδιας της δημοκρατίας, παρέχοντας αυτού του είδους τη δυνατότητα επιρροής στους πιο αδύναμους πολίτες.
Ωστόσο, οι μεγαλύτεροι και ισχυρότεροι θεσμοί πιθανόν να χρησιμοποιήσουν οποιεσδήποτε τεχνικές τεχνητής νοημοσύνης προκειμένου να ασκήσουν επιρροή με τον πιο επιτυχημένο τρόπο. Στο κάτω – κάτω το να αποκτήσει κανείς την καλύτερη στρατηγική άσκησης επιρροής απαιτεί ακόμα πρόσωπα εντός του συστήματος, ανθρώπους που να μπορούν να διαβούν τους διαδρόμους της νομοθετικής εξουσίας, και χρήμα. Η άσκηση επιρροής δεν αφορά απλώς το να δοθεί το σωστό μήνυμα στο σωστό πρόσωπο τη σωστή χρονική στιγμή. Και ενώ ένα ρομπότ με τη δυνατότητα να παράγει λόγο μπορεί να εντοπίσει ποιος πρέπει να είναι ο παραλήπτης αυτών των εκστρατειών επιρροής, στο ορατό μέλλον εκείνοι που θα πρέπει να το πληρώνουν είναι άνθρωποι. Οπότε, ενώ είναι αδύνατον να προβλεφθεί πώς θα είναι ένα μέλλον γεμάτο λομπίστες με όπλα τεχνητής νοημοσύνης, πιθανότατα θα αυξήσει την επιρροή και την ισχύ όσων ήδη τις διαθέτουν ακόμη περισσότερο.
