Kathimerini.gr
«Εκφράζουμε τον προβληματισμό και την ανησυχία μας για την σχεδιαζόμενη εισαγωγή της τεχνητής νοημοσύνης στη Δικαιοσύνη».
Η Ενωση Δικαστών και Εισαγγελέων (ΕΝΔΕ) συμπεριέλαβε την παραπάνω φράση σε ψήφισμα που εξέδωσε την περασμένη εβδομάδα, εκφράζοντας την ανησυχία της.
Υπάρχει όντως κάποιος υπαρκτός κίνδυνος στον ορίζοντα;
Ο πρόεδρος της ΕΝΔΕ, Χριστόφορος Σεβαστίδης, μιλώντας στην «Κ», εξέφρασε τις έντονες επιφυλάξεις, υπογραμμίζοντας ότι «η τεχνολογία δεν μπορεί να υποκαταστήσει την ανθρώπινη κρίση».
Δήλωσε ότι «οι ανησυχίες μας βασίζονται σε τεκμηριωμένα στοιχεία από διεθνείς πρακτικές και όχι σε αυθαίρετες εκτιμήσεις», για να τονίσει πως «οι αλγόριθμοι ενσωματώνουν στερεότυπα και προκαταλήψεις, αναπαράγοντας τις αδικίες του παρελθόντος».
Αναφερόμενος σε παραδείγματα από τις ΗΠΑ, όπου εταιρείες όπως η COMPAS, που αναπτύσσουν αλγόριθμους για την απονομή δικαιοσύνης, έχουν προκαλέσει σοβαρά προβλήματα διαφάνειας, επισήμανε: «Στην περίπτωση της COMPAS, οι αλγόριθμοι έδειξαν διπλάσιες πιθανότητες υποτροπής για έγχρωμους και μετανάστες, χωρίς να γνωρίζουν οι δικαστές πώς προκύπτουν αυτά τα ποσοστά».
Παράλληλα, δήλωσε ότι «η αδυναμία πρόσβασης στη μεθοδολογία που χρησιμοποιούν τέτοια συστήματα δημιουργεί σοβαρά ζητήματα διαφάνειας και εμπιστοσύνης». Συμπλήρωσε δε ότι «η εταιρεία αρνήθηκε να αποκαλύψει τη μεθοδολογία της, επικαλούμενη το απόρρητο».
Στην Ελλάδα, αν και η χρήση τεχνητής νοημοσύνης στη δικαιοσύνη δεν έχει ακόμα εφαρμοστεί, ο κ. Σεβαστίδης έκρουσε τον κώδωνα του κινδύνου: «Διαφωνούμε πλήρως με την εισαγωγή της. Ομοιες επιφυλάξεις έχουν εκφραστεί από χώρες προηγμένες τεχνολογικά όπως η Ιαπωνία. Διαφορετικά, θα καταλήξουμε να επικυρώνουμε αποφάσεις που θα έχουν προδιαμορφωθεί μέσα από αδιαφανείς διαδικασίες».
Ο πρόεδρος της Ενωσης προειδοποίησε, επίσης, για τις συνέπειες της χρήσης αλγορίθμων σε βάθος χρόνου. «Το 2080 δεν θα είναι ίδιο με το 2020. Αν οι αλγόριθμοι παραμένουν εγκλωβισμένοι στα δεδομένα του παρελθόντος, πώς θα προσαρμόζονται στις κοινωνικές εξελίξεις;» διερωτήθηκε.
Και υπογράμμισε την αδυναμία της τεχνητής νοημοσύνης να προσαρμόζεται στις κοινωνικές αλλαγές: «Ο άνθρωπος εξελίσσεται, προσαρμόζεται στις νέες συνθήκες. Αντίθετα, ο αλγόριθμος αναπαράγει δεδομένα του παρελθόντος, παραμένοντας εγκλωβισμένος σε αυτά».
Οσον αφορά την ανεξαρτησία των δικαστών, τόνισε: «Οι αλγόριθμοι θα γίνουν εργαλείο πίεσης και οι δικαστές θα βρεθούν αντιμέτωποι με τη δυσκολία να αιτιολογούν κάθε απόκλιση από αυτά που προτείνουν οι πλατφόρμες».
«Αυτό που λέμε ότι η υπογραφή στο τέλος θα είναι του δικαστή δημιουργεί μια ψευδαίσθηση ενός δήθεν ανθρώπινου έργου. Στην πραγματικότητα, θα επικυρώνει ένα έτοιμο σχέδιο που θα έχει δημιουργηθεί από τον αλγόριθμο», πρόσθεσε.
Κλείνοντας, επισήμανε τη χρησιμότητα της τεχνολογίας σε συγκεκριμένα πεδία, όπως η οργάνωση των δικαστηρίων: «Η τεχνολογία είναι χρήσιμη όταν διευκολύνει τη λειτουργία και οργάνωση των δικαστηρίων, την αξιοποίηση της νομολογίας και της θεωρίας αλλά δεν πρέπει να υποκαθιστά την ανθρώπινη σκέψη».
«Δεν μιλάμε για απλές ανησυχίες. Είμαστε βέβαιοι για τα προβλήματα που θα προκύψουν, βασιζόμενοι σε όσα έχουμε δει να συμβαίνουν στο εξωτερικό και σε όσα αναφέρονται σε διεθνή κείμενα συμπερασμάτων όπως αυτό της Ευρωπαϊκής Επιτροπής για την αποτελεσματικότητα της Δικαιοσύνης που υιοθετήθηκε στο Στρασβούργο στις 3 Δεκεμβρίου 2018», κατέληξε.
«Η τεχνητή νοημοσύνη είναι εργαλείο, όχι δικαστής»
«Η εισαγωγή της τεχνητής νοημοσύνης στη Δικαιοσύνη ξεκίνησε από τις υποδομές. Χωρίς υποδομές δεδομένων, ανοιχτές βάσεις νομολογίας και νομοθεσίας, δεν μπορούμε να στήσουμε συστήματα τεχνητής νοημοσύνης», σημειώνει στην «Κ» η δικηγόρος Μαρία Ωραιοζήλη Κουτσουπιά, ειδική σε θέματα τεχνητής νοημοσύνης.
Τονίζει ότι ήδη «τα δικαστήρια χρησιμοποιούν αλγορίθμους για την ανωνυμοποίηση των αποφάσεων, επιταχύνοντας τη διαδικασία σε βαθμό που δεν ήταν εφικτός στο παρελθόν».
Τόνισε εμφατικά ότι η τεχνητή νοημοσύνη δεν μπορεί να υποκαταστήσει τον ανθρώπινο παράγοντα.
«Το Artificial Intelligence Act προβλέπει ότι δεν μπορεί ποτέ να φύγει πλήρως μια απόφαση από τα χέρια του δικαστή. Η τελική απόφαση πρέπει πάντα να λαμβάνεται από ανθρώπινο παράγοντα, δηλαδή τον δικαστή», λέει. «Η τεχνητή νοημοσύνη μπορεί να βοηθήσει στη συλλογή δεδομένων και στην προετοιμασία, αλλά η αιτιολογία της απόφασης είναι αποκλειστική ευθύνη του δικαστή».
Σχολιάζοντας τη διεθνή εμπειρία, ανέφερε τη χρήση του συστήματος COMPAS στις Ηνωμένες Πολιτείες: «Αυτό υπολογίζει ποινές και τον κίνδυνο υποτροπής με βάση ποινικά μητρώα, προηγούμενες καταδίκες και τη φύση των εγκλημάτων. Ωστόσο, η πρόβλεψη του αλγορίθμου δεν μπορεί να είναι η μοναδική αιτιολογία για την απόφαση. Ο δικαστής πρέπει να εξετάσει τα στοιχεία και να δώσει τη δική του αιτιολόγηση».
Εξήγησε επίσης ότι τα ζητήματα μεροληψίας και ακρίβειας αποτελούν βασικές προκλήσεις: «Τα συστήματα τεχνητής νοημοσύνης δεν είναι αλάνθαστα. Η ακρίβειά τους απέχει πολύ από το 100%, και αυτό ενισχύει τις ανησυχίες για πιθανά λάθη, ειδικά σε θέματα που αφορούν ανθρώπινες ζωές και ποινές».
Σε ερώτηση για τις αντιδράσεις της Ενωσης Δικαστών και Εισαγγελέων, σημείωσε: «Κατανοώ τις ανησυχίες τους. Ο κίνδυνος ενός σφάλματος ή μιας απόφασης που βασίζεται αποκλειστικά σε αλγορίθμους είναι υπαρκτός. Επιπλέον, η δυνατότητα “hallucinations” στα μοντέλα τεχνητής νοημοσύνης δημιουργεί αβεβαιότητα. Ομως, η τεχνητή νοημοσύνη είναι εργαλείο, όχι δικαστής».
Αναφερόμενη σε προτάσεις για αυτοματοποιημένες αποφάσεις σε μικροδιαφορές, σχολίασε: «Η ιδέα αυτή έχει ήδη εφαρμοστεί σε χώρες όπως η Σιγκαπούρη και η Κίνα, αλλά η Ευρώπη ακολουθεί διαφορετική προσέγγιση. Ο νέος κανονισμός απαγορεύει την πλήρως αυτοματοποιημένη εξαγωγή αποφάσεων χωρίς ανθρώπινη επίβλεψη. Είναι μια σαφής δήλωση ότι ο άνθρωπος πρέπει να είναι ο τελικός κριτής».
Υπογράμμισε, πάντως, τα θετικά της τεχνητής νοημοσύνης: «Η ταχύτητα στην επεξεργασία των υποθέσεων και η βελτίωση της γραφειοκρατικής διαδικασίας είναι σημαντικά οφέλη. Αν αξιοποιηθεί σωστά, η τεχνητή νοημοσύνη μπορεί να ενισχύσει την απονομή της δικαιοσύνης, πάντα όμως με την απαραίτητη εποπτεία».
Η συζήτηση για τη χρήση της ΑΙ στη δικαιοσύνη είναι, σύμφωνα με την ίδια, αναπόφευκτη: «Ο ψηφιακός μετασχηματισμός δεν είναι θέμα επιλογής, αλλά προσαρμογής. Το ζητούμενο είναι πώς θα τον διαχειριστούμε, ώστε να εξυπηρετεί τον σκοπό της δικαιοσύνης, χωρίς να την υπονομεύει».
«Στην καρδιά κάθε απόφασης χτυπά ο παλμός της ανθρώπινης σκέψης»
Ο Δημήτρης Βερβεσός, πρόεδρος του Δικηγορικού Συλλόγου, σε πρόσφατη ομιλία του σε σχετική ημερίδα, τόνισε τη σημασία της τεχνητής νοημοσύνης, υπογραμμίζοντας ωστόσο ότι στον χώρο της Δικαιοσύνης εγείρει σοβαρά ζητήματα, καθώς δεν μπορεί να αναπαράγει την πολυπλοκότητα του ανθρώπινου δικαστικού συλλογισμού ή να ανταποκριθεί στις συνταγματικές εγγυήσεις διαφάνειας, αιτιολόγησης και δημοκρατικής λογοδοσίας.
«Μπορεί, άραγε, η τεχνητή νοημοσύνη να παραμετροποιήσει το σύνολο των νοητικών διεργασιών που απαιτούνται για το σχηματισμό της δικανικής κρίσης; Ενας αλγόριθμος μπορεί να αξιολογήσει αντικρουόμενες μαρτυρικές καταθέσεις; Μπορεί να ερμηνεύσει διατάξεις νόμου και να εφαρμόσει θεμελιώδεις αρχές δικαίου, να συγκεκριμενοποιήσει γενικές ρήτρες ή να σταθμίσει κατάλληλα αντικρουόμενα έννομα αγαθά ή έννομα συμφέροντα;» αναρωτιέται.
Επισημαίνει τον κίνδυνο τυποποίησης δικαστικών αποφάσεων μέσω της χρήσης ΑΙ και την αναπαραγωγή στερεοτύπων, θέτοντας σε κίνδυνο την ισότητα ενώπιον του νόμου.
Παράλληλα, αναγνωρίζει τις δυνατότητες της ΑΙ για επικουρικές λειτουργίες, όπως η ανωνυμοποίηση δεδομένων ή η αναζήτηση νομολογίας, αλλά υπογραμμίζει ότι η ουσία της δικαστικής διαδικασίας δεν μπορεί να βασίζεται σε αυτόνομα συστήματα.
Υπογραμμίζει την ανάγκη ενός ενιαίου κανονιστικού πλαισίου που θα διασφαλίζει ότι η χρήση της ΤΝ στη Δικαιοσύνη γίνεται με σεβασμό στις αρχές της δημοκρατίας, της διαφάνειας και των θεμελιωδών δικαιωμάτων. Αναγνωρίζει ακόμη τις σχετικές προσπάθειες της Ε.Ε. με τον Κανονισμό 2024/1689, επισημαίνοντας όμως πως στην καρδιά κάθε δικαστικής απόφασης χτυπά ο παλμός της ανθρώπινης σκέψης και της δικαιοσύνης.
