Ονειρεύονται τα Android για μεροληπτικούς κριτές; – BehavioralEconomics.com

Του János Vajda

Δεν είναι για κανέναν το γεγονός ότι η τεχνολογία αλλάζει ραγδαία το νομικό επάγγελμα. Όλοι βιώνουμε το αποτέλεσμα του τρόπου με τον οποίο οι τεχνολογικές εξελίξεις στον τομέα της τεχνητής νοημοσύνης και της νομικής τεχνολογίας ενισχύουν την αποτελεσματικότητα της νομικής πρακτικής, ιδιαίτερα την πρόσβαση σε δικαστική απόφαση. Ένας από τους πιο συναρπαστικούς τομείς της τεχνητής νομικής νοημοσύνης είναι η ποσοτική νομική πρόβλεψη (QLP) που κερδίζει όλο και μεγαλύτερη έλξη στη νομική αγορά. Ο πρωταρχικός λόγος για αυτήν την επιτυχία είναι ότι η πρόβλεψη αποτελεί θεμελιώδες μέρος της νομικής πρακτικής. Η τεχνητή νοημοσύνη και η νομική τεχνολογία αλλάζουν σημαντικά τον τρόπο και τις κλίμακες για το πώς μπορούμε να προβλέψουμε το νόμο.

Πώς λειτουργεί το QLP;

Το QLP χρησιμοποιεί το σύνολο δεδομένων προηγούμενων υποθέσεων για να μάθει τους συσχετισμούς μεταξύ των χαρακτηριστικών της υπόθεσης και στοχευόμενα αποτελέσματα. Οι υποκείμενες μεταβλητές είναι πολλαπλές:

• ποιος είναι ο δικαστής της υπόθεσης,
• το είδος των νομικών επιχειρημάτων που χρησιμοποιούνται στις υποθέσεις,
• ποια προηγούμενα αναφέρονται στο θέμα από συγκεκριμένο δικαστή,
• ποιος πραγματογνώμονας προσλήφθηκε στην υπόθεση,
• ποιος δικηγόρος εκπροσωπεί τον πελάτη στην υπόθεση,
• τα χαρακτηριστικά του πελάτη,
• τα χαρακτηριστικά των μαρτύρων,
• το βάρος των αποδεικτικών στοιχείων που αποδίδονται σε συγκεκριμένα κομμάτια του στοιχεία από τον δικαστή.

Ο νομικός σύμβουλος μπορεί στη συνέχεια να χρησιμοποιήσει το αποτέλεσμα αυτού του υπολογισμού για να κάνει προβλέψεις σχετικά με την υπόθεση και να λάβει στρατηγικές αποφάσεις στο πλαίσιο της διαδικασίας εκδίκασης. Χρησιμοποιώντας το QLP, οι δικηγόροι μπορούν να προβλέψουν:

• ποια νομολογία θέλει να αναφέρεται ένας συγκεκριμένος δικαστής,
• ποιοι είναι οι τύποι επιχειρημάτων που τείνει να δέχεται ο δικαστής (μου αρέσει/δεν μου αρέσει),
• εάν ορισμένοι δικηγόροι τείνουν να κερδίζουν με έναν συγκεκριμένο δικαστή,
• εάν ο προσληφθείς εμπειρογνώμονας είναι αρεστός/αντιπαθής από τον δικαστή,
• εάν ο πελάτης/μάρτυρας είναι αρεστός/αντιπαθής από τον δικαστή βάσει συγκεκριμένων χαρακτηριστικών πελάτη ή μάρτυρα,
• εάν ο δικαστής είναι επιρρεπής σε συγκεκριμένες γνωστικές προκαταλήψεις (όπως η εκ των υστέρων προκατάληψη, η πλάνη σύνδεσηςτο εφέ αγκύρωσης, η μεροληψία πλαισίωσης και η μεροληψία επιβεβαίωσης).

Ως αποτέλεσμα του προηγούμενου, το QLP μπορεί να προσδιορίσει αυτές τις προσωπικές τάσεις συγκεκριμένων δικαστών και μπορεί να παρέχει πολύτιμη συμβολή για σημαντικές στρατηγικές αποφάσεις δικαστικών διαφορών.

Hunters of the Judges‘ Minds

Η απόδοση κρίσης, στη φύση της, είναι μια γνωστική διαδικασία. Μια τέτοια γνωστική διαδικασία επηρεάζεται κυρίως από τις στάσεις, τις ευρετικές και τις προκαταλήψεις του δικαστή και πολλούς άλλους εξωγενείς παράγοντες. Αυτές οι προσωπικές τάσεις ενός δικαστή διαφορετικά θα ήταν αόρατες στους δικηγόρους. Από αυτή την άποψη, οι QLP λειτουργούν ως υπερ-αναγνωριστές της ανθρώπινης συμπεριφοράς και φαίνονται ανώτεροι στη λήψη αποφάσεων. Ωστόσο, υπάρχει αυξανόμενη ανησυχία για τα συστήματα AI μαθαίνουν και υπερβάλλουν τις ανθρώπινες γνωστικές προκαταλήψεις.

Είναι το QLP Χωρίς προκατάληψη;

Ένας τρόπος με τον οποίο η μεροληψία μπορεί να εισχωρήσει στους αλγόριθμους είναι όταν τα συστήματα τεχνητής νοημοσύνης μαθαίνουν να λαμβάνουν αποφάσεις με βάση δεδομένα, συμπεριλαμβανομένων μεροληπτικών ανθρώπινων αποφάσεων. Εάν ο αλγόριθμος βασίζεται σε προκατειλημμένες ανθρώπινες αποφάσεις, τότε αναπόφευκτα η τεχνητή νοημοσύνη θα αντικατοπτρίζει επίσης αυτές τις προκαταλήψεις και πιθανότατα θα μεγαλώσει ακόμη και αυτές τις προκαταλήψεις κρατώντας τις αληθινές για τις μελλοντικές της αποφάσεις και τις προβλέψεις των αποτελεσμάτων μας.

Ας δούμε ένα πολύ υπεραπλουστευμένο παράδειγμα για να ξεκαθαρίσουμε την κατάσταση:

Ας υποθέσουμε ότι είμαστε γενικός διευθυντής μιας τράπεζας και έχουμε μια δικαστική διαμάχη με έναν από τους ιδιώτες πελάτες μας. Φτάνουμε σε ένα σημείο που πρέπει να πάρουμε μια στρατηγική απόφαση να τακτοποιηθούμε ή να συνεχίσουμε να αγωνιζόμαστε. Απευθυνόμαστε στους υπερ-αναγνωριστές μας για συμβουλές και τους ζητάμε να αναζητήσουν μοτίβα στις κρίσεις του διαιτητή στον οποίο ανατέθηκε η υπόθεσή μας. Η τεχνητή νοημοσύνη μας καταλήγει στο συμπέρασμα ότι ο δικαστής μας τείνει να είναι φιλικός προς τον πελάτη στις κρίσεις του και οι τράπεζες (και άλλες μεγάλες εταιρείες) τείνουν να χάνουν ή να διακανονίζονται ενώπιον αυτού του δικαστή, κάτι που μπορεί να σημαίνει ότι αυτός ο δικαστής είναι προκατειλημμένος εναντίον μεγάλων τραπεζών και άλλων εταιρειών. Ο αλγόριθμός μας εκχωρεί επίσης 57% επιρροή σε αυτή τη μεταβλητή στο αποτέλεσμα. Ας υποθέσουμε ότι με βάση αυτή την πρόβλεψη, αποφασίσαμε να πάρουμε μια στρατηγική απόφαση και απορρίψαμε την υπόθεσή μας.

Παρόλο που η απόφασή μας φαίνεται λογική, αν την θέσουμε σε μια ευρύτερη προοπτική, μπορεί να είναι βαθιά εσφαλμένη για τους ακόλουθους λόγους:

Τι γίνεται αν η πρόβλεψη του AI μας είναι σωστή;

Πρώτον, ας υποθέσουμε ότι το συμπέρασμα των υπερ-αναγνωριστών μας ήταν εύστοχο και εντόπισαν το δικαίωμα μεροληψίας του δικαστή: αυτός ο δικαστής είναι πράγματι προκατειλημμένος εναντίον των τραπεζών σχετικά με τις διαφορές μεταξύ τραπεζών και πελατών. Σε αυτήν την περίπτωση, και λαμβάνοντας υπόψη ότι τελικά εμείς (ως τράπεζα) αποφασίσαμε να μην παλέψουμε για την υπόθεσή μας και έμμεσα ενάντια σε αυτήν την προκατάληψη, η τεχνητή νοημοσύνη μας μόλις διαιωνίζει τέτοια χάρη που δίνεται στους πελάτες.

Σημειωτέον, εγκαταλείποντας την υπόθεσή μας, μόλις βάλαμε ένα ακόμη τούβλο στον τοίχο του μηχανισμού αιτιολόγησης. Όταν εμείς (ή κάποιος άλλος) βρεθούμε σε παρόμοια αποφασιστική κατάσταση με τον ίδιο κριτή, το προκατειλημμένο μοτίβο του κριτή θα είναι ακόμη πιο ορατό στους υπερ-αναγνωριστές μας και θα αποδίδουν μεγαλύτερη βαρύτητα σε αυτή τη μεταβλητή κατά τον υπολογισμό την επόμενη φορά . Έτσι, τελικά, θα βρεθούμε σε έναν ατελείωτο κύκλο της τεχνητής νοημοσύνης μας που ενισχύει τη δεδομένη προκατάληψη του κριτή.

Όταν πιστεύουμε ότι η υπόθεσή μας έχει ήδη κριθεί από έναν προκατειλημμένο δικαστή, ο οποίος αγνοεί τα νομικά μας επιχειρήματα, θέτουν σε κίνδυνο τον αμφισβητούμενο χαρακτήρα του νόμου και το δικαίωμά μας να συμμετέχουμε στη διαδικασία της εκδίκασης. Αν πάρουμε τις αποφάσεις μας με αυτό το πνεύμα, η αντίληψή μας θα είναι σωστή και οι προβλέψεις των υπερ-αναγνωριστών μας θα γίνουν αυτοεκπληρούμενες προφητείες. Η προσδοκία του AI θα οδηγήσει στην επιβεβαίωσή του.

Τι γίνεται αν η πρόβλεψη του AI μας δεν είναι σωστή

Πρέπει επίσης να υπενθυμίσουμε στον εαυτό μας ότι παρόλο που οι αλγόριθμοι μπορούν να περιγράψουν σημαντικά μοτίβα ειδικά για τους κριτές, τέτοια μοτίβα δεν αναφέρονται απαραίτητα σε υπάρχουσες προκαταλήψεις. Με άλλα λόγια, η συσχέτιση δεν συνεπάγεται αιτιότητα. Ακόμα κι αν ο συσχετισμός στο παράδειγμά μας είναι ακριβής, είναι αδύνατο να προσδιοριστεί εάν πρόκειται απλώς για σύμπτωση ή εάν ο δικαστής είναι όντως προκατειλημμένος εναντίον των τραπεζών. Εάν προχωρήσουμε σε αυτήν την ιδέα, θα βρεθούμε στον ίδιο κύκλο ενίσχυσης των προκαταλήψεων που περιγράφηκαν παραπάνω. Με βάση τα προηγούμενα, τα αναφερόμενα αποτελέσματα των αλγορίθμων δεν πρέπει να υπερεκτιμώνται.

Ένα επιπλέον στοιχείο αδικίας που προσφέρεται από το QLP

Μια άλλη ανησυχία είναι ότι η εφαρμογή QLP μπορεί να υπονομεύσει τη δικαιοσύνη της διαδικασίας δικαστικής αγωγής. Αυτή η αδικία μπορεί να οφείλεται στην παραβίαση της αρχής της ισότητας των όπλων. Εάν η προγνωστική δικαιοσύνη αποκτά ολοένα και μεγαλύτερη επιρροή, η άνιση πρόσβαση σε αυτά τα εργαλεία θα ενισχύσει το πλεονέκτημα που έχουν τα πλουσιότερα και ισχυρότερα μέρη της δίκης έναντι εκείνων που δεν έχουν πρόσβαση στα εργαλεία QLP.

Κλείσιμο: Η τεχνητή νοημοσύνη ως αφελής παιδί

Από την άποψη των γνωστικών προκαταλήψεων, θα πρέπει να θεωρήσουμε την τεχνητή νοημοσύνη ως έναν υπερ-έξυπνο αλλά εγγενώς αφελή πράκτορα. Το AI είναι ένα παιδί που μαθαίνει τις προκαταλήψεις του από τους γονείς του μέσω της κοινωνικής μάθησης. Εάν δεχθούμε ότι η τεχνητή νοημοσύνη μπορεί να μάθει τις προκαταλήψεις μας, δεν είναι πολύ τραβηγμένο ότι οι άνθρωποι πρέπει να επιδείξουν κάποια γονική ευθύνη σχετικά με τα γνωστικά ελαττώματα. Πράγματι, θα υπάρχει μια αυξανόμενη και επείγουσα ανάγκη για εκπαίδευση αλγορίθμων με γνωστική προκατάληψη για την εξάλειψη των ενσωματωμένων ανθρώπινων και κοινωνικών προκαταλήψεων.

Αυτό το άρθρο επιμελήθηκε ο Borbála Dömötörfy.