Δικηγόρος στις ΗΠΑ χρησιμοποίησε το ChatGPT σε υπόθεση φόνου – Το σύστημα «εφηύρε» μάρτυρες και καταθέσεις…
Η τεχνητή νοημοσύνη παρείχε ανύπαρκτα στοιχεία σε κρίσιμη έφεση, εκθέτοντας τον συνήγορο και αναδεικνύοντας τους κινδύνους της χρήσης AI στη δικαιοσύνη.
Η υπόθεση ενός δικηγόρου στη Νέα Μεξικό έχει προκαλέσει έντονη συζήτηση στις ΗΠΑ, καθώς ο συνήγορος χρησιμοποίησε το ChatGPT για να συντάξει έφεση σε υπόθεση ανθρωποκτονίας. Το σύστημα τεχνητής νοημοσύνης παρήγαγε ανύπαρκτους μάρτυρες, ψευδείς καταθέσεις και πλαστά αποσπάσματα από δικαστικές αποφάσεις, τα οποία ο δικηγόρος ενσωμάτωσε στο κείμενο της έφεσης χωρίς να τα ελέγξει.
Το δικαστήριο εντόπισε τις ανακρίβειες κατά την εξέταση του φακέλου, επισημαίνοντας ότι οι αναφορές σε μάρτυρες και προηγούμενες αποφάσεις δεν αντιστοιχούσαν σε πραγματικά στοιχεία. Η δικαστής Σάντοβαλ τόνισε ότι η χρήση του ChatGPT χωρίς επαλήθευση των πληροφοριών οδήγησε σε σοβαρή παραπλάνηση του δικαστηρίου, υπογραμμίζοντας πως η τεχνητή νοημοσύνη «δεν γνωρίζει πότε λέει ψέματα».
Ο δικηγόρος παραδέχθηκε ότι εμπιστεύτηκε το σύστημα για να συντάξει το κείμενο, θεωρώντας πως θα τον βοηθούσε να εντοπίσει νομικά επιχειρήματα. Ωστόσο, η δικαστής σημείωσε ότι η αδυναμία του ChatGPT να διακρίνει αληθινές από ψευδείς πληροφορίες καθιστά τη χρήση του επικίνδυνη σε διαδικασίες που απαιτούν απόλυτη ακρίβεια. Η υπόθεση οδήγησε στην επιβολή προστίμου 5.000 δολαρίων στον συνήγορο.
Η δικαστική αρχή υπογράμμισε ότι η χρήση εργαλείων τεχνητής νοημοσύνης δεν απαλλάσσει τους δικηγόρους από την ευθύνη να ελέγχουν τα στοιχεία που καταθέτουν. Η απόφαση αναμένεται να λειτουργήσει ως προειδοποίηση για το νομικό κόσμο, καθώς αυξάνονται οι περιπτώσεις όπου επαγγελματίες χρησιμοποιούν συστήματα AI χωρίς να διασταυρώνουν τις πληροφορίες που παράγονται.
Η υπόθεση αναδεικνύει τις προκλήσεις που συνοδεύουν την είσοδο της τεχνητής νοημοσύνης στη δικαιοσύνη, με ειδικούς να τονίζουν ότι η αξιοπιστία τέτοιων εργαλείων δεν μπορεί να θεωρείται δεδομένη. Παράλληλα, η συζήτηση για την ανάγκη θέσπισης κανόνων και ορίων στη χρήση AI σε νομικές διαδικασίες επανέρχεται στο προσκήνιο, καθώς η τεχνολογία διεισδύει όλο και περισσότερο σε επαγγελματικούς τομείς υψηλής ευθύνης.
