Γιατί η AI επινοεί άρθρα και αποφάσεις

Ένα γλωσσικό μοντέλο δεν εκπαιδεύεται σε γεγονότα, αλλά σε πιθανές συνέχειες κειμένου. Όταν γράφετε «σύμφωνα με την απόφαση του Ανωτάτου Δικαστηρίου με αριθμό υπόθεσης», το μοντέλο συμπληρώνει κάτι που μοιάζει με αριθμό υπόθεσης, επειδή έχει δει χιλιάδες τέτοια πρότυπα. Δεν διαθέτει τρόπο να επαληθεύσει ότι η απόφαση υπάρχει πράγματι. Το ίδιο ισχύει για αριθμούς άρθρων, προθεσμίες και τη διατύπωση διατάξεων.

Όσο λιγότερα δεδομένα σχετικά με ένα θέμα έχει δει το μοντέλο, τόσο πιο αυτοπεποίθηση επιδεικνύει όταν επινοεί. Η τσεχική νομοθεσία και νομολογία εκπροσωπούνται ασθενώς στα δεδομένα εκπαίδευσης, οπότε ακριβώς εκεί ο κίνδυνος είναι μεγαλύτερος. Μια απάντηση στα αγγλικά ή στα γερμανικά μπορεί να είναι πιο ακριβής από μια αντίστοιχη στα τσεχικά, κάτι που για τους Τσέχους νομικούς αποτελεί παραδόξως τον χειρότερο συνδυασμό.

Η πρώτη γνωστή περίπτωση χρονολογείται από το 2023 στη Νέα Υόρκη, όπου δικηγόροι κατέθεσαν στο δικαστήριο δικόγραφο με έξι ανύπαρκτες αποφάσεις που είχε δημιουργήσει το ChatGPT και τιμωρήθηκαν με πρόστιμο. Έκτοτε πληθαίνουν παρόμοιες περιπτώσεις στις Ηνωμένες Πολιτείες, τον Καναδά, το Ηνωμένο Βασίλειο αλλά και στην Ευρώπη, ενώ τα δικαστήρια αρχίζουν να απαιτούν δήλωση χρήσης AI. Στον τσεχικό χώρο εμφανίζονται ήδη οι πρώτες περιπτώσεις δικογράφων με παραπομπές που δεν μπορούν να επαληθευτούν.

Μια οδηγία στην εντολή μειώνει τη διάθεση του μοντέλου να δημιουργεί παραπομπές, αλλά δεν του δίνει τίποτα να τις αντικαταστήσει. Το μοντέλο είτε αρνείται να απαντήσει, είτε απαντά αόριστα, είτε τελικά επινοεί ξανά. Η μόνη αξιόπιστη λύση είναι να του δώσετε μια πηγή από την οποία μπορεί να διαβάσει· αυτή είναι η αρχή που ονομάζεται grounding, δηλαδή τεκμηρίωση/αγκύρωση στην πηγή.

Η αγκύρωση λειτουργεί έτσι ώστε το μοντέλο, πριν απαντήσει, να καλεί αναζήτηση σε πραγματική βάση δεδομένων, να λαμβάνει το κείμενο και να απαντά βάσει αυτού. Οι παραπομπές τότε δεν είναι επινοημένες, αλλά αντιγραμμένες από το αποτέλεσμα, μαζί με τον σύνδεσμο που μπορείτε να ανοίξετε.

• Η AI λαμβάνει αποτελέσματα με αριθμό υπόθεσης, δικαστήριο, ημερομηνία και URL προς το πλήρες κείμενο. Δεν έχει λόγο να προσθέσει οτιδήποτε.
• Το εργαλείο για το άρθρο επιστρέφει την ακριβή διατύπωση, οπότε η AI δεν παραθέτει από μνήμης ούτε στους αριθμούς και τις προθεσμίες.
• Οι παραπομπικοί σύνδεσμοι μεταξύ διατάξεων είναι μόνο επαληθευμένοι: ο σύνδεσμος δεν επιστρέφει ποτέ παραπομπή που δεν υπάρχει στο κείμενο του κανονισμού.
• Όταν δεν υπάρχει τίποτα στο σώμα κειμένων, ο σύνδεσμος το δηλώνει. Η AI τότε δεν έχει από τι να επινοήσει και οφείλει να παραδεχτεί ότι λείπει η πηγή.

Ρωτήστε με ρητό αίτημα για πηγή. Αφήστε την AI πρώτα να αναζητήσει και μετά να συνοψίσει. Κάθε παραπομπή που χρησιμοποιείτε σε έγγραφο, ανοίξτε την μέσω του συνδέσμου. Για βασικούς ισχυρισμούς, ρωτήστε ξανά με διαφορετική διατύπωση για να δείτε αν προκύπτει το ίδιο αποτέλεσμα. Και κρατήστε αρχείο με το τι αναζήτησε η AI· ο σύνδεσμος Europaius καταγράφει κάθε ερώτημα στον λογαριασμό σας, ώστε να μπορείτε να επιστρέψετε στην έρευνα.