Λίγο μετά την πρώτη προαναγγελία της στα μέσα ενημέρωσης, η OpenAI λάνσαρε ένα εργαλείο που προσπαθεί να διακρίνει το ανθρώπινο κείμενο από το κείμενο που παράγεται από τεχνητή νοημοσύνη – όπως το κείμενο που παράγεται από τα μοντέλα ChatGPT και GPT-3 της ίδιας εταιρείας. Αν και το εργαλείο μέχρι στιγμής δεν είναι ιδιαίτερα ακριβές, με το ποσοστό επιτυχίας του να είναι περίπου 26%, η OpenAI υποστηρίζει ότι όταν αυτό χρησιμοποιείται σε συνδυασμό με άλλες μεθόδους, μπορεί να συνδράμει στην αποτροπή της κατάχρησης των πλατφορμών παραγωγής κειμένου τεχνητής νοημοσύνης.
Καθώς ο ενθουσιασμός γύρω από τη δημιουργική τεχνητή νοημοσύνη – ιδιαίτερα αυτή που αφορά την κειμενογραφία- αυξάνεται, οι επικριτές έχουν καλέσει τους δημιουργούς αυτών των εργαλείων να λάβουν μέτρα για τον μετριασμό των δυνητικά επιβλαβών επιπτώσεών τους. Ορισμένες από τις μεγαλύτερες σχολικές περιφέρειες των ΗΠΑ έχουν απαγορεύσει το ChatGPT στα δίκτυα και τις συσκευές τους, φοβούμενες τις επιπτώσεις στη μάθηση των μαθητών και την ακρίβεια του περιεχομένου που παράγει το εργαλείο. Παράλληλα, ιστότοποι όπως το Stack Overflow έχουν απαγορεύσει στους χρήστες να μοιράζονται περιεχόμενο που παράγεται από το ChatGPT, λέγοντας ότι η τεχνητή νοημοσύνη καθιστά πολύ εύκολο για τους χρήστες να κατακλύζουν νήματα συζητήσεων με αμφίβολες απαντήσεις.
Το νέο αυτό εργαλείο είναι ουσιαστικά ένας ταξινομητής που δημιούργησε η OpenAI και ονομάζεται -εύστοχα- OpenAI AI Text Classifier. Είναι, όπως και το ChatGPT, ένα γλωσσικό μοντέλο AI που εκπαιδεύεται σε πολλά, πολλά παραδείγματα κειμένου που διατίθεται δημοσίως από τον ιστό. Αλλά σε αντίθεση με το ChatGPT, είναι ρυθμισμένο ώστε να προβλέπει πόσο πιθανό είναι ένα κομμάτι κειμένου να έχει παραχθεί από ΤΝ – όχι μόνο από το ChatGPT, αλλά από οποιοδήποτε μοντέλο ΤΝ που παράγει κείμενο.
Πιο συγκεκριμένα, το OpenAI εκπαίδευσε το OpenAI AI Text Classifier σε κείμενο από 34 συστήματα παραγωγής κειμένου από πέντε διαφορετικούς οργανισμούς, συμπεριλαμβανομένου του ίδιου του OpenAI. Παρόλα αυτά, ο ταξινομητής κειμένου του OpenAI δεν θα λειτουργήσει σε οποιοδήποτε κείμενο. Χρειάζεται τουλάχιστον 1.000 χαρακτήρες ή περίπου 150 έως 250 λέξεις. Το πιο σημαντικό μειονέκτημά του, ωστόσό, είναι πως δεν ανιχνεύει τη λογοκλοπή, δεδομένου ότι έχει αποδειχθεί ότι η τεχνητή νοημοσύνη που παράγει κείμενο αναμασά το κείμενο στο οποίο εκπαιδεύτηκε. Η OpenAI λέει ότι είναι πιο πιθανό να κάνει λάθη σε κείμενα που έχουν γραφτεί από παιδιά ή σε γλώσσα διαφορετική από τα αγγλικά, καθώς το σύνολο των δεδομένων που έχει αφορά την αγγλική γλώσσα.
Ο ανιχνευτής αντισταθμίζει λίγο την απάντησή του όταν αξιολογεί αν ένα δεδομένο κομμάτι κειμένου έχει δημιουργηθεί από τεχνητή νοημοσύνη. Ανάλογα με το επίπεδο εμπιστοσύνης του, θα χαρακτηρίσει το κείμενο ως προς την πιθανότητα το κείμενο που εξετάζει να είναι προιό ΤΝ. Πιο συγκεκριμένα, μπορεί να το χαρακτηρίσει ως “πολύ απίθανο” (πιθανότητα μικρότερη από 10%), “απίθανο” (πιθανότητα μεταξύ 10% και 45%), “ασαφές αν είναι” (πιθανότητα 45% έως 90%), “πιθανό” (πιθανότητα 90% έως 98%) ή “πιθανό” (πιθανότητα άνω του 98%).
