OpenAI: Διχασμός σχετικά με την υδατογράφηση στα κείμενα του ChatGPT

Ο OpenAI έχει έτοιμο εδώ και περίπου ένα χρόνο ένα σύστημα για την υδατογράφηση του κειμένου που δημιουργείται από το ChatGPT και ένα εργαλείο για την ανίχνευση του υδατογραφήματος, αναφέρει η Wall Street Journal. Αλλά η εταιρεία είναι διχασμένη εσωτερικά σχετικά με το αν θα το κυκλοφορήσει. Από τη μία πλευρά, φαίνεται να είναι το πιο υπεύθυνο πράγμα που πρέπει να γίνει, από την άλλη, θα μπορούσε να βλάψει το τελικό της αποτέλεσμα.

Το υδατογράφημα του OpenAI περιγράφεται ως προσαρμογή του τρόπου με τον οποίο το μοντέλο προβλέπει τις πιο πιθανές λέξεις και φράσεις που θα ακολουθήσουν τις προηγούμενες, δημιουργώντας ένα ανιχνεύσιμο μοτίβο.

Η δυνατότητα ανίχνευσης υλικού που έχει γραφτεί με Τεχνητή Νοημοσύνη ενδεχομένως να είναι ένα πλεονέκτημα για τους καθηγητές που προσπαθούν να αποτρέψουν τους μαθητές από το να αναθέσουν τις γραπτές εργασίες στην Τεχνητή Νοημοσύνη. Η WSJ αναφέρει ότι η εταιρεία διαπίστωσε ότι η υδατογράφηση δεν επηρέασε την ποιότητα του κειμένου που έβγαζε το chatbot της. Σε μια έρευνα που ανέθεσε η εταιρεία, "οι άνθρωποι σε όλο τον κόσμο υποστήριξαν την ιδέα ενός εργαλείου ανίχνευσης Τεχνητής Νοημοσύνης με διαφορά τεσσάρων προς ένα", γράφει η WSJ.

Αφού η WSJ δημοσίευσε την ιστορία της, ο OpenAI επιβεβαίωσε ότι έχει εργαστεί πάνω στην υδατογράφηση κειμένου σε μια σημερινή ενημέρωση της ανάρτησης στο blog που εντοπίστηκε από το TechCrunch. Σε αυτό, η εταιρεία αναφέρει ότι η μέθοδός της είναι πολύ ακριβής ("99,9% αποτελεσματική", σύμφωνα με έγγραφα που είδε η Journal) και ανθεκτική σε "παραποιήσεις, όπως η παράφραση". Ωστόσο, λέει ότι τεχνικές όπως η επαναδιατύπωση με άλλο μοντέλο την καθιστούν "εύκολη στην παράκαμψη από κακόβουλους παράγοντες".

Εξάλλου, ο OpenAI ανησυχεί ότι η χρήση της υδατογράφησης θα μπορούσε να απωθήσει τους χρήστες του ChatGPT που συμμετείχαν σε σχετική έρευνα, καθώς σχεδόν το 30% δήλωσαν στην εταιρεία ότι θα χρησιμοποιούσαν το λογισμικό λιγότερο αν εφαρμοζόταν η υδατογράφηση.

[via]