Ανίχνευση της ρητορικής μίσους στις 24 γλώσσες της ΕΕ υπόσχεται μια νέα startup εταιρεία

Η βελγική startup εταιρεία Textgrain δημιουργεί το πρώτο στον κόσμο μοντέλο AI που θα είναι ικανό να ανιχνεύει τη ρητορική μίσους στο Διαδίκτυο και στις 24 επίσημες γλώσσες της ΕΕ. Η Textgrain ιδρύθηκε το 2016 και είναι μια spinoff του Πανεπιστημίου της Αμβέρσας.

Η εταιρεία αναπτύσσει εργαλεία διαχείρισης και ανάλυσης δεδομένων με βάση την Τεχνητή Νοημοσύνη για επιχειρήσεις, με υπηρεσίες που κυμαίνονται από την ανάλυση κειμένου έως τη μέτρηση του διαδικτυακού συναισθήματος σε πλατφόρμες και ιστοσελίδες κοινωνικής δικτύωσης. Επικεντρώνεται επίσης στην ανάλυση της ρητορικής μίσους.

Τον Ιούνιο, η Textgrain ήταν μεταξύ των τεσσάρων νικητών του Large AI Grand Challenge της ΕΕ, που ζητούσε καινοτομίες στην παραγωγική Τεχνητή Νοημοσύνη και στα μεγάλα γλωσσικά μοντέλα (LLM). Η εταιρεία κέρδισε 250.000 ευρώ και δύο εκατομμύρια ώρες χρόνου ανάπτυξης στους υπερυπολογιστές της Ευρώπης (LUMI και LEONARDO) - αποκτώντας πρόσβαση σε ταχύτερη εκπαίδευση μοντέλων AI.

Μέσα στους επόμενους 12 μήνες, η Textgrain θα χρησιμοποιήσει τους πόρους για να δημιουργήσει το δικό της πολύγλωσσο LLM που θα ειδικεύεται στην ανίχνευση ρητορικής μίσους. Ωστόσο, ενώ θα είναι σε θέση να αναγνωρίζει την τοξική γλώσσα, δεν θα είναι σε θέση να την παράγει. Καθώς η διαδικτυακή ρητορική μίσους αυξάνεται τόσο στην ΕΕ όσο και στον υπόλοιπο κόσμο, η Textgrain συμμετέχει στις πρόσφατες επιστημονικές προσπάθειες για την καταπολέμηση του φαινομένου με την τεχνολογία LLM.

"Τα μεγάλα γλωσσικά μοντέλα, ιδίως τα εμπορικά, αρνούνται να επεξεργαστούν την τοξική γλώσσα. Αυτό καθιστά σχεδόν αδύνατη τη χρήση τους για την επεξεργασία της ρητορικής μίσους", δήλωσε ο Guy De Pauw, CEO της Textgrain. "Κατασκευάζουμε τώρα ένα γλωσσικό μοντέλο από το μηδέν που μπορεί να επεξεργαστεί αυτό το είδος περιεχομένου, αλλά χωρίς να το παράγει".

Ο De Pauw πιστεύει ότι η Textgrain δεν κινδυνεύει να χαθεί μέσα σε μια "κορεσμένη αγορά" παρόχων AI, καθώς η startup κατασκευάζει το δικό της LLM, όπως οι μεγάλοι παίκτες OpenAI και Meta. Ένας άλλος παράγοντας διαφοροποίησης, είπε, είναι η ακαδημαϊκή προσέγγιση της startup και η συνεργασία της με φορείς χάραξης πολιτικής και κοινωνικές οργανώσεις.

Η χρονική συγκυρία μπορεί επίσης να λειτουργήσει προς όφελος της Textgrain. Με το Digital Services Act (DSA) της ΕΕ που τέθηκε σε ισχύ τον περασμένο Φεβρουάριο, όλες οι διαδικτυακές πλατφόρμες πρέπει να λαμβάνουν μέτρα για τον μετριασμό του επιβλαβούς περιεχομένου, συμπεριλαμβανομένης της ρητορικής μίσους.

Μετά την προβλεπόμενη έναρξη λειτουργίας του LLM το 2025, η Textgrain σχεδιάζει να επεκταθεί διεθνώς και θα επικεντρωθεί στην ανάπτυξη περαιτέρω εφαρμογών SaaS.