Η βρετανική startup Surf Security έχει κυκλοφορήσει μια beta έκδοση του πρώτου, όπως ισχυρίζεται, web browser στον κόσμο με μια ενσωματωμένη λειτουργία που έχει σχεδιαστεί για να εντοπίζει τα deepfakes που δημιουργούνται από Τεχνητή Νοημοσύνη. Το εργαλείο, διαθέσιμο μέσω του browser της Surf ή ως extension, μπορεί να ανιχνεύσει με ακρίβεια έως και 98% αν το άτομο με το οποίο αλληλεπιδράτε στο διαδίκτυο είναι πραγματικός άνθρωπος ή μια AI απομίμηση.
Η νεοσύστατη εταιρεία κυβερνοασφάλειας με έδρα το Λονδίνο χρησιμοποιεί τεχνολογία νευρωνικών δικτύων «στρατιωτικού επιπέδου» για τον εντοπισμό deepfakes. Το σύστημα χρησιμοποιεί τα State Space Models, τα οποία ανιχνεύουν κλώνους που δημιουργούνται από AI σε διάφορες γλώσσες και προφορές, αναλύοντας καρέ ήχου για ασυνέπειες.
«Για να μεγιστοποιήσουμε την αποτελεσματικότητά του, εστιάσαμε στην ακρίβεια και την ταχύτητα», δήλωσε ο Ziv Yankowitz, CTO της Surf Security. Το νευρωνικό δίκτυο του εργαλείου εκπαιδεύεται χρησιμοποιώντας deepfakes που δημιουργούνται από τις κορυφαίες πλατφόρμες κλωνοποίησης φωνής AI. Το σύστημα διαθέτει μια ενσωματωμένη λειτουργία μείωσης του θορύβου φόντου για την εκκαθάριση του ήχου πριν από την επεξεργασία. «Μπορεί να εντοπίσει έναν ήχο deepfake σε λιγότερο από 2 δευτερόλεπτα», σημειώνει ο Yankowitz.
Η νέα λειτουργία είναι διαθέσιμη για αρχεία ήχου, συμπεριλαμβανομένων των online video ή λογισμικού επικοινωνίας όπως το WhatsApp, το Slack, το Zoom ή το Google Meet. Αρκεί να πατήσετε ένα κουμπί και το σύστημα επαληθεύει αν ο ήχος - ηχογραφημένος, ή ζωντανός - είναι γνήσιος ή δημιουργημένος από AI. Η Surf δήλωσε ότι στο μέλλον θα προσθέσει επίσης την ανίχνευση εικόνων AI στην εργαλειοθήκη του browser.
Τα deepfakes, τα οποία χρησιμοποιούν τεχνητή νοημοσύνη για να δημιουργήσουν πειστικά ψεύτικα αρχεία ήχου ή βίντεο, αποτελούν μια αυξανόμενη απειλή. Μόλις αυτή την εβδομάδα, ερευνητές του BBC ανακάλυψαν deepfake ηχητικά αποσπάσματα του David Attenborough που ακούγονται σαν να μην ξεχωρίζουν από τη φωνή του διάσημου παρουσιαστή. Διάφορες ιστοσελίδες και κανάλια στο YouTube χρησιμοποιούν το deepfake για να τον κάνουν να πει πράγματα -για τη Ρωσία, για τις εκλογές στις ΗΠΑ- που δεν είπε ποτέ.
Αυτό είναι μόνο η κορυφή ενός ειδεχθούς παγόβουνου. Τα deepfakes έχουν χρησιμοποιηθεί για να επιτρέψουν απάτες μεγάλης κλίμακας, να υποκινήσουν πολιτική αναταραχή μέσω ψεύτικων ειδήσεων και να καταστρέψουν υπόληψεις δημιουργώντας ψευδές ή επιβλαβές περιεχόμενο.
Η Surf δήλωσε ότι εγκαινίασε τον νέο ανιχνευτή deepfake για να βοηθήσει στην προστασία των επιχειρήσεων, των οργανισμών μέσων ενημέρωσης, της αστυνομίας και των στρατιωτικών δυνάμεων σε όλο τον κόσμο από τον αυξανόμενο κίνδυνο κλωνοποίησης με Τεχνητή Νοημοσύνη. Ωστόσο, η καταπολέμηση των deepfakes είναι μια συνεχής μάχη μεταξύ των ανθρώπων που χρησιμοποιούν τις μηχανές για καλό, ενάντια σε άλλους ανθρώπους που χρησιμοποιούν μηχανές για κακόβουλα μέσα.
«Το λογισμικό κλωνοποίησης φωνής AI γίνεται όλο και πιο ικανό μέρα με τη μέρα», παραδέχτηκε ο Yankowitz. «Έτσι, όπως σε όλο το φάσμα της ασφάλειας στον κυβερνοχώρο, δεσμευόμαστε να κερδίσουμε μια διαρκώς εξελισσόμενη κούρσα εξοπλισμών».
Η Surf αναμένει να κυκλοφορήσει την πλήρη έκδοση του ανιχνευτή deepfake στις αρχές του επόμενου έτους.
[via]
