OpenAI: Μια τρομερή εξέλιξη στην Τεχνητή Νοημοσύνη φαίνεται ότι ήταν η αιτία απόλυσης του Sam Altman
Έχει περάσει σχεδόν μια εβδομάδα από τότε που το ΔΣ της OpenAI απέλυσε τον διευθύνοντα σύμβουλο Sam Altman χωρίς να εξηγήσει τις ενέργειές του. Την Τρίτη, ωστόσο, το διοικητικό συμβούλιο επανέφερε τον Altman και διόρισε ένα νέο συμβούλιο για να επιβλέπει τις δραστηριότητες της OpenAI. Υποσχέθηκε επίσης τη διεξαγωγή έρευνας για το τι συνέβη, καθώς μιλάμε για μια εταιρεία που ηγείται της ανάπτυξης της Τεχνητής Νοημοσύνης.
Στο σύντομο χρονικό διάστημα που μεσολάβησε μεταξύ της απομάκρυνσης και της επιστροφής του Altman, οι θεωρίες οργίασαν, με ορισμένους να εικάζουν ότι η OpenAI έχει αναπτύξει ένα απίστευτα ισχυρό μοντέλο GPT-5. Ή ότι η OpenAI είχε φτάσει στην AGI, την γενική Τεχνητή Νοημοσύνη που θα μπορούσε να λειτουργεί εξίσου καλά με τον άνθρωπο και γι' αυτό το διοικητικό συμβούλιο έκανε απλώς τη δουλειά του, προστατεύοντας τον κόσμο από την ανεύθυνη ανάπτυξη της Τεχνητής Νοημοσύνης.
Φαίνεται ότι οι υποθέσεις δεν απέχουν και πολύ από την πραγματικότητα, χωρίς βέβαια αυτό να σημαίνει ότι κινδυνεύουμε πραγματικά από την Τεχνητή Νοημοσυνη, τουλάχιστον στην παρούσα φάση. Μια νέα αναφορά, πάντως, σημειώνει ότι η OpenAI πραγματοποίησε μια τεράστια πρόοδο τις ημέρες που προηγήθηκαν της απόλυσης του Altman. Πρόκειται για τον νέο αλγόριθμο Q* ή Q-Star που θα μπορούσε να απειλήσει την Ανθρωπότητα, σύμφωνα με επιστολή που έστειλαν ανώνυμα στο ΔΣ ερευνητές της OpenAI.
Σύμφωνα με το πρακτορείο Reuters, το οποίο δεν έχει δει την επιστολή, το έγγραφο ήταν ένας από τους παράγοντες που οδήγησαν στην προσωρινή απομάκρυνση του Altman. Το ΔΣ ανησυχούσε για τον γρήγορο ρυθμό της εταιρείας στην εμπορική αξιοποίηση των εξελίξεων της ChatGPT πριν κατανοηθούν οι συνέπειες. Η OpenAI αρνήθηκε να απαντήσει στο Reuters, αλλά η εταιρεία παραδέχτηκε την ύπαρξη του Q-Star σε ένα μήνυμα προς το προσωπικό και στην επιστολή προς το ΔΣ. Η Mira Murati, η οποία ήταν η πρώτη προσωρινή CEO που διόρισε το διοικητικό συμβούλιο μετά την απομάκρυνση του Altman, φαίνεται ότι ειδοποίησε το προσωπικό για τις εξελίξεις σχετικά με το Q-Star που επρόκειτο να ανακοινωθούν.
Είναι πολύ νωρίς για να πούμε αν η Q-Star είναι AGI, και η OpenAI είναι περισσότερο απασχολημένη με το δράμα του CEO παρά με δημόσιες ανακοινώσεις. Και η εταιρεία μπορεί να μην θέλει να ανακοινώσει μια τέτοια καινοτομία τόσο σύντομα, ειδικά αν χρειάζεται μεγαλύτερη προσοχή.
Τι μπορεί να κάνει το Q-Star
Το Reuters αναφέρει ότι το Q-Star μπόρεσε να κάνει κάτι που η παραγωγική Τεχνητή Νοημοσύνη δεν μπορεί να κάνει αξιόπιστα, δηλαδή να λύσει μαθηματικά προβλήματα:
Με δεδομένους τους τεράστιους υπολογιστικούς πόρους, το νέο μοντέλο ήταν σε θέση να επιλύσει ορισμένα μαθηματικά προβλήματα, δήλωσε ένα εργαζόμενος της OpenAI υπό τον όρο της ανωνυμίας, επειδή δεν ήταν εξουσιοδοτημένος να μιλήσει εκ μέρους της εταιρείας. Αν και εκτελούσε μαθηματικά μόνο στο επίπεδο των μαθητών του δημοτικού σχολείου, η άριστη επίδοση σε τέτοια τεστ έκανε τους ερευνητές πολύ αισιόδοξους για τη μελλοντική επιτυχία του Q*, δήλωσε η πηγή.
Το Reuters αναφέρει, επίσης, ότι οι ερευνητές θεωρούν ότι τα μαθηματικά, όπου μόνο μία απάντηση είναι σωστή, αποτελούν μεγάλο ορόσημο για την παραγωγική Τεχνητή Νοημοσύνη. Τα σημερινά προγράμματα είναι καλά στη γραφή και στη μετάφραση γλωσσών, καθώς προβλέπουν την επόμενη λέξη. Οι απαντήσεις στην ίδια προτροπή μπορεί να διαφέρουν ως αποτέλεσμα. Αλλά με τα μαθηματικά, μπορεί να υπάρχει μόνο μια απάντηση.
Μόλις κατακτηθεί η μαθηματική επιστήμη, η Τεχνητή Νοημοσύνη θα έχει μεγαλύτερες ικανότητες συλλογισμού που θα μοιάζουν περισσότερο με την ανθρώπινη νοημοσύνη. Μετά από αυτό, η Τεχνητή Νοημοσύνη θα μπορεί να εργάζεται σε νέες επιστημονικές έρευνες.
Τι φοβούνται για την Τεχνητή Νοημοσύνη
Στην επιστολή επισημαίνεται ο πιθανός κίνδυνος του Q-Star, αν και δεν είναι σαφές ποιες είναι οι ανησυχίες για την ασφάλεια. Γενικά, οι ερευνητές ανησυχούν ότι η έλευση της Τεχνητής Νοημοσύνης μπορεί να οδηγήσει και στον αφανισμό του ανθρώπινου είδους. Καθώς η Τεχνητή Νοημοσύνη γίνεται πιο ευφυής, θα μπορούσε να αποφασίσει ότι η καταστροφή του ανθρώπινου είδους θα εξυπηρετούσε καλύτερα τα συμφέροντά της. Ακούγεται σαν την υπόθεση του Terminator και του Matrix, αλλά είναι ένας φόβος που έχουν εκφράσει οι ερευνητές στον τομέα.
Το Reuters αναφέρει ακόμη ότι οι ερευνητές έχουν επισημάνει το έργο μιας νέας ομάδας "επιστημόνων Τεχνητής Νοημοσύνης":
Οι ερευνητές έχουν επισημάνει επίσης το έργο μιας ομάδας "επιστημόνων Τεχνητής Νοημοσύνης", την ύπαρξη της οποίας επιβεβαίωσαν πολλαπλές πηγές. Η ομάδα, η οποία σχηματίστηκε από τον συνδυασμό των παλαιότερων ομάδων "Code Gen" και "Math Gen", διερευνούσε τον τρόπο βελτιστοποίησης των υφιστάμενων μοντέλων Τεχνητής Νοημοσύνης, ώστε να βελτιώσουν τη συλλογιστική τους και τελικά να εκτελέσουν επιστημονικό έργο, δήλωσε ένας από τους εμπλεκόμενους.
Αν και η OpenAI δεν έχει ακόμη επιβεβαιώσει αυτή τη φημολογούμενη καινοτομία, ο Sam Altman προανήγγειλε μια μεγάλη εξέλιξη τις ημέρες που προηγήθηκαν της απομάκρυνσής του.
«Τέσσερις φορές έως τώρα στην ιστορία της OpenAI, με πιο πρόσφατη τις τελευταίες δύο εβδομάδες, έχω την ευκαιρία να βρίσκομαι στο δωμάτιο, όταν κατά κάποιο τρόπο απομακρύνουμε το πέπλο της άγνοιας και τα σύνορα της ανακάλυψης προς τα εμπρός, και το να το κάνω αυτό είναι η επαγγελματική τιμή της ζωής μου», δήλωσε ο CEO στη σύνοδο κορυφής της Οικονομικής Συνεργασίας Ασίας-Ειρηνικού. Μια ημέρα αργότερα, απολύθηκε.
*Η κεντρική εικόνα προέρχεται από το TheDecoder.
[via]
