Η OpenAI συγκροτεί ειδική ομάδα για τη διαχείριση των κινδύνων της υπερ-ευφυούς τεχνητής νοημοσύνης. Η υπερ-νοημοσύνη είναι ένα υποθετικό μοντέλο τεχνητής νοημοσύνης που είναι εξυπνότερο ακόμη και από τον πιο προικισμένο και ευφυή άνθρωπο και διαπρέπει σε πολλούς τομείς εξειδίκευσης αντί για έναν τομέα όπως κάποια μοντέλα προηγούμενης γενιάς. Η OpenAI πιστεύει ότι ένα τέτοιο μοντέλο θα μπορούσε να φτάσει πριν από το τέλος της δεκαετίας. “Η υπερ-νοημοσύνη θα είναι η πιο επιδραστική τεχνολογία που έχει εφεύρει ποτέ η ανθρωπότητα και θα μπορούσε να μας βοηθήσει να λύσουμε πολλά από τα πιο σημαντικά προβλήματα του κόσμου“, δήλωσε ο μη κερδοσκοπικός οργανισμός. “Αλλά η τεράστια δύναμη της υπερ-νοημοσύνης θα μπορούσε επίσης να είναι πολύ επικίνδυνη και θα μπορούσε να οδηγήσει στην αποδυνάμωση της ανθρωπότητας ή ακόμη και στην εξαφάνιση του ανθρώπου“.
Η νέα ομάδα θα έχει συν-επικεφαλής τον επικεφαλής επιστήμονα της OpenAI, Ilya Sutskever και τον Jan Leike, επικεφαλής ευθυγράμμισης του ερευνητικού εργαστηρίου. Επιπλέον, η OpenAI δήλωσε ότι θα αφιερώσει το 20% της επί του παρόντος εξασφαλισμένης υπολογιστικής ισχύος του στην πρωτοβουλία, με στόχο την ανάπτυξη ενός αυτοματοποιημένου ερευνητή ευθυγράμμισης. Ένα τέτοιο σύστημα θα βοηθούσε θεωρητικά το OpenAI να διασφαλίσει ότι μια υπερ-νοημοσύνη είναι ασφαλής στη χρήση και ευθυγραμμισμένη με τις ανθρώπινες αξίες. “Αν και πρόκειται για έναν απίστευτα φιλόδοξο στόχο και δεν είναι εγγυημένο ότι θα πετύχουμε, είμαστε αισιόδοξοι ότι μια εστιασμένη, συντονισμένη προσπάθεια μπορεί να λύσει αυτό το πρόβλημα”, δήλωσε το OpenAI.
