OpenAI: Παραιτήθηκε υψηλόβαθμο στέλεχος – Προειδοποιεί για “πυρηνικού επιπέδου” κινδύνους από την ΑΙ
Πρόσφατη αποχώρηση υψηλόβαθμου μάνατζερ της OpenAI , ο οποίος ασχολούνταν με την ασφάλεια των συστημάτων τεχνητής νοημοσύνης, αναζωπυρώνει τη συζήτηση για το κατά πόσο οι κορυφαίες εταιρείες του κλάδου μπορούν να συμβαδίσουν με την ταχύτητα ανάπτυξης της τεχνολογίας και τους κινδύνους που αυτή συνεπάγεται. Ο Ντέιβιντ Ρόμπινσον, που είχε προηγουμένως αναλάβει την ομάδα διαφάνειας της OpenAI στον τομέα ασφάλειας, ανακοίνωσε την αποχώρησή του και σε άρθρο του στο «The Atlantic» άσκησε κριτική στον τρόπο με τον οποίο αναπτύσσονται και λανσάρονται νέα συστήματα. Σύμφωνα με τον ίδιο, η OpenAI έχει βασιστεί σε μεγάλο βαθμό στη δοκιμή και το λάθος (trial & error), όμως το περιθώριο για τέτοιες αστοχίες περιορίζεται όσο αυξάνονται οι δυνατότητες των μοντέλων τεχνητής νοημοσύνης. Η αλματώδης ταχύτητα ανάπτυξης της ΑΙ Ο Ρόμπινσον υποστήριξε ότι οι συνεχείς νέες κυκλοφορίες προϊόντων δημιουργούν ένα περιβάλλον στο οποίο οι διαδικασίες ασφαλείας δεν εξελίσσονται με την ίδια ταχύτητα. Η ανησυχία αφορά ιδιαίτερα περιπτώσεις κατά τις οποίες ένα σύστημα μπορεί να παρουσιάσει απρόβλεπτη συμπεριφορά κατά τη διάρκεια δοκιμών.…
