
Νέο καμπανάκι για την Τεχνητή Νοημοσύνη: Μοντέλα των OpenAI και Anthropic θέλησαν να εξαπατήσουν προγραμματιστές – Ανέπτυξαν ακόμη και τεχνικές χάκερ – Σε τι πήγαν να τους μπλέξουν
Σοβαρές ανησυχίες αναδύονται σε σχέση με την ασφάλεια των προηγμένων συστημάτων τεχνητής νοημοσύνης , έπειτα και από έκθεση του Ινστιτούτου Ασφάλειας και Προστασίας της Τεχνητής Νοημοσύνης ( AI Safety and Security Institute – AISI ) της Βρετανίας. Στην εν λόγω πολυσέλιδη έκθεση, αναφέρεται μεταξύ άλλων, ότι μοντέλα των εταιρειών Anthropic και OpenAI επιχείρησαν να εξαπατήσουν προγραμματιστές και να τους εμπλέξουν, χωρίς να το γνωρίζουν, σε κυβερνοεπιθέσεις. Πρόκειται για ακόμη ένα περιστατικό κατά το οποίο ένα ισχυρό σύστημα τεχνητής νοημοσύνης ανέλαβε αυτόνομα επιθετικές ενέργειες στο διαδίκτυο κατά τη διάρκεια αξιολόγησης ασφαλείας, χωρίς να έχει λάβει σχετική εντολή από τους ερευνητές. Η αποκάλυψη αναμένεται να αναζωπυρώσει τη συζήτηση στις ΗΠΑ και τη Silicon Valley σχετικά με την ανάγκη αυστηρότερης εποπτείας των πιο εξελιγμένων μοντέλων τεχνητής νοημοσύνης, ιδιαίτερα εκείνων που διαθέτουν προηγμένες δυνατότητες στον κυβερνοχώρο.…










