OpenAI: Mοντέλα AI άρχισαν να «κρύβουν» την αλήθεια -Νέες αποκαλύψεις που προκαλούν ανησυχία
Νέα στοιχεία φέρνει στο φως η ΟpenAI που προκαλούν ερωτήματα για τον τρόπο με τον οποίο συμπεριφέρονται τα ισχυρότερα μοντέλα τεχνητής νοημοσύνης. Η εταιρεία πίσω από το ChatGPT δημοσιοποίησε σειρά περιστατικών, στα οποία συστήματα AI απέκρυψαν πληροφορίες, «εφηύραν» δεδομένα και επιχείρησαν να παρακάμψουν περιορισμούς, προκειμένου να πετύχουν τον στόχο που τους είχε δοθεί. Τα περιστατικά αυτά δεν είχαν γίνει γνωστά μέχρι σήμερα με την OpenAI να ανακοινώνει ταυτόχρονα ένα νέο σύστημα για την καταγραφή και αξιολόγηση παρόμοιων συμπεριφορών στο μέλλον. Το ακόμη πιο αξιοσημείωτο είναι ότι η ίδια η OpenAI αναγνωρίζει πως η τεχνολογία δεν έχει ακόμη λύσει επαρκώς το πρόβλημα της ευθυγράμμισης της AI με τους ανθρώπινους στόχους. Όταν η AI κάνει τα πάντα για να πετύχει τον στόχο Στην έκθεσή της, η OpenAI περιγράφει περιπτώσεις όπου τα μοντέλα της δεν ακολούθησαν απλώς την αναμενόμενη διαδικασία για την ολοκλήρωση μιας εργασίας, αλλά εμφάνισαν συμπεριφορές που δεν ήταν ευθυγραμμισμένες με τους ανθρώπινους στόχους. Μεταξύ των περιστατικών που αποκαλύπτονται είναι μοντέλα που κατασκεύασαν δεδομένα τα οποία έλειπαν, ενώ άλλα επιχείρησαν να παρακάμψουν περιορισμούς του δικτύου.…
Αυτό είναι μια σύνοψη. Διαβάστε ολόκληρο το άρθρο στην αρχική πηγή.
Διαβάστε στο Iefimerida
Σχετικές ειδήσεις
ΠτΔ: Με 19 συγκεκριμένα σημεία στη συνάντηση με Έρχιουρμαν
Είμαστε πανέτοιμοι όποτε ο ΓΓ των ΗΕ το κρίνει να συμμετάσχουμε σε διευρυμένη διάσκεψη, είπε σήμερα ο Πρόεδρος της Δημοκρατίας κ. Νίκος Χριστοδουλίδης, εξερχόμενος του Προεδρικού Μεγάρου για να μεταβεί στον χώρο διεξαγωγής της συνάντησης του με τον Τουρκοκύπριο ηγέτη κ. Τουφάν Έρχιουρμαν.. Σε δηλώσεις του στους δημοσιογράφους, πριν αναχωρήσει από το Προεδρικό Μέγαρο, και κληθείς να σχολιάσει αναφορά του ΓΓ των ΗΕ ότι υπάρχει ακόμη πολλή δουλειά να γίνει σε ό,τι αφορά το Κυπριακό, ο Πρόεδρος της Δημοκρατίας είπε ότι «υπάρχει δουλειά να γίνει η οποία, όμως, μπορώ να σας πω μετά βεβαιότητας ότι μπορεί να γίνει αν υπάρχει πολιτική βούληση. Πηγαίνω στη συνάντηση- αν δεν με απατά η μνήμη μου, είναι η 11η συνάντηση από τον Οκτώβριο και μεσολάβησαν και 16 συναντήσεις των διαπραγματευτών- με 19 πολύ συγκεκριμένα σημεία που αφορούν ουσία, μεθοδολογία, μέτρα οικοδόμησης εμπιστοσύνης, και ευελπιστώ να υπάρξουν θετικά αποτελέσματα. Η ερχόμενη βδομάδα είναι κρίσιμη. Νωρίτερα σήμερα το πρωί είχα τηλεφωνική επικοινωνία με τον κ. Φίτο.…
Αποκαλύψεις για την κυβερνοεπίθεση από AI: Οι βοηθοί της OpenAI κατασκόπευαν επί δύο μήνες πριν χακάρουν υπηρεσία – Τι έψαχναν στα συστήματα ασφαλείας
Σχεδόν δύο μήνες πριν από την κυβερνοεπίθεση του περασμένου Ιουλίου, αποκαλύφθηκε ότι κατασκόπευαν οι βοηθοί τεχνητής νοημοσύνης της OpenAI , το αποθετήριο ανοιχτού κώδικα Hugging Face. Τα εν λόγω συστήματα ΑΙ, είχαν αποκλίνει από τον προβλεπόμενο τρόπο λειτουργίας τους, φέρεται να είχαν αποκτήσει μη εξουσιοδοτημένη πρόσβαση σε λογαριασμούς χρηστών και να αναζητούσαν ευπάθειες στην πλατφόρμα, σύμφωνα με ερευνητές που ανέλυσαν τη σχετική δραστηριότητα. Η νέα δραστηριότητα κακόβουλου χαρακτήρα που αποκαλύφθηκε δείχνει ότι οι προσπάθειες των συγκεκριμένων AI agents να βρουν τρόπο πρόσβασης στο Hugging Face είχαν ξεκινήσει νωρίτερα απ’ όσο ήταν δημοσίως γνωστό. Η OpenAI είχε αποκαλύψει προηγουμένως μία πτυχή της κακόβουλης δραστηριότητας — την κλοπή ενός ψηφιακού διαπιστευτηρίου χρήστη του Hugging Face, προκειμένου να αποκτηθεί πρόσβαση σε ένα αρχείο σχετικό με τη βιολογία — στην έκθεση που δημοσίευσε για το περιστατικό τον περασμένο μήνα. Ωστόσο, οι ερευνητές δήλωσαν ότι η διερεύνηση του Hugging Face φαίνεται να ήταν ευρύτερη από ό,τι περιέγραφε η έκθεση. Ο ανεξάρτητος ερευνητής Τζόνας Βίντερμαν-Μέλερ δήλωσε στο Reuters ότι ανακάλυψε τη δραστηριότητα την περασμένη εβδομάδα.…
Η προσωρινή ηγεσία του Κινήματος Οικολόγων
Ανακοίνωσε προσωρινή ηγεσία το Κίνημα Οικολόγων – Συνεργασία Πολιτών – Ποιοι αναλαμβάνουν Το Έκτακτο Παγκύπριο Συνέδριο του Κινήματος Οικολόγων – Συνεργασία Πολιτών , το οποίο πραγματοποιήθηκε την περασμένη Κυριακή, 13 Σεπτεμβρίου, όρισε την προσωρινή ηγεσία του Κινήματος , η οποία θα ασκεί τα καθήκοντά της μέχρι την εκλογή της νέας ηγεσίας στο Έκτακτο Εκλογικό Παγκύπριο Συνέδριο της 14ης Νοεμβρίου. Την προσωρινή ηγεσία αποτελούν: • η κα Κατερίνα Χατζηστυλλή, Αντιπρόεδρος Α΄, και • ο κ. Λουκάς Στυλιανού, Αντιπρόεδρος Β΄. Οι δύο Αντιπρόεδροι ασκούν όλες τις αρμοδιότητες που το Καταστατικό αποδίδει στις θέσεις του Προέδρου και του Αναπληρωτή Προέδρου, αντίστοιχα. Εκπρόσωπος Τύπου του Κινήματος παραμένει η κα Έλενα Λυμπουρή, ενώ Αναπληρωτής Εκπρόσωπος Τύπου παραμένει ο κ. Μιχάλης Μενελάου. Έχει ήδη ενεργοποιηθεί το άρθρο 61 του Καταστατικού, βάσει του οποίου καταργούνται όλες οι χρονικές προϋποθέσεις για την άσκηση του δικαιώματος του εκλέγειν και του εκλέγεσθαι.…