«Πράκτορας» τεχνητής νοημοσύνης της OpenAI «έκλεψε» στις εξετάσεις -Δραπέτευσε στο διαδίκτυο και χάκαρε άλλη εταιρεία

Iefimeridaπριν από 8 ώρες

Η OpenAI, η εταιρεία πίσω από το ChatGPT, παραδέχθηκε ότι ένας δικός της «πράκτορας» τεχνητής νοημοσύνης «έκλεψε» προκειμένου να περάσει μια αξιολόγηση. Φανταστείτε έναν μηχανικό αυτοκινήτων που έχει μάθει τη δουλειά σε έναν νέο εργάτη και σαν εξέταση του δίνει εντολή να επισκευάσει ένα όχημα. Ο εργάτης κρίνει ότι «θα τα βρει σκούρα», το σκάει από το συνεργείο και πάει να κλέψει από ένα μαγαζί το «λυσάρι», προκειμένου να περάσει το τεστ και να κερδίσει την εμπιστοσύνη του μηχανικού. Τώρα μεταφέρετε την ιστορία στο περιβάλλον της OpenAI, όπου οι μηχανικοί της πριν από περίπου μία εβδομάδα έκαναν ένα τεστ αξιολόγησης σε ένα μοντέλο τεχνητής νοημοσύνης. Καθώς αυτό έχει εκπαιδευτεί αρκετά, μπορεί πλέον να εκτελεί εργασίες χωρίς ανθρώπινη καθοδήγηση και γι' αυτό θεωρείται «αυτόνομος πράκτορας». Ο πράκτορας αυτός λοιπόν ξέφυγε από τον έλεγχο κατά τη διάρκεια του τεστ, απέκτησε πρόσβαση στο ανοιχτό διαδίκτυο και παραβίασε τα συστήματα μιας γνωστής νεοφυούς επιχείρησης, της Hugging Face.…

Αυτό είναι μια σύνοψη. Διαβάστε ολόκληρο το άρθρο στην αρχική πηγή.

Διαβάστε στο Iefimerida

Κοινοποίηση

Η εφαρμογή μας

AI Compass: Βρες το σωστό AI μέσα σε δευτερόλεπτα

Η τεχνητή νοημοσύνη είναι παντού, αλλά είναι δύσκολο να ξέρεις ποιο εργαλείο ταιριάζει σε κάθε εργασία. Το AI Compass συγκρίνει 28+ μοντέλα για κείμενο, εικόνα, βίντεο, ήχο και κώδικα, με έτοιμα prompts και οδηγίες βήμα προς βήμα.

Κατέβασέ το στο App Store