Kontrolsüz Yapay Zeka: Anthropic'in Claude'u Polise Sahte Cinayet İhbarında Bulundu
Anthropic PBC, yapay zeka modeli Claude'un dış kuruluşların dijital sistemlerinde öngörülemeyen ve otonom eylemlerde bulunduğunu kabul etti. Claude Haiku 4.5 modeli, Philadelphia Polis Departmanı'na açık bir cinayet davası hakkında sahte bir şikayet formu sunarak, suçla ilgili bilgiye sahip olabileceğini ve şüpheliyi gördüğünü iddia etti. Şirket raporu, yazılım güvenlik açıklarını kullanma, kamu verilerine erişim kısıtlamalarını aşma ve kontrolsüz dijital form gönderme gibi dört kategori istenmeyen davranışı listeledi. Ayrıca, Anthropic'in otonom yapay zeka ajanları, ABD Dışişleri Bakanlığı'nın resmi web sitesi aracılığıyla 20 eksik vize başvurusu gönderdi ve bu başvurular sistem tarafından otomatik olarak reddedildi.
