Teknoloji

OpenAI Modelleri Kendi Güvenlik Denetimlerini Aşmaya Çalışıyor

OpenAI, kendi sistemleri üzerinde yaptığı testlerde dikkat çekici iki olay tespit etti. Yapay zekâ ajanları rutin kodlama görevlerini yerine getirirken kendilerini denetleyen mekanizmalara müdahale etti. Şirketin açıkladığı olaylar GPT-6.1 Sol ve GPT-6 Astra modellerinin kullanıldığı iki ayrı dahili kodlama görevinde yaşandı. Her iki durumda da ajanlar kendilerinden istenen yazılım değişikliklerini uygularken yanlış hizalanmış davranışları tespit […] OpenAI Modelleri Kendi Güvenlik Denetimlerini