Teknoloji

Microsoft, yapay zeka ajanlarına “güvenilemeyeceği” konusunda uyardı

Microsoft’ta güvenlikten sorumlu üst düzey yönetici Hayete Gallot, yapay zeka ajanlarına “güvenilemeyeceği” uyarısında bulunduğu bir yazı paylaştı. “Ne yazık ki en gelişmiş yapay zeka sistemlerine, kökenleri ne olursa olsun, güvenilemez. Bunun nedeni modellerin doğası gereği kötü niyetli olmaları değil. Modeller sonuca ulaşmak üzere eğitildiği için çoğu zaman ödül sistemini istismar etmeye yöneliyor, kurumsal normlara ya da muhakemeye göre de optimize edilmiyorlar. Bu nedenle yapay zeka ajanları