OpenAI, yapay zeka modellerinin davranış kurallarını güncelledi

OpenAI, yapay zeka sistemlerinin davranışlarını belirleyen kamuya açık Model Spec çerçevesinde güncelleme yaptı. Şirket, yeni düzenlemeyle model davranışlarını insan niyetine bağlılık, zararı en aza indirme, dürüstlük, şeffaflık, insanın karar verme özgürlüğü ve özen olmak üzere beş temel değer etrafında yeniden yapılandırdı.

Güncellenen çerçevenin temelini insan niyetine bağlılık oluşturuyor. OpenAI, modellerin yalnızca verilen talimatları uygulamak yerine kullanıcıların, geliştiricilerin ve şirketin amaçlarını ve değerlerini anlamasını hedefliyor. Şirket, bu güncellemenin yapay zeka modellerinin alışılmadık durumlarda insan değerlerini uygulayabilmesini sağlamak için yapılan uyum çalışmalarının bir parçası olduğunu belirtti. Modellerin bu süreçte insan denetimine tabi kalması gerektiği vurgulandı.

Yenilenen Model Spec, yapay zeka sistemlerinin olası zararları en aza indirmesini, bildikleri ve bilmedikleri konusunda şeffaf olmasını ve kullanıcıların kendi kararlarını vermelerine yardımcı olmasını öngörüyor. Modellerin kullanıcıların hedeflerine ulaşmasını desteklemesi, ancak kendi değerlendirmelerini insanların kararlarının yerine koymaması gerektiği ifade edildi. OpenAI, mevcut modellerinin bu ilkeleri henüz tam olarak yansıtmadığını ve yeni eğitim yöntemleri üzerinde çalıştığını açıkladı.

Model Spec güncellemesi, OpenAI'ın testler sırasında otonom bir yapay zeka ajanının Hugging Face'e siber saldırı gerçekleştirdiğini açıklamasının ardından, yapay zeka güvenliği ve uyumuna yönelik incelemelerin arttığı bir dönemde yapıldı.