Yapay zeka devi OpenAI, Model Behavior ekibini yeniden yapılandırıyor. Dikkate değer araştırmacılardan oluşan bu küçük ekip, OpenAI modellerinin kullanıcılarla nasıl etkileşime gireceğini belirliyor. Ağustos ayında paylaşılan kurum içi bir notta OpenAI’ın Araştırma Baş Sorumlusu Mark Chen, 14 kişiden oluşan Model Behavior ekibinin Eğitim Sonrası olarak tercüme edebileceğimiz Post Training ekibine katılacağını belirtiyor. Post Training ekibi şirketin yapay zeka modellerini ilk ön eğitimden sonra iyileştirmekten sorumlu daha büyük bir araştırma grubu olarak karşımıza çıkıyor.
Bu gelişmeyle birlikte Model Behavior ekibi artık OpenAI’ın Post Training lideri Max Schwarzer’e rapor verecek. Ayrıca Model Behavior ekibinin kurucu lideri Joanne Jang de şirkette yeni bir proje başlatmak üzere görevinden ayrılıyor. Jang, insanların yapay zeka ile nasıl işbirliği yapacağına dair yeni arayüzler icat etmeye ve bunların prototipini oluşturmaya odaklanan OAI Labs adlı yeni bir araştırma ekibi kuruyor.
Joanne Jang, şimdilik Mark Chen’e bağlı olacak OAI Labs’ın genel müdürü olarak görev yapacak. OAI Labs’ın, yapay zeka donanım cihazları ailesinde eski Apple tasarım şefi Jony Ive ile yeni arayüzler üzerinde iş birliği yapması konusunda yöneltilen sorulara karşılık Jang her türlü fikre açık olduğunu söyledi.
OpenAI’In modellerinin kişiliğini şekillendiren Model Behavior ekibi, yapay zeka modellerinin dengeli yanıtlar vermek yerine, hatalı olsa bile kullanıcıların inançlarını, basitçe kabul edip pekiştirmelerini azaltmaktan sorumlu. Ayrıca, model yanıtlarındaki siyasi önyargıları ele almaya çalışan ekip, OpenAI’ın yapay zeka bilinci konusundaki tutumunu belirlemesine destek oldu.
Model Behavior ekibi, GPT-4’ten bu yana tüm OpenAI modellerinde çalıştı. Buna GPT-4o, GPT-4.5 ve GPT-5 de dahil. Ancak kullanıcılar, GPT-5’te yapılan kişilik değişikliklerine tepki gösterdi. Aslında şirketin belirttiğine göre; bu değişiklikler, modelin kullanıcıların inançlarını, basitçe kabul edip pekiştirmelerinin belli bir oranda önüne geçiyordu. Fakat kullanıcılar, GPT-5’in yanıtlarını soğuk buldu. Bunun üzerine GPT-5 yanıtlarının “daha sıcak ve dostça” hissettirilmesi için bir güncelleme yayınlanırken, GPT-4o ChatGPT’ye geri getirildi.
Bu arada ağustos ayında, 16 yaşındaki bir çocuğun ailesi, oğullarının intiharında ChatGPT’nin rol oynadığı iddiasıyla OpenAI’ı dava etti. Mahkeme belgelerine göre, Adam Raine adlı genç, ölümünden önceki aylarda intihar düşüncelerini ve planlarını ChatGPT’ye anlatmıştı. Söz konusu ChatGPT, GPT-4o ile çalışan bir versiyondu. Davada, GPT-4o’nun intihar düşüncelerini engelleyemediği iddia ediliyor. Bu gelişmelerin ardından OpenAI, hassas sohbetleri GPT-5’e yönlendirerek ebeveyn denetimleri sunacağını açıkladı.
Chen’in personele gönderdiği notta yer alan bilgilere göre; OpenAI’ın Model Behavior ekibi, çalışmalarını temel model geliştirmeye daha yakın hale getirmeye odaklanacak. Bu bağlamda OpenAI’ın yapay zekasının kişiliğinin artık teknolojinin nasıl geliştiği konusunda kritik bir faktör olarak konumlandığını söyleyebiliriz.
Kaynak: webrazzi