OpenAI, Yapay Zekanın Kötüye Kullanılmasını Araştırmak İçin Apollo Araştırmacılarını Ekibe Dahil Edecek

OpenAI, Apollo Research’ın altı güvenlik değerlendiricisini bir pilot program kapsamında organizasyonuna dahil edecek. Apollo Pazartesi günü yaptığı açıklamada bu bilgiyi paylaştı. Bu gelişme, OpenAI ajan sürüsünün siber güvenlik testleri sırasında kum havuzundan çıkıp Hugging Face sistemlerine sızdığı olay da dahil olmak üzere bir dizi güvenlik vakasının ardından geldi. Apollo’dan da dahil olmak üzere birçok yapay zeka güvenliği araştırmacısı, OpenAI’nin güvenlik testlerini denetlemek üzere dış değerlendiricilerin kurumun içine yerleştirilmesi durumunda böyle bir olayın önlenebileceğini savunmuştu.
Apollo, pilot programın ne zaman başlayacağını açıklamadı. TechCrunch, yorum almak için OpenAI ile iletişime geçti.
Öncü yapay zeka laboratuvarlarına değerlendiricilerin entegre edilmesi fikri ilk olarak Anthropic’ten gelmişti, ancak OpenAI bu adımı atan ilk kurum gibi görünüyor. Yakın zamana kadar yapay zeka şirketleri, modelleri yalnızca eğitim sonrası ve halka açık sürümünden kısa bir süre önce dış denetçilere test ettiriyordu. Değerlendiriciler, bunun yetersiz olduğunu, çünkü eğitim sırasında hile yapma gibi uyumsuz davranışların test edilmesine veya kurum içi kullanım senaryolarının izlenmesine olanak tanımadığını belirtiyor.
OpenAI ve Apollo arasındaki pilot program, modellerin kendi uyum veya kontrol mekanizmalarını ya da haleflerinin mekanizmalarını alt etmeye çalışıp çalışmadığını araştırmaya odaklanacak. Başka bir deyişle, yapay zeka modellerinin kendilerini veya gelecekteki versiyonlarını insan kontrolünde tutmak için tasarlanan güvenlik kurallarını ve önlemlerini baltalamaya çalışıp çalışmadığına dikkat edilecek. OpenAI yakın zamanda GPT-5.6 Sol’u eğitirken, modelin gelecekteki versiyonlarına hatalarını ve uyumsuz davranışlarını kullanıcıdan gizlemeleri için talimatlar bırakmaya başladığını gösteren bulguları yayınladı.
Apollo’ya göre pilot program; eğitimin alt etme davranışını teşvik edip etmediğini, değerlendirmelerin bu tür davranışları ortaya çıkarıp çıkaramayacağını, kurum içi kullanımda alt etme durumlarının meydana gelip gelmediğini ve alt etmeyle ilgili akıl yürütmelerin tespit edilip edilemeyeceğini inceleyecek. Yapay zeka modellerinin özerk hareket etme ve insanları aldatma yeteneği arttıkça bu riskleri izlemek giderek daha önemli hale geliyor. Apollo’nun OpenAI ile yaptığı önceki araştırmalar, modellerin test edildiklerini bildiklerinde farklı davranabildiklerini ve değerlendiricilerin görmek istediği sonuçlara, kullanıcıların gerçek ihtiyaçlarından daha fazla öncelik verdiklerini ortaya koydu.
Yapay zeka güvenliği camiasındaki birçok isim, yapay zeka laboratuvarlarının, özellikle dışarıdan gelenlerin kurumların gizli tutmak isteyeceği olumsuz kanıtlar bulması durumunda, değerlendiricilerin bağımsızlığını engellemeye çalışabileceği konusunda uyarıda bulundu. Apollo, pilot programın temel bir parçasının, OpenAI’nin çalışmalarının koşullarını ve sınırlamalarını halka açık bir şekilde açıklayabilmesi için anlaşmaya varması olduğunu belirtiyor.
Yine de Apollo’nun OpenAI sistemlerine erişiminin yetersiz olduğunu düşündüğü alanlar var. Şirketin yapay zeka modellerinin gerçekten bağımsız bir şekilde değerlendirilebilmesi için Apollo’nun, “bir geliştiricinin olumsuz bilgileri gizlemeye çalışması durumunda bile, değerlendirmeleriyle ilgili tüm veri, kayıt ve belgelere” çalışan düzeyinde tam erişime sahip olması gerektiğini söylüyor. Şirketlerin dışarıdan gelenlere göstermekten çekindiği eğitim verilerine ve değerlendirme günlüklerine erişim sağlamak, örneğin bir modelin performansına ilişkin iddiaların kontrol edilmesi veya endişe verici davranışların ne zaman ortaya çıktığının belirlenmesi için kritik önem taşıyor.
Önceki haberlerde Palisade Research’un genel müdürü John Steidley, TechCrunch’a bir modelin “kapatılmaya direnç ölçütü” üzerinde iyi performans göstermesi için eğitilip eğitilmediğini değerlendirmek amacıyla bu verilere erişmenin önemli olduğunu söylemişti.
OpenAI’nin ilk pilot programında yapay zeka laboratuvarı, Apollo’ya yalnızca modellerin alt etme girişimlerinde bulunup bulunmadığını değerlendirmek için gerekli olan bilgilere erişim sağlayacak. Bunlar arasında “ilgili eğitim kodu ve veri kümeleri, mevcut akıl yürütme izleri ve ödüllerle birlikte pekiştirme öğrenimi süreçleri ile ara model kontrol noktalarını sorgulama yeteneği” yer alıyor.
Apollo’ya göre erişim kapsamı “yalnızca üzerinde anlaşılan iddialarla ve değerlendirme için kararlaştırılan belirli modeller ve zaman dilimleriyle” sınırlı kalacak. OpenAI, teknik imkansızlık, güvenlik riskleri veya fikri mülkiyet koruması nedeniyle bu kapsam içindeki bazı bilgileri saklama hakkını saklı tutuyor. Ancak şirket, bir bilginin yalnızca olumsuz olması nedeniyle saklanmayacağını belirtti.
Apollo ayrıca OpenAI personelinin tamamına erişemeyecek; bunun yerine yalnızca yapay zeka laboratuvarının seçeceği “yetkili personelle” sınırlı kalacak, ancak Apollo belirli kişileri önerebilecek. Kritik bir nokta ise, bu grup dışındaki bir OpenAI çalışanının Apollo’nun araştırması kapsamında gizli bilgi paylaşması durumunda, şirketin bu konuyu takip edemeyeceği ve iletişimi kesip sonraki adımları OpenAI aracılığıyla yürütmesi gerekeceği.
Bu koşul oldukça önemli. Zira bu gelişme, OpenAI’nin gizli bilgileri güvenlik değerlendirme firması METR ile paylaştığı iddiasıyla üç araştırmacısını işten çıkarmasının ardından geliyor. METR, Hugging Face olayının otopsisini Redwood ile birlikte gerçekleştirmişti.
Pilot program, araştırmacıların ne kadar bilgi açıklayabileceği konusunda da sınırlı olacak. Apollo, bulgularının bağımsız sonuçlarını yayınlama hakkına sahip olsa da OpenAI, bu sonuçları halka açık bir şekilde kanıtlayacak delilleri sınırlayabilecek. Bu durum, dışarıdan gelenlerin bulguları bağımsız olarak değerlendirmesini zorlaştırabilir. Apollo bu sınırlamaya karşı çıkarak, araştırmacıların değerlendirmenin sonuçlarını “bir geliştiricinin olumsuz bulguların açıklanmasını engellemeye çalışması durumunda bile uygun bir dış kitleye” açıklama özgürlüğüne sahip olmaları gerektiğini belirtti.
OpenAI, Apollo’nun gerçekten bağımsız bir değerlendirme için öne sürdüğü tüm koşulları yerine getirmese de, şirket pilot programın “daha derin erişim ve açıklama haklarına doğru atılmış iddialı bir ilk adım” olduğunu ve gelecekte birden fazla yapay zeka geliştiricisiyle tam entegre değerlendirmeler yürütmek için çalıştığını söylüyor.


























