OpenAI için dev ayrılık, üst düzey güvenlik ekibi dağıldı

OpenAI, gelecekte ultra güçlü yapay zeka sistemlerinin güvenliğini sağlama odaklı bir ekibi, ekibin iki liderinin ayrılmasının ardından etkili bir şekilde dağıttı. Bu liderler arasında OpenAI kurucu ortağı ve baş bilim insanı Ilya Sutskever da yer alıyordu.

OpenAI, süper hizalama ekibini bağımsız bir birim olarak sürdürmek yerine, bu grubu araştırma çalışmalarına daha derinlemesine entegre etmeye karar verdi. Bu, şirketin güvenlik hedeflerine ulaşmasına yardımcı olma amacı taşıyor. Ekip, Sutskever ve diğer bir OpenAI veterineri olan Jan Leike liderliğinde, bir yıldan kısa bir süre önce kurulmuştu.

Bu karar, OpenAI'den son dönemde yapılan bir dizi ayrılığın ardından, şirketin yapay zeka ürünlerini geliştirirken hız ve güvenlik arasında denge kurma yaklaşımı konusunda soru işaretleri yaratmasıyla alındı. Saygın bir araştırmacı olan Sutskever, OpenAI'den ayrıldığını ve CEO Sam Altman ile yapay zekayı ne kadar hızlı geliştirmeleri gerektiği konusunda daha önce çatışmalar yaşadığını duyurdu.

OpenAI için dev ayrılık, üst düzey güvenlik ekibi dağıldı

Leike, sosyal medyada yaptığı kısa bir paylaşımda istifa ettiğini açıkladı. Leike, Sutskever'in ayrılışının ardından şirketle yaşadığı anlaşmazlıkların son noktası olduğunu belirtti. Konuyla ilgili bilgi sahibi olan ve özel konuşmaları tartışmak istemeyen bir kişi, Leike'nin ayrılışının bu anlaşmazlıklar nedeniyle olduğunu söyledi. Altman, Leike'nin paylaşımına saatler sonra yanıt verdi. "Haklı, yapacak çok işimiz var," diye yazdı Altman. "Bunu yapmaya kararlıyız."

Son birkaç ay içinde süper hizalama ekibinin diğer üyeleri de şirketten ayrıldı. Leopold Aschenbrenner ve Pavel Izmailov, OpenAI tarafından işten çıkarıldı. Bilgi daha önce bu ayrılıkları bildirmişti. Izmailov, ayrılmadan önce ekipten çıkarılmıştı. Aschenbrenner ve Izmailov yorum yapmadılar.

Şirket, OpenAI'nin hizalama çalışmalarının bilimsel lideri olarak, büyük dil modelleri üzerinde çalışan John Schulman'ın görevi devralacağını söyledi. Ayrıca, OpenAI Araştırma Direktörü Jakub Pachocki'yi baş bilim insanı olarak atadı. OpenAI ayrıca, şirket genelinde yapay zeka güvenliğiyle ilgili çalışmalara katılan çalışanlara ve güvenliğe odaklanmış bireysel ekiplere sahip. Bunlardan biri, geçen Ekim ayında kurulan ve yapay zeka sistemlerinin potansiyel "felaket risklerini" analiz etmeye ve önlemeye odaklanan bir hazırlık ekibi.

Sutskever, ayrılışını duyurduğu paylaşımında, şirketin misyonuna olan bağlılığını vurguladı ancak güvenlik önlemlerinin yetersiz kaldığını düşündüğünü belirtti.