0

BEĞENDİM

ABONE OL

News

0

OpenAI’nin eski yapay zeka güvenliği yöneticilerinden biri olan Jan Leike, Claude AI sohbet robotunu geliştiren rakip şirket Anthropic’e katıldı. Geçtiğimiz ayın başlarında yönetici, OpenAI’nin varsayımsal muhteşem akıllı yapay zekalar üzerinde denetimi sürdürmenin yollarını geliştirdikleri muhteşem hizalamadan vazgeçmekte olmasından ötürü şirketten ayrılmıştı.

Leike, Anthropic’te harika hizalama üzerinde çalışmaya devam edeceğini söyledi. Yeni grubu ölçeklenebilir nezaret, zayıftan güçlüye genelleme (zayıf yapay zeka sistemlerinin daha uygun sonuçlar elde etmek için daha güçlü yapay zekalara rehberlik etmesi) ve otomatik hizalama araştırması üzerinde çalışacak. Yönetici, X üzerinde paylaştığı gönderide, gerekli marifetlere sahip rastgele birinin grubunda çalışmakla ilgilenmesi durumunda kendisiyle direkt ileti yoluyla bağlantıya geçilebileceğini söyledi.

Jan Leike ve OpenAI kurucu ortağı Ilya Sutskever Mayıs ayında OpenAI’den ayrıldı. O sırada şirket içindeki kaynaklar, OpenAI’nin muhteşem hizalama takımını dağıttığı ve bununla meşgul olanları şirketteki öbür projelere aktardığını bildirdi. Leike, OpenAI’den ayrılırken şirketin gidişatını eleştirerek Sam Altman ve Greg Brockman’ı OpenAI’nin güvenliğe ehemmiyet verdiğini belirten bir karşılık yayınlamak zorunda bıraktı.

OpenAI, Leike ayrıldığından beri inançlı olduklarından emin olmak için yeni eserler geliştirirken şirketin güvenlik prosedürlerine göz kulak olacak bir güvenlik komitesinin kurulduğunu duyurdu.