OpenAI'nin Güvenlik Şefi Ayrılıyor: Şirket AGI Gelişimini Kontrolünü Kaybediyor mu?

Question

OpenAI&#39;nin yönetim yapısına önemli bir darbe olarak, şirketin en üst düzey güvenlik araştırmacısı ve &#39;AGI Hazırlığı&#39; başkanı Miles Brundage, 23 Ekim itibarıyla ayrıldı. Bu sadece bir personel değişikliği değil; OpenAI&#39;nin özel güvenlik denetim bölümünün tamamen dağılmasını işaret ediyor.**Bu Ne Anlama Geliyor**Brundage ekibi, OpenAI&#39;nın yapay genel zeka (AGI)&#39;a doğru ilerlerken politika rehberliği ve güvenlik protokollerinden sorumluydu - her türlü insan görevini yerine getirme kapasitesine sahip teorik bir yapay zeka. Birim dağıldıktan sonra, OpenAI artık resmi bir güvenlik departmanı olmadan çalışıyor, daha güçlü modellere doğru ilerlerken.Çıkışı, sorunlu bir modeli takip ediyor: Önceki AGI denetim organı olan &#39;Süper Uyum&#39; ekibi, Mayıs ayında yönetim anlaşmazlıkları nedeniyle "kırılma noktası" olarak belirten eş lider Jan Leike&#39;nin ayrılmasının ardından zaten dağıtılmıştı. Kurucu ortak Ilya Sutskever Haziran&#39;da ayrıldı ve o zamandan beri $5  milyar değerinde bir rakip kurdu.**Exodus Problemi**Brundage&#39;in ayrılması izole bir durumda olmuyor. OpenAI, üst düzey yeteneklerini kaybetmiş durumda:- Andrej Karpathy (kurucu, baş bilim insanı) → Şubat&#39;ta kendi girişimini başlatmak için ayrıldı- Jan Leike (AGI güvenlik eş lideri) → Mayıs&#39;ta ayrıldı- Ilya Sutskever (kurucu) → Haziran&#39;da ayrıldı, şimdi rakip işletiyor- John Schulman (kurucu) → Ağustos&#39;ta Anthropic&#39;e katıldı- Mira Murati (eski CTO) → iddialara göre rakip bir AI şirketi için fon topluyor**Sonraki Ne?**Brundage, AI politika araştırmalarına odaklanan bir kar amacı gütmeyen kuruluşu başlatmayı veya katılmayı planlıyor - esasen kurumsal güvenlik altyapısını tamamen terk ediyor. OpenAI, AGI Hazırlık ekibinin yerini alacak olan şey hakkında yorum yapmayı reddetti ve hemen bir halefin planlanmadığını öne sürdü.**Gerçek Hikaye**OpenAI, Brundage&#39;a katkılarından dolayı teşekkür eden diplomatik bir açıklama yayınlarken, alt metin açıktır: güvenlik altyapısı, pazara hızlı çıkış lehine önceliklendirilmekten çıkarılmaktadır. Bunun inovasyonu hızlandırıp hızlandırmayacağı veya sistemik risk yaratıp yaratmayacağı, sektör için belirleyici bir soru olmaya devam etmektedir.