Hiç yapay zeka aracınızın güvenliğinin aslında başkasının da problemi olabileceğini düşündünüz mü? Görünüşe göre As You Wish (AYW) düşündü. Ve yapay zeka güvenlik katmanlarını bir ejderhanın altını gibi saklamak yerine, onu alıp doğaya saldılar. Cesur bir hamle. Muhtemelen aptalca. Hadi bunu bir inceleyelim.
Bakın, yapay zeka destekli bir geliştirme aracı inşa etmek sadece kod büyüsü yapmakla ilgili değil. Sizin koruma mekanizmalarına ihtiyacınız var. Prompt enjeksiyonunu durdurmak için girdi doğrulamadan bahsediyoruz. Şüpheli kodu veya yanlılığı yakalamak için çıktı filtrelemesinden. Her çılgın yapay zeka kararını izlemek için denetim kayıtlarından. Uzaktan riskli herhangi bir şey için insan onayından. Ve yapay zekanın neden onu tükürdüğünü bilmeniz için şeffaflık katmanlarından.
AYW bunun üzerinde sekiz acı dolu ay geçirdi. Sonra, ampul yandı. Herkes aynı dijital Hydra ile karşı karşıya. Bu yüzden altı ay önce açık kaynak yaptılar. GitHub. Keyfinize bakın.
Yapısı, dürüst olmak gerekirse, yetkin görünüyor. Düzenli. Girdi doğrulama, çıktı filtreleme, kayıt tutma, onaylar. Standart şeyler. Ama şeytan detaylarda gizli ve AYW bu detayların — 500’den fazla güvenlik test vakası, 10 milisaniyenin altında ek yük — artık herkese açık olduğunu iddia ediyor. MIT lisansı, doğal olarak. İsterseniz katkıda bulunun.
Tescilli güvenlik oksimorondur.
Bu oldukça keskin bir laf. Ve mantığı? Aslında geçerli. Açık kaynak yapmak, güvenlik mantıklarına 500’den fazla çift gözün bakmasını sağladı. AYW’nin gözden kaçırdığı 23 güvenlik açığı buldular. Daha hızlı yamalar mı? Topluluk PR’ları. Kurumsal kullanıcılardan güven mi? “Güvenlik katmanınızı denetleyebiliriz.” Bu, bu sefer doğru tarafa iniş yapmış gibi görünen döngüsel bir argüman.
Ve zorunlu dokümantasyon mu? Daha temiz arayüzler mi? Daha fazla test mi? Basitleştirilmiş mimari mi? Bu sadece kurumsal konuşma değil. Bu, açık kaynak yapmanın ham gerçeği. Kod kalitesi puanı ortalama bir 6.2’den saygın bir 8.7’ye yükseldi. Bu tesadüf değil.
Altı ayda 47 PR. 32 birleştirildi. Henüz düşünmedikleri 12 yeni güvenlik kontrolü. Belirli sektörler için üç yeni filtre. Gecikmeden %40 tasarruf sağlayan sekiz performans optimizasyonu. Bir doktora öğrencisi yeni bir yanlılık tespit algoritması ekledi. Birdenbire, AYW’nin sorunu herkesin çözümü haline geldi.
İşe Alım Bonusu
Bu sadece daha iyi kodla ilgili değil. Yetenekle ilgili. Açık kaynak yapmak, AYW’nin katmanı kullanmış iki kıdemli mühendisi kapmasına yardımcı oldu. Beş PR ile katkıda bulunmuş bir güvenlik araştırmacısı katılmadan önce. Üç stajyer. Bu bir tesadüf değil; fedakarlık gibi görünen bir işe alım stratejisi.
Rakamlara bakın: 3.200’den fazla yıldız. 450’den fazla fork. Üretimde kullanan 50’den fazla şirket. Discord’da 200’den fazla kişilik bir topluluk. İşlerine etkisi mi? Kurumsal satışlarda 3 kat artış. Sıfır güvenlik olayı. Satış döngüsünde %40 kısalma. Müşteri tutma oranında %95. Neredeyse… ikna edici.
Altın Kurallar: Açık Kaynak Düzenlemesi
AYW bazı özlü tavsiyeler sunuyor. GÜVENLİK/emniyet kütüphanelerini, yaygın yardımcı programları, standartları açık kaynak yapın. ÇEKİRDEK yapay zeka modellerinizi, tescilli algoritmalarınızı, müşteri veri işleyicilerinizi açık kaynak yapmayın. Bu mantıklı bir ayrım. Hatta mini bir rehber bile sağlıyorlar: ayıklama, belgeleme, test etme, lisanslama, CI/CD. Basit ama görünüşe göre genellikle göz ardı ediliyor.
Lansman duyuru stratejileri mi? Dev.to ve Hacker News. Anahtar noktalar: sorun, çözüm, neden açık kaynak, nasıl katkıda bulunulur. Sorunlara 48 saat içinde yanıt verin. PR’ları haftalık olarak gözden geçirin. Katkıda bulunanları bakımcı olarak ekleyin. Katkıları kutlayın. Tüm bunlar şimdi haftada yaklaşık dört saat sürüyor, onlara 20+ saatten tasarruf sağlıyor. Bana sorarsanız akıllıca bir takas.
Tespit edilmiş bir güvenlik açığı vardı. Güzel. Hızlıca yamalandı. Ders: bir güvenlik politikanız olsun. Ayrıca bağımlılık taraması. Görünüşe göre GPL kodunun gizlice sızmadığından emin olmaları gerekiyordu. Dalmayı düşünen herkes için dikkat çekici bir hikaye.
Ve sadece tembelliklerine yaslanmıyorlar. Stanford HAI ile kıyaslamalar üzerine işbirliği yapıyorlar. Yapay zeka için şeffaflık standartları konusunda ortaklık. Paylaşılan güvenlik şemaları için OpenAI ve Anthropic. Bu AYW’den çok, tüm sektörü akıl sağlığına doğru itmekle ilgili. Büyük bir hedef, ama işe yarayabilecek bir hedef.
Yapay Zeka Güvenliğinin Geleceği Bu mu?
AYW’nin hamlesi sadece bir jest değil. Pragmatik, biraz da cüretkar bir oyun. Güvenlik katmanlarını açık kaynak yaparak, sadece onları iyileştirmekle kalmadılar, aynı zamanda güven ve bir topluluk oluşturdular. Bir standart zorluyor. Bardağı yükseltiyor. Yaptıkları en akıllıca şey olabilir.
Tekerleği yeniden icat etmiyorlar. Lastik fabrikasını açık kaynak yapıyorlar. Ve yapay zeka geliştirme için bu, izlemeye değer bir hareket. Özellikle kendi yapay zeka araçlarınızı inşa ediyorsanız. Ortak sorunlar ortak çözümler gerektirir. AYW az önce bize bir tane verdi.
