Aspen Güvenlik Forumu sırasında yeni bir endüstri kuruluşu olan Coalition for Secure AI (Güvenli Yapay Zeka Koalisyonu – CoSAI) resmen duyuruldu. Bu yeni oluşum, yapay zekanın güvenli bir şekilde geliştirilmesi ve kullanılması için önemli bir girişim olarak öne çıkıyor. CoSAI’ın kurucu ana sponsorları arasında Google, IBM, Intel, Microsoft, NVIDIA ve PayPal gibi teknoloji devleri bulunuyor. Ayrıca Amazon, Anthropic, Cisco, Chainguard, Cohere, GenLab, OpenAI ve Wiz de kurucu sponsorlar arasında yer alıyor.
Coalition for Secure AI (CoSAI) Neyi Amaçlıyor?
CoSAI, açık kaynak metodolojileri, standartlaştırılmış çerçeveler ve araçlar aracılığıyla geliştiricilere rehberlik sunmayı hedefliyor. Bu girişim, yapay zeka sistemlerinin güvenli geliştirilmesi, entegrasyonu, konuşlandırılması ve işletilmesine odaklanacak. Ayrıca, model hırsızlığı, veri zehirlenmesi, anında enjeksiyon, ölçekli kötüye kullanım ve çıkarım saldırıları gibi riskleri azaltmayı amaçlıyor.
CoSAI’nın Yapısı ve İlk Hedefleri
CoSAI, genel teknik gündemini ilerletmek ve yönetmek için bir Proje Yönetim Kurulu ve çeşitli iş akışlarını denetlemek için akademi ve endüstriden yapay zeka uzmanlarından oluşan bir Teknik Yönlendirme Komitesi oluşturacak. Bu yapı, girişimin hedeflerine ulaşması için gerekli koordinasyonu ve uzmanlığı sağlayacak.
İlk çalışmaları kapsamında CoSAI şunlara odaklanacak:
- Yapay zeka sistemleri için yazılım tedarik zinciri güvenliği: Yapay zeka uygulamalarını güvence altına almak için kompozisyon ve kaynak takibinin geliştirilmesi.
- Savunucuları değişen siber güvenlik ortamına hazırlamak: Yapay zeka ve klasik sistemlerdeki yatırımları ve entegrasyon zorluklarını ele almak.
- Yapay zeka güvenlik yönetimi: Yapay zeka güvenliği için en iyi uygulamaları ve risk değerlendirme çerçevelerini geliştirmek.
Güvenli Yapay Zeka İçin Açık Kaynaklı Yaklaşım
CoSAI’ın misyonu, yapay zeka güvenliğine açık kaynaklı bir yaklaşım oluşturmak. Bu misyon, hızla gelişen yapay zeka endüstrisinde güven oluşturma ve sorumlu gelişimi teşvik etme yönünde önemli bir adım olarak görülüyor. Girişim, mevcut güvenlik uygulamalarının parçalı yapısını ele alarak ve açık, standartlaştırılmış yönergeler sağlayarak geliştiricilere ve kuruluşlara güvenli yapay zeka sistemleri oluşturma yetkisi vermeyi amaçlıyor.
CoSAI’ın bu girişimi, yapay zeka teknolojilerinin güvenli bir şekilde geliştirilmesi ve kullanılması için global bir standart oluşturmayı hedefliyor. Böylece, yapay zeka sistemlerinin güvenli ve etik bir şekilde entegre edilmesi ve işletilmesi sağlanacak, bu da endüstri genelinde daha güvenli ve sorumlu bir yapay zeka kullanımını teşvik edecek.
