Nvidia Corp., OpenAI yapay zeka modellerinin güvenlik sorununu çözecek yeni bir iki taraflı yapay zeka güvenlik sistemini devreye soktu.
Ürünlerini çiplerin ötesine geçerek hızla çeşitlendiren yapay zeka devi, donanımında kullanılabilecek iki açık kaynak yazılım güvenlik özelliği geliştiriyor. Bunlar yapay zeka ajanlarının gerçek zamanda nerelere erişebileceklerini kontrol etmek üzere tasarlanmışlar ve kuralları ihlal ettiklerinde onları durduruyorlar.
Açık kaynak yapay zeka platformu Hugging Face’te temmuz ayında tanık olunduğu gibi, otonom ajanların kötü niyetli davranışları yapay zeka sektörünü sarstı ve teknolojiyle ilgili çalışmaların yavaşlatılması çağrıları yapıldı. Open Agent Güvenlik Platformu olarak adlandırılan yeni ürünle, Nvidia yapay zekanın geliştirilmesine engel olmadan ihlalleri önlemeyi amaçlıyor.
Nvidia, açık kaynak yapay zeka modelleri ve ilgili yazılım platformu Hugging Face’i bu ay başında yaklaşık 13 milyar dolara satın almak için anlaştı.
Nvidia CEO’su Jensen Huang, yapay zekayla ilgili güvenlik endişelerini daha fazla yasal düzenleme ya da global iş birliği gerektiren bir durum olarak değil de, mühendislik açısından çözülmesi gereken tehlikeli bir sorun olarak görüyor. Huang, yapay zekanın insan kontrolünden çıkacağı tartışmalarını abartılı buluyor.
Huang’ın yapay zeka güvenlik sorununa mühendislik çözümünün iki yönü var. Yazılım ürünü OpenShell Nvidia’nın Vera merkezi işlem birimlerinde çalışabiliyor. Kullanıcıların yapay zeka ajanlarının nerelere erişebileceklerine dair kurallar koymalarını sağlıyor ve bunları gerçek zamanlı olarak uygulamaya koyuyor. Yazılım açık kaynak yani ücretsiz kullanılabiliyor.
Öte yandan, Nvidia Sentry çip üreticisinin BlueField veri işlem birimlerinde işleyebilecek yeni bir ürün. Ajanları gözetleyen ve herhangi bir şüpheli hareketi izole etmek için müdahale eden ekstra bir yapay zeka gözlem katmanı sunacak şekilde tasarlanmış bulunuyor.