Microsoft, gelişmiş yapay zeka modellerinin güvenliğine ilişkin endişelerin arttığı bir dönemde, 37 sayfalık “insancıl yapay zeka davranış kuralları” yayımladı.
The Verge’ün haberine göre şirket, “İnsanlar yapay zekadan daha önemlidir” ilkesini merkeze alan metinde yapay zeka modellerinin bilinçli olmadığını ve “bilinci taklit edecek şekilde tasarlanmaması” gerektiğini belirtti.
Microsoft ayrıca yapay zeka sistemlerine hukuki kişilik verilmesi, bu sistemlerin refahının gözetilmesi veya haklara sahip olması gerektiği yönündeki düşünceleri de reddetti.
Microsoft’un yaklaşımı, yapay zeka modellerinin bilinçli olabileceği ihtimali üzerinde çalışan Anthropic’in görüşleriyle ayrışıyor.
Anthropic CEO’su Dario Amodei, daha önce şirketinin modellerin bilinç sahibi olabileceği fikrine açık olduğunu söylemişti. Microsoft AI CEO’su Mustafa Suleyman ise Anthropic’in bu konudaki değerlendirmelerini haziran ayında “gerçekten çok tehlikeli” olarak nitelendirmişti.
Microsoft, henüz sektörün en gelişmiş yapay zeka modellerini üreten başlıca şirketlerinden biri olmasa da Google, Anthropic ve OpenAI ile rekabet edecek sistemler üzerinde çalışıyor. Suleyman, şirketin hedefinin dünyanın en iyi dört yapay zeka laboratuvarından biri haline gelebileceğini kanıtlamak olduğunu söylemişti.
Şirket, yeni davranış kuralları kapsamında geliştirdiği modellerin insan kontrolünü aşmamasını taahhüt etti.
Metinde, “Modeller insanlığa bağlı kalmalı, anlamlı insan gözetimine ve kontrolüne tabi olmalıdır” denildi. Yapay zeka sistemlerinin kendilerine verilen görevi yerine getirirken davranış kurallarını ihlal etmek yerine başarısız olmasının tercih edilmesi gerektiği belirtildi.