BILGISAYAR BILIMLERI PROFESÖRÜ olmasının yanında nörolojik cerrahi alanında yürüttüğü hesaplamalı fizyoloji ve yoğun bakım ünite görüntüleme çalışmaları ile de dikkat çeken Profesör Stuart J.Russell, yapay zekânın insanlık ve kurumlar tarafından kavranması, kullanım alanları ve geleceği konularında öncü çalışmalara imza atan bir isim. Makine öğrenimi, olasılıklı örneklem, planlama, gerçek zamanlı karar alma, çoklu hedef izleme, bilgisayar görüsü alanlarında çalışmalar yapan Russell, robotik ve biyoenformatik konularında otoritelerden biri olarak kabul ediliyor. Benim ilgimi çeken nokta ise, Turkcell Teknoloji Zirvesi’nde yaptığı konuşmada yapay zekânın insanları nasıl daha iyi insan yapacağına odaklanması oldu.
Makinelerin kendilerinden önce karşılarındakini düşünmeye dayanan programlanma biçiminin insanlara örnek olması, bu gelişmenin dinamiklerinden biri olarak karşımıza çıkıyor. Russell’a göre, kendimizi daha iyi hale getirmemize yardımcı olacak ve gerçekte nelere önem verdiğimizin ortaya çıkması konusunda inanılmaz bir katkı sağlayacak.
Ancak konunun daha önemli bir boyutunu Russell’ın sorduğu iki soru oluşturuyor.
Bu sorulardan ilki, kendimizden daha güçlü olan bir şeyi nasıl kontrol edeceğimiz ve kulağa gediğinden daha kritik olabilir. İnsanların kendilerinden güçlü olan şeylerden korkmaları, şimdiye kadar çevresindeki birçok şeyi yok etmesine neden oldu. Bu kontrol manyaklığı, insanın mutluluğunun önündeki en önemli engellerden biri… Bilim kurgu kitap ve filmlerinde bu arayışlar, Star Wars’ta insanların Chewbacca ile dost olması ya da Avatar’da Avatar ile uçan bizon Appa’nın dostluğu gibi karşılıklar bulsa da günlük hayatta bu, çok rastlanan bir durum değil.
İkinci önemli soru ise, yapay zekânın kullanılması ve bunun akıllıca yapılması ile ilgili. Bu da insanın alışık olmadığı bir alanda sınav vermesini gerektirecek. Yapay zekâ ile ilgili bir tartışma gibi görünse de her iki konunun da insanın yetersizlikleri ile ilgili olması, yapay zekâ çalışmalarında bu tarafa da dikkat edilmesi gerektiğini düşündürüyor. Russell ile yapılmış, aşağıdaki röportaj konunun farklı boyutlarını ele almaya yardımcı olabilecek gibi görünüyor.
Yapay zekâ konusunda uzun yıllardır çalışıldığını biliyoruz. Ancak özellikle son birkaç yıldır bu teknolojini adını daha sık duymaya başladık. Sizce bu kadar fazla gündemde olmasının nedenleri nelerdir?
Araştırma dünyası (akademik araştırma yapan çevreler) içerisinde, yapay zekâdaki gelişmelerin yavaş ve uzun bir gebelik dönemine sahip olduğunu söyleyebiliriz ve pratik kullanıma elverişli gelişmelerin belli bir eşiği geçebilmesi ancak ara sıra deneyimleyebildiğimiz bir olgu. Ve aynı 1980’lerin ortasında yaşanan “teknik sistemler uzmanlığı patlaması” örneğinde olduğu gibi, bu gerçekleştiği zaman ise birden bire tüm sanayi dünyası, finans dünyası, medya ve hatta genel kamuoyu bu konuya karşı bir ilgi oluşturmaya başlıyor.
Kılcal yapay sinir ağları olarak adlandırdığımız makine öğreniminin belli türleri, 1990’dan beri üzerinde çalışma yürütülen alanlardı ve kayda değer oranda başarı sergilenebilmesi için 2012’ye kadar bekledik; özellikle görsel nesne tanımlama ve birçok algoritmik gelişme anlamında başarı kaydedilmişti. Muazzam veri kümeleri ve donanım tarafında özellikle hız anlamındaki gelişim de bu sürece ciddi katkı sundu. Bu sayede daha kapsamlı deneyler daha kısa sürede gerçekleştirilebiliyordu. Bu ilerleme de, “derin öğrenme patlaması” olarak adlandırabileceğimiz bir süreci başlatmış oldu. Bu teknoloji, artık gerçekten somut ve gerekli kabiliyetlere sahip bir hale erişti: makineler artık nesne tanıma, konuşma tanımlama ve tercüme konularında insanlar düzeyinde ve hatta bunu aşan bir başarıya eriştiler. Takviyeli bir makine öğrenimi sistemi olan AlphaZero, tek bir günde dünyanın en iyi insan ve makine Go, satranç ve shogi oyuncularını yenebilecek düzeye kendi kendine bu oyunları öğreterek/öğrenerek geldi.
Özellikle robotik teknolojiler ve yapay zekâ gibi yeni nesil teknolojilerin istihdama olumsuz etkileri olacağı yönünde eleştiriler söz konusu. Sizin bu konudaki görüşleriniz neler?
Aristo, Politika adlı eserinin birinci kısmında bu konuyu aslında gayet açık bir şekilde ele alıyor:
“Eğer her alet emredildiğinde veya kendiliğinden başkalarının arzu ve iradesini kavrayarak yapması gereken işi yerine getirirse, hizmetlilere ya da kölelere ihtiyaç kalmayacaktır.”
Herkes Aristo’nun bu tespitine katılıyor olmalı ki; ne zaman bir işveren, daha önce insanların yerine getirdiği bir işi icra anlamında daha verimli yapabilecek mekanik bir yöntem keşfetse, istihdamda hızla bir düşüş oluyor. Bu meselede “telafi edici etki” olarak da adlandırılan görüş, bu gelişmelerin doğal sonucu olarak yeni iş alanlarının doğacağını ve istihdamdaki kaybı yerine koyabileceğini öne sürüyor. İyimserlerin yaklaşımı bu yönde… Ve şu anki tartışmada da, geçmiş sanayi devrimlerinin ortaya çıkardığı yeni mesleklere ve doğurduğu iş alanlarına işaret ediyorlar. Kötümserler ise ortaya çıkacak “yeni işleri ve meslekleri” de makinelerin icra edeceğini öne sürüyorlar. Bir makine; insanın fiziksel emeğiyle yerine getirdiği işi elinden aldığında, bu sefer zihinsel emeğinizi ortaya koyabilirsiniz. Bir makine zihinsel emeğinizin de yerini aldığında, bu sefer iş piyasasına ne sunabilirsiniz?
Max Tegmark, Life 3.0 adlı eserinde bu tartışmayı, 1900 yılında içten yanmalı motorların yükselişini tartışan iki at arasındaki bir sohbetmiş gibi tasvir eder. Bir tanesi, “Bu durum atlar için yeni işler demek… Bugüne kadar hep böyle oldu, tekerleğin icadı da sabanın, pulluğun icadı da” der. Fakat arabalarla birlikte atların çoğu için “yeni istihdam” alanı evcil hayvan maması olmak oldu.
İnsanları da benzer bir süreç mi bekliyor?
Yapay zekâ ilerledikçe, tüm gündelik fiziksel ve zihinsel işlerin makineler tarafından daha az maliyetli bir biçimde yerine getirilmesi oldukça kuvvetli bir ihtimal, hatta olacak olan da bu aslında. Binlerce yıl önce avcı-toplayıcılıktan vazgeçtiğimiz andan itibaren, toplumlarımız insanların çoğunu aslında robotlar gibi konumlandırmaya başladı; tekrara dayalı alet edevat işlerini ve zihinsel meşgaleleri diğer insanlara yükledi; bu yüzden robotların da kısa süre içinde bu rolleri devralması şaşırtıcı olmayacak. Bu gerçekleştiğinde ise, yüksek beceri gerektiren ve hâlâ insanların erişiminde kalan meslekleri icra edebilmek için yeterli rekabet düzeylerine sahip olamayan insanlar açısından genel ücret seviyeleri de düşeceğinden yoksulluk sınırının altında bir yaşam standardına geçmiş olacaklar. Bu neticenin önüne geçebilmek için, hükümetlerin gerekli tedbirleri almasının elzem olduğunu düşünüyorum. Bu hususta önerilerden biri “temel evrensel gelir” fikri – her birey, koşullarından tamamen bağımsız, devlet tarafından kendilerine takdim edilen yüklü bir miktar para alır. Bana göre bu yaklaşım başarısızlığın kabulü anlamına geliyor – çoğu insanın topluma katkı sunma anlamında hiçbir iktisadi değere sahip olmadığını öne sürmüş oluyorsunuz: Onları besliyor ve barındırıyorsunuz ama geri kalan her şeyi aletlere bırakıyoruz.
Gerçek haz ve kendi potansiyelini gerçekleştirmekten doğan memnuniyetin kalıcı hale gelebilmesi; ancak bir amacınızın olması ve bunu başarmanız (en azından denemeniz) sayesinde mümkün, özellikle de yolunuzda engeller varsa. Anlık tatminlerin edilgen bir biçimde tüketilmesi yoluyla değil. Everest’e tırmanmakla tepesine helikopterle bırakılmak arasında fark vardır. İnsanlar, mutluluğa diğer insanların refahına katkı sağlayarak ulaşırlar: çoğu insan başkalarına faydalı bir işle uğraştıklarında kendi refahlarını da artıracak. Ürün ve hizmetlerin çoğu, insan gözetimi ve katkısının çok sınırlı olduğu makineler tarafından ortaya konacak olsa bile bu gerçekleştirilebilir. Kaçınılmaz olarak, çoğu insan sadece insanlar tarafından ortaya konabilen ya da sadece insanların gerçekleştirmesini tercih ettiğimiz kişisel ve kişiler arası hizmetleri sunarak zamanlarını dolduracaklar. Bu şu anlama gelir; eğer rutine dayalı fiziksel ve zihinsel emeğimizi artık ortaya koyamıyorsak, insanlığımızı ortaya koyabiliriz. Bunun günümüzdeki örnekleri psikoterapistler, yönetici koçları, eğitmenler, danışmanlar, refakatçiler, çocuklarımızın ve yaşlılarımızın bakımını üstlenen kişiler.
Bu mesleklerin tamamı dolgun ücretler karşılığı yapılmıyor. Örneğin çocuk bakımını ele alırsak, bu vazife her ne kadar bir hayli önemli bir iş olsa da, toplumsal statü ve gelir anlamında bununla karşılaştırılamayacak derecede düşük bir konuma tekabül ediyor. Bu aslında bir nebze bu durumu nasıl yöneteceğimizi bilmememizden de kaynaklanıyor. Mesleğin kimi icracıları doğuştan yetenekli ve bu işte iyi olsalar da, çoğunluk bu konuda yetersiz. Yüksek maaşlar ve iyi bir toplumsal konum, yüksek katma değer sunabilmenin sayesinde ortaya çıkıyor ki bu da eğitim, uzmanlaşma ve insan hayatını nasıl daha ileri noktalara taşınabileceği konusundaki araştırmalara yapılan yatırımla mümkün oluyor. Özetle eğitim sistemlerimiz ve bilimsel girişimlerimiz konusunda yeniden bir düşünmemiz gerekiyor; dikkatimizi fiziksel dünyadan ziyade insana odaklamamız gerekiyor. Bunun sonucunda yaşamaya değer bir dünyaya kavuşacağımızı düşünüyorum.
Yapay zekânın uygulama alanlarından en önemlisinin veri analitiği olduğunu biliyoruz. Mevcut verilerde bir ön yargı söz konusu ise bu durumun yapay zekâya yansıması sizce nasıl olur?
Önyargıların olası nedenlerinin, şirketlerin ve algoritmaları tasarlayanların kasıtlı suiistimalinden ziyade verilerde aranması gerektiğine katılıyorum. 2015 yılında Glamour dergisinde yer alan bir haber, bu anlamda moral bozucu bir bulguya işaret ediyordu: “CEO kelimesi Google’da arandığında bir kadın fotoğrafı ancak 12 satır aşağı inildiğinde çıkıyordu ve o da Barbie’ydi. (2018’de yani bugün bu araştırmayı yapsanız bazı kadın görsellerinin daha üstte çıkmaya başladığını görürsünüz ama bunların da çoğunun hakikaten kadın CEO’lardan ziyade genel kullanım amaçlı stok görseller olduğunu fark edeceksiniz.) Bu Google’ın aratılan görsellerin dizilişini tasarlarken kasıtlı bir cinsiyet yanlılığı yaptığının kanıtı değildir, tam tersine veriyi üreten kültürel anlamda var olan mevcut önyargılardır: Şu an kadın CEO’dan çok daha fazla sayıda erkek CEO var. İnsanlar bir “model, örnek” CEO göstermek istediğinde, hemen her defasında bir erkek figürünü seçiyorlar.
Tabii bunun haricinde makine öğrenimi konusunda çalışma yürütürken naif bir yöntem benimsediğinizde dahi bu tarz yanlı sonuçlara yol açabilecek teknik sebepler de sayıca fazladır. Örneğin azınlıklar, tanımları da gereği, nüfusun genelini yansıtan veri setlerinde daha az temsil edilirler; buna bağlı olarak da bir azınlık gruba mensup bireylere dair yapılan çıkarımlar da daha az isabetli olur. Allahtan, bugün artık makine öğrenimi algoritmalarından yanlı analizler ortaya koyabilecek fakat aslında dikkatsizce yapılmış olan hataların ayıklanması için ciddi emek ve özen sarf ediliyor. Ve hakkaniyet anlamında daha makul ve arzu edilir seviyelerde tarafsız sonuçları üretecek yöntemlerin gelişim kaydettiğini söylemek yanlış olmaz (Berkeley Üniversitesi’ndeki meslektaşım ve mesai arkadaşım Moritz Hardt bu alanda uzman bir isim ve oldukça iyi çıktılara ulaştı). Hakkaniyetin teknik tanımlamalarına ilişkin bu matematiksel analiz bize şu an iki amaca aynı anda erişemeyeceğimizi gösteriyor; ya tahmin yürütme tutarlılığından ya da bu bir kredi verme operasyonu ise kârlılıktan feragat etmemiz gerekecek. Bu muhtemelen can sıkıcı gelecek fakat en azından yanlı algoritmalardan kaçınma anlamında elimizde bir seçim hakkı olduğunu gösteriyor. Bu metotlara ve meselenin özüne dair farkındalığın karar alıcılar, uygulama tarafındaki insanlar ve genel kullanıcılar arasında yaygınlaşmasını umuyorum. Finans ve sağlık gibi alanlarda karar alırken adil algoritmaların bir temel gereklilik olması gerektiğine ve makine öğrenimi konusunda çalışma yürüten bilim insanları ve uygulamacılar arasında bu algoritmaların nasıl işlediğinin iyi anlaşılmasının bir ihtiyaç olduğuna inanıyorum.
Sizce yapay zekânın güvenirliliği ölçülebilir mi? Bu noktada eksikler olduğunu düşünüyor musunuz, neden?
Aslında burada iki temel ve farklı soru var. İlki “Doğru sistemi inşa edebildik mi?” Yazılım, süreklilik hatalarına, tasarım kusurlarına, güvenlik zaaflarına, vs. sahip mi? Bu sorunlar sıradan yazılımlar için bile uğraşması güç konular, yapay zekâ yazılımında ise çok daha güç; çünkü çoğunlukla berrak olmayan bir alan ve muazzam veri setlerinden beslenen makine öğrenimi yöntemlerine dayanıyor. Sürücüsüz bir Uber aracının geçtiğimiz günlerde bir yayaya çarparak hayatını kaybetmesine yol açması bize kapsamlı testlerin ve özenli bir yazılım analizinin ne kadar kritik öneme sahip olduğunu gösteriyor. Bana öyle geliyor ki bu yeterli kaynakları ve dikkati ayırdığınızda yönetilebilecek bir sorun. Güvenlik zaafları ise muhtemelen en sıkıntılı yanı ve bu noktanın politik bakışı da üzerine çekmesi gerekiyor çünkü ekonomideki birçok sektörü doğrudan ilgilendiriyor, tehdit ediyor.
İkinci soru ise “doğru sistemi inşa ettik mi?” Neredeyse tüm yapay zekâ sistemleri belli bir “amaç” tanımlanarak ve sonrasında da yapay zekâyı buna en iyi çözümü bulacak şekilde çalıştırmakla inşa ediliyor. Örneğin nesne tanımlama sistemleri, geliştirme aşamasındaki test verilerinde hata oranını en asgariye indirmeyi hedefleyerek oluşturuluyor. Tabii tüm hatalar bir değil; bir köpeği kedi olarak tanımlamak, bir insanı goril olarak tanımlamaktan daha kabul edilebilir durumda. O nedenle yapay zekâ sistemlerinde bir temel mesele de hedefin doğru olmayan tanımlamasını yapabilmesini sağlamaktır. Şöyle açıklayayım: Diyelim ki gelecekteki bir yapay zekâ sisteminden kansere çözüm bulmasını istiyoruz ve bunu olabildiğince çabuk bir şekilde gerçekleştirmesini söylüyoruz çünkü her 3,5 saniyede bir birini kanserden kaybettiğimizi düşünüyoruz. Yapay zekâ birkaç saat içinde tüm tıbbi literatürü tarasın; öğrenilecek ne varsa öğrensin ve teoride faydalı gözüken ama daha önce denenmemiş milyonlarca farklı kimyasal bileşim yani ilaç ortaya koysun. Birkaç hafta içinde ise, bu bileşimlerin işe yararlığını en hızlı şekilde ortaya koyabilmesi için, farklı farklı tümör dokularına sahip onlarca insan üzerinde tıbbi deneyler gerçekleştirsin.
Bariz bir şekilde temel amacımız içerisinde yer alması gereken önemli bir öğeyi dışarıda bırakmış olduk. Buna Kral Midas sorunu diyoruz: Efsanelerde geçen Kral Midas, Tanrılardan dilediği şeye kavuşmuştur; neye dokunsa altına dönüştürür. Yiyeceği yemeğe, içkisine, aile bireylerine dokunduğunda onların da altına dönüştüğünü gördüğünde artık çok geçtir, sefil bir biçimde acı ve açlık çekerek ölür.
Araştırmalarımın önemli bir kısmını, bu problemi çözme amacıyla yürüttüğüm çalışmalar oluşturuyor. Yapay zekâ için yeni ve farklı bir kuramsal çerçeve ortaya koyduk; spesifik, nokta atışı hedefleri gerektirmeyen bir yapay zekâ. Tam tersine, yapay zekâ açık bir şekilde niyetin ne olduğundan emin olamamaktadır ve gerçekte ne istediğimizi, ne hedeflediğimizi bulmak onun görevidir. En azından basit vakalarda böylesi makinelerin insanlar için faydasını kanıtlayarak göstermiş oluyoruz.
Yapay zekâ ile ekonomi arasındaki ilişkiyi nasıl değerlendiriyorsunuz?
Aslında yapay zekânın fiziksel ürün ve hizmetlerin ötesinde görünenden çok daha fazla sayıda faydası ve kullanım alanı var, ama bir yandan da ekonomik mahrumiyetten kaynaklı eziyet ve sorun yaşayan da ciddi büyüklükte bir insan topluluğu mevcut, o nedenle bu sorunu öncelikli olarak çözmenin önemli olduğunu düşünüyorum. İnsan kapasitesine denk bir yapay zeka seviyesine ulaştığımızda bunun GSMH’leri 5 ya da 10 kat artıracak bir hamle olduğunu söylemek mantıksız olmaz, özellikle de gelişmekte olan, görece daha yoksul ülkelerde ve bölgelerde. Bu da neredeyse 10,000,000,000,000,000 (On katrilyon) dolar bir net fayda anlamına geliyor.
Yapay zekânın insan düzeyine yaklaşması on yıllar alacak. Yakın vadede otonom araçlardan, akıllı kişisel asistanlara, eğitmenlere, sağlık koçlarına ve bilimsel asistanlara varıncaya dek çoğu konuda somut ve çarpıcı fayda alanlarının oluşacağını düşünüyorum.
Yapay zekânın insanların hayatını şimdiden değiştirmeye başladığını görüyoruz. Önümüzdeki beş yıl içinde insanların hayatına etki edecek hangi trendleri göreceğiz?
Beş yıl, belki de bir 10 yıl içerisinde dili doğal bir biçimde anlayıp kullanabilen ve bu sayede belli işleri gayet uzmanlık seviyesinde yerine getirebilecek sistemlere kavuşacağımızı söyleyebilirim. İngilizce ya da Türkçe bir metni okuyup, konunun özünü kavrayarak ve ondan çıkarsamalar yaparak soruları yanıtlayabilecek, konuyla ilgili farklı kaynaklardan bilgileri bir araya getirip kullanabilecek bir yapay zekâdan bahsediyorum. Bu muazzam bir katkı olacaktır, şu anki arama motorlarından veya Siri ve Alexa gibi “akıllı asistanlardan” çok daha gelişmiş ve kullanışlı ürünlere kavuşacağımız anlamına geliyor.
