Hesaba mı ihtiyacınız var? Üye ol
Her ne kadar hakikat, filozofların ve felsefecilerin idealist bir şekilde peşinden koştuğu ve kavramaya çalıştığı bir mefhum olarak tanımlanabilse de sosyal dokunun sürdürülmesi açısından son derece pratik bir niteliğe sahip. Bu pragmatik yönüyle, bir sosyal kurum olarak değerlendirilebilecek hakikat, toplumun içinde bulunduğu koşulların meşrulaştırılmasında hayati bir rol oynadı her zaman. Hakikati bir kurum haline getiren de aslında bu işlevsel yapısı. Bu bağlamda hakikatlerin, sıradan toplumsal mücadelelerin ötesindeki kaynaklardan geliyormuş gibi göründüğünü ve siyasi, ekonomik ya da toplumsal güçlerin bir ürünü değil, insanüstü bir kaynaktan toplumun üzerine inmiş gibi algılandığını söylemek mümkün.
Dahası bu hakikatlerin içerdiği fikirler, beyanlar, kurallar ve eylemlerinin sonuçları, olası insan hatası ya da uzlaşısının ötesinde, aşkın bir gerçeklik ve doğruluk niteliği taşıyor. Bu açıklamalar ve beyanlar mutlak gerçek olarak görülüyor ve bir şekilde mutlak bir kaynaktan geldikleri izlenimi yaratılıyor. Üstelik bunlar, tüm zamanlar ve mekânlar için geçerli görülüyor ve iç işleyişi kimse tarafından tam olarak anlaşılamayacak mistik bir örtüyle kaplanıyor. Bunlarla doğrudan irtibat kurmak da epey zor bir işlem olarak görülüyor. Bu sebeple sıradan insanlar, ancak hakikatin gizemli kaynağı ile gündelik yaşam arasında aracı olabilen bilgili kişilerin aracılığıyla bunlara ulaşabiliyor, Antik Yunan’daki Hermes gibi mesela.
Bu görevi tarihte en iyi şekilde yerine getiren olgu ise kuşkusuz din. Hristiyan Kilisesi ya da yeryüzüne inmiş herhangi bir din, bu gereksinimleri mükemmel bir şekilde karşılar; bu nedenle din, toplumun meşrulaştırılmasını sağlayan hakikatleri üretmede her zaman ideal bir kurumdur. Bu bağlamda insanlık tarihinin çok uzun bir bölümünde sıradan insanlar hakikatle; yalnızca şaman, papaz, haham ya da imamlar gibi, lütuf sahibi kişiler aracılığıyla temas kurabildi ve ilahi emirleri anlamak konusunda onlara tamamen bağımlı oldu. Ancak özellikle Aydınlanma dönemi sonrası dinin yerini bilim aldı ve meşruiyet kurumunun niteliği tamamen değişti.
Nitekim bilim de evrensel hakikatlere ulaşma iddiasıyla, tarafsız ve apolitik bir yöntem sunduğunu öne sürer. Bilim insanları, bilimsel araştırmaların toplumsal ve siyasi tartışmaların ötesinde olduğunu, sadece bilinçsiz politik müdahalelerle zedelendiğini savunur. Onlara göre, bilimsel kurumlar ve yöntemler, sıradan insan ilişkilerinden daha üstündür ve bilimsel sonuçlar bir tür evrensel hakikati temsil eder. Bilim, doğanın gizemlerini açığa çıkardığında, bu gerçekler tartışılmaz hale gelir ve kabul edilmek zorundadır. Bilimin konuştuğu yerde, bilim dışı aktörlerin söz almasına gerek yoktur. Bilim kendi dilinde, yani karmaşık ve anlaşılması zor bir dilde konuşur. Bu yüzden sıradan insanlar, bilim insanlarının söylediklerini anlamak için —eski düzenin papaz, haham ve imamları gibi— aracı kişilere —bilim muhabirleri ya da televizyon programlarına çıkan akademisyenlere— ihtiyaç duyarlar.
Buna verilecek en iyi örnek ise kuşkusuz Darwin’in evrim teorisi. Herhangi bir yanlış anlaşılmaya mahal vermemek için baştan söylemek gerekir ki bu yazı kesinlikle evrim teorisinin hakikat olmadığını iddia etmiyor. Açık bir şekilde ifade etmek gerekir ki söz konusu teori şu anda bilim dünyası tarafından kabul ediliyor ve bilimsel gerçekliği konusunda ortada dişe dokunur bir tartışma da bulunmuyor. Bizim tartışacağımız şey, bu teorinin toplumsal koşulların meşrulaştırılması amacıyla nasıl kullanıldığı. Nitekim bu durum yapay zekanın ürettiği çıktılara nasıl bakmamız gerektiği konusunda bize önemli bir perspektif kazandıracak.
Darwin’in teorisine göre, doğada hayatta kalabilecek ve üreyebilecek olandan daha fazla organizma doğar, bu da genel bir var olma mücadelesine neden olur. Bu mücadelede, daha iyi adapte olmuş, zeki ve verimli olan organizmalar, daha az uygun olanlara kıyasla daha fazla nesil bırakır ve bu zafer, evrimsel değişimi tetikler. Darwin’in bu fikirlerinin ardındaki kaynağın farkında olması da dikkat çekicidir. Nitekim bilim insanı; doğal seçilim teorisini, ekonomist ve papaz Thomas Malthus’un Nüfus Üzerine Deneme adlı çalışmasını okuduktan sonra geliştirdiğini açıkça belirtmişti.
Malthus, bu eserinde nüfusun kontrolsüz büyümesinin toplumsal huzursuzluk yaratacağını savunur ve özellikle yoksulların daha sıkı denetim altında tutulması gerektiğini önerir. Aslında Darwin’in doğal seçilim teorisi, —Malthus’un eseriyle aynı minvalde olan— erken dönem kapitalist ekonomistlerin geliştirdiği siyasi ekonomi teorileriyle şaşırtıcı derecede benzerlik gösterir. Darwin, güçlü olanın ekonomik hayatta kalmasıyla ilgili çok şey biliyordu, zira hayatını hisse senedi yatırımlarıyla kazanıyordu. Onun içinde bulunduğu topluma ve entelijansiyaya en önemli katkısı, 19. yüzyılın siyasi ekonomisini tüm doğa süreçlerine genişletmek oldu.
Peki bu durum tam olarak ne anlama geliyor? Şöyle ki buradan yola çıkarak toplumun bilime nüfuz ettirdiği birçok ideolojik etkinin, ilk bakışta fark edilmediğini söylemek yanlış olmayacaktır. Bu ideolojik etkiler, bilim insanlarının farkında olmadıkları, ancak bilimsel açıklama ve yorum biçimleri üzerinde derin etkiler bırakan temel varsayımlar olarak karşımıza çıkar. Bu varsayımlar, bilimin sadece doğayı değil, aynı zamanda kendisini doğuran toplumsal yapı ve tavırları da desteklemesine hizmet eder ve bunların sürdürülmesi için meşru bir zemin oluşturur. 19. yüzyılın hâkim bilimsel paradigması olan pozitivizm bu anlamda bilim insanlarının evren algısını açıklar.
Kapsamlı bir pozitivizm çözümlemesi bu yazının hacmini aşacağından bizim için önemli birkaç temaya değinmek yeterli olacaktır. Pozitivizme göre evren, mekanik bir düzenekle açıklanır. Bu anlayışa göre pozitivizm, evreni gözlem ve deney yoluyla, nedensellik ilkesi çerçevesinde kavrayan bir yaklaşımdır. Bu minvalde şu anda geçerli olan yasalar her zaman ve her yerde aynı şekilde geçerli olduğundan, gelecekteki olaylar da bilimsel yöntemlerle önceden tahmin edilebilir hale gelir. Bu şekilde bilimin temel amaçlarından biri, olayları önceden bilme yeteneği sağlamaktır ve bu doğrultuda elde edilen sonuçlar; tümel ve zorunlu olmalıdır. Bu sonuçlar, nesnel bir bakış açısıyla, deneysel ve matematiksel yöntemlerle elde edilir. Pozitivist bilim anlayışı, nesnelliği merkezine aldığından, gözlemciyi nesne karşısında tarafsız bir konuma yerleştirir. Bu yaklaşım, özne ile nesne arasındaki kesin ayrımı koruyarak, bilimsel sonuçların tamamen nesnel olmasını ve herhangi bir öznelliğin sürece dâhil edilmemesini sağlar.
Buradaki yadsıyacağım asıl noktanın; bilimsel sonuçların nesnel olduğu ve herhangi bir öznelliğe yer olmaması olacağını tahmin etmişsinizdir. Daha önce Darwin örneğinde de gördüğümüz üzere bu olanaklı bir durum değil. Daha açık bir ifadeyle pozitivist yöntemin iddia ettiğinin aksine, siyasi ve ekonomik etkilerden tamamen azade bir hakikat anlayışı mümkün görünmemekte. Nitekim bunu 20. yüzyılın başlarındaki bilimsel atılımlarda da gözlemlemek mümkün. Bu anlamda günümüzde bilimsel pozitivizmin çok büyük yara aldığını söylemem şaşırtıcı olmayacaktır. Mevcut bilimsel paradigma; evrenin ve onu yöneten faktörlerin kesinliği yerine; rastlantısallığını, göreliliğini ve belirsizliğini vurgular.
Burada özellikle görelilik konusu önemli. Nitekim kuantum teorisi, pozitivizmin bilim insanı ile nesne arasına koyduğu kesin tarafsızlık ilkesini ortadan kaldırdı. Bunun temel nedeni de gözlemcinin kişisel özelliklerinin bilgi üretim sürecine kaçınılmaz olarak etki etmesiydi. Kuantum fizikçileri bu durumu, bir kova suyun sıcaklığını ölçmek için kullanılan bir derecenin durumu ile karşılaştırır. Derece suya daldırıldığında, kendi sıcaklığı bir şekilde suyun sıcaklığını değiştirir. Yani farklı sıcaklıktaki dereceler —biz buna farklı değerlere sahip insanlar da diyebiliriz— her seferinde farklı sonuçlar elde edeceklerdir. Bu da, ölçülen sıcaklığın (bilimsel sonuçların) her defasında değişken olacağını gösterir.
Şimdiye kadar anlattıklarımı toparlayayım. Elimizde var olan bu donelerin bize gösterdiği şey bilimin; insan hatası ya da uzlaşısının ötesinde, aşkın bir gerçeklik ve doğruluk vermediği, bilimin toplumsal bir eylem olduğu ve bilim insanlarının, içlerinde bulundukları zamandan ve mekandan etkilenerek teorilerini yorumladıklarıdır. Peki bu durum teknoloji için ne anlam ifade ediyor? Daha açık bir şekilde ifade edecek olursak bilimin içinden çıkan ve ondan beslenen teknolojinin, bu anlayıştan bağımsız bir şekilde, aşkın hakikati bize sunabilmesi mümkün mü?
Eğer bir Instagram hesabınız varsa eminim buradaki algoritmanın hangi renkteki kedileri sevdiğinizi doğru tahmin edebildiğini görmüşsünüzdür. Söylemek zorundayım ki tarihe baktığımızda algoritmaların masadan düşen kedi videoları bulmak dışında birtakım başka işlevleri daha oldu; 19. yüzyıldaki İngiliz imparatorluğuna hizmet etmek gibi. Şöyle ki bu dönemdeki hakim pozitivist paradigmanın etkisiyle rasyonel bir İmparatorluk olarak şekillenmiş İngiliz devleti, karşısına çıkan her şeyi kategorilendirme çabası içindeydi.
Bilim, İngiliz İmparatorluğu'nun tarihinde, imparatorluğun egemen olduğu topraklarda karşılaştığı tüm bilinmezleri soyut kavramlar altında sınıflandırarak, kontrol edilebilir hale getirme amacıyla kullanıldı. Hayvanlar, insanlar ve diğer tüm varlıklar, bu sınıflandırma sistemine dâhil edildi. Matematikçi George Boole'un 19. yüzyılda geliştirdiği ve insan düşünme süreçlerini anlamaya yönelik simgesel, ikili mantık sistemi de bu yaklaşımın bir parçası olarak görülebilir. Boole'un sistemi, evet ve hayır prensibine dayalı (eğer 1 olursa 2 olur, eğer 2 olmazsa 3 olmaz gibi) bir karar ağacı oluşturur. Bu sistem, insan düşüncesini simgeleştirip basitleştirirken, imparatorluk zihniyetinin nihai adımını simgeliyordu: bilinmeyen son alan olan insan zihninin de kategorize edilerek kontrol altına alınması ve bu sayede, insan zihninin de yönetilebilir hale gelmesi.
Bu düşünce sistemi, bir süre sonra unutulsa da, bilgisayarların çalışma şeklinin temeli aslında budur. Bilgisayar kodları, 1 (evet) ve 0 (hayır) temelli mantık sistemine dayanır. İşte algoritmaların temeli de bu düşünce sisteminden yükselir. Bu bağlamda, bilgisayar temelli algoritmaların en önemli özelliği, geçmişin ideolojileri ve inançlarının dışında, insanların kültürel ve psikolojik deneyimlerinden bağımsız olarak tamamen objektif kararlar verebilen araçlar olmalarıdır. Algoritmaların dünya sahnesine çıkarken vaat ettiği en büyük yenilik budur.
Bu bakış açısının 20. yüzyıldaki öneminin ise insanlığın geleceğe olan umutsuz bakışından kaynaklandığını söylemek yanlış olmayacaktır. Şöyle ki Nazi Almanya’sının çöküşünden sonra doğan sol görüşlü genç neslin büyük bir kısmı, faşist ideolojinin Batı dünyasından tamamen kaybolmadığını, aksine rasyonalizm adı altında farklı bir biçime bürünerek varlığını sürdürdüğünü düşündü. Özellikle Batı ülkelerindeki sol gençlik, ülkelerinin emperyal geçmişlerinin farkına vardı ve dünyanın geri kalanının sömürülmesiyle oluşan şirketokrasiyi devirmeyi hedefledi. 1960'lar ve 1970'lerde bu gençlik, Kara Panterler ve devrimci hareketler aracılığıyla şiddete başvurdu, ancak bu şiddet dalgası, İkinci Dünya Savaşı sonrası kurulan düzeni yıkmayı başaramadı, aksine devrimciler hakkında, toplumda değil insan doğasında faşist unsurlar bulunduğuna yönelik bir inancın oluşmasına neden oldu.
Bu noktada, Daniel Kahneman'ın görüşleri öne çıktı. Kahneman'a göre, insanlara rasyonel bir şekilde yaklaşmak imkânsızdı. Çalışmalarında, insan zihninin, algıladığı büyük veri bombardımanıyla başa çıkabilmek için bu verileri aşırı derecede basitleştirdiğini keşfetti. Nitekim bu durum, insanların kendi kontrolleri dışındaki zihinsel süreçlerin esiri olduğunu gösteriyordu. Bu nedenle, insanlara rasyonel bir perspektifle yaklaşmanın anlamı yoktu, çünkü rasyonel bir insan diye bir şey yoktu. Aslında var olan şey, otomatik zihinsel süreçlere hapsolmuş bireylerdi. Bu görüş en nihayetinde Batı'daki sol akımları, kolektivizmden bireyciliğe yönlendirecek teorik zemini oluşturdu.
Bu tarihten sonra, sol görüşlü gençlik, toplumu değiştirmek yerine, kendi iç dünyalarını değiştirmeye odaklandı. Bu bakış açısı, insan doğasının özünde irrasyonel olduğunu savunan yeni psikolog sınıfı tarafından pekiştirildi ve finans ile pazarlama dünyası da bu akımı desteklemekten geri durmadı. Nitekim post modern pazarlama olarak adlandırılabilecek yeni bir tür pazarlama yöntemiyle, maddi ürünlerin işlevlerine göre değil, kişinin ona atfettiği simgesel değere göre değerlendirileceği yeni bir tür ürün piyasası oluşturuldu. Bir başka deyişle ürünler, kişilerin karakterlerini ve özgünlüklerini ortaya koymanın en temel simgeleri haline geldi.
İnsan doğasına yönelik bu karamsar ve nihilist yaklaşımın en net ifadesinin ise karmaşıklık teorisinde tezahür ettiğini gözlemleyebiliriz. Nitekim bu yaklaşım; insanların, sonsuz evrenin içinde önemsiz bir parça olduğunu, ne yapılırsa yapılsın bu durumu değiştirebilecek sistematik eylemlerin mümkün olmadığını ve evrende gerçekleşecek olayların asla tam anlamıyla tahmin edilemeyeceğini savunuyordu. Bu da devrim fikirlerinin hiçbir zaman başarıya ulaşamayacağı anlamına geliyordu.
Aynı zamanda, Michael Gazzaniga’nın çalışmaları, insanların dünyaya anlam katan bilinçlerinin aslında çok da önemli olmadığını ve insanın tek bir bilinçten değil, birden fazla bilinçten oluştuğunu, bu bilinçlerin de çoğu zaman farkına varılamadığını ileri sürüyordu. Bu da insanın kontrol edemediği güdülerin esiri olduğunu ve içsel devrimi gerçekleştirme olasılığının olmadığını gösteriyordu. Kısaca insanlar sahip oldukları bilinç düzeyiyle ne evreni tam olarak açıklayabilir ne de kendilerini yönetebilirdi. İşte algoritmaların devreye girdiği yer de tam olarak burasıydı.
George Boole’un torununun torunu olan Geoffrey Hinton’ın kavramsallaştırdığı vector-world mefhumu burada yapay zekaya duyulan aşırı hayranlık konusunda aydınlatıcıdır. Bu teori, en temelde karmaşıklık teorisinden ilham almıştır. Bu kavrama göre dünya, insan zihninin çözümleyemeyeceği kadar karmaşıktır. Bu karmaşıklığı çözebilecek temel unsur ise, büyük veri kümeleriyle beslenen makinelerdir. Nitekim makineler, bu veriler içerisinde insan beyninin algılayamayacağı kalıpları (örüntüleri) tespit ederek olguları çözümleyebilecek ve evrenin hakikatlerini bizlere söyleyecektir. Böylelikle de insanlık zaman ve mekândan bağımsız, ekonomik ve siyasi şiarlardan uzakta, objektif realiteye sonunda ulaşabilecek, evreni ve kendini anlama sorumluluğunu makinelere tevdi edebilecekti.
Yapay zekanın temelinde Hinton’ın geliştirilmesinde önemli rol oynadığı algoritma ve derin öğrenme modelleri var. Bunun da ötesinde yapay zekaya kitleler tarafından yüklenen manevi misyonun en önemli veçhesi de evrenin karmaşıklığı ve insan bilincinin bunu kavramadaki acizliğine yönelik inançtan hareket ederek, yapay zekaya bir tür kurtarıcı rolü verilmesi. Bu minvalde sorulması gereken soru; yapay zekanın temelini oluşturan ve insanlar tarafından geliştirilen algoritmaların gerçekten de içinde bulunulan ekonomik ve siyasi etkilerden azade çıktılar üretip üretemediği olmalı. Bu nedenle şimdi kültürden ve tarihten bağımsız algoritmik sistemler mümkün mü diye bakıp, algoritmaların kimler tarafından, hangi amaçlarla oluşturulduğunu inceleyeceğiz. Bir başka anlatımla algoritmaları sahaya indireceğiz.
Öncelikle algoritmaların basit bir tanımını yapmakla başlayalım; algoritma, bir bilgisayarın belirli bir problemi çözmek veya belirli bir amaca ulaşmak için izlediği, adım adım ilerleyen bir süreç olarak tanımlanabilir. Basitçe ifade etmek gerekirse, algoritma, bir görevin başlangıcından sonuna kadar nasıl gerçekleştirileceğini belirten mantıksal yönergeler dizisidir (1’ler ve 0’lar). Bu çerçevede, bir pasta tarifi bile algoritma olarak değerlendirilebilir. Ancak, algoritmalar genellikle bundan daha karmaşık yapıdadır. Esasen adım adım talimatlar listesi olarak tanımlansa da, çoğu zaman matematiksel bir amacı vardır. Algoritmalar; denklem, aritmetik, cebir, mantık ve olasılık hesaplamalarını kullanarak bir dizi matematiksel işlem gerçekleştirir ve bu işlemler bilgisayar koduna dönüştürülür. Gerçek dünyadan elde edilen verilerle beslenen algoritmalar, belirlenen hedefe ulaşmak için sürekli hesaplamalar yapar. Peki kimdir bu algoritmaların üreticileri?
Algoritmaları üreten kişilerin genel ekseriyeti; bilişimci ve fütürist Amy Webb’in Dokuz Dünya Devi olarak adlandırdığı ABD'de Google, Amazon, Apple, IBM, Microsoft ve Facebook; Çin'de ise Baidu, Alibaba ve Tencent şirketlerinde çalışıyor. Webb’in burada vurguladığı en önemli konu ise algoritmaları üreten bu kişilerin adeta küçük bir kabileyi andırması. Şöyle ki kabileler, ortak bir amaca veya hedefe sahip bireylerin, aynı dili kullanarak ve benzer bir çabayla çalıştıkları sosyal ortamlarda ortaya çıkar. Ortak değerler ve hedefler geliştiren gruplar, askerî birimlerde, tıp fakültelerinin yoğun nöbetlerinde, Michelin yıldızlı restoranların mutfaklarında ve yurtlarda oluşabilir. Bu topluluklar, deneme yanılma süreçlerinden geçerken başarı, başarısızlık, üzüntü ve mutluluğu birlikte tecrübe eder ve bir grup duygusu oluşur.
İşte yapay zekânın geleceği de, bu türden küçük, kapalı gruplarda yaşayan, benzer dünya görüşlerine sahip kişiler tarafından şekillendiriliyor. Kuzey Amerika ve Çin'de yaşayan ve çalışan bu bireyler, benzer üniversitelerde eğitim alıyor ve benzer sosyal normlara uyuyor. Bu kabileler, genellikle homojen bir şekilde: Zengin, eğitimli ve büyük oranda erkeklerden oluşuyor. Elimizde bu kişilerin kötü niyetli olduklarına dair herhangi bir kanıt olmasa da, işlerin sarpa sarması için kötü ahlaklı kimseler olmalarına gerek yok. Nitekim kapalı gruplarda fark edilmeyen önyargıların ve gerici düşüncelerin kurbanı olmaları işte bile değil. Nitekim aynı seslerin sürekli kendini onaylandığı bir filtre balonunun içinde yaşayan bu insanların; herkeste bulunabilecek sıra dışı veya yanlış düşünceleri, zamanla normalleştirilebiliyor ve bunlar yapay zekâ sistemlerine aktarılabiliyor. Bir kabilenin ne kadar oturmuş bir sistemi varsa ve üyeleri ne kadar birbirine bağlıysa, —ne kadar radikal olursa olsun— grup düşüncesinin de aynı oranda normalleşeceğini unutmamakta yarar var.
Peki bu kabilelerin değer yargıları hakkında neler biliyoruz? Yapay zekâ dünyasında sıkça duyulan bir slogan var: "Hızlı yap, çok hata yap." Bunun bir başka versiyonu olan "hızlı ilerle ve bir şeyleri yık," bir dönem Facebook’un resmî sloganıydı. Eminim siz de bu yaklaşımın içinde birtakım sorunlar sezmişsinizdir. Nitekim Dokuz Dünya Devi'nin yaygın çalışma prensibini yansıtan bu slogan, zamanla "önce yap, sonra özür dilersin" anlayışının bir parçası haline geldi. Son zamanlarda duyduğumuz özürler de bunun neticesi. Örneğin, Facebook, Cambridge Analytica ile olan ilişkisi nedeniyle özür diledi. Bu skandalın yaşandığı sıralarda, Eylül 2018’de bir siber saldırı sonucu elli milyondan fazla kullanıcının kişisel bilgilerinin ihlal edildiği, bunun dijital tarihin en büyük güvenlik ihlallerinden biri olduğu açıklandı. Üstüne üstlük Facebook yöneticilerinin işler sarpa sardığı ilk zamanlar, olayı kullanıcılarla paylaşmama kararı aldıkları da ortaya çıktı.
Bu yaklaşımın temelinde yatan ana saik ise bu şirketlerin, çalışanlarından, müşterilerin hayatlarında vazgeçilmez olarak göreceği ürün ve hizmetler geliştirmelerini ve yatırımcılarına bunların sonuçlarını sunmalarını beklemeleri. Bu nedenle hızlı sonuçlar bekleniyor ve bu denli büyük hatalar yapılıyor. Vaziyete bakılırsa şirketler tarafından empoze edilen bu yargılar, çalışanlar tarafından benimseniyor ve bu eğilimler, mezkur kabilelerin değer yargılarını oluşturuyor. Daha önce bahsedilen grup dinamiklerinin etkisiyle bunların nasıl sonuçlar vereceğini tahmin etmek zor değil ki zaten yaşanan skandallar böylesi bir beyin jimnastiğini gerekli kılmıyor.
Uzun lafın kısası yapay zeka sistemlerinin en basit tanımıyla maddi birer ürün olduğu rahatlıkla söylenebilir. Kâr odaklı bir yaklaşımla üretilen bu ürünlerden beklenen öncelikli getiri; insanlığı ilerletip yeni ufuklar açması değil, üreticilerine ve yatırımcılara maddi getiri sunması. Peki bu yapay zekanın hakikat paradigması konusunda neden önemli? Bunu anlamak için algoritmaların üretim sürecinde verilen kararlara hızlı bir bakış atmakta yarar var.
Matematikçi ve veri bilimci Cathy O'Neil’ın algoritmaları —”Kitle İmha Silahları” mefhumuna göndermeye yaparak— “Matematiksel İmha Silahları” (MİS) olarak tanımlanmasını önemli buluyorum. Peki O’Neil bu iddialı tanımlamayı neden yapıyor? Yazarın bu tanımı kullanmasının birinci sebebi; algoritmaların ve veri tabanlı modellerin olumsuz toplumsal etkileri. Ona göre, bu modeller her ne kadar iyi niyetle tasarlansa da, insanların önyargılarını, yanlış anlamalarını ve yanlı tutumlarını da kodluyor. İnsanlar tarafından oluşturulan bu algoritmalar, giderek hayatımızı yöneten yazılımlara dönüşürken, içerdikleri hatalar da sistematik hale geliyor.
O'Neil’ın dikkat çektiği en önemli noktalardan biri bu matematiksel modellerin tanrısal bir güçle çalışır gibi göründüğü ve dışarıdan anlaşılmaz oluşu. Nitekim bu durum, algoritmik modelleri, sonuçları yanlış veya zararlı olsa bile sorgulanamaz ve itiraza kapalı hale getiriyor. Öte taraftan O'Neil, MİS'lerin toplumun dezavantajlı kesimlerini cezalandırma eğiliminde olduklarını belirtiyor. Bu sistemler büyük veri yığınlarını işlemek üzere tasarlandıkları için ucuz ve geniş kitleleri etkileyen sonuçlar üretmeye odaklı yapılar. Oysa zenginler, —kendi öznel durumlarını en iyi şekilde ifade eden— kişisel veri girdilerinden faydalanarak daha adil bir değerlendirme sistemine tabi tutuluyor. Örneğin, yoksullar çoğunlukla makineleştirilmiş bir süreçten geçerken, zenginler doğrudan insanlar tarafından değerlendirilme eğiliminde. Bu durumun toplumsal eşitsizliği daha da derinleştirdiğini söylemek mümkün.
Ayrıca, bu algoritmaların karar mekanizmaları, şeffaf olmaktan çok uzakta. Modelin içeriği ticari sır olarak korunuyor, bu da insanların bu sistemlere karşı itirazda bulunmalarını zorlaştırıyor. Örneğin, algoritmanın bir okulda öğretmen performansını değerlendirirken kullandığı kriterler açıklanmadığında, öğretmenlerin bu değerlendirmelere karşı çıkma şansı neredeyse olmuyor. Bu sistemler, hatasız oldukları varsayımıyla hareket ediyor ve geribildirim almadıklarında hatalarından ders de çıkarmıyorlar. Hatalı sonuçlar, verimli geri bildirimlerle beslenmediğinde ise tahrip edici sonuçlar ortaya çıkıyor.
O'Neil, özellikle bu algoritmaların finansal kazanç motivasyonuyla çalıştığını belirtiyor. Geribildirim sisteminin var olduğunu ancak bunun sistemin düzeltilmesi yönünde değil, daha fazla para kazanma üzerine kurulu olduğunu belirtiyor. Hataların düzeltilmesi genellikle kâr getirmediğinden, sistemler hatalı kararlarını sürdürmeye devam ediyor ve döngü sürekli tekrarlanıyor. Sonuç olarak, O'Neil, algoritmaların ve veri temelli sistemlerin görünüşte tarafsız ve bilimsel gibi gözükse de aslında önyargılarla dolu, zararlı ve yıkıcı sonuçlar üreten yapılar olduğunu vurguluyor. MİS'ler, toplumun dezavantajlı kesimlerine zarar verirken, zenginlere ve ayrıcalıklı kesimlere avantaj sağlıyor. İşte onun “Matematiksel İmha Silahlar” tanımın arkasında sebepler bunlar. Peki işin mutfağına girecek olursak, algoritma üreticileri hangi karar süreçlerinde geçerek bu ürünleri üretiyor?
Algoritmaların üretim sürecinde verilen kararlar onların işlevsel nitelikleriyle doğrudan alakalı. Nitekim modeller, dünyayı basitleştirip anlaşılır bir hale getiriyor ve belirli bir görevi yerine getirmek için tasarlanıyor. Bu süreçte de büyük kör noktalar meydana geliyor. Örneğin, Google Haritalar, yol tarifi sunarken binaların ve fiziksel yapıları göz ardı eder, çünkü bu yapılar haritanın işlevi için gereksiz kalır. Benzer şekilde, uçaklarda kullanılan hava elektroniği yazılımları da sadece rüzgâr, hız ve acil iniş pistleri gibi unsurları dikkate alır ve sokaklar veya binalar gibi unsurları dışarıda bırakır. Bu kör noktalar, modelin geliştiricileri tarafından belirlenen öncelikler doğrultusunda şekillenir.
Bazı durumlarda bu kör noktalar önemsiz kalıyor. Ancak, daha karmaşık sistemlerde bu basitleştirme sorun yaratıyor. Örneğin, Washington’daki okullarda kullanılan katma değer modeli, öğretmen performansını değerlendirirken öğrencilerin test sonuçlarına ağırlık veriyor ve öğretmenlerin öğrencilere gösterdiği ilgi, sınıf yönetimi veya öğrencilerin kişisel sorunlarına yardımcı olma gibi faktörleri göz ardı ediyor. Bu modeller, olayların iç yüzünü (bunları diğer olgulardan ayıran öznel nitelikleri) anlamaktansa, etkinlik ve basitlik üzerine yoğunlaşıyor.
Dahası, modeller, tarafsız gibi görünse de aslında geliştiricilerinin hedeflerini ve ideolojilerini yansıtıyor. Örneğin, yemek tercihlerini modelleyen bir sistem, kişinin ideolojik yaklaşımlarına göre şekillenebiliyor. Her öğünde sağlıklı besinler seçmek gibi tercihler, modelin değerlerimizi ve arzularımızı yansıtmasını sağlıyor. Modeller, matematiğe gömülü kanaatlerden oluşuyor ve topladığımız verilerden sorduğumuz sorulara kadar her şey bu değerlerin bir yansıması oluyor.
Bir modelin başarıyı nasıl tanımladığı da oldukça tartışmalı bir konu. Her modelin yaratıcısının neyi başarmayı hedeflediği burada kritik nokta. Örneğin, Kuzey Kore hükümeti bir aile için bir yemek modeli tasarlayacak olsa, bu modelin öncelikleri aileyi en düşük maliyetle açlık sınırının üstünde tutmak olabilir. Bu durumda, ailelerin değerleri ve öncelikleri göz ardı edilir. Ancak, aynı modeli çocuklar tasarlayacak olsaydı, belki de her öğünde dondurma yeme gibi bir başarı ölçütü bulunurdu. Bu basit denklemi sosyal medyadaki haber akışını düzenleyen algoritmalara ya da ChatGPT gibi bir yapay zekâ modeline sorulan siyasi nitelikli bir soruya uyguladığımızda, nelerin göz ardı edilip nelerin öne çıkarıldığını bir düşünün.
Görüldüğü üzere algoritmik ve derin öğrenme temelli modeller olan yapay zekâ ürünleri, son derece yüzeysel amaçlara sahip insanlar tarafından yaratılıyor. Ancak bu durum onların bir ideolojiye sahip olmadıkları anlamına da gelmiyor. Stanford İşletme Enstitüsü'nün 2017 yılında altı yüzden fazla teknoloji lideri ve kurucusu üzerinde yaptığı bir araştırma, bu grubun kendini ağırlıklı olarak demokrat olarak tanımladığını ortaya koyuyor. Yapay zekâ kabileleri bu anlamda; varlıklı bireyler için daha yüksek vergileri savunuyor, ölüm cezasına karşı çıkıyor, silah kontrolünü destekliyor ve eşcinsel evliliğin yasal olması gerektiğine inanıyor.
Peki bu durum platformları nasıl etkiliyor? Şöyle ki ABD’deki 2016 seçim sürecinin giderek gerilimli hale geldiği dönemde, Facebook çalışanlarının muhafazakâr haberleri dışlamak için platformun trend bölümünü kasıtlı olarak manipüle ettiği ortaya çıktı. Buna rağmen Clinton karşıtı haberler doğal olarak trend oluyordu. Facebook’un “haber küratörü” olarak bilinen çalışanlarından bazıları, trend olmasalar bile belirli haberlerin bültenlere “enjekte edilmesi” talimatını aldıklarını dile getirdi. Ayrıca, Rand Paul gibi cumhuriyetçi adaylarla ilgili olumlu haberlerin görünürlüğünü engellendi. Facebook’un haber küratörlüğü ekibi, çoğunlukla Doğu Yakası’ndaki veya Ivy League üniversitelerinden mezun olan küçük bir grup gazeteciden oluşuyordu, bu da muhafazakârların uzun süredir dile getirdiği önyargı iddialarını doğrulayan bir gelişmeydi.
Tüm bun olanlar ABD’li girişimci Peter Thiel’ın, California’nın tıpkı Suudi Arabistan gibi güçlü bir ideolojik kuvvet tarafından yönlendirildiğine inanmasıyla epey paralel. Nitekim Thiel, Suudi Arabistan’da bu kuvvetin Vahhabilik olduğunu söylerken —yapay zeka dahil birçok teknolojinin merkez geliştirme üssünün bulunduğu Silikon Vadisi’ni kastederek— California’da ise bu gücün eyaletin ilerici ve liberal kültürünü tanımlamak için kullanılan “Wokeizm” olduğunu söylüyor. Thiel’ın bu kültürü katı bir ideoloji olarak tanımlaması ve burada üretilen tüm ürünleri derinden etkilediğini söylemesi bizim için önemli. Nitekim yapay zekanın amiral gemi şirketi olan OpenAI ve ürünleri olan ChatGPT’nin de burada merkezi bulunuyor.
David Polo Serrano’nun 2024 yılında yaptığı bir çalışma ChatGPT’nin ideolojik yönelimleri konusunda önemli doneler barındırıyor. Nitekim araştırmacı, çalışmasında ChatGPT’nin içerik üretiminde woke ideolojisini yansıttığını net bir şekilde gözlemlenmiş. Buna göre, ChatGPT tarafsız ve kapsayıcı yanıtlar vermeye çalışsa da eğitildiği geniş veri setleri ve içerik denetim mekanizmaları woke ideolojisinin temel unsurlarını içeriyor. Sosyal adalet, eşitlik ve özgürlük gibi woke kavramları, ChatGPT’nin yanıtlarında belirgin bir şekilde yer alıyor ve bunun sebebi olarak ise büyük veri setlerinde bulunan toplumsal ve ideolojik bakış açıları gösteriliyor. Ayrıca, sistemin içerik denetiminde kullanılan filtreler de bu ideolojik eğilimi güçlendiriyor.
Dahası araştırmacı; Orwell’in 1984 ve Huxley’in Cesur Yeni Dünya eserleriyle birtakım karşılaştırmalar yapmış. Sonuç olarak ise bu distopik eserlerde bahsedilen ideolojik kontrol ve sansür mekanizmalarının, günümüzde yapay zekâ sistemlerinde de karşılık bulduğunu görmüş. Sonuç olarak, ChatGPT, sosyal adalet ve eşitlik gibi konularda yanıt üretirken woke ideolojisinin izlerini açıkça taşıyor ve woke ideolojisini net bir şekilde yansıtıyor. Ezcümle ortada ChatGPT’yi ideolojik bir aygıt olarak değerlendirmemizi engelleyecek herhangi bir neden görünmüyor.
Toparlayacak olursak yapay zekanın ürettiği çıktılar, hakikatin Arşimet noktasından fersah fersah uzakta. Yapay zekanın hakikat problemi teknolojik bir sorun değil, tamamen insan kaynaklı bir olgu. İnsan nesli şimdi bildiğimiz gibi kaldığı sürece de teknoloji ve insan arasındaki bu ilişkinin değişeceğini düşünmek için ortada dişe dokunur bir sebep yok. Bu anlamda büyük ümitlerle sarıldığımız son teknoloji Hermes’imizin de bize ihanet ettiği ortada. Bunun yanında ortaya çıkan başka bir problem var. O da burada üretilen çıktılara gereğinden fazla gösterilen teveccühün, toplumsal dokuya zarar verme potansiyelinin olması. Sosyal bir eylem olarak üretilen hakikatlerin toplumsal koşullara nasıl meşruiyet kazandırdığını hatırlayın ve bunu, umudunu teknolojiye bağlamış kesimin, yapay zekaya atfettiği kurtarıcı rolüyle birleştirin. Ne demek istediğimi anlamışsınızdır.
Antropolog David Graeber, dünyanın nihai gizli gerçeğinin, onun aslında bizim tarafımızdan yaratılmış olduğunu ve bu nedenle, istersek dünyayı kolayca farklı bir şekilde yeniden yaratabileceğimizi söyler. İşte yapay zekanın, objektif gerçekleri ürettiğine yönelik sağlıksız bakış, bu gizli gerçeğin daha da derine gömülme riskini getiriyor bizlere. İdeolojik saiklerden derin şekilde etkilenen yapay zekâ, geleceğin toplumsal yapısını tayin etmede başat rol oynarsa, şimdiki eşitsizliklerin en azından sürdüreleceği ve Dokuz Dünya Devi’ne hakim olan ideolojik paradigmanın, tüm toplumsal yapılara fark ettirilmeden dayatılacağını varsayabiliriz.
Peki bu ideoloji bizim onayladığımız bir dünya görüşünü yansıtıyorsa hala tehlikede olur muyuz? Bu sorunun cevabı kesin bir “evet” olacaktır. Nitekim tamamen kâr odaklı yapılar olan algoritma ve yapay zekâ şirketlerinin tabiri caizse “devran dönünce” başka bir ideolojik paradigmaya benimsemeyeceğinin hiçbir garantisi bulunmuyor. Nitekim 1930’larda Nazi Almanya’sında iş yapmaya çalışan uluslararası şirketlerin reklamlarına ve şimdiki “woke” eğilimlerine bakınca, firmaların hâkim paradigma çerçevesinde kendilerini nasıl şekillendirdiklerini görmek mümkün. Sonuç olarak yapay zekanın hakikat paradigmasının doğrudan ekonomi politik ve psikolojik etkilerle şekillendiğini iyi kavramak zorundayız. Ancak bu şekilde bu atılımların insan medeniyetinin bir sonraki ilerici adımı olmasını sağlayabiliriz.
Curtis, Adam. Can’t Get You Out of My Head (2021), Part 1: Bloodshed on Wolf Mountain. YouTube video, 1:14:15. Posted February 21, 2021. https://www.youtube.com/watch?v=_C4Dn2-Pk3I.
———. Can’t Get You Out of My Head (2021), Part 6: Are We Pigeon or Are We Dancer? YouTube video, 1:58:53. Posted March 5, 2021. https://www.youtube.com/watch?v=_C4Dn2-Pk3I.
Fry, Hannah. Merhaba Dünya: Makine Çağında İnsan Olmak, Çev. İpek Güneş Çıgay, İstanbul, Hep Kitap, 2018.
Lewontin, R. C. İdeoloji Olarak Biyoloji, Cev. Cengiz Adanur, 6. bsm, İstanbul, Kolektif Kitap, 2015.
Mollaer, Fırat: "Moderniteden Postmoderniteye: Rasyonalite, Bilim, Kapitalizm", Düşünen Siyaset Düşünce Dergisi, Sayı: 21, Lotus Yayınevi, Ankara, 2005, 63-100.
O'Neil, Cathy. Matematiksel İmha Silahları: Büyük Veri, Eşitsizliği Nasıl Artırıp Demokrasiyi Tehdit Ediyor?, Çev. Akın Emre Pilgir, İstanbul, Tellekt, 2020.
Serrano, David Polo. “Is ChatGPT Woke? Comparative Analysis of ‘1984’ and ‘Brave New World’ in the Digital Age.” Visual Review 16, no. 3 (2024): 251-264. https://doi.org/10.62161/revvisual.v16.5264.
Şaylan, Gencay. Postmodernizm. 4. bsm, Ankara. İmge Kitabevi, 2009.
Volenik, Adrian. Peter Thiel Compares Woke California to Wahhabi Saudi Arabia. Argues Big Tech Wields Similar Power to Saudi Oil — 'It Pays for Everything'. Yahoo Finance, August 21, 2024. https://finance.yahoo.com/news/peter-thiel-compares-woke-california-1415
16307.html?guccounter=1&guce_referrer=aHR0c
HM6Ly93d3cuZ29vZ2xlLmNvbS8&guce_referrer_
sig=AQAAAAT1cv-UG_YjJp2pBd6X0I_btXV6EPN-ZdX3zQZaHoM68kpIS4KfWb0TEBcN
jLfLzimH9PcI1upcUKaynLCbhw3aXb3.
Webb, Amy. Dokuz Dünya Devi: Teknoloji Devleri ve Onların Düşünen Makineleri İnsanlığı Nasıl Tahrip Edebilir?, Çev. Duygu Dalgakıran, İstanbul, Kronik Kitap, 2021.
.svg){kind=spacer}