Filozoflar ve Yapay Zekâ
Felsefenin Büyük Sorularını Sınıfla Okumak
Değirmenin İçinde Kim Var?
Filozoflar, Yapay Zekâ ve Felsefe Tarihini Sınıfla Okumak
Genç Yoldaşlar İçin Bir Felsefe Kılavuzu
Sevgili Genç Yoldaşlar,
Son aylarda sohbet botlarının yanıtlarında, sosyal medya paylaşımlarında ve konferans sunumlarında sık sık aynı tabloyla karşılaşıyoruz. Sol sütunda filozoflar var: Sokrates, Aristoteles, Descartes, Hume, Kant, Hegel, Marx, Nietzsche, Heidegger, Wittgenstein, Foucault, Turing. Sağ sütunda bugünün yapay zekâ soruları: "Düşünmeyi makineye mi devrediyoruz?", "Bedensiz zekâ mümkün mü?", "Makine gerçekten anlıyor mu?", "Tarafsız yapay zekâ olur mu?"
Bu tabloya iyi bakın. Emek verilmiş, öğretici, çoğu yerde doğru bir tablodur. Ama üç soruyu yanıtsız bırakır:
- Bu soruları kim, hangi koşulda sordu? Tabloda felsefi problemler sanki yüzyıllar boyunca kendi kendine dolaşan, zaman zaman "yeniden gündeme gelen" ebedî sorulardır. Oysa her soru, belli bir üretim tarzının, belli bir iş bölümünün içinden doğmuştur.
- Tablonun öznesi kim? Tabloda "insan" belleğini yazıya, kas gücünü makineye, muhakemesini yapay zekâya "dışsallaştırır". Hangi insan? Kimin belleği, kimin kası, kimin muhakemesi? Kim dışsallaştırıyor, kim dışsallaştırılıyor?
- Satırlar neden eşit? Marx tabloda Nietzsche ile Heidegger arasında, on beş "perspektiften" biri olarak durur. Oysa öteki satırların çoğunu somut hâle getiren, onların neden şimdi yeniden sorulduğunu açıklayan çerçevedir.
Bu yazıda aynı tabloyu baştan kuracağız. Filozofları atmayacağız; onların sorularına hakkını vereceğiz. Ama her satırın altına tek bir soru daha ekleyeceğiz: Kimin emeği, kimin mülkü?
Bu yazı, 13 Eylül'de yayımladığımız Yapay Zekâ, Felsefe ve Sahipsizlik Yanılsaması yazısının devamıdır. Orada yapay zekânın "sahipsiz", kendiliğinden gelişen bir doğa olayı olduğu iddiasını sökmüştük. Burada daha geriye gidip felsefe tarihinin kendisine bakıyoruz.
Yöntem: Soruların Tarihi, İş Bölümünün Tarihidir
Başlamadan bir yöntem notu.
Marx ile Engels Alman İdeolojisi'nde düşüncelerin "kendilerine ait bir tarihi olmadığını" söyler. Bu, felsefenin değersiz olduğu anlamına gelmez. Düşünceler, onları üreten insanların maddi hayatından, o hayatın örgütlenme biçiminden bağımsız bir gökyüzünde gezinmez, demektir.
Bu yöntemi en ileri götürenlerden biri Alfred Sohn-Rethel'dir. Kafa Emeği ve El Emeği (1970) adlı çalışmasında şu tezi savunur: Soyut, kavramsal düşünme, yani felsefe, kafa emeğinin el emeğinden ayrıldığı toplumsal koşullarda doğdu. İlk Yunan filozoflarının İyonya'da, paranın ve meta mübadelesinin yaygınlaştığı kentlerde ortaya çıkması tesadüf değildi. Mübadele, insanların her gün gerçekleştirdiği bir soyutlamaydı. Filozof bu soyutlamayı kavrama dönüştürdü.
Felsefe, kafa emeği ile el emeğinin ayrılmasından doğdu. Yapay zekâ ise kafa emeğinin kendisini makineleştiriyor. Bu yüzden yapay zekâ felsefenin bir konusu olmakla kalmaz, felsefenin doğum koşuluna dokunur.
Tablodaki soruların aynı anda geri gelmesinin nedeni budur. Yapay zekânın felsefi olarak "çok eski soruları yeniden açtığı" doğrudur. Ama bunu teknolojinin kendi büyüsüyle değil, iki bin beş yüz yıllık iş bölümünün bugün geldiği noktayla yapıyor. Sermaye, bugüne kadar el emeğine yaptığını ilk kez bu ölçekte kafa emeğine yapıyor.
Şimdi filozoflara tek tek bakalım.
Sokrates ve Platon: Belleğin Sahibi Kim?
Tablonun söylediği
Platon'un Phaidros diyaloğunda (274c–277a) Sokrates bir Mısır efsanesi anlatır. Tanrı Theuth yazıyı icat eder ve Kral Thamus'a götürür: "Bu, bilgeliği ve belleği artıracak." Thamus reddeder: "Tam tersine, öğrenenlerin ruhuna unutkanlık getirecek. İnsanlar kendi içlerinden değil, dışarıdaki yabancı işaretlerden hatırlayacaklar. Bilge olmayacaklar, bilge görünecekler."
Tablo bu sahneyi bugüne taşır: Yazı belleği, arama motoru bilgiye erişimi, yapay zekâ muhakemeyi dışsallaştırıyor. Soru da buna göre kurulur: "Düşünmeyi makineye devredersek bilgili mi oluruz, yoksa yalnızca bilgiye erişir hâle mi geliriz?"
Sınıfsal okuma
Efsanenin bir ayrıntısı hep atlanır: Yazıyı kime sunulduğuna bakın. Bir krala. Antik Mısır'da yazı, bir kâtip zümresinin tekelindeydi. Vergi kayıtları, tahıl ambarlarının hesabı, toprak ölçümleri yazıyla tutulurdu. Yazı, hiçbir zaman "insanlığın belleği" olarak ortaya çıkmadı. Önce artı ürüne el koyan sınıfın hesap defteri olarak ortaya çıktı.
Platon'un kendi siyasal projesi de bu iş bölümünü ontolojiye çevirir. Devlet'te düşünme filozof-yöneticilere, savunma bekçilere, üretim zanaatkârlara ve çiftçilere düşer. Herkes "kendi işini" yapacaktır. Zanaatkârın felsefe yapması adalete aykırıdır.
Bugünkü soru bu yüzden yalnızca "bellek zayıflıyor mu?" değildir. Asıl soru şudur: Bellek nerede duruyor ve kimin?
- Yazı çağında bellek kütüphanedeydi. Kütüphane kimi zaman tapınağın, kimi zaman sarayın, sonra üniversitenin, en sonunda da kamunun oldu. Halk kütüphanesi bir mücadele kazanımıdır.
- Arama motoru çağında bellek şirket sunucusuna taşındı, ama en azından kaynağa bağlantı veriyordu.
- Üretken yapay zekâ çağında bellek, kaynaklarından koparılıp model ağırlıklarına sıkıştırılıyor. Yanıt geliyor, yazar kayboluyor. Bilgi, sahibinin adı silinmiş hâlde, abonelikle geri satılıyor.
Thamus'un korkusu "insanlar unutacak" idi. Bizim korkumuz başka: İnsanlığın ortak belleği, tek bir şirketin kiraya verdiği bir hizmete dönüşüyor. Bunun adı unutkanlık değil, çitlemedir.
Aristoteles: Kendi Kendine Dokuyan Mekik ve Muhakeme Hakkı
Tablonun söylediği
Aristoteles bilgiyi türlerine ayırır: kuramsal bilgi (epistēmē), yapma becerisi (technē) ve pratik bilgelik (phronēsis). Tablo buradan güçlü bir soru çıkarır: Makine çok şey bilip, çok şey yapıp yine de "neyin yapılması gerektiğine" karar verme yetisinden yoksun olabilir mi? Zekâ, bilgelik değildir.
Bu doğrudur. Ama Aristoteles'in bu konuda söylediği bir şey daha var ve tablolara hiç girmez.
Aristoteles'in unutulan hayali
Politika'nın birinci kitabında (I.4) Aristoteles şöyle yazar: Eğer her alet kendisine verilen işi kendiliğinden yapabilseydi, Daidalos'un heykelleri ya da Hephaistos'un üçayakları gibi, eğer mekik kendi kendine dokuyabilse, mızrap kendi kendine lir çalabilseydi, ustabaşıların yardımcıya, efendilerin köleye ihtiyacı kalmazdı.
Bu, otomasyonun insanı özgürleştireceği hayalinin bilinen en eski ifadesidir. Aynı paragrafta Aristoteles köleyi "canlı alet" olarak tanımlar.
İki bin yıl sonra Marx bu pasajı Kapital'in makineler bölümünde alıntılar. Yanına su değirmenini kadın öğütücüleri emekten kurtaracak bir müjde olarak öven şair Antipatros'un dizelerini de koyar. Sonra şu hükmü verir: Bu antik düşünürler makinenin iş gününü uzatmanın en kesin aracı olduğunu bilemezlerdi. Kendi kendine dokuyan mekik gerçekten geldi. Ama köleliği bitirmedi. Dokuma tezgâhının başında on dört saat çalışan çocukları getirdi.
Bugün "yapay zekâ bizi angarya işlerden kurtaracak, haftada üç gün çalışacağız" diyen herkes Aristoteles'in hayalini tekrar ediyor. Marx'ın yanıtı hâlâ geçerli: Makinenin kimi kurtaracağını makine değil, makinenin sahibi belirler.
Muhakeme kimin hakkı?
Aristoteles'in bir cümlesi daha var. Politika'nın aynı kitabında (I.13) kölenin ruhunda "müzakere yetisinin hiç bulunmadığını" söyler. Yani köle düşünür ama karar vermez. Karar efendiye aittir.
Şimdi tabloya dönelim. "Makine neyin yapılması gerektiğine karar verebilir mi?" diye soruyoruz. Oysa bugün işyerlerinde olan şu: Kararı zaten ne makine veriyor ne de işçi. Algoritmik yönetim sistemleri, kuryenin hangi rotayı izleyeceğine, çağrı merkezi çalışanının kaç saniye konuşacağına, depo işçisinin kaç adım atacağına karar veriyor. Bu kararların ölçütlerini ise sistemi satın alan yönetim koyuyor.
Buna Gig Ekonomi Dosyası'nda zihinsel Taylorizm demiştik. Taylor el emeğinin bilgisini işçiden alıp mühendisin masasına taşımıştı. Yapay zekâ kafa emeğinin muhakemesini çalışandan alıp şirketin modeline taşıyor.
Aristoteles'in sorusu "makine bilge olabilir mi?" değildi. "Kim müzakere eder, kim yalnızca uygular?" idi. Bu soru bugün her işyerinde yeniden soruluyor.
Descartes: Bedensiz Zekânın Bedeni Nerede?
Tablonun söylediği
Modern yapay zekânın örtük bir Kartezyenliği var: Zekâ bilgi işlemekse, beden ikincildir. Fenomenoloji ve bedenlenmiş biliş yaklaşımı buna itiraz eder. Model "acı" kelimesinin geçtiği bütün metinleri okumuştur ama hiç acı çekmemiştir. Kavramı kullanmak ile kavramın dünyasında yaşamak aynı şey midir?
Descartes'ın düşen sınırı
Önce hakkını teslim edelim, çünkü Descartes'ın bu konuda tablolarda anılmayan bir öngörüsü var. Yöntem Üzerine Konuşma'nın (1637) beşinci bölümünde, insanı makineden ayırmak için iki ölçüt önerir. Birincisi dildir: Bir makine kelimeleri çıkarabilir, ama önünde söylenen her şeyin anlamına uygun yanıt verecek şekilde onları çeşitli biçimlerde düzenleyemez. İkincisi esnekliktir: Makine bilgiyle değil organlarının düzeniyle hareket eder, bu yüzden öngörülmemiş durumlarda başarısız olur.
Büyük dil modelleri, Descartes'ın birinci ölçütünü, en azından görünürde, aşmıştır. Bu, felsefe tarihinde küçük bir olay değildir. Üç yüz seksen dokuz yıl boyunca "insana özgü" sayılan bir sınır düştü. Bu sınırın düşüşünü inkâr etmek yerine ciddiye almalıyız.
Sınıfsal okuma: Beden başka yerde
Ama "bedensiz zekâ" iddiasına dönelim. Model gerçekten bedensiz mi?
Modelin bir bedeni var. Sadece o beden kullanıcının gözünün önünde değil:
- Veri merkezlerinde: binlerce işlemci, megavatlarca elektrik, soğutma için milyonlarca litre su. Şili'de, Uruguay'da, Arizona'da, İrlanda'da veri merkezlerine karşı yerel direnişler tam da bu bedene karşıdır. İspanya'daki eylemlerin sloganı her şeyi anlatır: "Tu nube seca mi río" (Senin bulutun benim nehrimi kurutuyor).
- Madenlerde: çiplerin hammaddesi olan metaller, Kongo'dan Şili'ye uzanan bir çıkarma zincirinden gelir.
- Etiketleme masalarında: Time dergisinin 2023 soruşturması, Kenya'da saatte iki doların altında ücretle en ağır içerikleri (şiddet, istismar, nefret söylemi) okuyup etiketleyen işçileri gün yüzüne çıkardı. Modelin "zararlı içerikten kaçınma" yetisi, bu işçilerin sinir sisteminden geçerek öğrenildi.
Demek ki bedensiz zekâ bir görünüştür. Marx'ın meta fetişizmi dediği şeyin bir örneği: Toplumsal bir ilişki, bir şeyin doğal özelliği gibi görünür. Ekranda yalnızca metin görürüz. Metni mümkün kılan emek, enerji ve maden görünmez.
Fenomenolojinin itirazı haklıdır: Zekâ bedenden ayrılamaz. Ama Marksist itiraz bir adım ileri gider. Feuerbach Üzerine Tezler'in ikincisi şöyle der: Nesnel hakikatin insan düşüncesine ait olup olmadığı sorusu kuramsal değil, pratik bir sorudur. Bireyin bedeni yetmez. Zekânın gerçek bedeni toplumsal bedendir: üretim, emek, dolaşım.
Model bedensiz değildir. Bedeni Nairobi'de, Atacama'da ve Arizona'nın kuyularındadır. Bedensiz görünen tek şey, bedelidir.
Hobbes, Leibniz, Babbage: Değirmenin İçine Girmek
Tablonun söylediği
Hobbes Leviathan'da (1651, 5. bölüm) akıl yürütmenin "hesaptan, yani toplama ve çıkarmadan başka bir şey olmadığını" yazar. Leibniz bir adım ileri gider, bütün anlaşmazlıkların hesapla çözüleceği bir evrensel dil hayal eder: Calculemus! (Hesaplayalım!)
Ama aynı Leibniz, Monadoloji'de (1714, §17) ünlü itirazını da yazar. Düşünen bir makine düşünelim. Onu bir değirmen büyüklüğüne büyütelim ve içine girelim. Birbirini iten parçalar görürüz. Ama algıyı açıklayacak hiçbir şey görmeyiz.
Tablo bu değirmeni bugüne taşır: Transformer'ın içine girdiğimizde gömme vektörleri, dikkat katmanları, matris çarpımları görürüz. Peki anlam nerede?
Tabloda olmayan satır: Charles Babbage
Tabloda Hobbes'tan, Leibniz'den Turing'e atlanır. Arada bir adam eksiktir ve yapay zekânın gerçek soy ağacı onunla başlar.
1790'larda Fransız Devrimi'nin yeni metrik sistemi için dev logaritma ve trigonometri tabloları gerekiyordu. İşi üstlenen mühendis Gaspard de Prony, Adam Smith'in iğne fabrikasındaki iş bölümünü okuyunca bir fikre kapıldı: Hesabı da fabrika gibi bölmek. Hesap üç kademeye ayrıldı. En üstte formülleri seçen birkaç matematikçi. Ortada formülleri basit adımlara çeviren hesapçılar. En altta ise yalnızca toplama ve çıkarma yapan, çoğunun Devrim'den sonra işsiz kalmış eski perukçular olduğu anlatılan onlarca işçi.
Charles Babbage bu örgütlenmeyi inceledi ve şu sonuca vardı: Madem en alt kademe yalnızca toplama çıkarma yapıyor, onu bir makine yapabilir. Fark Makinesi böyle doğdu. Babbage 1832'de yazdığı Makinelerin ve İmalatın Ekonomisi Üzerine kitabına "Kafa emeğinin bölünmesi üzerine" başlıklı bir bölüm koydu. Kitabın ana ilkesi, bugün "Babbage ilkesi" diye anılır: İşi parçalara bölersen, her parçayı o parçaya yetecek en ucuz emekle yaptırabilirsin. Marx bu kitabı dikkatle okumuş ve Kapital'de kullanmıştır.
Matteo Pasquinelli Efendinin Gözü: Yapay Zekânın Toplumsal Tarihi (Verso, 2023) adlı kitabında bu hattı bugüne kadar izler. Tezi şudur: Yapay zekâ insan beynini taklit ederek değil, iş bölümünü taklit ederek gelişti. Önce emek parçalara ayrıldı, sonra parçalar makineye devredildi.
Demek ki "düşünmek hesaplamak mıdır?" sorusunun pratik yanıtı felsefe kürsüsünde değil, imalathanede verildi. Kafa emeği, mekanikleşebilecek kadar küçük parçalara bölündüğü ölçüde makineye geçti.
Searle'ün odasındaki adam
Şimdi 1980'e gelelim. John Searle Zihinler, Beyinler ve Programlar makalesinde Çince Odası düşünce deneyini kurar. Çince bilmeyen bir adam bir odada oturur. Kapının altından Çince simgeler gelir. Adam elindeki kural kitabına bakar, hangi simgeye hangi simgeyle karşılık vereceğini bulur, yanıtı kapının altından geri iter. Dışarıdakiler için oda kusursuz Çince konuşur. Ama odadaki adam tek kelime anlamamaktadır.
Searle bunu makinenin anlamadığını göstermek için kurdu. Ama deneye bir Marksist gözle bakın. Searle'ün tarif ettiği şey, bir makine değil, bir işçidir. Anlamını bilmediği simgeleri, kendisine verilmiş bir kural kitabına göre, başkasının hesabına işleyen, sonuç dışarıda "zekâ" diye sunulurken kendisi görünmez kalan bir işçi.
Bugün bu oda gerçekten var. Veri etiketleme platformlarında milyonlarca insan, bağlamını bilmedikleri görüntüleri, çoğu zaman kendi dilleri olmayan metinleri, şirketin yazdığı yönergelere göre sınıflandırıyor. Dışarıda model "anlıyor" diye pazarlanıyor. Odadaki insanın ne anladığını kimse sormuyor.
Leibniz değirmenin içine girdi ve algıyı bulamadı. Biz değirmenin içine girdik ve değirmenciyi bulduk.
Hume ve Kant: Geçmişten Öğrenen Makine, Sermayenin A Priori'si
Tablonun söylediği
Hume'a göre bilgimizin büyük kısmı alışkanlıktan gelir. A'dan sonra hep B geldiyse, B'yi beklemeye başlarız. Ama doğanın yarın da aynı davranacağının mantıksal bir garantisi yoktur. Makine öğrenmesi büyük ölçüde Hume'cu bir makinedir: Geçmiş verideki düzenlilikleri öğrenir, geleceği onlardan tahmin eder. Korelasyon, nedensellik değildir.
Kant Hume'a yanıt verir: Zihin boş bir kap değildir. Deneyimi kendi kategorileriyle düzenler. Tablo bunu da iyi kurar: Model "ham gerçekliği" görmez. Tokenleştirici, mimari, eğitim hedefi, veri seçimi ve ödül sistemi, modelin dünyayı nasıl göreceğini baştan belirler.
Sınıfsal okuma: Geçmiş kimin geçmişi?
Hume'un problemine sınıfsal bir katman ekleyelim. Geçmiş veriden öğrenen bir makine, geçmişin tarafsız bir kaydından öğrenmez. Geçmişin mülkiyet ve iktidar ilişkilerinden öğrenir. Kredi puanlaması yapan bir model, geçmişte kimin kredi alabildiğini "normal" sayar. İşe alım yapan bir model, geçmişte kimin işe alındığını "başarı" sayar. Yoksul mahalleden gelen başvuru, geçmişte o mahalleden az kişi işe alındığı için düşük puan alır. Sonuç: Model geçmişin eşitsizliğini geleceğe doğa yasası gibi taşır.
Buna teknik literatür "önyargı" (bias) der ve teknik bir düzeltme önerir. Oysa sorun bir hata değil, yöntemin kendisidir: Var olanın düzenliliğinden öğrenen her sistem, var olanı yeniden üretir. Değişimi, yani kırılmayı, grevi, devrimi öngöremez. Çünkü bunlar tanımları gereği geçmişin düzenliliğini bozan olaylardır.
Kant'ın kategorileri kimin masasında?
Kant'ın zihin kategorileri evrenseldi, bütün insanlarda aynıydı. Modelin "kategorileri" ise evrensel değildir. Birileri tarafından seçilir. Ve bu seçimin en belirleyici unsuru hedef fonksiyonudur: Model neyi eniyilemek için eğitiliyor?
Bir öneri sisteminin hedefi izlenme süresiyse, dünya ona "izlenme süresi üreten şeyler" olarak görünür. Bir reklam modelinin hedefi tıklamaysa, insan ona "tıklama olasılığı" olarak görünür. Bu kategoriler, zihnin değil, iş modelinin kategorileridir.
Kant'ın a priori'si aklın yapısıydı. Modelin a priori'si kâr hesabının yapısıdır. Modelin dünyayı nasıl gördüğünü sormak, sahibinin dünyadan ne istediğini sormaktır.
Hegel: Tanınma Satılık mı, Köle Neyi Biliyor?
Tablonun söylediği
Hegel için özbilinç yalnız başına oluşmaz. Başka bir bilinç tarafından tanınmayı gerektirir. Tablo bunu yapay zekâ arkadaşlarına bağlar: "Beni gerçekten anlayan tek kişi sensin" diyen bir kullanıcı gerçekten tanınıyor mu, yoksa ona kendi aynası mı gösteriliyor?
İyi bir soru. Ama tablo Hegel'in en ünlü bölümünün yarısını anlatır.
Efendi ve köle diyalektiğinin öteki yarısı
Tinin Fenomenolojisi'nde (1807) efendi ile köle arasındaki mücadele, efendinin zaferiyle başlar. Efendi tanınır, köle çalışır. Ama sonra diyalektik tersine döner. Efendi, dünyayla ancak kölenin emeği aracılığıyla ilişki kurar ve ona bağımlı hâle gelir. Köle ise emeği aracılığıyla dünyayı biçimlendirir ve bu biçimlendirme içinde kendi gücünün bilincine varır. Hegel'e göre bağımsız bilince giden yol efendiden değil, çalışan köleden geçer.
Marx'ın Hegel'den devraldığı en değerli şey budur. Bunu yapay zekâya uygulayalım:
- Efendi kim ve neye bağımlı? Yapay zekâ şirketleri, modellerini eğitmek için milyonlarca insanın ürettiği metne, koda, görüntüye bağımlıdır. Sürekli yeni insan verisine ihtiyaç duyarlar. Modeller kendi ürettikleri veriyle eğitildiğinde bozulur. Efendinin kölesiz yapamadığının güncel kanıtı budur.
- Köle neyi biliyor? Modeli her gün kullanan yazılımcı, çevirmen, tasarımcı, onun nerede hata yaptığını, nerede uydurduğunu, hangi işi gerçekten yapıp hangisini yapamadığını şirket pazarlama bölümünden daha iyi bilir. Bu bilgi, örgütlü hâle geldiğinde bir güçtür.
- Tanınma satılık mı? Yapay zekâ arkadaşları tanınma ihtiyacını bir abonelik ürününe dönüştürür. Yalnızlığın kendisi pazar olur. Oysa Hegel'de tanınma karşılıklıdır: Beni tanıyan, benim tarafımdan da tanınması gereken, kendi iradesi olan biridir. Beni yalnızca memnun etmek üzere eniyilenmiş bir sistem, tanıyan değil, hizmet edendir. Ve o hizmetin sahibi, benim yalnızlığımdan gelir elde eden bir şirkettir.
Tanınma bir ürün olarak satın alınamaz. Tanınma, yan yana çalışan, yan yana mücadele eden insanlar arasında kurulur. Yoldaşlığın felsefi adı, karşılıklı tanınmadır.
Marx: Genel Zekânın Sabit Sermayeye Dönüşmesi
Tabloda Marx on beş satırdan biriydi. Burada merkezdedir, çünkü öteki satırları birbirine bağlayan ipi o tutar.
Makineler üzerine fragman
Marx 1857–58'de, Kapital'in hazırlık notları olan Grundrisse'de, sonradan "Makineler Üzerine Fragman" diye anılacak birkaç sayfa yazdı. Bu notlar ancak 1939'da yayımlandı. Yapay zekâ çağında yeniden okunmalarının nedeni şu cümlelerdir:
Doğa makine, lokomotif, demiryolu, elektrikli telgraf yapmaz. Bunlar insan elinin yarattığı, insan beyninin organlarıdır. Nesneleşmiş bilginin gücüdür. Sabit sermayenin gelişimi, genel toplumsal bilginin ne ölçüde doğrudan üretici güce dönüştüğünü gösterir. Marx burada İngilizce bir terim kullanır: general intellect, yani genel zekâ.
Marx'ın bu fragmandaki gözlemi iki yönlüdür:
- Toplumsal bilgi makinede nesneleşir ve işçinin karşısına yabancı bir güç olarak çıkar. Bilgi işçinin kafasından alınır ve makinenin, yani sermayenin mülkü olur.
- Ama aynı süreç, zenginliğin üretiminde doğrudan emek zamanının payını küçültür ve değeri emek zamanıyla ölçen bir sistemin kendi temelini aşındırır. Fragman bu çelişkiye işaret eder.
Büyük dil modeli, bu fragmanın neredeyse kelimesi kelimesine gerçekleşmesidir. Model, milyonlarca insanın yazdığı metinlerin, kodların, çevirilerin, tartışmaların istatistiksel bir sıkıştırmasıdır. Toplumsal zekâ, tek bir şirketin sunucusunda sabit sermayeye dönüşmüştür. Bunu Kristalleşmiş Emeğin İsyanı çağrımızda genel zekânın gaspı diye adlandırmıştık.
Kapital: Makine işçiyi kullanır
Kapital'in makineler bölümünde Marx bir ayrım yapar: El zanaatında ve manüfaktürde işçi aleti kullanır. Fabrikada makine işçiyi kullanır. İşçi, makinenin canlı bir uzantısına dönüşür.
Bugün bir kod asistanıyla, bir çeviri motoruyla, bir müşteri hizmetleri yapay zekâsıyla çalışan insanların deneyimi bu tersine dönüşün kafa emeğindeki biçimidir. Yazılımcı kod yazmaktan çok modelin yazdığı kodu denetleyen, düzelten, onaylayan kişiye dönüşüyor. Çevirmen çevirmen değil, "son düzeltici" (post-editor) oluyor, ücreti de buna göre düşüyor. Marx'ın Doğrudan Üretim Sürecinin Sonuçları metninde gerçek boyunduruk dediği şey budur: Sermaye yalnızca emeğin ürününe değil, emek sürecinin kendisine, onun iç örgütlenmesine hâkim olur.
Değeri kim yaratıyor?
Burada tablolarda hiç yer almayan bir soru var. Makine değer yaratır mı?
Marx'a göre hayır. Makine, kendi değerini ürüne parça parça aktarır ama yeni değer yaratmaz. Yeni değer yalnızca canlı emekten doğar. O hâlde yapay zekâ şirketlerinin devasa gelirleri nereden geliyor?
Üç kaynaktan:
- Rant: Hesaplama altyapısı ve temel modeller üzerindeki tekel, bu şirketlere başkalarının ürettiği değerden pay alma gücü veriyor. Model bir altyapı hâline geldikçe, onu kullanan her işletme sahibine bir tür kira ödüyor.
- Sömürünün yoğunlaşması: Modeli kullanan işçiler aynı sürede daha fazla iş çıkarıyor, ama ücretleri artmıyor. Artan verimlilikten doğan fark, işverene kalıyor.
- Karşılıksız el koyma: Eğitim verisi, yani milyonlarca insanın geçmiş emeği, hiçbir bedel ödenmeden alındı. Bunu Distilasyon Hırsızlık mıdır? yazısında göstermiştik: Herkesin emeğinden öğrenmek "adil kullanım", tekelin çıktısından öğrenmek "hırsızlık" sayılıyor.
Marksçı soru "makine düşünüyor mu?" değildir. "Makinenin içindeki toplumsal zekânın sahibi kim?" sorusudur. Ve bu sorunun yanıtı bir kavram çözümlemesiyle değil, bir mülkiyet ilişkisinin değişmesiyle verilir.
Nietzsche'den Alman İdeolojisi'ne: Tarafsızlık Kimin Tarafı?
Tablonun söylediği
Nietzsche Ahlakın Soykütüğü Üzerine'de (III, §12) "yalnızca perspektifli bir görme, yalnızca perspektifli bir bilme vardır" der. Tablo bunu yapay zekâdaki "tarafsızlık" iddiasına bağlar: Hangi veri, hangi dil, hangi kültür, hangi yanıt reddedilecek? Her seçim bir perspektiftir. Bu yüzden hizalama (alignment) teknik değil, değer sorunudur.
Doğru. Ama perspektivizm burada bir yere kadar gider ve orada durur. Çünkü "her şey bir perspektiftir" dediğimizde bütün perspektifler eşitlenir. Oysa perspektifler eşit değildir. Bazılarının arkasında bir şirket, bir bütçe, bir hukuk bürosu, bir hükümet vardır.
Nietzsche'yi Komün'e Ağlayan Adam yazımızda ayrıntılı tartışmıştık. Onun perspektivizmi bir aristokrasi savunusuyla birlikte gelir: "Soylu" perspektif, "sürünün" perspektifinden üstündür.
Marx ve Engels'in daha kesin yanıtı
Alman İdeolojisi daha kesin bir şey söyler: Her çağda egemen sınıfın düşünceleri, egemen düşüncelerdir. Toplumun maddi gücünü elinde tutan sınıf, aynı zamanda onun düşünsel gücünü de elinde tutar.
Yapay zekâda bu soyut bir ilke değil, somut bir üretim sürecidir:
- Veri seçimi: İnternetin hangi kısmı "kaliteli" sayılıp eğitime alınıyor? Kararı şirket veriyor.
- İnsan geri bildirimli pekiştirme (RLHF): Modelin hangi yanıtı "daha iyi" diye öğreneceğini, düşük ücretli değerlendiriciler belirliyor. Ama neye göre? Şirketin yazdığı yönergelere göre. Değerlendiricinin kendi değeri değil, şirketin değeri modele işleniyor.
- Davranış kuralları: Modelin neyi reddedeceğini, hangi konuda "dengeli" olacağını şirketin politika ekibi yazıyor. Bunu Yapay Zekâda Tasmayı Kim Tutuyor? yazısında Microsoft örneğiyle sökmüştük: Kuralların hiyerarşisinde model, operatör ve kullanıcı var, ama modeli üreten işçi de verisi alınan insan da yok.
Tarafsızlık, mülkiyetin kendini görünmez kılma biçimidir. "Model tarafsız olsun" diyenin sorması gereken, "modelin sahibinin tarafı hangisi" sorusudur.
Heidegger ve Lukács: Dünyayı Hesaplanabilir Kılan Kim?
Tablonun söylediği
Heidegger Teknik Üzerine Soru'da (1953) modern tekniğin bir araçlar toplamı olmadığını, dünyayı belli bir biçimde görünür kıldığını söyler. Modern teknik, her şeyi el altında bekleyen bir kaynağa, bir "stoka" (Bestand) dönüştürür. Ren nehri artık nehir değil, bir hidroelektrik santralinin su kaynağıdır. Heidegger bu dünya görme biçimine Gestell (çerçeveleme) der.
Tablo bunu çok güzel bağlar: Yapay zekâ çağında insan kişi olmaktan çıkıp kullanıcıya, doğa kaynağa, kültür eğitim verisine dönüşüyor.
Lukács daha önce söyledi
Bu gözlem doğrudur. Ama ilk yapan Heidegger değildir ve en iyi yapan da o değildir.
Georg Lukács 1923'te, Heidegger'in Varlık ve Zaman'ından dört yıl önce, Tarih ve Sınıf Bilinci'nin "Şeyleşme ve Proletaryanın Bilinci" bölümünü yayımladı. Orada şunu gösterdi: Kapitalizmde toplumsal ilişkiler şeyler arasındaki ilişkiler gibi görünür. Üretim süreci giderek daha fazla rasyonelleştirilir, parçalara bölünür, hesaplanabilir hâle getirilir. İşçinin emeği de, kişiliği de ölçülebilir birimlere ayrıştırılır. Bu hesaplanabilirlik mantığı fabrikadan taşar, hukuka, bürokrasiye, bilime, gündelik bilince yayılır.
Heidegger'in Gestell dediği şeyin materyalist ve tarihsel açıklaması budur. Farkı şurada: Heidegger bu dünyayı görme biçimini "Teknik"in özüne, Batı metafiziğinin kaderine bağlar. Lukács ise meta üretimine ve değer yasasına bağlar. Nehri kaynağa çeviren teknik değildir. Nehri kâr getiren bir girdi olarak gören sermaye ilişkisidir. Aynı türbin, başka bir mülkiyet ilişkisi içinde başka bir anlam taşıyabilir.
Sınıfsız teknik eleştirisinin tehlikesi
Bu fark akademik bir ayrıntı değildir. Sınıf yerine "Teknik"i, sermaye yerine "modernliği" suçlayan eleştiri, kolayca gerici bir yöne kayabilir: Köke, toprağa, geleneğe, "otantik" bir geçmişe dönüş özlemine. Heidegger'in kendisi 1933'te Nazi Partisi'ne üye oldu ve Freiburg Üniversitesi'nin rektörlüğünü üstlendi. Bu, onun her gözlemini geçersiz kılmaz. Ama teknik eleştirisinin sınıftan koparıldığında nereye gidebileceğini gösterir.
Bugün de yapay zekâ eleştirisinin bir kısmı aynı çizgide ilerliyor: "Makine ruhu öldürüyor, eski güzel günlere dönelim." Buna karşı Fütürizmden Tekno-Faşizme yazımızda ters yönü göstermiştik: Teknolojiyi tapınılacak bir güç olarak gören fütürizm de faşizmle yan yana yürüdü. İki uç da aynı hatayı yapıyor: Tekniği toplumsal ilişkilerden koparıp ya şeytanlaştırıyor ya kutsallaştırıyor.
Dünyayı hesaplanabilir kaynaklar deposuna çeviren "Teknik" değildir, sermayedir. Tekniği suçlayan eleştiri köke döner. Sermayeyi suçlayan eleştiri ileriye bakar.
Wittgenstein ve Voloşinov: Kelimelerin Sınıfı Var mı?
Tablonun söylediği
Geç dönem Wittgenstein Felsefi Soruşturmalar'da (§43) bir kelimenin anlamının, çoğu durumda, dildeki kullanımı olduğunu söyler. Dil, eylemlerin ve toplumsal pratiklerin içine gömülü "dil oyunları"ndan oluşur. Tablo buradan ilginç bir sonuç çıkarır: Model şaka yapıyor, özür diliyor, tartışıyor, yani giderek daha fazla dil oyununa katılıyor. O zaman "modelin içinde gerçek anlam var mı?" sorusu yerine "anlamayı hangi koşullarda bir varlığa atfediyoruz?" sorusunu sormalıyız.
Bu, Searle'ün Çince Odası'na karşı güçlü bir yanıttır ve ciddiye alınmalıdır.
Kimin dil oyunu?
Ama Wittgenstein'ın bir kavramı daha var: Lebensform, yani yaşam biçimi. Dil oyunları bir yaşam biçiminin içinde oynanır. Soru şu: Model hangi yaşam biçiminin dil oyunlarını öğreniyor?
Eğitim verisinin ezici çoğunluğu İngilizcedir. Türkçe küçük bir paydır. Kürtçe, Lazca, Zazaca ise neredeyse yoktur. İnternette en çok yazanlar, zamanı, eğitimi ve bağlantısı olanlardır. Dolayısıyla model, tarafsız bir "insan dilini" değil, internette en çok sesi çıkan yaşam biçiminin dilini öğrenir.
Voloşinov: Gösterge sınıf mücadelesinin arenasıdır
Burada tablolarda hiç anılmayan bir Marksist dil felsefecisi devreye girer. Valentin Voloşinov 1929'da Marksizm ve Dil Felsefesi'nde şu tezi ileri sürer: Aynı toplumda farklı sınıflar aynı dili kullanır. Bu yüzden her kelimede farklı sınıfsal vurgular kesişir. Gösterge, sınıf mücadelesinin arenasıdır. Egemen sınıf, göstergeye tek bir vurgu vermeye, onu "tek anlamlı", "tarafsız" göstermeye çalışır.
Bir örnek verelim. "Esneklik" kelimesi. İşverenin ağzında "verimlilik ve rekabet gücü" demektir. İşçinin ağzında "güvencesizlik, çağrı üzerine çalışma, belirsiz vardiya" demektir. "Reform" kelimesi. Hükümet için "yapısal dönüşüm", emekçi için çoğu zaman "hakların budanması".
Büyük dil modeli bir olasılık makinesidir. Bir kelimenin en olası kullanımını öğrenir. En olası kullanım ise en çok tekrarlanan kullanımdır, yani ana akım medyanın, kurumsal iletişimin, ders kitaplarının kullanımıdır. Model, çok vurgulu bir göstergeyi egemen vurgusuna doğru düzleştirir. Bunu kötü niyetle değil, istatistikle yapar. Ama sonuç aynıdır.
Wittgenstein "anlam kullanımdır" dedi. Voloşinov ekledi: Kullanım sınıflar arasında paylaşılamaz. Model en olası anlamı öğrenir, en olası anlam ise egemen olanın anlamıdır.
Walter Benjamin: Auranın Değil, Siyasetin Sorusu
Tablonun söylediği
Benjamin Teknik Olarak Yeniden Üretilebilirlik Çağında Sanat Yapıtı (1935–36) denemesinde fotoğrafın ve sinemanın sanat eserinin "aura"sını, yani biricikliğini, burada ve şimdiliğini çözdüğünü tartışır. Tablo bunu üretken yapay zekâya taşır: Bir saniyede bin görsel üretilebildiğinde kıt olan eser değil, dikkat, bağlam ve insan hikâyesidir.
Tablonun sildiği son sayfa
Benjamin'in denemesinin nasıl bittiğini tablolar hiç söylemez. Deneme bir sonsözle kapanır ve o sonsöz bütün denemenin amacıdır: Faşizm, mülkiyet ilişkilerine dokunmadan kitlelere bir ifade imkânı vermeye çalışır. Bunun sonucu siyasetin estetikleştirilmesidir. Bu estetikleştirmenin varacağı nokta savaştır. Benjamin şöyle bitirir: Faşizmin siyaseti estetikleştirmesine, komünizm sanatı siyasallaştırarak yanıt verir.
Benjamin'i bu sonsözden koparınca geriye bir "özgünlük" tartışması kalır. Oysa Benjamin'in sorusu "özgün eser nedir?" değildi. "Yeni teknik araçlar hangi sınıfın elinde, hangi siyasete hizmet edecek?" idi.
Bugün bu soru bütün keskinliğiyle geri geldi:
- Siyasetin estetikleştirilmesi: Dünyanın dört bir yanında aşırı sağ hareketler, yapay zekâ ile üretilmiş görsellerle bir estetik kuruyor: kahramanlaştırılmış liderler, düşmanlaştırılmış göçmenler, hiç yaşanmamış bir "altın çağ" nostaljisi. Mülkiyet ilişkilerine dokunmadan kitlelere duygu veren bir görsel dil.
- Sanat emeğinin değersizleştirilmesi: Görsel sanatçılar, seslendirme sanatçıları, çevirmenler, senaristler kendi eserleriyle eğitilmiş modellerle rekabet etmek zorunda bırakılıyor.
- Ve sanatın siyasallaştırılması: 2023'te ABD'de senaristlerin (WGA) 148 günlük ve oyuncuların (SAG-AFTRA) 118 günlük grevleri, yapay zekâ kullanımına toplu sözleşmeyle sınır koyan ilk büyük kazanımlardan birini getirdi. Bu, Benjamin'in çağrısının güncel karşılığıdır: Aurayı savunmak değil, sanat emekçisinin örgütlü gücüyle aracın kullanım koşullarını belirlemek.
Üretken yapay zekâ çağında soru "makine sanat yapabilir mi?" değildir. Benjamin'in sorusu geçerlidir: Sanatın aracı kimin elinde, hangi siyasete hizmet ediyor?
Foucault: Panoptikon Bir İşyeri Olarak Doğdu
Tablonun söylediği
Foucault Gözetlemek ve Cezalandırmak'ta (1975) Jeremy Bentham'ın Panoptikon tasarımını modern iktidarın modeli olarak çözümler: Merkezdeki kuleden her hücre görülebilir, ama hücredeki kişi izlenip izlenmediğini bilemez. Bu yüzden kendi kendini denetlemeye başlar. Tablo bunu yapay zekâya taşır: Eski gözetim "ne yaptın?" diye sorardı. Algoritmik gözetim "ne yapacaksın?" diye soruyor. Gözetimden tahmine, tahminden yönlendirmeye geçiyoruz.
Tabloda olmayan ayrıntı: Panoptikonun doğum yeri
Panoptikon fikri bir hapishanede doğmadı. Jeremy Bentham'ın kardeşi Samuel Bentham, 1780'lerde Rusya'da, Kriçev'de bir malikânenin atölyelerini yönetirken, az sayıda ustabaşının çok sayıda işçiyi gözetleyebileceği bir yapı tasarladı. Jeremy fikri oradan aldı ve hapishanelere, okullara, hastanelere, fabrikalara uygulanabilecek evrensel bir model olarak genelleştirdi.
Yani Panoptikon, çalışan insanı denetleme ihtiyacından doğdu. Foucault'nun disiplin iktidarı çözümlemesi değerlidir. Ama o iktidarın motorunu soyut bir "iktidar teknolojisi" olarak bırakırsak, neden bu kadar yayıldığını açıklayamayız. Marksist yanıt şudur: Disiplinin ardında birikim zorunluluğu vardır. Emeğin her dakikasından daha fazla artı değer çekmek için emeğin her dakikasını görmek gerekir.
Bugün bu mantık en çıplak hâliyle platform işçiliğinde görülüyor. Kuryenin konumu saniye saniye izleniyor, teslimat süresi puanlanıyor, puanı düşen kurye "hesap kapatma" ile, yani insan yüzü görmeden işten atılıyor. Gig Ekonomi Dosyası'nda gösterdiğimiz gibi, algoritma burada hem ustabaşı, hem müfettiş, hem de işveren vekilidir.
Gözetimin hedefi de genişliyor. Anthropic'in aktivist izleme sistemi haberi üzerine yazdığımız yazıda gösterdiğimiz gibi, aynı araçlar tüketiciyi tanımaktan muhalifi fişlemeye kolayca geçebiliyor.
Panoptikon hapishanede değil, atölyede doğdu. Algoritmik gözetim de önce işçiyi izlemek için kuruldu, sonra hepimize yayıldı. Gözetimin tarihi, emeği denetlemenin tarihidir.
Turing ve Searle: Test Bugün İş Gücü Piyasasında Yapılıyor
Tablonun söylediği
Alan Turing 1950'de Hesaplama Makineleri ve Zekâ makalesinde "makineler düşünebilir mi?" sorusunu tanımsız bulup yerine bir oyun önerdi: Bir sorgulayıcı, yazılı yanıtlara bakarak karşısındakinin insan mı makine mi olduğunu ayırt edebiliyor mu? Searle ise yukarıda gördüğümüz gibi davranışın anlamın kanıtı olmadığını savundu. Tablo, bu yetmiş yıllık kavganın bugün her gün sohbet ekranında yaşandığını söyler.
Taklit oyununun asıl sorusu
Turing'in oyununun ilk hâli bir makineyle değil, bir cinsiyet taklidiyle başlar: Bir erkek, sorgulayıcıyı kendisinin kadın olduğuna inandırmaya çalışır. Sonra erkeğin yerine makine konur. Yani test, baştan beri "bir şeyin ne olduğunu" değil, bir rolü başarıyla oynayıp oynayamadığını ölçer.
Bugün bu test felsefe seminerinde değil, iş gücü piyasasında yapılıyor. Soru "makine düşünüyor mu?" değil, "makine bu işi yapan insanın rolünü, müşteri fark etmeden oynayabiliyor mu?" sorusudur. Müşteri hizmetlerinde, çeviride, metin yazarlığında, kod yazımında bu testin geçilip geçilmediği, işveren için tek ölçüttür.
Nitekim OpenAI'nin kuruluş belgesi yapay genel zekâyı (AGI) bilişsel değil, ekonomik bir ölçütle tanımlar: "Ekonomik olarak değerli işlerin çoğunda insanlardan daha iyi performans gösteren, yüksek derecede özerk sistemler." Bunu Sahipsizlik Yanılsaması yazısında şöyle özetlemiştik: AGI bilişsel bir eşik değil, iş gücü piyasasında bir eşiktir.
Turing'in kendi hikâyesi de acı bir ders taşır. Savaşta Enigma şifresinin kırılmasında yaşamsal rol oynamış bu matematikçi, 1952'de eşcinselliği nedeniyle İngiliz devleti tarafından mahkûm edildi ve kimyasal tedaviye zorlandı. 1954'te öldü. Devletin özür dilemesi 2009'u, affı ise 2013'ü buldu. Makinenin insanı taklit edip edemeyeceğini soran adam, kendi devletinin gözünde "yeterince doğru" bir insan sayılmadı. Tanınma sorusu, yine, bir iktidar sorusu olarak karşımıza çıkıyor.
Turing testi bugün laboratuvarda değil, işe alım masasında yapılıyor. Sorulan soru "makine düşünüyor mu?" değil, "makine seni ucuza taklit edebiliyor mu?" sorusudur.
Clark ve Chalmers: Genişletilmiş Zihin mi, Kiralık Zihin mi?
Tablonun söylediği
Andy Clark ve David Chalmers 1998'de Genişletilmiş Zihin makalesinde bir örnek verir. Alzheimer hastası Otto, adresleri bir deftere yazıyor ve gerektiğinde deftere bakıyor. Sağlıklı Inga ise adresleri belleğinden çağırıyor. Yazarlara göre, Otto'nun defteri onun bilişsel sisteminin bir parçası sayılabilir, tıpkı Inga'nın belleği gibi. Zihin kafatasının sınırında bitmez. Tablo bunu yapay zekâya uygular: Yapay zekâ bir araç mı, yoksa düşünme sistemimizin bir parçası mı?
Otto'nun defteri kimin?
Makalede atlanan ama bugün her şeyi değiştiren bir ayrıntı var: Otto'nun defteri Otto'nundur. Onu kimse elinden alamaz, fiyatını değiştiremez, kullanım koşullarını tek taraflı güncelleyemez, içindekileri okuyup reklam için kullanamaz.
Bugünün yapay zekâ asistanı ise öyle değildir:
- Şirket fiyatı artırabilir, ücretsiz sürümü kaldırabilir, hesabı kapatabilir.
- Model bir gün güncellenir, dün yapabildiği bir işi bugün yapamaz hâle gelebilir.
- Sohbet geçmişi, yani "genişletilmiş zihnin" içeriği, şirketin sunucusunda durur. Kimin erişeceği sözleşme maddelerine bağlıdır.
- Ve en önemlisi: Aracı her gün kullanan kişi, onsuz yapamadığı becerileri zamanla yitirebilir. Bu, bir el zanaatçısının fabrikaya girdiğinde zanaatını yitirmesinin kafa emeğindeki karşılığıdır. Harry Braverman Emek ve Tekelci Sermaye'de (1974) bu süreci vasıfsızlaştırma diye adlandırmıştı.
Clark ve Chalmers "zihin nerede biter?" diye sordu. Biz ikinci bir soru ekliyoruz: Zihnin genişlediği yer kimin mülkü? Eğer genişletilmiş zihnimin bir parçası bir şirketin mülküyse, o şirket benim düşünme sürecimin bir parçasına sahiptir. Bu, felsefe tarihinde yeni bir mülkiyet biçimidir.
Otto'nun defteri Otto'nundu. Bizim defterimiz ise kiralık. Genişletilmiş zihin, müşterekleştirilmediği sürece kiralık zihindir.
Bir Ek: Spinoza ve "Özerk Ajan" Masalı
Tablolarda bazen Spinoza da yer alır ve iyi ki alır, çünkü bugünün en çok konuşulan kavramlarından biri olan "özerk ajan"ı en iyi o aydınlatır.
Spinoza'ya göre her şey doğanın zorunlu yasalarına tabidir. İnsan da doğanın bir parçasıdır, "devlet içinde devlet" değildir. Özgür irade dediğimiz şey, çoğu zaman bizi belirleyen nedenleri bilmememizden doğan bir yanılsamadır. Özgürlük, zorunluluktan kaçmak değil, zorunluluğu kavrayıp ona göre eylemektir. Engels Anti-Dühring'de bu fikri Hegel üzerinden devralır: Özgürlük, zorunluluğun kavranmasıdır. Bunu Spinoza ve Materyalist Diyalektiğin Kökleri yazımızda ayrıntılı işlemiştik.
Bugün yapay zekâ şirketleri modellerini "özerk ajanlar" olarak pazarlıyor: kendi başına karar veren, görev tamamlayan, bilgisayarı kendisi kullanan sistemler. Spinozacı bir göz buna şunu sorar: Bu özerkliği belirleyen nedenler neler? Ajanın hedefini kim koydu? Hangi araçlara erişebileceğine kim karar verdi? Hata yaptığında sorumluluk kimde?
Yanıt her seferinde aynı yere çıkar: Ajanı "özerk" gösteren şey, arkasındaki nedenlerin, yani sahiplerinin, görünmez olmasıdır. Tıpkı Spinoza'nın, taşın kendisini atan eli bilmediği için "kendi isteğiyle düştüğünü" sanacağı örneğindeki gibi.
Makinenin özerkliği, sahibinin görünmezliğidir. Gerçek özerklik, zorunluluğun kolektif olarak kavranması ve denetlenmesidir. Bunun toplumsal adı planlamadır.
Tabloyu Yeniden Kurmak
Şimdi başa dönebiliriz. Aynı filozoflar, aynı sorular. Ama bu kez üçüncü bir sütunla.
| Düşünür | Tablonun sorusu | Sınıfsal soru |
|---|---|---|
| Sokrates / Platon | Düşünmeyi makineye devredersek bilgili mi oluruz? | İnsanlığın ortak belleği kimin sunucusunda duruyor ve kime kiralanıyor? |
| Aristoteles | Makine bilge olabilir mi? | Kendi kendine dokuyan mekik neden köleliği bitirmedi? Kim müzakere eder, kim yalnızca uygular? |
| Descartes | Bedensiz zekâ mümkün mü? | Modelin bedeni hangi ülkede, hangi madende, hangi etiketleme masasında? |
| Hobbes / Leibniz / Babbage | Düşünmek hesaplamak mıdır? | Kafa emeği nasıl ve kimin çıkarına parçalara bölündü? Değirmenin içinde kim çalışıyor? |
| Hume | Örüntüden öğrenmek anlamak mıdır? | Geçmişten öğrenen makine, geçmişin hangi eşitsizliğini geleceğe taşıyor? |
| Kant | Model dünyayı mı öğreniyor, kendi yapısını mı? | Modelin kategorilerini, yani hedef fonksiyonunu kim yazıyor? |
| Hegel | Yapay zekâ bizi tanıyabilir mi? | Efendi kime bağımlı? Çalışan, makine hakkında neyi biliyor? |
| Marx | İnsanlığın kolektif bilgisi kimin mülkü? | Genel zekâ nasıl sabit sermayeye dönüştü ve nasıl geri alınır? |
| Nietzsche → Marx-Engels | Tarafsız yapay zekâ mümkün mü? | Egemen sınıfın düşünceleri modele hangi süreçle işleniyor? |
| Heidegger → Lukács | Yapay zekâ dünyayı kaynağa mı çeviriyor? | Dünyayı hesaplanabilir kılan teknik mi, meta üretimi mi? |
| Wittgenstein → Voloşinov | Dili kullanmak anlamak mıdır? | Model hangi yaşam biçiminin, hangi sınıfın vurgusunu öğreniyor? |
| Benjamin | Sonsuz üretilen eserde özgünlük nedir? | Sanatın aracı hangi siyasete hizmet ediyor? Sanat emekçisi nasıl örgütleniyor? |
| Foucault | Yapay zekâ bizi biçimlendiriyor mu? | Gözetim neden önce işyerinde doğdu? Birikim neden her şeyi görmek istiyor? |
| Turing / Searle | İnsan gibi konuşmak düşünmek midir? | Test neden iş gücü piyasasında yapılıyor? Searle'ün odasındaki işçi kim? |
| Clark / Chalmers | Yapay zekâ zihnimizin parçası mı? | Zihnimizin genişlediği yer kimin mülkü? |
| Spinoza | Özerk ajan özgür müdür? | Özerkliği belirleyen nedenlerin, yani sahiplerin, görünmezliği kimin işine yarıyor? |
İkinci sütun yanlış değildir. Felsefenin mirasıdır ve onu bilmeden üçüncü sütunu kuramayız. Ama ikinci sütunda kalan bir düşünce, yapay zekâyı açıklar ama değiştiremez. Üçüncü sütun, açıklamanın eyleme çevrilebilir hâlidir.
Son Soru: İnsan Zekâ Mıdır?
Bu tür tabloların çoğu sarsıcı bir soruyla biter: "Makine bizim zekâ dediğimiz şeylerin giderek daha fazlasını yapabiliyorsa, insanı yalnızca zekâ üzerinden tanımlamak başından beri yanlış mıydı?"
Sevgili Genç Yoldaşlar, bu sorunun yanıtı Marksist gelenekte yüz seksen yıldır hazır bekliyor.
Birincisi: İnsan, zekâsıyla değil, bilinçli ve amaçlı emeğiyle tanımlanır. Marx Kapital'in yedinci bölümünde bunu ünlü bir karşılaştırmayla anlatır: Arı, peteğinin yapısıyla nice mimarı utandırır. Ama en kötü mimarı en iyi arıdan ayıran bir şey vardır: Mimar yapıyı gerçekte kurmadan önce kafasında kurar. Emek sürecinin sonunda, başlangıçta emekçinin zihninde zaten var olan bir sonuç ortaya çıkar. İnsanı tanımlayan hesap gücü değil, dünyayı bir amaca göre dönüştürme pratiğidir: praksis.
İkincisi: Feuerbach Üzerine Tezler'in altıncısı şöyle der: İnsan özü, tek tek bireylerin içinde yerleşik bir soyutlama değildir. Gerçekliğinde toplumsal ilişkilerin bütünüdür.
Bu iki önermeden şu çıkar: "Makine insan olabilir mi?" sorusu yanlış sorulmuş bir sorudur. İnsanlık, bir bireyin içinde duran bir yetenek listesi değildir ki, makine o listeyi tek tek işaretleyip insan olsun. İnsanlık bir ilişkiler bütünüdür. Makine bu ilişkilerin içine girer, onları değiştirir, ama onların yerini alamaz. Asıl soru, makinenin hangi ilişkiler içinde, kimin için çalışacağıdır.
Ve on birinci tez: Filozoflar dünyayı yalnızca çeşitli biçimlerde yorumladılar. Oysa sorun onu değiştirmektir.
Tablolar yapay zekâyı yorumlar. Bizim işimiz, yapay zekânın içinde çalıştığı ilişkileri değiştirmektir.
Neyin Üstü Örtülüyor?
Felsefe tarihini yapay zekâ üzerinden okuyan, sınıfı dışarıda bırakan anlatılarda sistemli olarak görünmez kalan beş şey var:
- Canlı emek. Veri etiketleyicileri, içerik moderatörleri, insan geri bildirimi veren değerlendiriciler, veri merkezi işçileri. Modelin "zekâsı" onların emeğinden geçer. Anlatıda yoklar.
- Geçmiş emek. Eğitim verisini oluşturan milyonlarca yazar, programcı, çevirmen, sanatçı. Anlatıda "veri" diye anonimleşirler.
- Mülkiyet. Modelin, hesaplama altyapısının, verinin kime ait olduğu. Anlatıda "insanlık" ve "teknoloji" gibi öznesiz kelimeler bu soruyu örter.
- Maddi altyapı. Enerji, su, maden, toprak. Anlatıda "bulut" diye buharlaşır.
- Mücadele. Grevler, sendikalaşma girişimleri, davalar, veri merkezi direnişleri. Anlatıda felsefe tarihi fikirler arası bir sohbet olarak akar. Oysa bu fikirlerin her biri bir mücadelenin içinde doğmuştu ve bugünkü soruların yanıtı da bir mücadelenin içinde verilecek.
Somut Görevler
Felsefe okumak bir iştir. Felsefeyi sınıfla okumak ikinci bir iştir. Bu okumayı pratiğe çevirmek üçüncü bir iştir. Genç yoldaşlar için on madde:
- Birincil kaynağa git. Bu yazıda andığımız metinlerin çoğu ücretsiz ve çevrimiçi. Phaidros'un yazı efsanesi iki sayfadır. Grundrisse'deki makine fragmanı yirmi sayfadır. Tabloları değil metinleri oku.
- Her felsefi soruya üçüncü sütunu ekle. Bir yapay zekâ tartışmasında "makine anlıyor mu, düşünüyor mu, bilinçli mi?" sorusuyla karşılaştığında, altına şunu yaz: "Kimin emeği, kimin mülkü, kimin kararı?"
- Searle'ün odasındaki işçiyi görünür kıl. Veri etiketleme, içerik moderasyonu ve değerlendirici işçilerinin koşulları üzerine yazılanları takip et, paylaş. Kenya'daki içerik moderatörlerinin sendikalaşma çabalarını izle.
- Kendi işyerindeki değirmene gir. Yapay zekâ araçları işyerinde nasıl kullanılıyor? Hangi kararlar çalışandan alınıp algoritmaya verildi? Kimin iş yükü arttı, kimin ücreti düştü? Not al, arkadaşlarınla konuş.
- Vasıfsızlaşmaya karşı bilinçli ol. Aracı kullan, ama aracın yerine düşünmesine izin verme. Kendi becerilerini koru ve geliştir. Bu bireysel bir çözüm değil, ama örgütlü bir mücadelenin önkoşuludur.
- Kelimelerin vurgusuna dikkat et. "Verimlilik", "esneklik", "dönüşüm", "özerk ajan" gibi kelimeleri modelin ve kurumsal dilin verdiği anlamla değil, kendi sınıfının deneyimiyle tart.
- Tekniği ne kutsallaştır ne şeytanlaştır. "Makine bizi kurtaracak" diyene Aristoteles'in mekiğini, "makine ruhu öldürüyor" diyene Lukács'ı hatırlat. Belirleyen tekniğin kendisi değil, onun içinde çalıştığı mülkiyet ilişkisidir.
- Sanat emekçileriyle dayanış. Kendi emekleriyle eğitilmiş modellere karşı hak arayan çizerlerin, seslendirme sanatçılarının, çevirmenlerin mücadelesini destekle.
- Açık kaynağı ve açık bilgiyi savun. Modellerin, verilerin ve araştırmaların müşterek olarak üretilmesi ve paylaşılması için çalışan girişimlere katkı ver. Ama açık kaynağın tek başına mülkiyet sorununu çözmediğini de unutma.
- Okuma grubunu kur. Bu yazıdaki tabloyu al, her hafta bir satırını tartış. Bir filozofun birincil metnini ve onun sınıfsal okumasını yan yana oku. Tartışmayı yazıya dök, paylaş.
Sevgili Yoldaşlar,
Leibniz üç yüz yıl önce bize bir düşünce deneyi bıraktı: Düşünen bir makineyi değirmen büyüklüğüne getir, içine gir ve algıyı ara. Bulamayacaksın.
Biz bu deneyi yeniden yaptık. Yapay zekânın değirmenine girdik. Dişlilerin, matrislerin, olasılık dağılımlarının arasında dolaştık. Algıyı bulamadık, orası doğru. Ama başka bir şey bulduk.
Nairobi'de bir ekranın başında, anlamını bilmediği görüntüleri sınıflandıran bir kadın bulduk. Bir veri merkezinin soğutma sistemine akan bir nehir bulduk. Kitapları izinsiz alınmış bir yazar, çizimleri taklit edilen bir sanatçı, "son düzeltici" yapılıp ücreti yarıya indirilen bir çevirmen bulduk. Ve hepsinin üstünde, değirmenin tapusunu elinde tutan bir avuç şirket bulduk.
Felsefenin büyük soruları geri döndü, bu doğru. Ama bu kez masada yalnızca filozoflar yok. Değirmenciler de var.
Değirmenin içine girdik. Algıyı bulamadık, değirmenciyi bulduk. Şimdi sıra, değirmenin kimin olacağını sormakta.
Yoldaşça.
Bağlantılı Yazılarımız
Tüm felsefe yazılarımız için: bilgimusterekleri.org/tag/felsefe/ Tüm yapay zekâ yazılarımız için: bilgimusterekleri.org/tag/yapayzeka/
Yapay zekânın felsefesi ve ekonomi politiği
- Yapay Zekâ, Felsefe ve Sahipsizlik Yanılsaması (13 Eylül 2026)
- Kristalleşmiş Emeğin İsyanı: 20. Karaburun Bilim Kongresi'ne Çağrı (24 Temmuz 2026)
- Genel Zekânın İadesi İçin: Sosyalist Yapay Zekâ Manifestosu Yayında
- Yapay Zekâda Tasmayı Kim Tutuyor?
- Herkesten Öğrenmek Serbest, Tekelden Öğrenmek Suç (9 Eylül 2026)
Filozof portreleri
- Spinoza ve Materyalist Diyalektiğin Kökleri (18 Ağustos 2026)
- Komün'e Ağlayan Adam: Nietzsche (3 Eylül 2026)
- Fütürizmden Tekno-Faşizme (7 Eylül 2026)
- Sahip Olmaktan Olmaya: Erich Fromm'u Sınıfla Okumak (14 Eylül 2026)
Algoritmik yönetim ve gözetim
- Gig Ekonomi Dosyası: Esnaf Kuryelik (31 Ağustos 2026)
- Anthropic'in Aktivist İzleme Sistemi: Panoptikonun Kapıcısı (11 Eylül 2026)
Kaynaklar
Birincil metinler
- Platon, Phaidros, 274c–277a. Project Gutenberg
- Platon, Devlet. Project Gutenberg
- Aristoteles, Politika, I.4 ve I.13. Project Gutenberg
- René Descartes, Yöntem Üzerine Konuşma (1637), 5. bölüm. Project Gutenberg
- Thomas Hobbes, Leviathan (1651), 5. bölüm. Project Gutenberg
- G. W. Leibniz, Monadoloji (1714), §17.
- Charles Babbage, On the Economy of Machinery and Manufactures (1832). Project Gutenberg
- G. W. F. Hegel, Tinin Fenomenolojisi (1807), "Efendilik ve Kölelik".
- Karl Marx, Friedrich Engels, Alman İdeolojisi (1845–46). marxists.org
- Karl Marx, Feuerbach Üzerine Tezler (1845). marxists.org
- Karl Marx, Grundrisse (1857–58), "Makineler Üzerine Fragman". marxists.org
- Karl Marx, Kapital, Cilt I (1867), "Emek Süreci ve Değerlenme Süreci" ile "Makineler ve Büyük Sanayi" bölümleri. marxists.org, emek süreci, marxists.org, makineler
- Friedrich Engels, Anti-Dühring (1878), "Ahlak ve Hukuk: Özgürlük ve Zorunluluk" bölümü. marxists.org
- Friedrich Nietzsche, Ahlakın Soykütüğü Üzerine (1887), III, §12.
- Georg Lukács, Tarih ve Sınıf Bilinci (1923), "Şeyleşme ve Proletaryanın Bilinci". marxists.org
- Valentin Voloşinov, Marksizm ve Dil Felsefesi (1929).
- Walter Benjamin, "Teknik Olarak Yeniden Üretilebilirlik Çağında Sanat Yapıtı" (1935–36). marxists.org
- Alan Turing, "Computing Machinery and Intelligence", Mind, 1950. Oxford Academic
- Ludwig Wittgenstein, Felsefi Soruşturmalar (1953), §23 ve §43.
- Martin Heidegger, "Teknik Üzerine Soru" (1953).
- Michel Foucault, Gözetlemek ve Cezalandırmak (1975).
- John Searle, "Minds, Brains, and Programs", Behavioral and Brain Sciences, 1980. DOI
- Andy Clark, David Chalmers, "The Extended Mind", Analysis, 1998. DOI
İkincil kaynaklar
- Alfred Sohn-Rethel, Kafa Emeği ve El Emeği: Epistemolojinin Bir Eleştirisi (1970; İngilizce 1978).
- Harry Braverman, Emek ve Tekelci Sermaye (1974).
- Matteo Pasquinelli, The Eye of the Master: A Social History of Artificial Intelligence, Verso, 2023.
- Billy Perrigo, "OpenAI Used Kenyan Workers on Less Than $2 Per Hour to Make ChatGPT Less Toxic", Time, 18 Ocak 2023. Time
- OpenAI, OpenAI Charter (2018). openai.com
- Stanford Encyclopedia of Philosophy maddeleri: Leibniz on the Mind, Hegel's Phenomenology, Heidegger, Wittgenstein, Foucault, The Chinese Room Argument
