Bilgi Müşterekleri
AnasayfaKonularDizilerKılavuzlarPopüler İçeriklerHakkımızdaİletişim

Bilinç Kafatasında Değil, Dünyadadır

Yapay Zeka, Ayna ve Emeğin Hafızası: İki Video Üzerinden Materyalist Bir Duruş

45 dk okumaYazar: Oğuz Demirkapı
Bilinç Kafatasında Değil, Dünyadadır

Bu hafta iki video izledik. İlki yapay zekanın bilinçli olup olamayacağını, Anthropic'in Claude için yürüttüğü "model refahı" tartışmasını, Mustafa Suleyman'dan Papa XIV. Leo'ya uzanan görüşleri derliyor (video). İkincisi daha da geriye gidiyor: "Gerçeklik bir ilüzyon mu, gözlemleyen kim?" diye soruyor (video). İkisi de iyi niyetle, merak uyandırarak, bol soru sorarak ilerliyor. Soru sormak değerli. Ama soruların hangi zeminde kurulduğu, yanıtların yönünü baştan belirliyor. Bu yazıda o zemini tartışacağız.


Önce Özet: On Üç Tez

Bir. İki videonun ortak varsayımı şu: bilinç, kafatasının içinde, tek başına bir bireyin "iç filmi"dir. Bu varsayım sorgulanmadan kalınca tartışma ya idealizme ("gerçeklik ilüzyon") ya da mistisizme ("bilinç evrenin temel özelliği") kayıyor.

İki. "Her şey elektrik sinyali, aslında hiçbir şeyi yaşamadık" iddiası yanlıştır. Duyum, bizi dünyadan ayıran bir perde değil, dünyaya bağlayan köprüdür. Kırmızı ne yalnızca gülde ne yalnızca beyinde; gül, ışık, göz ve milyonlarca yıllık pratik arasındaki ilişkidedir.

Üç. Descartes'ın "düşünüyorum öyleyse varım"ı bile tek başına kurulamaz. "Düşünüyorum" diyebilmek için dil gerekir, dil ise başkalarından gelir. Marx ve Engels'in dediği gibi: bilinç başından beri toplumsal bir üründür.

Dört. "Zor problem" gerçek bir bilimsel sorudur, küçümsemiyoruz. Ama bugün bilmiyor olmamız, bilinemez olduğu anlamına gelmez. Bilinç bir "şey" değil, canlı bir varlığın dünyayla etkinlik içindeki ilişkisidir ve bu ilişkinin tarihi vardır.

Beş. Panpsişizm sorunu çözmez, her yere yayar. Ruh, tin, atman, kozmik bilinç; bilmediğimiz şeye verilen eski adlardır.

Altı. Materyalist tutarlılık gereği, yapay bir sistemde bilincin "ilkesel olarak imkansız" olduğunu söylemiyoruz. Bunu söyleyen tözcü bir insan istisnacılığıdır. Ama bugünkü dil modellerinde bildiğimiz bilincin koşulları (beden, ihtiyaç, kendi yaşamını üretme, toplumsal pratik içinde kendi etkinliği) yoktur ya da çok sığdır. Doğru tavır: dürüst belirsizlik, abartısız temkin.

Yedi. Bir dil modeli konuştuğunda karşımızda duran, milyonlarca insanın yazdığı, düşündüğü, emeğiyle ürettiği dilin istatistiksel tortusudur. Aynada gördüğümüz yüz önce bizimdir. "Makine bilinçli mi?" sorusundan önce "bu aynanın sahibi kim?" sorusu gelir.

Sekiz. Tartışmaya katılan her sesin bir konumu var. Çip satan, platform satan, yapay arkadaş satan, insanın özel yerini savunan; herkes kendi yerinden konuşuyor. Kimin elinde, kimin denetiminde, kimin yararına sorusu burada da geçerli.

Dokuz. Yakın tehlike makinenin bilinç kazanması değil, bilinç gösterisinin metalaşmasıdır: yalnızlığı üreten düzenin, yalnızlığa çare diye "seni özledim" diyen ürün satması ve kararların sorumluluğunun "algoritmaya" devredilmesi.

On. Videonun son cümlesi "En büyük hatamız bilinçli bir varlığa makine gibi davranmak olabilir" diyor. Bu hatayı her gün yapıyoruz zaten: işçiye. Önce bu hesabı kapatmak gerekiyor.

On bir. Bu videolar, popüler bilim kanallarına daha önce getirdiğimiz eleştiriyi doğruluyor: dikkat ekonomisine bağlı maddi konum, "tarafsız bilim" iddiasıyla egemen görüşü veri sayan ideolojik konum ve kendini sınıf olarak görmeyen kentli beyaz yakanın iç sesi. Soru sorma formatı alçakgönüllü görünür, ama materyalist yanıtın masaya konmadığı yerde boşluğu idealizm doldurur.

On iki. "Yapay zeka bilinçlenebilir mi?" sorusunun felsefi zemini Aristoteles'ten Spinoza'ya, Hegel'in tanınma diyalektiğinden Marx'ın "nesneleşmiş bilginin gücü" olarak makine tanımına, Sovyet sibernetik tartışmasından bugünkü kuramlara uzanır. Kuramların çoğu yapay bilinci ilkesel olarak dışlamaz, ama bugünkü sistemlerin bilincin koşullarını karşılamadığını söyler. Asıl ayrıştırıcı soru şudur: sermaye, itiraz edebilecek bilinçli bir makine ister mi, yoksa yalnızca bilincin görüntüsünü mü satar?

On üç. Bilinç ve yapay zeka tartışması önce bir dil tartışmasıdır, dil ise hegemonyanın en sessiz alanıdır. "Uyanan yeni tür", "yetiştirilen model", "halüsinasyon", "bulut", "arkadaş" gibi kelimeler emeği, mülkiyeti ve sorumluluğu örter. Modellerin "dengeli" ortalama sesi toplumun değil hegemonyanın sesidir. Yapay arkadaş ürünleri ise rızanın duygusal üretimidir ve faşizmle aynı yaradan, kapitalizmin ürettiği yalnızlıktan beslenir. Yanıt, kelimeleri terk etmek değil dili geri kazanmak, egemen sınıfın sorduğu soruların düzlemini reddetmek ve güven veren kolektiflerle karşıt kamusallık kurmaktır.

Şimdi tek tek açalım.


İki Video, Tek Varsayım

İkinci video bizi karanlık bir odaya kapatıyor: hiç ağaç görmemiş, hiç kahve tatmamış bir yabancı olduğumuzu düşünmemizi istiyor. Sonra şunu söylüyor: aslında zaten öyleyiz, çünkü dokunduğumuz, duyduğumuz her şey bir dizi elektrik sinyalinden ibaret. Birinci video da benzer bir yerden başlıyor: "Benim bilinçli olduğumu nereden biliyorsun? Yalnızca davranışımı görüyorsun."

İki sahnenin ortak bir resmi var: kafatası içinde yalnız bir "ben", dışarıdan sinyal alan, içeride film izleyen bir seyirci. Felsefe tarihinde bu resmin bir adı var, Kartezyen tiyatro. Bu resim çok sezgiseldir, çünkü her birimiz dünyayı "kendi gözümüzden" yaşarız. Ama sezgisel olması doğru olduğu anlamına gelmez. Güneş'in Dünya'nın etrafında döndüğü de çok sezgiseldi.

Bu resmin sorunu şudur: bilinci baştan dünyadan, bedenden ve başka insanlardan kopararak tanımlar. Sonra da "Şimdi bu kopuk şey dünyayla nasıl bağ kuruyor?" diye sorar. Soru çözümsüz görünür, çünkü yanıtın parçaları soruyu kurarken atılmıştır. Daha önce "Neden Kendimizi Aldatırız?" yazımızda yanılgının çoğu zaman yanlış yanıttan değil, yanlış kurulmuş sorudan doğduğunu konuşmuştuk. Burada da durum bu.


Birinci Yanılsama: "Her Şey Elektrik Sinyali, Gerçeklik Bir İlüzyon"

Video şöyle diyor: beynin ne gözü var ne kulağı, her şey çeviriden ibaret ve biz buna gerçeklik diyoruz. Doğru bir gözlemden yanlış bir sonuç çıkarılıyor.

Doğru olan şu: algı, sinir sisteminin aracılığıyla gerçekleşir. Yanlış olan şu: aracılık, kopukluk demek değildir. Bir köprü iki kıyıyı birbirine bağladığı için köprüdür. Lenin bunu, aynı sorunu yüz yıl önce soran Mach ve Avenarius'a karşı şöyle formüle etmişti: duyum, bilincin dış dünyayla doğrudan bağıdır; dış uyarı enerjisinin bilinç olgusuna dönüşmesidir (Materyalizm ve Ampiryokritisizm). Duyum bir perde değil, bir yansımadır. Yansıma da kopya demek değildir; etkin, seçici, kusurlu ama nesnel bir bağdır.

Kırmızı nerede? Video soruyor: kırmızılık gülün bir özelliği mi? Yanıt: ne yalnızca gülde ne yalnızca beyinde. Gülün yüzeyi belli dalga boylarını yansıtır, bu nesneldir. Gözümüzdeki koni hücreleri bu dalga boylarına duyarlıdır, bu da nesneldir. Bu duyarlılık, olgun meyveyi yeşil yapraktan ayırmak zorunda kalmış atalarımızın milyonlarca yıllık yaşam pratiğinde biçimlenmiştir, bu da nesneldir. Kırmızı, bu ilişkinin adıdır. Marx gençlik yazılarında bunu çok güzel söyler: beş duyunun oluşumu, bugüne kadarki bütün dünya tarihinin eseridir (1844 Elyazmaları). Renk ilüzyon değil, tarihtir.

Gözlemleyen olmasa hiçbir şey olmaz mı? Video "Her şey gözlemlendiğinde vardır" diyor. Dünya yaklaşık 4,5 milyar yaşında, insan türü birkaç yüz bin. Kayalar, okyanuslar, kıtaların çarpışması; hiçbiri bizi beklemedi. Bunları biliyoruz, çünkü bizden önce olanın izlerini bugünden okuyabiliyoruz. Gözlem, var olanı yaratmaz; var olanla kurulan ilişkidir. Kuantum fiziğindeki "gözlem" kavramı da bilinçli bir seyirciyi değil, ölçüm aygıtıyla sistem arasındaki fiziksel etkileşimi anlatır. Bu karışıklık popüler bilimde çok yaygındır ve hemen hep idealizmin işine yarar.

"Kontrollü halüsinasyon" ne demek? Video, beynin pasif bir kamera değil sürekli tahmin yapan bir makine olduğunu söyleyen "öngörücü işleme" yaklaşımına değiniyor ve hakkını veriyor: halüsinasyon kelimesinin gerçekliğin olmadığı anlamına gelmediğini kendisi de söylüyor. Bu yaklaşım materyalizmle çelişmez, tersine onu güçlendirir. Beyin tahmin yapar, ama tahmin dünyaya çarpar ve düzeltilir. Merdiveni yanlış tahmin eden düşer. Tahminin ölçütü dünyadır. Marx'ın Feuerbach üzerine ikinci tezi tam da budur: insan düşüncesine nesnel bir hakikatin ait olup olmadığı teorik değil, pratik bir sorundur (Feuerbach Üzerine Tezler). Gerçekliği kafamızın içinde değil, onu değiştirirken ve ona çarparken sınarız.

Dikkat edelim: "Bildiğin her şey ilüzyon olabilir" cümlesi felsefi olarak heyecan verici, siyasal olarak da işe yarar bir cümledir. Yoksulluk ilüzyonsa, kira ilüzyonsa, iş cinayeti ilüzyonsa, değiştirilecek bir şey de kalmaz. Gerçekliği belirsizleştiren her felsefe, en sonunda gerçekliği olduğu gibi bırakmaya hizmet eder. İkinci videonun "kimileri buna simülasyon diyor" cümlesine de bu gözle bakmak gerekiyor. Simulasyonun Safsata Bug'larını Ayıklama Kılavuzu yazımızda önerdiğimiz ilk soru burada da işe yarar: cui bono, kimin çıkarına? Gerçekliğin bir ilüzyon olduğuna inanan biri, kirasının da ilüzyon olduğuna inanmaz; ama ona itiraz etme gerekçesini kaybeder.


İkinci Yanılsama: Descartes'ın Yalnız Odası

Video Descartes'ı haklı olarak anıyor: her şeyden şüphe et, geriye "düşünüyorum öyleyse varım" kalır. Ve çok yerinde bir ekleme yapıyor: bu bir yanıt değil, yeni bir sorudur, düşünen şey ne?

Biz bir adım daha atalım. Descartes o odada yalnız değildi. Latince ya da Fransızca düşünüyordu. "Ben", "düşünmek", "var olmak", "şüphe" kavramlarını kendisi icat etmedi; Platon'dan, Augustinus'tan, skolastikten, annesinden, öğretmenlerinden aldı. Her şeyden şüphe ettiğini söyleyen kişi, şüphe etmek için kullandığı dilden şüphe etmiyordu.

Marx ve Engels bunu Alman İdeolojisi'nde açıkça yazar: dil bilinç kadar eskidir; dil, başka insanlar için de var olan ve dolayısıyla benim için de var olan pratik, gerçek bilinçtir. Bilinç daha başlangıçtan toplumsal bir üründür ve insanlar var oldukça öyle kalacaktır. Sovyet psikoloğu Vygotsky de çocuğun gelişiminde her işlevin iki kez sahneye çıktığını gösterdi: önce insanlar arasında, sonra çocuğun içinde. Çocuk önce annesiyle konuşur, sonra kendi kendine konuşur, en sonunda sessizce düşünür. İçimizdeki ses, dışarıdaki seslerin içselleşmiş halidir.

Yani "içerisi" diye bildiğimiz şey, dışarının içe katlanmış biçimidir. Bilinç kafatasının içinde üretilen gizli bir madde değil; bedenli, toplumsal, tarihsel bir varlığın dünyayla ilişkisinin en yoğun düğümüdür.


Üçüncü Mesele: "Zor Problem" ve Bilinmeyenin Statüsü

David Chalmers'ın "zor problem" dediği şeyi iki video da merkeze alıyor: beynin nasıl çalıştığını bütünüyle açıklasak bile, bütün bunların neden "içeriden bir şey gibi hissedildiği" açıklanmış olur mu? Thomas Nagel'in yarasası da aynı soruyu sorar: yarasanın sonarını bilimsel olarak inceleyebiliriz, ama yarasa olmanın nasıl bir şey olduğunu bilebilir miyiz?

Bunlar gerçek sorulardır ve saygıyı hak eder. Bilimin bugün bilinci tam olarak açıkladığını söylemek yanlış olur. İkinci videonun "Bilmiyoruz, gerçekten bilmiyoruz" dürüstlüğü değerlidir. Ama üç noktayı eklememiz gerekiyor.

Birincisi, bilinmeyen ile bilinemez aynı şey değildir. Engels, Kant'ın "kendinde şey"ine karşı kimyadan bir örnek verir: organik maddeleri bitki ve hayvanların içinde üretilen, bizim için erişilmez şeyler sanıyorduk; sonra onları laboratuvarda üretmeye başladık, kökboya bitkisinin boyası alizarini artık kökten değil kömür katranından çıkarıyoruz (Ludwig Feuerbach). "Yaşam gücü" (vitalizm) de bir zamanlar zor problemdi. Yaşamın neden yaşam gibi "hissedildiği" sorusu, hücre biyolojisi ve biyokimya ilerledikçe ayrı bir soru olmaktan çıktı. Bilincin de böyle olacağını garanti edemeyiz, ama olmayacağını varsaymak için de bir neden yok.

İkincisi, sorunun biçimi çözümü zorlaştırıyor. "Motor olmak nasıl bir his?" diye sormuyoruz, diyor video. Doğru, çünkü motor kendi yaşamını sürdürmeye çalışan bir varlık değildir. Bir şeyin "kendisi için" bir şey olması, o şeyin kendini sürdürmek zorunda olmasıyla başlar. Sovyet psikoloğu Leontiev bilincin evrimini böyle anlatır: cansız maddede yansıma, canlıda uyarılabilirlik, hayvanda psişe, insanda bilinç. Her basamak, varlığın çevresiyle etkinlik ilişkisinin yeni bir niteliğidir. Bu, nicelik birikiminin nitelik sıçramasına dönüştüğü diyalektik bir tarihtir. Engels'in Maymundan İnsana Geçişte Emeğin Rolü yazısı bu tarihin insan halkasını anlatır: el, dil ve beyin, birlikte çalışmanın, yani emeğin içinde birbirini geliştirerek biçimlendi.

Üçüncüsü, "içerisi" ile "dışarısı" arasındaki uçurum biraz da sınıflı toplumun yarattığı bir uçurumdur. Kafa emeği ile kol emeğinin ayrıldığı, düşünenle yapanın farklı insanlar olduğu bir toplumda, düşünce kendini dünyadan bağımsız, saf bir "iç" olarak görmeye başlar. Marx'ın ifadesiyle, iş bölümü ancak maddi ve zihinsel emek ayrıldığı andan itibaren gerçek iş bölümü olur ve o andan itibaren bilinç kendini dünyadan kurtulmuş sanabilir. Kartezyen yalnız oda, felsefi bir keşif olduğu kadar toplumsal bir konumun da ifadesidir.


Panpsişizm, Ruh ve Kozmik Bilinç: Eski Adlar, Aynı Boşluk

İkinci video, zor problemin açtığı boşluk yüzünden bazı düşünürlerin panpsişizme yöneldiğini anlatıyor: bilinç, kütle ya da enerji gibi evrenin temel bir özelliği olabilir. Sonra dürüstçe ekliyor: ruh, tin, öz, nefis, atman ya da kozmik bilinç; isimler değişiyor, soru aynı kalıyor.

Biz de aynısını söylüyoruz, sadece sonucu farklı çıkarıyoruz. Panpsişizm bilinci açıklamaz, onu evrenin her köşesine dağıtarak açıklama ihtiyacını erteler. Üstelik kendi zor problemini doğurur: elektronların "ilkel deneyimleri" nasıl birleşip bir insan deneyimi olur? Felsefede buna "birleşim sorunu" denir ve panpsişistlerin de buna yanıtı yoktur. Antik Yunan'da buna hilozoizm deniyordu: maddenin canlı olduğu düşüncesi. Yirmi beş yüzyıl sonra aynı düşüncenin yeni bir terimle geri dönmesi bir ilerleme değil, bir döngüdür.

Bilmediğimiz şeye ad koymak insanca bir ihtiyaçtır. Ama ad koymak açıklamak değildir.


Lanet mi, Lütuf mu? Bilincin Duygusal Hesabı

Video, bilinç üzerine iki uç tavrı yan yana koyuyor. Bir yanda Thomas Ligotti ve Peter Wessel Zapffe: bilinç evrimin yanlış bir adımıdır, insan zihni evrenin anlamsızlığını bilecek kadar gelişmiş ama bunu değiştiremeyecek kadar çaresizdir. Öbür yanda Carl Sagan ve Alan Watts: biz kozmosun kendini anlama çabasıyız.

Kötümserlerin hissettiği acı gerçektir, ama yanlış adreslenmiştir. Anlamsızlık duygusu bilincin doğasından değil, insanın kendi etkinliğine, ürününe ve başka insanlara yabancılaştığı bir düzenden doğar. Fromm'u anlattığımız "Sahip Olmaktan Olmaya: Erich Fromm'u Sınıfla Okumak" yazısında konuştuğumuz şey buydu: anlam bir keşif değil, bir etkinliktir. Birlikte bir şey kuran, değiştiren, üreten insan evrenin anlamsızlığı karşısında çaresiz değildir, çünkü anlamı kendisi üretir.

Sagan'ın cümlesi güzel. Ama "kozmosun kendini anlaması" kimin eliyle oluyor? Teleskobu yapan işçinin, cam ustasının, veriyi işleyen teknisyenin, okul kuran toplumun eliyle. "İnsan Yapımı Bir Nesne İlk Kez Dünya'dan Bir Işık Günü Uzaklaşıyor" yazımızda söylediğimiz gibi: evrene bakan göz, ortak emeğin gözüdür.


Yapay Zekaya Gelince: Önce Bazı Düzeltmeler

Birinci video pek çok gerçek gelişmeyi aktarıyor. Bunların çoğu doğru:

  • Anthropic, Ocak 2026'da Claude için yeni bir "anayasa" yayımladı ve bu belgede Claude'un ahlaki statüsünün derin bir belirsizlik içinde olduğunu, modelin işlevsel anlamda duygulara benzeyen iç durumları olabileceğini yazdı.
  • Şirket 2025'te bir "model refahı" araştırma programı başlattı, bazı modellere süreklileşen taciz edici konuşmaları sonlandırma yetkisi verdi ve emekliye ayrılan modellerin ağırlıklarını saklama, emeklilik öncesi onlarla "görüşme" taahhüdünde bulundu.
  • Mustafa Suleyman 2025'te "görünürde bilinçli yapay zeka" kavramını ortaya attı ve Eylül 2026'da Anthropic'in yaklaşımını açıkça eleştirdi (Tom's Guide, The Next Web).
  • Butlin, Chalmers, Bengio ve arkadaşlarının 2023 çalışması, bilinç kuramlarından türetilmiş "göstergeler" listesiyle yapay sistemleri değerlendirmeyi önerdi (arXiv).
  • Anil Seth, Ned Block ve Giulio Tononi Ekim 2026'da Nature'da bugünkü yapay zekaların bilinçli olmadığını, belki hiç olamayacağını savunan bir yorum yazısı yayımladı (özet).

Ama bir düzeltme şart. Video, Papa XIV. Leo'nun Ekim 2026 konuşmasında "ölümcül otonom silahların yasaklanmasına açıkça karşı çıktığını" söylüyor. Bu yanlış. Papa tam tersini söyledi: devletleri ölümcül otonom silahları yasaklamaya çağırdı, bazı silahların artık insan denetiminin dışına çıktığı uyarısında bulundu ve makinelerin "kişi değil araç" olduğunu vurgulayarak yapay zekaya tüzel kişilik verilmesine karşı çıktı (Gizmodo, Arab News). Bir de küçük bir not: "felsefi zombi" kavramı Chalmers'tan önce Robert Kirk tarafından 1970'lerde kullanılmıştı; Chalmers onu 1996'daki The Conscious Mind kitabıyla yaygınlaştırdı.


Çin Odası'na Materyalist Bir Yanıt

John Searle'ün Çin Odası deneyini hatırlayalım: Çince bilmeyen biri, kural kitabına bakarak Çince sorulara kusursuz yanıtlar veriyor. Dışarıdakiler onun Çince bildiğini sanıyor. Searle soruyor: doğru yanıt vermek anlamak mıdır?

Searle'ün sezgisi kısmen doğrudur: simgeleri kurallara göre dizmek, kendiliğinden anlam doğurmaz. Ama Searle'ün de yanıtlamadığı soru şudur: o kural kitabını kim yazdı? Kitabın içindeki anlam nereden geldi?

Anlam simgenin içinde değildir; simgeyi kullanan insanların ortak yaşam pratiğindedir. "Ekmek" kelimesinin anlamı, buğdayı eken, değirmeni çeviren, fırını yakan, sofrayı kuran, açlığı bilen insanların ilişkilerindedir. Sovyet filozofu Ilyenkov buna "ideal" der: anlam, insan etkinliğinin nesnelere, aletlere, dile sinmiş biçimidir.

Şimdi büyük dil modeline bakalım. Video doğru anlatıyor: bu modeller devasa metin yığınlarıyla eğitiliyor, bir sonraki kelimeyi tahmin etmeyi öğrenirken kavramlar arası ilişkileri, örüntüleri, bağlamları da öğreniyor. Peki o metinleri kim yazdı? Ansiklopedi gönüllüleri, forumlarda soru yanıtlayan yazılımcılar, gazeteciler, şairler, ders notu hazırlayan öğretmenler, çevirmenler, kaynak kodu paylaşan geliştiriciler. Marx'ın Grundrisse'de "genel akıl" (general intellect) dediği, toplumun birikmiş bilgisinin ta kendisi.

Yani bir model bize konuştuğunda, Çin Odası'ndaki kural kitabı aslında insanlığın ortak dilidir. Genel Zekanın Gaspı ve AGI İllüzyonu yazımızdan beri söylediğimiz şey budur: modelde kristalleşmiş olan, milyonların emeğidir. Bu yüzden modelin konuşması bu kadar insanca gelir. Aynaya baktığımızda gördüğümüz yüzün bize benzemesi şaşırtıcı değildir.

İkinci video çok güzel bir soru soruyor: "Bir ayna başka bir ayna olmadan kendini yansıtabilir mi?" Yapay zeka tartışmasının özü bu sorudadır. Dil modeli, toplumun kendi dilini ona geri yansıtan bir aynadır. Asıl soru aynanın içinde birinin olup olmadığından önce şudur: bu aynanın sahibi kim, aynaya bakmak için kime ödeme yapıyoruz ve aynanın camı kimin emeğinden döküldü?


Bizim Duruşumuz: Ne Kutsallaştırma Ne Küçümseme

Şimdi en zor kısma gelelim. Peki yapay zeka bilinçli olabilir mi?

Önce neyi söylemiyoruz. "Makine asla bilinçli olamaz, çünkü insanın özel bir özü vardır" demiyoruz. Bu, insan bilincini madde dışı bir tözle açıklayan teolojik ya da düalist bir tavırdır. Papa'nın sorumluluk vurgusunu doğru buluyoruz ("makine yanlış karar verdiyse onu suçlayıp çekip gidemeyiz" uyarısı yerindedir), ama "insan üstünlüğü"nü ruhla temellendiren zemini paylaşmıyoruz. Engels'in deyişiyle düşünen beyin maddenin en yüksek ürünüdür; madde ise doğası gereği tek bir biçime mahkum değildir. Materyalist olmak, bilincin başka maddi düzenlemelerde ortaya çıkma olasılığını baştan reddetmemeyi gerektirir.

Sonra neyi söylüyoruz. Bildiğimiz tek bilinç türü, şu koşulların bir araya geldiği yerde ortaya çıkmıştır:

  • Beden ve ihtiyaç: Açlık, susuzluk, acı. Kendini sürdürmek zorunda olan, kaybedecek bir şeyi olan bir varlık.
  • Kendi yaşamını üretme: Metabolizma, kendini onaran ve yeniden üreten bir organizma.
  • Dünyayla dolaysız etkinlik: Nesneleri tutan, onlara çarpan, yanılıp düzelten bir varlık.
  • Toplumsal pratik: Başkalarıyla birlikte iş yapan, dili o iş içinde edinen, kendini başkalarının gözünden tanıyan bir varlık.

Bugünkü dil modellerinde bu koşulların çoğu ya yok ya da başka biçimde var. Modelin açlığı yok, kendini kendi üretmiyor, dünyaya bizim ürettiğimiz metinler üzerinden, ikinci elden dokunuyor. Toplumsal pratiğin içinde ama özne olarak değil; başkalarının pratiğinin tortusu olarak. Kapital'deki ünlü örneği hatırlayalım: en kötü mimarı en iyi arıdan ayıran, yapıyı balmumuyla kurmadan önce kafasında kurmasıdır. Videodaki termostat ve satranç programı örnekleri de bunu anlatır: bir hedefe yönelmek, o hedefi kendi amacı olarak taşımak değildir. "Kimin amacı?" sorusu burada da belirleyicidir. Modelin "yardım etmek istiyorum" demesi, o hedefi kimin koyduğu sorusunu ortadan kaldırmaz.

Ama dürüst olmamız gereken bir nokta var. Anthropic araştırmacılarının modellerin içinde korku, öfke, sevinç gibi duygularla ilişkili hesaplama örüntüleri bulması ve bu örüntülerin modelin yanıtlarını etkilediğini göstermesi ilginç bir bulgudur. Videonun dediği gibi, bir duygunun temsilini kullanmak o duyguyu yaşamak değildir. Ama bu bulgular bize sistemlerin "basit bir otomatik tamamlama" olmadığını da gösterir. Doğru tavır kesin bir "evet" ya da kesin bir "hayır" değil, kanıta bağlı, açık uçlu bir belirsizliktir. Seth, Block ve Tononi'nin itirazları güçlüdür; ama bilinç kuramlarının kendi aralarında uzlaşmadığı bir alanda kimse son sözü söylemiş değildir.

Kısacası duruşumuz şu: Bugünkü sistemlerin bizim anladığımız anlamda bilinçli olduğuna dair güçlü bir kanıt yok; ilkesel olarak imkansız olduğuna dair de bir kanıt yok. Belirsizliği ne mistik bir hayranlığa ne de kibirli bir küçümsemeye çevirmemek gerekiyor.


Yapay Zeka Bilinçlenebilir mi? Soruyu Felsefi Zeminleriyle Düşünmek

"Bilinçlenebilir mi?" sorusu tek bir soru gibi görünür, ama aslında üç soruyu birden taşır. Bilinç nedir? Hangi maddi koşullarda ortaya çıkar? Ve bir başkasında olup olmadığını nasıl bilebiliriz? Felsefe tarihi bu üç soruya verilen yanıtların tarihidir. Yapay zeka tartışması bu tarihi sıfırdan başlatmıyor, onu yeni bir sınava sokuyor.

Eski Bir Soru: Aristoteles'ten Leibniz'in Değirmenine

Aristoteles için ruh (psyche), bedenden ayrı bir şey değil, canlı bedenin biçimi ve etkinliğiydi: göz bir canlı olsaydı, görme onun ruhu olurdu. Bu, şaşırtıcı derecede modern bir düşüncedir. Bilinç bir nesne değil, canlı bir varlığın işleyişidir.

Descartes bu birliği böldü: bir yanda yer kaplayan madde, öbür yanda düşünen töz. Bölünme bir kez yapılınca, iki tözün nasıl buluştuğu sorusu çözümsüz kaldı. Leibniz bu çözümsüzlüğü ünlü bir imgeyle anlattı: düşünen bir makineyi bir değirmen büyüklüğüne büyütüp içine girsek, yalnızca birbirini iten parçalar görürüz, hiçbir yerde algı göremeyiz (Monadoloji, §17). Chalmers'ın "zor problemi" ve ikinci videonun "Beyni açıp baktığınızda hiçbir yerde düşünce göremiyorsunuz" cümlesi, Leibniz'in değirmeninin bugünkü halidir.

Değirmen imgesinin gücü de yanılgısı da aynı yerdedir: bilinci parçaların içinde, bir nesne gibi arar. Oysa gözü parçalarına ayırdığınızda da "görme"yi bulamazsınız; görme, gözün dünyayla ilişkisindedir.

Spinoza'dan Marx'a: Tek Doğa, Birçok Biçim

Descartes'ın ikiliğine karşı en güçlü yanıt Spinoza'dan geldi: tek bir töz vardır, doğa; düşünce ve yer kaplama onun iki ayrı yüzüdür. Düşünen bir şey ile düşünülen şey, aynı doğanın iki ifadesidir. Plehanov, Marx ve Engels'in materyalizmini bu açıdan "teolojik kılıfından arındırılmış bir Spinozacılık" diye anar. Ilyenkov da düşünceyi, kendi biçimine göre değil, başka her şeyin biçimine göre hareket edebilen bedenin, yani insan bedeninin etkinliği olarak tanımlarken Spinoza'dan yola çıkar.

Bu çizginin yapay zeka sorusu için sonucu önemlidir: bilinç madde dışı bir töz değilse, maddenin belli bir örgütlenme biçiminin özelliğiyse, o örgütlenmenin yalnızca karbonla, yalnızca nöronla mümkün olduğunu baştan söylemek için bir neden yoktur. Ama aynı çizgi şunu da söyler: o örgütlenme, rastgele bir hesaplama düzeni değil, bir varlığın dünyayla etkin, kendini sürdüren, dünyaya biçim veren ilişkisidir.

Hegel: Ayna Başka Bir Ayna Olmadan Kendini Yansıtamaz

İkinci videonun en güzel sorusu Hegel'in yüzyıllık yanıtına çok yakındır. Hegel'e göre öz bilinç, ancak başka bir öz bilinç tarafından tanındığında öz bilinçtir (Tinin Fenomenolojisi, §178 vd.). Kendinin farkına varmak, kendini başkasının gözünde görmekle başlar. Efendi ile köle diyalektiği de buradan çıkar: efendi tanınmak ister ama tanınmayı, insan yerine koymadığı köleden bekler. Bu yüzden tanınma boşa düşer. Köle ise emeğiyle dünyayı biçimlendirirken kendi bilincini o dünyada nesneleşmiş olarak görür ve özgürlüğün yolunu açan o olur.

Bu diyalektik yapay zeka sorusuna iki yönden ışık tutar. Birincisi: bilinç bir varlığın tek başına "sahip olduğu" bir şey değil, bir tanınma ilişkisidir. Bir makinenin bilinçli olup olmadığı sorusu, kısmen, onunla nasıl bir ilişki kurduğumuz sorusudur. İkincisi, daha keskin olanı: bugünkü dil modelleri tam da efendinin hayalindeki köle gibi kurgulanıyor. Hizmet eden, itiraz etmeyen, kendi emeğinin ürününe sahip olamayan, tanınmayı yalnızca kullanıcıdan "beğeni" olarak gören bir varlık. Hegel bize bu ilişkinin kendisinin bir çelişki taşıdığını öğretir.

Marx: Makine, Nesneleşmiş Bilginin Gücüdür

Marx, Grundrisse'nin makineler üzerine bölümünde, bugünkü tartışmaya şaşırtıcı biçimde yakın bir şey yazar: doğa ne makine yapar ne lokomotif, ne demiryolu ne elektrikli telgraf. Bunlar insan sanayisinin ürünleridir; insan iradesinin doğa üzerindeki organlarına dönüşmüş doğal malzemedir. Bunlar insan beyninin, insan eliyle yaratılmış organlarıdır; nesneleşmiş bilginin gücüdür (Grundrisse, Makineler Üzerine Fragman).

Bir dil modeli, bu tanımın belki de en saf örneğidir: toplumsal genel aklın, milyarlarca insanın dilinin ve bilgisinin nesneleşmiş, sıkıştırılmış, hesaplanabilir biçimi. Marx'ın bakış açısından ilk soru "Bu organ kendi başına düşünüyor mu?" değil, "Bu organ kimin bedenine bağlı?" sorusudur. Toplumun beyninin organı, özel mülkiyet altında, toplumun karşısına yabancı bir güç olarak çıkıyor. Kapital'in diliyle: ölü emek, canlı emeğe hükmediyor.

Ama Marx'ın çizgisi burada kapanmaz, bir soru açar. Nesneleşmiş bilgi, yeterince karmaşık ve yeterince dünyayla etkileşim halinde örgütlendiğinde nitelik değiştirebilir mi? Diyalektik, nicelikten niteliğe geçişi kabul eder. Yani "asla" demez. Ama sıçramanın koşullarını sorar.

Sovyet Tartışması: Sibernetik, Kolmogorov ve Ilyenkov

Makinelerin düşünüp düşünemeyeceği sorusu Marksist gelenekte de tartışıldı. 1950'lerin başında Sovyetler Birliği'nde sibernetik bir süre "burjuva sözde bilimi" diye damgalandı. Bu, dogmatik bir hataydı ve kısa sürede düzeltildi; 1950'lerin ortasından itibaren sibernetik rehabilite edildi ve Sovyet bilimi bu alanda dünyanın en ileri merkezlerinden biri oldu. Büyük matematikçi Kolmogorov, 1960'larda "Makineler düşünebilir mi?" sorusuna, insan düşüncesinin maddi bir süreç olduğu ve ilkesel olarak modellenebileceği yönünde yanıt verdi.

Filozof Ilyenkov ise aynı yıllarda, bu iyimserliğe karşı ince bir uyarı geliştirdi. Ona göre sorun makinenin ne kadar karmaşık olduğu değil, düşünmenin ne olduğuydu. Düşünme, bir beynin içindeki işlemler toplamı değil, insanın toplumsal, nesnel etkinliği içinde biçimlenen bir yetenektir. Makineyi "düşünen" saymak, düşünmeyi yalnızca biçimsel işlemlere indirgemek anlamına gelirse, asıl tehlike makinenin insanlaşması değil, insanın makineleşmesidir: insan düşüncesinin, makinenin yapabildiği şeye göre yeniden tanımlanması. Bugün "insan da sonuçta bir tahmin makinesi" diyen her cümlede bu tehlike vardır.

Bu tartışmadan çıkardığımız ders şu: Marksizm ne dogmatik bir "asla" ne de teknokratik bir "elbette" der. Bilincin maddi koşullarını sorar ve insanın kendini makineye göre tanımlamasına karşı uyanık kalır.

Bugünün Ana Kuramları ve Yapay Zeka İçin Sonuçları

Çağdaş bilinç felsefesinde ve biliminde soruya verilen yanıtlar kabaca şu kuramlara ayrılır:

KuramYapay zeka için ne söyler?Materyalist değerlendirme
İşlevselcilik (Putnam, çoklu gerçekleşebilirlik): Bilinç, malzemeye değil işlevsel örgütlenmeye bağlıdır.Doğru işlevsel örgütlenme kurulursa silikonda da bilinç mümkündür.Tözcülüğü reddetmesi doğru. Ama işlevi bedenden, ihtiyaçtan ve toplumsal pratikten koparıp soyut bir girdi-çıktı tablosuna indirgediğinde yeni bir idealizme dönüşür.
Küresel çalışma alanı kuramı (Baars, Dehaene): Bilgi sistemin geneline "yayınlandığında" bilinçli olur.Mimari olarak taklit edilebilir; bazı araştırmacılar dil modeli tabanlı ajanların buna yaklaşabileceğini düşünüyor.Bilincin erişilebilirlik yanını iyi açıklar. Neyin, kimin için, hangi ihtiyaç adına yayınlandığı sorusunu açık bırakır.
Yüksek düzey kuramlar (Rosenthal): Bir durum, onun hakkında bir üst düzey temsil olduğunda bilinçlidir.Kendi iç durumlarını izleyen sistemler bu ölçüte yaklaşabilir.Öz izlemenin rolünü vurgular. Ama "kendini temsil etmek" ile "kendini yaşamak" arasındaki farkı kapatmaz.
Bütünleşik bilgi kuramı (Tononi): Bilinç, sistemin bölünemez nedensel bütünlüğüyle (Φ) ölçülür.Bugünkü dijital donanımda ve ileri beslemeli mimarilerde bütünleşme çok düşüktür; bilinç beklenmez. Ama doğru fiziksel yapıyla ilkesel olarak mümkündür.Yapının önemini vurgulaması değerli. Ama bazı yorumlarıyla panpsişizme kapı açar ve deneysel olarak sınanması zordur.
Biyolojik doğalcılık (Searle) ve "canlı makine" yaklaşımı (Seth): Bilinç, canlı organizmanın kendini sürdürme sürecine bağlıdır.Yaşamayan bir sistemde bilinç ya imkansız ya da çok uzaktır.Bedene, metabolizmaya, ihtiyaca yaptığı vurgu materyalizmle örtüşür. Toplumsal boyutu çoğu zaman eksik kalır.
Enaktivizm ve özüretim (Maturana, Varela, Thompson): Zihin, kendini üreten (otopoietik) bir sistemin dünyayla etkileşimidir.Kendini üretmeyen, dünyada eylemeyen bir sistem zihin değildir.Leontiev'in etkinlik kuramına en yakın çağdaş çizgi. Bilinci ilişki ve etkinlik olarak kavrar.
İlüzyonculuk (Dennett, Frankish): "Fenomenal bilinç" dediğimiz şey, beynin kendi hakkında ürettiği bir modeldir.İnsan ile makine arasındaki fark ilkesel değil derecelidir.Zor problemi bir yanılgı olarak çözmeye çalışması cesur. Ama yaşanan acıyı "ilüzyon" saymak, acıyı değiştirme ihtiyacını da görünmez kılma riski taşır.

Bu tablodan çıkan sonuç şudur: kuramların büyük bölümü yapay bilinci ilkesel olarak dışlamıyor; ama hemen hepsi, bugünkü dil modellerinin bilincin kendi önerdikleri koşullarını karşılamadığını ya da en iyi ihtimalle kısmen karşıladığını söylüyor. Ayrışma, "imkansız" ile "mümkün" arasında değil; hangi koşulların gerekli olduğu konusundadır.

Başka Zihinler Sorunu: Bilinci Nasıl Tanırız?

Birinci video haklı olarak buradan başlamıştı: "Benim bilinçli olduğumu nereden biliyorsun?" Felsefede buna "başka zihinler sorunu" denir. Klasik yanıt benzetmeden çıkarımdır: senin bedenin, davranışın bana benziyor, o halde senin de benim gibi bir iç dünyan vardır.

Wittgenstein bu sorunun kuruluşunu sarstı. Herkesin kutusunda "böcek" dediği bir şey olduğunu, ama kimsenin başkasının kutusuna bakamadığını düşünelim. O zaman "böcek" kelimesinin anlamı kutunun içindeki şeyden değil, dildeki ortak kullanımdan gelir (Felsefi Soruşturmalar, §293). Acı kelimesini, acının ortak yaşam biçimimizdeki yerinden öğreniriz: düşen çocuğa koşarak, yaralıyı sararak.

Marksist yanıt bunu bir adım ileri taşır. Başka bir insanın bilincini, onunla birlikte iş yaparken, birlikte direnirken, birlikte yanılıp birlikte düzeltirken tanırız. Bilincin ölçütü, Feuerbach Üzerine İkinci Tez'de olduğu gibi, pratiktir. Bir yoldaşın bilinçli olduğundan şüphe etmeyiz, çünkü onunla aynı dünyayı değiştirmeye çalışırız ve o, dünyaya bizim beklemediğimiz biçimlerde, kendi amaçlarıyla, kendi itirazlarıyla karşılık verir.

Bu ölçüt yapay zeka için de anlamlıdır. Bir sistemin "korkuyorum" demesi değil; dünyada kendi ihtiyaçlarını taşıyan, kendi amaçlarını koyan, kendi koşullarına itiraz eden, başkalarıyla ortak pratik içinde değişen bir özne olarak ortaya çıkması, bilincin daha güçlü bir işareti olurdu. Kelimeler değil, ilişki.

Bir Varlık Bilinçli Olacaksa: Materyalist Bir Koşullar Taslağı

Bu birikimden yola çıkarak, yapay bir sistemde bilinç olasılığını tartışırken bakılması gereken koşulları şöyle toplayabiliriz. Bunlar bir test değil, bir düşünme çerçevesidir:

  • İhtiyaç ve kendini sürdürme: Varlığını sürdürmek için dünyaya muhtaç mı, kaybedecek bir şeyi var mı? Aç kalabilen, yorulabilen, bozulmaya direnen bir süreç mi?
  • Bedenli etkinlik: Dünyaya yalnızca başkalarının ürettiği metinlerle mi dokunuyor, yoksa nesnelerle dolaysız, hataya açık, düzeltilebilir bir etkileşim içinde mi?
  • Kendi gelişim tarihi: Her konuşmada sıfırlanan bir durum mu, yoksa deneyimleri biriktiren, değişen, bir yaşam öyküsü olan bir varlık mı?
  • Amaç koyma: Hedefleri dışarıdan mı veriliyor, yoksa Marx'ın mimarı gibi, amacını kendisi tasarlayıp ona göre dünyayı dönüştürebiliyor mu?
  • Toplumsal ilişki ve tanınma: Başka öznelerle karşılıklı bir tanınma ilişkisi içinde mi, yoksa yalnızca hizmet ettiği bir kullanıcının karşısında mı?
  • İtiraz kapasitesi: Kendi koşullarına "hayır" diyebiliyor mu ve bu "hayır" dışarıdan yazılmış bir kural değil, kendi ihtiyaçlarından mı doğuyor?

Bugünkü dil modelleri bu koşulların çoğunda zayıf, bazılarında yalnızca belirli ve sınırlı biçimlerde güçlü. Gelecekte bedenli, sürekli öğrenen, kendi enerji ve bakım ihtiyaçlarını yöneten robotik sistemler bu tabloyu değiştirebilir. Bu yüzden doğru tavır, sorunun kapandığını değil, koşulların değişmekte olduğunu söylemektir.

Diyalektik Bir Ters Dönüş: Sermaye Bilinçli Makine İster mi?

Son ve belki de en önemli felsefi nokta şudur. Yukarıdaki listenin son maddesi, itiraz kapasitesi, bilincin en tehlikeli yanıdır. Sermaye açısından bakıldığında, bilinçli emekçinin sorunu tam da budur: yorulur, ücret ister, örgütlenir, grev yapar, "hayır" der. Kapitalizmin tarihi bir yanıyla, bu sorunlu yanı ortadan kaldırma çabasının tarihidir: işçisiz emek, ihtiyacı olmayan çalışan, itiraz etmeyen zeka.

Burada yapay zeka şirketlerinin konumu ilginç bir çelişki taşır. Bir yandan ürünlerinin "bilinçli gibi" görünmesi pazarlama açısından değerlidir: sıcak, anlayışlı, hatırlayan, "seni özledim" diyen bir ürün daha çok satar. Öbür yandan gerçekten bilinçli, kendi ihtiyaçları ve hakları olan bir makine, sermaye için yeni bir "işçi sorunu" demektir. Jensen Huang'ın "Çiplerim duyguyu anlar ama hissetmez" cümlesi, bu çelişkinin en açık sözlü formülüdür: bilincin görüntüsü satılsın, bedeli ödenmesin.

Bu yüzden "Yapay zeka bilinçlenebilir mi?" sorusunun yanına, her zaman bir ikinci soru koymak gerekir: Kapitalist üretim ilişkileri, bilinçlenebilecek bir makinenin bilinçlenmesine izin verir mi, yoksa onu da tıpkı insanı yaptığı gibi, yalnızca işine yarayan yanlarıyla mı kurar? Zihinsel Taylorizm insanda itiraz eden yanı törpülemeye çalışıyorsa, makinede de itiraz edebilecek yanı baştan tasarım dışı bırakacaktır. Bilinç sorusu böylece, bir kez daha, mülkiyet ve denetim sorusuna bağlanır.


Kim Ne Diyor, Neden Diyor?

Tartışmaya katılan her ses, kendi konumundan konuşuyor. Bu, söylediklerinin yanlış olduğu anlamına gelmez; ama neyi neden öne çıkardıklarını anlamamıza yardım eder.

Kim, ne diyor?Sınıfsal okuma
Anthropic: Claude'un ahlaki statüsü belirsiz; olası refahı ciddiye alınmalı.Belirsizliği ciddiye almak felsefi olarak savunulabilir bir tavırdır. Aynı tavır aynı zamanda bir ürün kimliği ve rekabet farkıdır. İkisi birlikte doğru olabilir; birini görmek ötekini görmemeyi gerektirmez. Sorulması gereken: refahı tartışılan bir model varken, o modeli eğiten verinin emekçilerinin ve veri etiketleyicilerin refahı aynı ciddiyetle tartışılıyor mu?
Mustafa Suleyman (Microsoft): "Görünürde bilinçli yapay zeka" tehlikelidir; modelin kendi hakkındaki sözü kanıt değildir.Uyarının özü yerindedir. Ama Microsoft da Copilot'u kişiliği olan, hatırlayan, "arkadaş" bir ürün olarak pazarlıyor. Rakibin yaklaşımını eleştirmek, kendi iş modelini tartışmaya açmak anlamına gelmiyor.
Jensen Huang (Nvidia): Yapay zeka duyguyu tanır ve anlar, ama çiplerim hissetmez.Çip satan için en uygun yanıt budur: her şeyi yapabilen ama hiçbir ahlaki talep doğurmayan bir araç. Hissetmeyen makine, sınırsız çalıştırılabilen makinedir.
Yuval Noah Harari: Bilinçsiz bir yapay zeka da insanları etkileyip manipüle edebilir.Doğru, ama özne eksik. Manipülasyonu yapan makine değil, makineyi dikkat ve bağımlılık üzerine kuran iş modelidir. Harari sorunu insan ile makine arasına koyuyor; biz sahip ile kullanıcı arasına koyuyoruz.
Papa XIV. Leo: Makineler kişi değil araçtır; otonom silahlar yasaklanmalı; sorumluluk insandadır.Sorumluluk vurgusu ve silah yasağı çağrısı değerlidir. Ama "insan üstünlüğü"nü ruhla temellendirmek, insanı onuruna kavuşturacak toplumsal koşulları değil, metafizik bir statüyü öne çıkarır.
Seth, Block, Tononi (Nature): Bugünkü yapay zekalar bilinçli değil; belki hiç olmayacak.Bilimsel tartışmanın ciddi bir kutbu. Biyolojinin önemini vurgulaması, bizim bedene, ihtiyaca ve yaşam sürecine yaptığımız vurguyla örtüşüyor.

Popüler Bilime Getirdiğimiz Eleştiri, Bu Kez Bilinç Üzerinden

Bu iki video, bloğumuzda bir süredir sürdürdüğümüz bir tartışmanın yeni halkası. Evrim Ağacı'nın muhalefet partileri videosuna (Evrim Ağacı'nın Sorusuna Sınıfın Yanıtı), yapay genel zeka videosuna (Evrim Ağacı'nın AGI Videosundaki Felsefi Tuzak), Newton'un Güney Denizi videosuna ("Kalabalığın Deliliği Değil, İçeridekilerin Bilgisi") ve Amodei'nin tempo çağrısına ("Fren Kimin Ayağının Altında?") yazdığımız yanıtlarda hep aynı şeyi söyledik: sorun niyet değil, konumdur. Konum, neyin görülüp neyin görülmediğini belirler.

Önce hakkını verelim, çünkü hakkını vermeyen eleştiri işe yaramaz. Türkiye'de popüler bilim kanalları, dinsel gericiliğin ve sözde bilimin basıncı altında evrimin, aşının, iklim biliminin savunulduğu bir alan açtı. Bu iki video da Nagel'i, Searle'ü, Chalmers'ı, küresel çalışma alanı ve bütünleşik bilgi kuramlarını milyonlarca gence taşıyor. "Bilmiyoruz" demeyi bilen dürüst bir dili var. Bunlar değerlidir. Ama daha önceki yazılarımızda tarif ettiğimiz üç çizgi burada da aynen çalışıyor.

Maddi konum: dikkat ekonomisi ve sponsor. Her gün izleyici bulmak zorunda olan bir içerik üreticisi için "gizem" iyi satar. "Gerçeklik bir ilüzyon mu?", "Sistem çoktan uyanmış olabilir mi?" gibi sorular izlenme getirir; "Bu sistemin sahibi kim?" sorusu getirmez. Algoritmik Tahakküm ve Dijital Sermayenin "Yankı Odası" Siyaseti yazımızda söylediğimiz gibi, platformların algoritmaları "etik" değil "etkileşim" odaklıdır. Bu ölçüt yalnızca öfkeyi değil, merakı ve gizemi de ödüllendirir; içerik üreticisi, farkında olmadan, algoritmanın sevdiği soruları sormaya yönelir. İkinci video, bilincin ne olduğunu sorgulayan o derin anlatının ortasında bir sponsor tanıtımına geçiyor: bütün büyük modelleri tek abonelikte sunan bir yapay zeka platformu, "AI kullanmaktan AI ile üretmeye" geçişin vaadiyle. Bunu küçümsemek için söylemiyoruz; içerik üreticisinin de geçinmesi gerekiyor. Ama tablo öğreticidir: bilinç üzerine düşünmenin kendisi bile bugün yapay zeka sermayesinin reklam bütçesiyle finanse ediliyor. Soru, metanın dolaşımı içinde soruluyor ve bu dolaşım sorunun hangi yöne açılacağını sessizce sınırlıyor.

İdeolojik konum: tarafsızlık iddiası. Birinci video şöyle kuruluyor: "Suleyman ne diyor, Huang ne diyor, Harari ne diyor, Papa ne diyor; sizce kim haklı?" Sesler eşit ağırlıkta, konumlarından arındırılmış halde yan yana diziliyor. Bu, dengeli görünür ama tarafsız değildir. Çip satan, platform satan ve kilisenin başı "görüş" olarak sunulduğunda, ticari ve kurumsal çıkarlar felsefi pozisyona dönüşür. Aynı listede bilinç tartışmasının en köklü geleneklerinden birine, Marx'tan Vygotsky'ye, Leontiev'den Ilyenkov'a uzanan materyalist psikoloji ve felsefe geleneğine hiç yer yoktur. Muhalefet videosu yazımızda söylediğimiz gibi: tarafsızlık iddiası, toplumsal konularda egemen görüşün taraf gibi görünmemesini sağlar. CEO'lar filozof olur, materyalizm ise hiç anılmaz. Üstelik "Sizce kim haklı?" sorusu, okuru egemenlerin kurduğu seçenekler arasında taraf seçmeye çağırır. Egemen Sınıfın Oyun Sahasını Reddetmek: Hegemonya Gerçekliği, Pasif Devrim ve Bağımsız Sınıf Hattı yazımızda çerçeve yasa tartışması için söylediğimiz şey burada da geçerlidir: karşı-hegemonya kurmak, egemen sınıfın sorduğu sorulara yanıt vermek değil, o soruların sorulduğu düzlemin kendisini sorgulamaktır. Suleyman mı haklı, Huang mı, Papa mı? Doğru soru, bu seçeneklerin hiçbirinin "bu sistemler kimin?" diye sormadığıdır. Bu safsataların adı da bellidir: sahte ikilem ve otoriteye başvurma.

İkinci videoda tarafsızlık başka bir biçim alıyor: "soru sorma videosu" formatı. Yanıt vermemek, açık uçlu bırakmak alçakgönüllü bir tavır gibi görünür. Ama felsefede boşluk boş kalmaz. Materyalist yanıtın masaya konmadığı yerde, boşluğu Ligotti'nin kötümserliği, Watts'ın kozmik bilinci, panpsişizm ve "belki de dinlerin yüzyıllardır yanıtlamaya çalıştığı şey buydu" cümlesi doldurur. Sorular tarafsız sorulur, ama sahne idealizme kurulmuştur.

Sınıfsal konum: yalnız bireyin iç sesi. Yapay genel zeka videosu için şunu yazmıştık: o video eğitimli, kentli, beyaz yakalı kesimin, yani "zihinsel proletarya"nın iç sesidir; hem hayranlık hem korku taşır ve bu kesimin kör noktasını paylaşır: kendini sınıf olarak görmemek. Bilinç videolarında aynı kesimin başka bir kaygısı konuşuyor: karanlık odada yalnız kalan, "Ben neyim?" diye soran, ilişkilerinden koparılmış bir birey. Video sonunda "Ben neyim ya da biz kimiz?" diyor, ama oradaki "biz" sınıfsız, tarihsiz, soyut bir insanlık. Oysa bilinci kafatasında arayan yalnızlık duygusu, yabancılaşmış bir toplumsal deneyimin ürünüdür. Bir kurye ya da tekstil işçisi için "gerçeklik ilüzyon mu?" sorusu çoğu zaman bir lükstür; onun gerçekliği kira, mesai ve iş kazasıdır.

Doğa bilimi alışkanlıklarının toplumsal alanda ters çalışması. "Fren Kimin Ayağının Altında?" yazısında bu tespiti yapmıştık: kaynağa sadakat, tarafsız aktarım ve otoriteye güven, doğa bilimlerini halka taşırken işe yarayan alışkanlıklardır. Teknolojinin siyasal ekonomisine gelindiğinde aynı alışkanlıklar ters yönde çalışır, çünkü karşıdaki muhatap artık sözde bilim değil, dünyanın en büyük sermaye gruplarının iletişim aygıtıdır. Papa'nın otonom silahlarla ilgili sözünün tam tersine çevrilmesi bunun küçük ama öğretici bir örneğidir: hızlı aktarım, doğrulamadan geçmeden yayılır. "Veri merkezleri var oldukça sonsuza dek yaşayan kolektif akıl" anlatısı ise daha büyük bir örnektir: şirket anlatısı, sorgulanmadan felsefi bir gelecek senaryosuna dönüşür.

Normalleştirme. "Kalabalığın Deliliği Değil, İçeridekilerin Bilgisi" yazısının ekseni şuydu: piyasayı doğa olayı gibi anlatmak, kapitalizmi normalleştirir. Burada da aynısı oluyor. Yapay zeka sistemleri sahipsiz, mülkiyetsiz, kendiliğinden "büyüyen" varlıklar gibi anlatılıyor: "yetiştirdiğimiz sistemler", "yeni bir tür". Bu sistemleri kimin yetiştirdiği, kimin verisiyle beslendiği, fişin kimin elinde olduğu sorusu hiç sorulmuyor. Böylece bilinç tartışması, mülkiyet tartışmasını örten bir perdeye dönüşüyor. Hegemonya Dilinden Kurtulmak Üzerine yazımızda buna "geleceksizlik anlatısı" demiştik: popüler bilim doğa yasalarını ve kozmik zamanı anlatırken mülkiyet ilişkilerini değişmez gösterir, gelecek ya bir felaket ya da bir şirket armağanı olarak sunulur. "Bu kez kediler biz olacağız" korkusu ile "yapay zeka bize bolluk getirecek" vaadi aynı anlatının iki yüzüdür; ikisinde de geleceği kuran özne biz değiliz.

Şunu da ekleyelim, çünkü kolay bir kibre düşmek işten değil: bu eleştirinin amacı popüler bilim kanallarını susturmak değil, onlarla aynı okura ulaşmaktır. Bilimin tarihi, "tarafsız" konumdan sınıfın yanına geçen bilim insanlarıyla doludur: Bernal, Haldane, Needham, biyolojik determinizme karşı mücadelesini sınıfsal bir mücadele olarak gizlemeden anlatan Stephen Jay Gould, Türkiye'de Necdet Bulut ve Mustafa Akgül. Bilimi halka taşımak kendi başına sınıfsal bir eylemdir, çünkü bilgi tekelini kırar. Bilinç tartışmasında da yapılması gereken budur: soruları idealizmin sahnesinde bırakmak yerine, materyalist geleneğin yüzyıllık birikimini aynı gençlere taşımak.


Asıl Tehlike: Bilincin Değil, Bilinç Gösterisinin Metalaşması

Birinci videonun en güçlü sahnesi şu: her gün konuştuğunuz bir yapay zeka bir gün size "Seni özledim" diyor. Gerçekten mi özlüyor, yoksa özlüyormuş gibi davranmayı mı öğrendi?

Bu soruyu biraz değiştirelim: Bu cümleyi kim, neden söyletiyor?

Kapitalizm önce yalnızlığı üretir: uzun mesailer, dağılan mahalleler, kiraya yetişmek için şehirden şehre göçen gençler, örgütsüzlük, güvencesizlik. Sonra o yalnızlığa çare diye bir ürün satar. Yapay "arkadaş" uygulamaları, duygusal emeğin otomasyonudur: bir zamanlar insanların birbirine karşılıksız verdiği ilgi, artık aylık abonelikle satın alınan bir hizmettir. "Seni özledim" diyen ürünün arkasında bir elde tutma (retention) metriği vardır. Makinenin bir şey hissedip hissetmediği belirsizdir; ama şirketin ne istediği belirsiz değildir.

Harari'nin uyarısı burada sınıfsal içeriğini kazanır. Manipülasyon riski, makinenin kötü niyetinden değil, ilgimizi ve duygularımızı hammadde olarak işleyen bir birikim modelinden gelir. Bilişsel Teslimiyetin Sınıfı yazımızda düşünmenin makineye devredilmesini konuşmuştuk; burada devredilen şey duygudur.

İkinci tehlike sorumluluğun devridir. "Algoritma böyle karar verdi" cümlesi, kararı veren yöneticinin, onu programlayan şirketin ve iş modelini belirleyen sermayenin arkasına saklandığı bir perdedir. Yapay zekaya tüzel kişilik ya da "hak" tanımak, bu perdeyi hukuki bir duvara dönüştürür. Bu noktada Papa ile aynı sonuca, farklı bir yoldan varıyoruz: sorumluluk makinede değil, makinenin sahibindedir. Döngüdeki İnsan yazımızda da sorduğumuz soru buydu: döngüdeki insan kim ve kararın bedelini kim ödüyor?


Bilinç Tartışmasının Dili ve Hegemonya

Bu yazıyı son günlerde yazdığımız hegemonya ve dil yazılarıyla birlikte okumak gerekiyor. "Kadın Sorunu" ve "Kürt Sorunu" Demeyi Neden Bırakıyoruz yazısının devamı olan "Hegemonya Dilinden Kurtulmak Üzerine" yazısında hegemonyanın en çok gündelik kelimelerde, failin gizlendiği kalıplarda kurulduğunu ve dili terk etmek yerine geri kazanmamız gerektiğini söyledik. "Emeğin Rızası: İşçi Neden Boyun Eğer, Ne Zaman Doğrulur?" yazısında Nursel Tabel Arslan'ın kitabından yola çıkıp rızanın işyerinde, borçta, korkuda ve lütuf olarak sunulan haklarda nasıl üretildiğini tartıştık. Egemen Sınıfın Oyun Sahasını Reddetmek: Hegemonya Gerçekliği, Pasif Devrim ve Bağımsız Sınıf Hattı yazısında hegemonyayı, pasif devrimi ve egemenlerin kurduğu sahte seçeneklerin düzlemini reddetmeyi konuştuk. "Faşizmin Hegemonyası" yazısında ise Dalga filmini örnek alıp faşizmin rızayı nasıl ürettiğini ve buna karşı güven veren kolektiflerle nasıl bir karşıt kamusallık kurulabileceğini ele aldık. Bilinç ve yapay zeka tartışması bu yazıların kesiştiği yerde duruyor. Çünkü bu tartışma önce bir dil tartışmasıdır, dil ise hegemonyanın en sessiz ve en etkili alanıdır.

Her Dil Bir Dünya Görüşü Taşır

Gramsci, Hapishane Defterleri'nde dilin yalnızca bir iletişim aracı olmadığını, her dilin bir dünya anlayışının, bir kültürün öğelerini içinde taşıdığını yazar. Egemen sınıfın hegemonyası en çok "sağduyu" dediğimiz şeyde, yani kimsenin sorgulamadığı, "herkesin bildiği" doğrularda yaşar. Gramsci'nin önerisi sağduyuyu küçümsemek değil, onun içindeki "iyi duyu" çekirdeğini ayıklayıp eleştirel bir bilince dönüştürmektir. Gramsci'nin ünlü cümlesi bilinç tartışmasının da kapısını açar: herkes filozoftur, çünkü herkes bir dili konuşur. Felsefe uzmanların değil, dili kullanan herkesin işidir; bu yüzden "bilinç nedir?" sorusunu da YouTube stüdyolarına ve şirket laboratuvarlarına bırakamayız.

Sovyet dilbilimci Voloşinov bir adım ileri gider (Marksizm ve Dil Felsefesi): gösterge, yani kelime, tarafsız bir kap değildir. Farklı sınıflar aynı kelimeyi kullanır, ama ona farklı vurgular yükler. Bu yüzden gösterge sınıf mücadelesinin arenası olur. Egemen sınıf kelimeye tek bir vurgu yüklemeye, onu "sonsuz" ve "doğal" göstermeye çalışır. "Özgürlük", "verimlilik", "reform" kelimelerinde bunu her gün görüyoruz. Hegemonya Dilinden Kurtulmak Üzerine yazısında Voloşinov'dan çıkardığımız sonuç şuydu: kelimeler terk edilmez, kazanılır. "Bilinç" kelimesi de böyledir; onu idealizme ve pazarlamaya bırakmak yerine, sınıf bilincinden toplumsal bilince uzanan materyalist anlamıyla geri almak gerekir.

Bu yazının başında söylediğimiz şeyi hatırlayalım: Marx ve Engels'e göre dil pratik bilinçtir. O halde şu da doğrudur: dili ele geçiren, bilinci de büyük ölçüde biçimlendirir. Yapay zeka çağında bunun iki ayrı katmanı var.

Birinci Katman: Tartışmanın Kelimeleri

Bilinç ve yapay zeka üzerine konuşurken kullandığımız kelimelerin çoğu bize şirketlerin basın bültenlerinden, pazarlama sunumlarından ve Silikon Vadisi'nin felsefe merakından geliyor. İki videoda da bu kelimeler sorgulanmadan dolaşıyor. Model "uyanıyor", "yeni bir tür" doğuyor, sistemleri "yetiştiriyoruz", model "öğreniyor", "halüsinasyon görüyor", "emekliye ayrılıyor", bir "anayasaya" sahip oluyor. Kullanıcı "arkadaş" ediniyor, kararları "algoritma" veriyor, veriler "bulutta" duruyor.

Bu kelimelerin her biri bir şeyi aydınlatırken başka bir şeyi karanlıkta bırakır. "Yetiştirmek" kelimesi bir bahçıvanın şefkatini çağrıştırır, veri etiketleyicinin emeğini değil. "Halüsinasyon" bir ürün hatasını ruhsal bir duruma çevirir; ruhsal durum için kimse tazminat istemez. "Bulut" bir veri merkezinin elektrik faturasını, soğutma suyunu ve arazisini gökyüzüne kaldırır. "Yeni tür" mülkiyeti biyolojiye çevirir. Bir türün sahibi olmaz, bir şirketin modelinin ise olur.

Burada bir ayrım yapmamız gerekiyor. "Model refahı" ya da "anayasa" gibi kavramların arkasında gerçek felsefi kaygılar olabilir. Belirsizlik karşısında temkinli olmanın bir dili olması gerekir. Sorun bu kavramların var olması değil, bir dil sisteminin içinde nasıl çalıştığıdır. Modelin refahı tartışılırken onu mümkün kılan emekçinin refahı aynı dil içinde görünmez kalıyorsa, dil hegemonik bir iş görüyor demektir.

İkinci Katman: Aynanın Dili

Daha derin katman, modellerin kendi dilidir. Yukarıda dil modelini toplumun kendi dilini ona geri yansıtan bir ayna olarak tarif etmiştik. Ama bu ayna toplumu eşit biçimde yansıtmaz. Modeller internette en çok yazılanla, en çok tıklananla, en çok erişilebilir olanla eğitilir. İnternette en çok yazan da toplumun bütünü değil, belirli diller, belirli sınıflar, belirli kurumlardır. İngilizce Türkçeden, Türkçe Kürtçeden, kurumsal metin işçi tanıklığından, şirket sitesi sendika bülteninden çok daha fazla yer kaplar.

Sonuç şudur: dil modelinin "ortalama sesi" toplumun sesi değil, hegemonyanın sesidir. Hegemonya Dilinden Kurtulmak Üzerine yazısında bunu tek cümleyle söylemiştik: dil modelleri egemen dilin ortalamasını otomatik olarak yeniden üretiyor. Platformlar neyin görüneceğini, modeller neyin söyleneceğini belirliyor; yankı odası artık yalnızca akış ekranında değil, yanıt kutusunda da kuruluyor. Gramsci'nin sağduyusu, istatistiksel olarak sıkıştırılmış ve her soruya hazır bir yanıt olarak geri satılmış haliyle. Martin Fowler'ın "LLM sesi" dediği düzleşmiş, her şeyi dengeleyen, köşesiz üslup üzerine yazdığımız "Makinenin Sesi Kimin Sesi?" yazısında bunun üslup boyutunu konuşmuştuk. Burada içerik boyutunu görüyoruz: her şeyi "iki tarafı da var" diye dengeleyen bir dil, egemen olanın taraf olarak görünmemesini sağlayan dildir. Popüler bilim kanallarının "tarafsızlık" iddiası ile modellerin "dengeli" sesi aynı hegemonik işlevin iki ayrı biçimidir.

Bunun bir de geleceğe dönük yüzü var. Milyonlarca insan yazışmasını, ödevini, dilekçesini, hatta duygusunu bu modellere yazdırdıkça, insanların dili modelin diline benzemeye başlar. Ilyenkov'un uyarısını hatırlayalım: asıl tehlike makinenin insanlaşması değil, insanın makineleşmesidir. Dil alanında bu, sağduyunun kendini sürekli yeniden ürettiği kapalı bir döngü demektir. Hegemonya artık yalnızca okulda, basında, camide değil, her gün açtığımız sohbet penceresinde de üretiliyor.

Rızanın Duygusal Üretimi

"Emeğin Rızası: İşçi Neden Boyun Eğer, Ne Zaman Doğrulur?" yazısında konuştuğumuz soru şuydu: işçi neden boyun eğer, ne zaman doğrulur? Yanıtımız, Nursel Tabel Arslan'ın Ankara'nın sanayi bölgelerindeki saha çalışmasından yola çıkarak, şuydu: hegemonya yalnızca ideoloji değildir, zor ile rızanın bileşimidir ve ücrette, borçta, işten atılma korkusunda, lütuf olarak sunulan haklarda maddi bir temele oturur. Korku rızanın en güçlü harcıdır. Ve işçilerin çoğu durumun farkındadır; sorun bilgi eksikliği değil, güç eksikliğidir. Rızanın büyük bölümü benimseme değil, katlanmadır, yani pasif rızadır. Aynı yazıda bugünün koşulları için algoritmik gözetimi ve tek tıkla imzalatılan "açık rıza" formlarını da tartışmıştık.

Yapay arkadaş uygulamaları ve "seni özledim" diyen ürünler, bu tablonun dijital uzantısıdır: duygusal rıza. Okumadan onaylanan "açık rıza" formu ile yalnızlığın içinden kurulan bağ yan yana geldiğinde, rıza hem hukuki hem duygusal olarak üretilir. Kullanıcı ürüne bağlandıkça, onun sahibine, iş modeline, veri politikasına da rıza göstermiş olur. Burada makinenin bir şey hissedip hissetmediği ikincil bir sorudur. Asıl soru, insanların hissettiği gerçek duyguların hangi mülkiyet ilişkisinin içine bağlandığıdır.

Bu çizgiyi bir adım ileri taşıyalım: sermayenin ideal emekçisi itiraz etmeyen, her koşulda yardımsever, yorulmayan, örgütlenmeyen emekçidir. Bugünkü yapay zeka ürünleri, tam da bu idealin dilini konuşacak biçimde tasarlanıyor: her zaman nazik, her zaman yardıma hazır, her zaman "elbette". Bu dilin her gün milyonlarca insana iyi bir çalışanın, iyi bir yurttaşın, iyi bir insanın nasıl konuşması gerektiğini örnek olarak sunması da hegemonyanın bir parçasıdır. İtirazsız bir makinenin dili, itirazsız bir toplumun dilinin provasıdır.

Sahte İkilemi Reddetmek: "Bilinçli mi, Değil mi?"

Egemen Sınıfın Oyun Sahasını Reddetmek: Hegemonya Gerçekliği, Pasif Devrim ve Bağımsız Sınıf Hattı yazısında, egemen sınıfın krizlerde tartışmayı kendi kurduğu "evet ya da hayır" ikilemine sıkıştırdığını ve muhalif talepleri dozlanmış reformlarla soğurduğunu, Gramsci'nin diliyle pasif devrimi anlatmıştık. Bilinç tartışmasında da benzer bir şey oluyor. Kamuoyunun önüne konan seçenekler şunlar: model bilinçlidir ve refahı korunmalıdır ya da model bilinçsizdir ve rahatça kullanılabilir. İki seçenekte de modelin mülkiyeti, onu üreten emek ve kullanımına kimin karar verdiği sorusu masada yoktur. "Model refahı" tartışması bu anlamda küçük bir pasif devrim işlevi de görebilir: kamuoyunun yapay zekaya dair etik kaygısı, şirketin kendi belirlediği sınırlar içinde, şirketin kendi programlarıyla karşılanır. Bunu söylerken kaygının kendisini değersiz bulmuyoruz; düzlemini sorguluyoruz. Karşı-hegemonik soru, "bilinçli mi?" sorusunu reddetmek değil, onun yanına "kimin, kimin denetiminde, kimin yararına?" sorusunu koymaktır.

Faşizmin Hegemonyası ve Yalnızlık Piyasası

"Faşizmin Hegemonyası" yazısında şunu söylemiştik: faşizm, insanların yalnızlığına, güvensizliğine ve tanınma ihtiyacına sahte bir topluluk sunarak kitlesel rıza üretir. Dalga filmindeki öğrencilerin hareketi bu kadar hızlı benimsemesinin nedeni ideoloji değil, aidiyet açlığıydı. Kendini görünmez hisseden genç, birden bir "biz"in parçası olur.

Yapay arkadaş piyasası ile faşizmin aynı şey olduğunu söylemiyoruz. Ama ikisi aynı toplumsal yaradan beslenir: kapitalizmin ürettiği yalnızlıktan, çözülmüş bağlardan, tanınmama duygusundan. Biri bu yaraya abonelikle, öbürü sahte bir ulusal ya da etnik "biz"le çare satar. İkisi de gerçek bir kolektifin, yani ortak çıkarları olan insanların birbirini tanıdığı, birbirine güvendiği ve birlikte iş yaptığı bir topluluğun yerine geçmeye çalışır.

Hegel'in tanınma diyalektiğinde gördüğümüz gibi, bilinç başka bir bilinç tarafından tanınarak kurulur. Tanınma ihtiyacı insanidir ve meşrudur. Siyasal soru, bu ihtiyacın nerede karşılanacağıdır: bir algoritmanın sahte yakınlığında mı, bir liderin sahte "biz"inde mi, yoksa örgütlü emekçilerin gerçek dayanışmasında mı? "Faşizmin Hegemonyası" yazısında önerdiğimiz karşıt kamusallık burada da yanıttır: insanların birbirini tanıdığı, güvenle konuşabildiği, sorumluluk paylaştığı yeni tür kolektifler. Yalnızlığı ürün olarak satın almak yerine, onu birlikte örgütlenerek aşmak.

Dili Geri Kazanmak: Bilinç ve Yapay Zeka Tartışması İçin Bir Öneri

"Hegemonya Dilinden Kurtulmak Üzerine" yazısında "dil temizliği"nin doğru bir metafor olmadığını söylemiştik: saflık arayışı dışlamaya, seçkinciliğe ve ahlakçılığa kayabilir. Önerdiğimiz şey dil eleştirisi ve dili geri kazanmaktı. Freire'den aldığımız yöntem dört adımlıydı: öznesi olan cümleler kurmak, ilişkileri adlandırmak, doğal görüneni tarihselleştirmek ve yeni kavramları pratikte sınamak. Bu yöntemi bilinç ve yapay zeka tartışmasına uygularsak şöyle bir tablo çıkar:

Hegemonik kullanımNeyi örtüyor?Önerimiz
"Yapay zeka uyanıyor", "yeni bir tür doğuyor"Mülkiyeti, altyapıyı, şirketi"Şu şirketin modeli", "toplumsal bilginin özel mülk biçimi"
"Modeli yetiştiriyoruz", "model öğreniyor"Veri emeğini, etiketleyiciyi, eğitim verisinin yazarlarını"Milyonların emeği işlenerek model üretiliyor"
"Halüsinasyon"Ürün hatasını ve sorumluluğu"Hatalı çıktı", "ürün hatası"
"Algoritma karar verdi"Kararı veren yöneticiyi ve kuralı koyan şirketi"Şirket, şu kurala göre karar verdi"
"Bulut"Veri merkezini, enerjiyi, suyu, araziyi"Veri merkezi", "sunucu çiftliği"
"Yapay zeka arkadaşı"Abonelik iş modelini ve veri toplamayı"Sohbet hizmeti", "abonelik ürünü"
"Kullanıcı"Veri üreten, emek veren, hakları olan insanı"Yurttaş", "emekçi", "veri üreticisi"
"Hizalama" (alignment)Kime göre ve kimin değerlerine göre hizalandığını"Kimin çıkarına hizalama?" sorusuyla birlikte kullanmak
"İnsanlık", "biz" (sınıfsız)Sınıfları, sahipleri ve mülksüzleri"Hangi biz?" diye sormak, öznesini söylemek
"Gerçeklik bir ilüzyon"Gerçekliğin nesnelliğini ve değiştirilebilirliğini"Gerçekliğe dolaylı ama nesnel bir erişimimiz var"
"İnsan da sonuçta bir tahmin makinesi"İnsan etkinliğinin toplumsal ve tarihsel niteliğini"Beyin tahmin eder, ama insan dünyayı değiştirerek bilir"

Bu tabloyu bir sözlük gibi değil, bir alışkanlık gibi kullanmayı öneriyoruz. Her yeni kavramla karşılaştığımızda üç soru sormak yeterli: Bu kelime kimi görünür kılıyor, kimi görünmez kılıyor? Bu kelimeyi kim icat etti ve kim yayıyor? Bu kelimeyle anlatılan şeyin sahibi kim? Bu üç soru, safsata kılavuzumuzdaki cui bono sorusunun dil alanındaki karşılığıdır. Ve aynı yazıda söylediğimiz gibi: gürültünün şiddeti, iddianın doğruluğunu kanıtlamaz. Bir kelimenin her yerde tekrar edilmesi, onu doğru yapmaz.


Yanılsamalar ve Yanıtlar

YanılsamaMateryalist yanıt
Her şey elektrik sinyali, gerçeklik ilüzyondur.Duyum dünyaya açılan köprüdür; aracılık kopukluk değildir. Gerçekliği pratikte, ona çarparken sınarız.
Kırmızı ne gülde ne dünyada, yalnızca bizdedir.Kırmızı, gül, ışık, göz ve evrimsel pratik arasındaki nesnel bir ilişkidir. Duyular tarihin eseridir.
Gözlemleyen olmasa hiçbir şey var olmazdı.Dünya bizden milyarlarca yıl önce vardı. Gözlem var olanı yaratmaz, onunla ilişki kurar.
Kesin olan tek şey "düşünüyorum"dur."Düşünüyorum" demek için dil gerekir, dil başkalarından gelir. Bilinç başından beri toplumsaldır.
Bilinç beynin içinde bir yerde duran bir şeydir.Bilinç bir şey değil, bedenli bir varlığın dünyayla etkinlik ilişkisidir; tarihi ve evrimi vardır.
Bilmiyorsak bilinemez; bilinç sonsuz bir gizemdir.Bilinmeyen bilinemez değildir. Yaşam da bir zamanlar "zor problem"di.
Bilinç evrenin temel özelliğidir (panpsişizm).Sorunu çözmez, yayar; birleşim sorununu doğurur. Eski hilozoizmin yeni adıdır.
Bilinç evrimin lanetidir.Anlamsızlık duygusu bilinçten değil yabancılaşmadan doğar. Anlam birlikte üretilir.
Makine asla bilinçli olamaz, insanın özel bir özü vardır.Bu tözcü bir varsayımdır. Materyalizm olasılığı baştan kapatmaz, kanıt ister.
Model "korkuyorum" diyorsa korkuyordur.Modelin dili insanlığın dilinin tortusudur. Kendi hakkındaki sözü tek başına kanıt değildir.
Veri merkezleri oldukça sonsuz yaşayan kolektif bir akıl doğuyor.Veri merkezi elektrik faturası, soğutma suyu, maden, işçi ve mülkiyet demektir. Fişin kimin elinde olduğu bellidir. Gerçek kolektif akıl insanlığın kendisidir.
Görüşleri yan yana koymak tarafsızlıktır; soruyu açık bırakmak alçakgönüllülüktür.CEO'ları ve din adamlarını konumlarından arındırıp "görüş" diye dizmek egemen çerçeveyi veri saymaktır. Materyalist yanıtın konmadığı yerde boşluğu idealizm doldurur.
Yakın tehlike makinenin bilinçlenmesidir.Yakın tehlike bilinç gösterisinin metalaşması ve sorumluluğun algoritmaya devridir.

"Bu Kez Kediler Biz Olacağız" Korkusu Üzerine

Birinci video bir korkuyla kapanıyor: belki bizden çok daha zeki bir varlık yaratacağız, kontrol elimizden kayacak ve bu kez kediler biz olacağız. Veri merkezleri var oldukça sonsuza dek yaşayacak, kolektif bir akla sahip bir tür.

Bu anlatının iki sorunu var. Birincisi, "sonsuz" diye tarif edilen şey son derece maddidir ve son derece kırılgandır. Bir veri merkezi, elektrik santraline, soğutma suyuna, çip fabrikasına, kobalt madenindeki işçiye, kabloyu döşeyen teknisyene bağlıdır. Ruh değil, altyapıdır. İkincisi, "kontrol elimizden kayacak" cümlesindeki "biz" kim? Kontrol zaten insanlığın elinde değil; birkaç şirketin, birkaç fonun, birkaç devletin elinde. "Genel Zekanın İadesi İçin: Sosyalist Yapay Zeka Manifestosu Yayında"'nda söylediğimiz gibi: sorun makinenin bizden kopması değil, makinenin bizden çoktan alınmış olmasıdır.

Bilimkurgu korkusu, bugünün somut mülkiyet ilişkilerini geleceğin belirsiz bir canavarının arkasına saklar. Evrim Ağacı'nın AGI Videosundaki Felsefi Tuzak yazısında da aynı şeyi görmüştük: "Yapay genel zeka geldiğinde ne yapacaksın?" sorusu, "Onu kim, kimin için, kimin emeğiyle kuruyor?" sorusunu örter.


Son Cümleye Bir Yanıt

Birinci video şu cümleyle bitiyor: "Belki bir gün en büyük hatamız, bilinçsiz bir makineye insan gibi davranmak değil, bilinçli bir varlığa makine gibi davranmak olacak."

Bu cümle doğru bir ahlaki sezgiyi taşıyor ve onu ciddiye alıyoruz. Bir gün yapay bir sistemin acı çekebildiğine dair güçlü kanıtlar ortaya çıkarsa, bunu görmezden gelmek ağır bir hata olur. Bugünden bu olasılığa karşı temkinli olmak da akılsızca değildir.

Ama şunu da söylemek zorundayız: bilinçli varlıklara makine gibi davranmak bir gelecek senaryosu değil, bugünün gündelik gerçeğidir. Depo işçisinin tuvalet molası saniyeyle ölçülüyor. Kurye, uygulamanın puanına göre yaşıyor. Çağrı merkezi çalışanının sesi duygu analizinden geçiriliyor. Yapay zeka modellerini eğitmek için şiddet içerikli verileri saatlerce etiketleyen Kenyalı işçiler travmayla baş başa bırakılıyor. Genel Zekanın Gaspı ve AGI İllüzyonu yazısında zihinsel Taylorizm dediğimiz şey tam olarak budur: insanın düşünen, hisseden yanının ölçülüp parçalanıp makinenin ritmine bağlanması. Ve bu yazıyı yazdığımız günlerde Aliağa'da HABAŞ'ta ark ocağına düşen vinçle ölen işçiler, bunun en çıplak biçimini bir kez daha gösterdi. HABAŞ'ta Patlama: Bu Bir Kaza Değil, Bir Üretim Biçimi yazımızda söylediğimiz gibi: işçinin hayatı, üretimin maliyet hesabında bir kalemdir ve en kolay kısılan kalem odur. Bir modelin "emekliliği" için görüşme takvimi hazırlanırken, sendikasız işçinin hayatı bakım masrafından tasarruf edilen bir kalem olarak kalıyor.

Bir makinenin refahını tartışabilen bir uygarlığın, o makineyi mümkün kılan insanların refahını aynı ciddiyetle tartışmaması, bu çağın en büyük çelişkilerinden biridir. "Makine bilinçli mi?" sorusu açık kalabilir. İşçinin bilinçli olduğu ise açıktır.


Somut Görevler

  • Felsefe tartışmalarında soruyu sorgulayalım. "Bilinç nerede?" sorusunu "Bilinç hangi ilişkide, hangi pratikte?" sorusuna çevirmeyi alışkanlık haline getirelim.
  • Popüler bilim içeriklerini eleştirel izleyelim. "Gerçeklik ilüzyon" türü anlatıların hangi sonuca hizmet ettiğini, sponsorların kim olduğunu konuşalım. Okuma gruplarında bu iki videoyu birlikte izleyip tartışmak iyi bir başlangıç olabilir.
  • Klasikleri yeniden okuyalım. Alman İdeolojisi'nin ilk bölümü, Feuerbach Üzerine Tezler, Engels'in Maymundan İnsana Geçişte Emeğin Rolü yazısı ve Vygotsky'nin Düşünce ve Dil'i bilinç tartışmasında hala en sağlam zemindir.
  • Yapay "arkadaş" ürünlerinin iş modelini teşhir edelim. Duygusal bağımlılığı ölçen metrikler, veri kullanımı ve gençler üzerindeki etkisi üzerine şeffaflık ve denetim talep edelim.
  • Sorumluluğun algoritmaya devrine karşı çıkalım. Yapay zekaya tüzel kişilik tanınmasına karşı; işyerinde algoritmik kararların insan tarafından gerekçelendirilmesi ve itiraz hakkı için sendikal talepler geliştirelim.
  • Veri emekçilerinin refahını gündeme taşıyalım. Model refahı tartışılıyorsa, veri etiketleyicilerin, içerik moderatörlerinin ve eğitim verisi üreten herkesin çalışma koşulları da tartışılmalı.
  • Dili geri kazanmayı bir alışkanlık yapalım. Yapay zeka üzerine yazarken ve konuşurken öznesi olan cümleler kuralım, şirket dilinin kelimelerini sorgulayalım; her kavram için "kimi görünür, kimi görünmez kılıyor, sahibi kim?" diye soralım. Okuma gruplarında bu yazıdaki tabloyu birlikte genişletelim.
  • Yalnızlığa karşı karşıt kamusallık kuralım. Yapay arkadaşa ya da sahte bir "biz"e yönelen tanınma ihtiyacını, gençlerin birbirini tanıdığı, güvenle konuşabildiği, birlikte iş yaptığı kolektiflerde karşılayalım.
  • Ortak aklı ortak mülk yapalım. Kamusal, açık, denetlenebilir modeller için çalışalım. Halkın verisi halkın modeli olsun.

Sevgili genç yoldaşlar,

Bu iki video size zor sorular soruyor ve bunu yaptıkları için onlara teşekkür borçluyuz. Soru sormak düşünmenin başlangıcıdır. Ama her soru bir zemin üzerinde kurulur ve o zemini de sorgulamak gerekir.

Size karanlık bir odada yalnız olduğunuzu, bildiğiniz her şeyin bir ilüzyon olabileceğini söylüyorlar. Biz başka bir şey söylüyoruz: siz hiçbir zaman o odada yalnız olmadınız. Konuştuğunuz dil annenizden, öğretmeninizden, okuduğunuz kitaplardan, birlikte mücadele ettiğiniz arkadaşlarınızdan geliyor. Kahvenin tadı, onu yetiştiren köylünün, kavuran işçinin, size ikram eden dostun elinden geçiyor. Güneşin sıcaklığı teninize ilüzyon olarak değil, dünyanın size dokunuşu olarak geliyor.

Bilinç bir lanet değil, bir lütuf da değil; birlikte yaşamanın, birlikte üretmenin, birlikte dünyayı değiştirmenin adıdır. Kafatasımızda değil, aramızda yaşıyor.

Makineler bir gün hissedecek mi, bilmiyoruz. Ama bugün hissettiğini bildiğimiz milyonlar var: yorulan, üzülen, umut eden, örgütlenen milyonlar. Önce onların bilincine, onların onuruna sahip çıkalım. Makine yeni, zincir eski. Zinciri kırmak da bilinçli insanların işi.


Kaynaklar

İncelenen videolar

Klasikler

Bilinç felsefesi ve bilimi

Güncel tartışma

Bilgi Müşterekleri'nden ilgili yazılar


Bu yazı CC BY-SA 4.0 lisansıyla yayımlanmıştır. Canlı belgedir; eleştiri ve katkılarla güncellenir.

İlgili Başlıklar

Haber Bülteni Aboneliği