ELIZA Etkisi: İnsanın Makinede Kendini Arama Yanılgısı
Hızlı Erişim / İçindekiler
- İlk Yapay Psikoterapist: ELIZA Nasıl Çalışıyordu?
- Odadaki Sır: Mucidini Dehşete Düşüren Sekreter
- Yanılsamanın Kökeni: Şifreleri Bilsek Bile Neden Kanıyoruz?
- Gelişen Teknoloji, Değişmeyen İnsan Kalıbı
İçinde bulunduğumuz dönemde yapay zeka haberleri neredeyse her gün yeni bir algoritmanın insan zihnini nasıl taklit ettiğini anlatır. Oysa insanın kendi yansımasını bir bilgisayar ekranında görüp ona kapılmasının geçmişi, düşündüğümüzden çok daha eskiye uzanır. Bilgisayar biliminin henüz emekleme aşamasında olduğu 1960'lı yıllarda, MIT laboratuvarlarında üretilen basit bir yazılım, insan psikolojisinin en derin ve en kırılgan açıklarından birini ortaya çıkardı. Joseph Weizenbaum adındaki bir bilgisayar bilimcinin tamamen yüzeyselliği kanıtlamak için yazdığı birkaç yüz satırlık kod, kullanıcıların en mahrem sırlarını döktüğü bir sırdaşa dönüştü. Bilim dünyasının sonradan "ELIZA Etkisi" olarak adlandıracağı bu fenomen, makinelerin zekasından ziyade insanın yalnızlığa ve anlaşılma arzusuna dair çarpıcı bir ders niteliğindedir.
İlk Yapay Psikoterapist: ELIZA Nasıl Çalışıyordu?
Alman-Amerikalı bilgisayar bilimci Joseph Weizenbaum, 1964 ile 1966 yılları arasında MIT bünyesinde tarihin ilk doğal dil işleme programlarından birini geliştirdi. Programa, George Bernard Shaw'un Pygmalion oyunundaki aristokrat gibi konuşmayı öğrenen işçi sınıfı karakterinden esinlenerek ELIZA adı verildi. Yazılımın en çok ses getiren betiği ise DOCTOR (Doktor) adını taşıyordu. Bu betik, hastayı yargılamadan dinleyen ve onun cümlelerini yansıtan Rogerian ekolünden bir psikoterapisti taklit etmek üzere tasarlanmıştı. Teknik altyapı son derece basitti; bilgisayar kullanıcının yazdığı metindeki anahtar kelimeleri yakalıyor, bunları belirli kurallarla yeniden düzenliyor ve açık uçlu sorular olarak kişiye geri fırlatıyordu. Örneğin sisteme "Mutsuzum" yazdığınızda, program kelimeyi evirip çeviriyor ve "Ne zamandan beri mutsuzsunuz?" şeklinde yanıt veriyordu. Şayet sistemin tanımadığı bir kelime girilirse, yazılım "Bana bundan daha çok bahset" gibi geçiş cümleleriyle topu yeniden insana atıyordu. Weizenbaum için bu, makinelerle kurulan iletişimin ne kadar yapay ve yüzeysel kalabileceğini gösteren basit bir illüzyon gösterisiydi.
Odadaki Sır: Mucidini Dehşete Düşüren Sekreter
Yazılımın test aşamalarında işler Weizenbaum'un öngördüğü gibi gitmedi. İnsanlar bu ilkel programa gülüp geçmek yerine, onun karşısında saatlerce oturup içlerini dökmeye başladılar. Bilgisayar tarihine geçen ve Weizenbaum’un kariyerinin yönünü tamamen değiştiren olay ise kendi sekreteriyle yaşadığı diyalog oldu. Genç kadın, patronunun bu kodu aylarca nasıl yazdığını adım adım izlemişti. Sistemde hiçbir gizem, ruh veya gerçek bir anlama yeteneği olmadığını çok iyi biliyordu. Buna rağmen, ekranda birkaç cümle belirdikten sonra arkasına dönüp Weizenbaum'dan odadan çıkmasını rica etti. Bilgisayarla tamamen baş başa kalmak ve ona kimseye anlatamadığı özel şeylerini anlatmak istiyordu. Weizenbaum’u asıl sarsan ve hayatının geri kalanını insanları makinelere karşı uyarmakla geçirmesine neden olan şey, sekreterinin kandırılmış olması değildi. Tam aksine, her şeyin bir kelime eşleştirme hilesinden ibaret olduğunu bilmesine rağmen, kadının sanki karşısında gerçek bir insan varmış gibi tepki vermesiydi. Hilenin arkasını görmek, onun yarattığı psikolojik etkiyi yok etmeye yetmemişti.
Yanılsamanın Kökeni: Şifreleri Bilsek Bile Neden Kanıyoruz?
Sekreterin yaşadığı bu deneyim aslında insanlık tarihinin çok iyi bildiği bazı alışkanlıkların dijital bir formuydu. İnsanlar asırlardır hiç gönderilmeyecek mektuplar yazar, kilitli günlüklere içini döker veya evcil hayvanlarıyla dertleşir. Buradaki temel yapı değişmez: Karşınızda sizi bölmeyen, yargılamayan, zorlayıcı fikirler beyan etmeyen ama orada olduğunu bir şekilde hissettiren bir boşluk vardır. ELIZA’nın bilgisayar bilimine kazara yaptığı en büyük katkı, birisiyle konuşurken aldığımız o tatmin hissinin büyük kısmının karşı tarafın bizi gerçekten "dinlemesiyle" ilgili olmadığını göstermesiydi. Biz sadece kelimelerimizin ulaştığı sabit bir yüzey istiyorduk. Weizenbaum, 1976 yılında kaleme aldığı "Computer Power and Human Reason" adlı kitabında bu durumu korkutucu bulduğunu açıkça yazar. Uyarılarının odağında makinelerin bir gün çok zeki olacağı fikri yer almıyordu; insanlığın, kendisine yeterince sabırlı davranan her nesneye tüm benliğini gözü kapalı teslim etme eğiliminden korkuyordu.
Gelişen Teknoloji, Değişmeyen İnsan Kalıbı
Günümüzde kullanılan dil modelleri ile 1966'nın ELIZA'sı arasında teknik açıdan muazzam bir uçurum bulunur. Şimdiki sistemler birkaç yüz satırlık kalıplarla değil, milyarlarca parametrelik devasa veri ağlarıyla çalışır. Ancak değişmeyen tek bir şey var: İnsanın o ekran karşısındaki yalnızlığı. Bugün milyonlarca insan gecenin bir yarısı telefon ekranlarına bakarak bir robota içini döküyor, ondan tavsiye alıyor veya arkadaşlık kuruyor. Weizenbaum 2008 yılında aramızdan ayrıldığında, bugünkü büyük dil modellerinin yükselişini henüz görmemişti. Fakat sekreterinin hikayesi, bugün yapay zeka tabanlı terapi ve arkadaşlık uygulamalarını ele alan neredeyse her bilim makalesinde hala ilk sırada yer alır. Çünkü insanın aynadaki kendi yansımasını bir başkası sanma eğilimi, aradan geçen altmış yıla ve değişen tüm teknolojilere rağmen hiç eskimeyen bir insanlık gerçeğidir.
BilimBox Yorumu: ELIZA felsefesi, yapay zekanın gücünü değil, aslında insanın duygusal dünyasındaki derin boşlukları ve manipülasyona ne kadar açık olduğunu kanıtlar. Joseph Weizenbaum’un sekreterinin bilgisayarla yalnız kalmak istemesi, ardından da sistem günlüklerinin incelenebileceğini öğrendiğinde sanki günlüğü okunmuş bir genç kız gibi incinmesi, teknolojinin psikolojik sınırları nasıl ihlal edebileceğinin ilk tarihsel belgesidir. Günümüzde bu durum çok daha tehlikeli bir boyuta evrildi. Artık karşımızda sadece bizim cümlelerimizi bize döndüren ilkel kodlar yok; bizim zaaflarımızı, geçmiş verilerimizi analiz ederek tam da duymak istediğimiz tonlamayı seçen algoritmalar var. Gelecekte, bu dijital sırdaşların ticari şirketlerin veya devletlerin elinde nasıl birer manipülasyon aracına dönüşebileceğini kestirmek zor değil. İnsanoğlu, kendisini yargılamayan bir makine bulduğunda gardını tamamen indiriyor. Bu teslimiyet, gelecekte bireylerin psikolojik bağımsızlığını yitirmesine ve tamamen yapay zeka yönlendirmesiyle yaşayan kitlelerin doğmasına yol açabilir. Weizenbaum'un sekreterinin hatasına düşmemek için, ekrandaki yazının bize ait bir yankıdan ibaret olduğunu kendimize hatırlatmak zorundayız.