Kitap Özeti: Artificial Intelligence, A Guide for Thinking Humans
Yapay zekâ ilginizi çekiyorsa, son dönemdeki atılımları takip etmekte zorlanıyorsanız, gelişmeleri kafanızda bir yere konumlandıramıyorsanız bu kitap tam size göre.
İnsan yapay zekâ (artificial intelligence - AI) gibi karmaşık ve yeni bir olgu üzerine kitap okurken biraz çekiniyor, acaba anlayabilir miyim diye. Ama bu kitabın anlatımı oldukça akıcı, verilen örnekler gayet sade ve anlaşılır. Oldukça karmaşık makina öğrenmesi algoritmalarını (machine learning), bu konuda hiçbir şey bilmeyen bir insana anlatıyormuş gibi izah ediyor.
Kitabın yazarı Melanie Mitchell, doktorasını AI dünyasının efsane ismi Douglas Hofstadter'in (okumadıysanız G.E.B. kitabını "okumaya çalışın") yanında tamamlamış.
Özellikle ChatGPT ve sonrasında çıkan diğer LLM (large language models) uygulamaları ile AI artık her yerde. Yapay zekâ bizim için kod yazıyor, ödev yapıyor, araştırma yapıyor, makale yazıyor, seyahat planlıyor ve daha sayamadığımız pek çok iş için yardımcımız oluyor. Ben gelişmelere yetişmekte zorlanıyorum ama bir yandan da neler olup bittiğini ve nereye doğru gittiğimizi anlamak istiyorum. Bu yüzden seçtim bu kitabı ve çok iyi bir seçim yapmışım.
Şunu da belirteyim, kitap 2019’da yayınlanmış. Dolayısıyla son 5-6 yıllık gelişmelerden önce yazılmış. Eğer LLM’ler ile ilgili detaylı bilgi almak istiyorsanız, bu kitap işinize yaramayabilir.
Yapay Zekâ Hype Döngüsü
Yapay zekânın tarihine baktığımızda, ilk olarak 1950'li yıllarda "artificial intelligence" isminin ortaya çıktığını görüyoruz. Ve o tarihten beri yapay zekâ sürekli bir iniş çıkış döngüsüne girmiş. On yıl kadar çok popülerken, sonraki on yıl düşüşe geçmiş, sonra tekrar revaçtaymış gibi bir döngü. Şimdi yine oldukça popüler. Bakalım buradan sonra düşüşe geçecek mi?
Zekâ Nedir?
Kitapta felsefi açıdan sorular da soruluyor: Bizi zeki varlıklar yapan şey ne? Beynimizdeki sinir hücreleri mi? Sinir hücrelerini birebir simüle ederek, insan zekâsını kopyalamak mümkün olabilir mi? Bilinç nasıl oluşuyor, insan nasıl öğreniyor? Bu kavramları makinalara kodlamak mümkün olabilir mi?
Yazar bu soruları teorik açıdan ele alıyor. Yapay zekânın (teoride bile olsa) insan zekâsına yaklaşabilmesi için öncelikle insanların algı ve duyularına sahip olması gerektiğini vurguluyor. Yani, bizimle aynı zekâ seviyesine çıkabilmesi için makinaların da bizim gibi bir öğrenme sürecinden geçip dünyayla benzer bir etkileşime girmesi gerekiyor. Şu an için bu çok uzak bir ihtimal.
AI konusunda dikkat edilmesi gereken bir husus da terminoloji ve tanımlar. Henüz bilgisayar bilimciler daha tanımlar üzerinde bile bir fikir birliğine varamamış. Yani zekâ nedir diye sorduğunuzda, birbirinden bambaşka şeyler anlatan çok farklı tanımlar yapılabiliyor. Bazı tanımlara göre, satrançta Kasparov’u yenen algoritma zekâ olarak adlandırılırken, kimine göre ise zekâ “kendinin farkında olabilme” (bu ne demekse artık) şeklinde tanımlanıyor.
Symbolic vs Subsymbolic AI
Yapay zekâ algoritmaları ikiye ayrılıyor: symbolic ve subsymbolic. Symbolic AI, "şu durumda bunu yap, bu durumda bunu yap" tarzı daha üst seviye prosedürler kullanıyor. Subsymbolic AI ise bizim beyin ve sinir sistemimizi taklit etmeye çalışıyor.
Örnek olarak, satranç oynayan birinin sinir sistemini açıp incelesek, satranç kurallarını veya stratejilerini göremeyiz. Ama bir şekilde o alt seviyede işleyen sinyaller birleşerek satranç oynayabilen bir "zekâ" oluşturuyor. Subsymbolic AI da arkada derin yapay sinir ağlarını eğiterek bir üst zekâ ortaya koymuş oluyor. Ama bu zekâya veya onu kodlayan ve eğiten kişilere “şu hamleyi neden yaptın” diye soracak olursanız size bunun gerekçesini açıklayamıyor.
Yapay sinir ağları kendilerinin farkına varamıyor, bu bağlamda da aslında “düşünemiyor”. İstatistik ve matematik kullanarak belirli girdiler için bir çıktı üreten kara kutu gibi düşünün. Peki insan beyni bir kara kutu mu? İnsan beyni, kendini modelleyebilecek yeteneğe sahip mi? Eğer sahipse, bir noktada bizimle aynı seviyede bir zekâ üretebiliriz demektir. Peki bu ürettiğimiz zekâ bizden daha zeki bir hale gelebilir mi? Eğer o gelebiliyorsa, biz de gelebilmeliyiz değil mi? Ne de olsa onu biz ürettik. Bunlar işin felsefi kısmı.
Sizce yapay zekâ, bu fotoğraftaki karartının kaşığın gölgesi olduğunu “anlayabilir” mi?
ChatGPT vb. LLM uygulamaları da subsymbolic AI örnekleri arasına giriyor. Arkada terabaytlarca veri üzerinde eğitilmiş yapay sinir ağları (artificial neural networks) ve istatistik kullanarak, sorduğumuz sorulara cevap verebiliyor veya bize tavsiyelerde bulunabiliyor. Fakat özünde bu uygulamalar yeni değil, kullanılan algoritmalar bambaşka değil. On yıl öncesiyle aradaki tek fark, artık CPU'lar (işlemciler) çok güçlü ve internetin yaygınlaşmasının bir neticesi olarak veri de çok. Keşfedilen yeni bir şey yok, çığır açan bir keşif yok. Buna rağmen, üzerinde eğitilebileceği devasa veri havuzları ve çok daha güçlü işlemciler sayesinde subsymbolic AI algoritmaları ortalığı kasıp kavuruyor.
It turns out that the recent success of deep learning is due less to new breakthroughs in AI than to the availability of huge amounts of data (thank you, internet!) and very fast parallel computer hardware. These factors, along with improvements in training methods, allow hundred-plus-layer networks to be trained on millions of images in just a few days.
Ahlaki ve Etik Açıdan AI
Yapay zekâdaki gelişmeleri sadece magazin ve kıyamet senaryoları üzerinden irdelemek doğru değil. İşin ahlaki ve etik boyutlarını iyi düşünmek gerekiyor. Yapay zekânın zaaflarını istismar edecek kötü niyetli kişilere karşı nasıl önlemler alınabilir ve algoritmalar nasıl manipülasyonlara daha dayanıklı hale getirilebilir diye düşünmemiz elzem.
Kitapta dikkat çekilen bazı hususlar şunlar:
Kişisel verilerin korunması ve işlenmesi. Size ait bilgilerin yapay zekâ tarafından girdi olarak kullanılmasına razı olmayabilirsiniz.
Kötü niyetli saldırılar (hacking, prompt injection, sinyal manipülasyonu). Mesela, otonom sürüş algoritmasını kandıracak bir görseli trafikteki bir tabelaya yapıştırıp arabaların kontrolden çıkarılması.
Şeffaflık. Subsymbolic AI algoritmalarında, algoritmanın bir sonuca nasıl vardığını takip etmek imkansız gibi bir şey. Sinir hücrelerinizden geçen elektrik akımını ölçerek ne düşündüğünüzü görebilir misiniz?
Ahlaki ve etik değerler. Bunlar insanlığın üzerinde mutabakata vardığı kavramlar değiller. Hal böyleyken yapay zekâya bu değerleri nasıl aktaracağız? Doğruyu ve hakikati biz kavrayamamışken, makinalara bunu nasıl kodlayacağız?
Kitapan Çeşitli Alıntılar
People worry that computers will get too smart and take over the world, but the real problem is that they’re too stupid and they’ve already taken over the world.
Yani, insanlar bilgisayarların aşırı zeki hale gelerek dünyayı ele geçireceğinden korkuyor. Ama asıl problem, şu an bilgisayarlar aptal olmalarına rağmen çoktan dünyayı ele geçirdiler bile.
Human intelligence is a marvelous, subtle, and poorly understood phenomenon. There is no danger of duplicating it anytime soon.
İnsan zekâsı muazzam ve çözülememiş bir olgu. Makinaların bize yetişmesi, en azından yakın zamanda, mümkün görünmüyor.
As soon as it works, no one calls it AI anymore.
Bir problem yapay zekâ ile çözüldükten sonra, artık konu ilginçliğini yitiriyor. Mesela artık satrançta makinalar en yetenekli satranç ustalarını bile yenebiliyor. Ama bu demek değil ki makina bizden daha zeki. Sadece belli işler özelinde (satranç) ve sınırlandırılmış bir bağlamda (dijital bir dünyada) bize galip geliyor. Genel bir durum yok.
The term long tail comes from statistics, in which certain probability distributions are shaped like the one in figure 13: the long list of very unlikely (but possible) situations is called the “tail” of the distribution. (The situations in the tail are sometimes called edge cases.) Most real-world domains for AI exhibit this kind of long-tail phenomenon: events in the real world are usually predictable, but there remains a long tail of low-probability, unexpected occurrences. This is a problem if we rely solely on supervised learning to provide our AI system with its knowledge of the world; the situations in the tail don’t show up in the training data often enough, if at all, so the system is more likely to make errors when faced with such unexpected cases.
Kısaca açmak gerekirse, yapay zekâ istisnai durumlarla başa çıkmakta insanlar kadar maharetli değil. İstisnalar ise hayatın bir gerçeği ve kaçınılmaz. Ama tanımı itibariyle istatistiksel olarak çok nadir rastlandıklarından, yapay zekânın radarına giremiyor istisnalar.
Kitapta İsmi Geçen Önemli Şahıslar
Douglas Hofstadter
Ilya Sutskever
Alex Krizhevsky
Yann LeCun
Ray Kurzweil
Alan Turing
Geoffrey Hinton
Demis Hassabis
Marvin Minsky
“Kendinin farkinda olabilme” hem insani diger tum canlilardan ayiran bir düşünme yetenegi hem de cok elestrilen ve modern dunyanin daha cok one cikardigi cikarimsal, hesapsal dusunmeden farkli, daha varliksal ve sezgisel, daha duygusal bir dusunme sekli. Dolayisiyla AI’in asla sahip olamayacagi bir dusunme yetenegi bu. Sanirim kitabin yazari bunu demeye calisiyor. Sagol paylasim icin.