Hollanda’daki Utrecht Üniversitesinden Prof. Dr. Pınar Yolum (UAA'94), yapay zekâyla insanlığın geleceğine farklı bir bakış öneriyor. ‘Zekâ’nın yanı sıra sosyal ve toplumsal değerler kazandırılabilecek yapay zekâlarla insanlığın gelecekte birlikte uyum içinde yaşayacağı bir düzeni hayal ediyor.
Deckard: O bilmiyor mu!?
Tyrell: Şüphelenmeye başladı, sanıyorum.
Deckard: Şüphelenmek mi? Ne olduğunu, nasıl bilmez?
Tyrell: Ticaret, burada Tyrell’da bizim amacımızdır. Mottomuz, insandan daha insan.
(Blade Runner, 1982)
Yapay zekâları bugün çoğunlukla teknolojik ve ticari boyutlarıyla konuşuyoruz. İnsan zekâsına ne zaman erişecek ne zaman bizi geçecek ne kadar insan işsiz kalacak. Genel yapay zekâlar, yaratıcı yapay zekâlar, uzman yapay zekâlar, büyük dil modelleri, derin öğrenme, yapay sinir ağları, tensör matematiği… İyimser olanlarımız da var, kötümser olanlarımız da…
Efsaneleşmiş Blade Runner filminde isyankâr-yapay-zekâ-köle-kopyaları avlayan dedektif Deckard ile onları üreten şirketin kurucusu Tyrell arasında geçen yukarıdaki replikteki motto bugün daha bir dikkat çekici ve hayli tanıdık değil mi?
“İnsandan daha insan” yapay zekâlar…
Ancak zekâ sahibi varlıklar olarak bizlerin toplumsal yanı, dürüstlük, empati, yardımseverlik gibi sosyal değerleri "zekâ" atfettiğimiz yapay zekâlar için pek de dikkate alınmıyor. “Her” filmi gibi birkaç naif aşk hikâyesi anlatısının ötesinde, orada gelecekte sanki insandan ve insanın toplumsallığından bağımsız, neredeyse tanrısal bir mükemmelliğe erişmiş, mekanik, soyut bir zekâ var olacak. İnsanlık teknolojik bir tekillikte (singularity) büyük-yüce-genel yapay zekânın hayvanat bahçesinde fosil bir canlı olarak yaşayacak…
Hollanda’daki Utrecht Üniversitesinden Prof. Dr. Pınar Yolum, yapay zekâyla insanlığın geleceğine farklı bir bakış öneriyor. “Zekâ”nın yanı sıra sosyal ve toplumsal değerler kazandırılabilecek yapay zekâlarla insanlığın gelecekte birlikte uyum içinde yaşayacağı bir düzeni hayal ediyor. Bugün yapay zekâların artan yeteneklerini psikolojiye benzeterek, burada bir hayli yol aldığımıza inanıyor. Şimdiyse yapay zekâları “güvenilirlik” başta olmak üzere sosyal ve etik değerle kodlama ve eğitme zamanının geldiğini söylüyor. Üniversitesinde bu alandaki bilim insanlarına ve araştırmalara liderlik ediyor. Yapay zekâların kendi aralarında ve insanlarla olan ilişkilerini, en doğru biçimde şekillendireceğine inandığı bir “yapay zekâ sosyolojisi”nin öncülüğünü yapıyor.
Bu arayış, savaşlarla, iklim kriziyle daha yapay zekâya gelmeden bile toptan bir yıkıma doğru meyleden insanlık için dönüp aynada kendini yeniden sorgulaması için bir fırsat sunabilir mi? Prof. Dr. Yolum, “Ben çok sorguluyorum. Kendimi, davranışlarımı, etrafımdaki insanların davranışlarını sürekli sorgulayarak ve orada gördüğüm şeyleri kendi makalelerimde ‘peki bir yapay zekâ bunu nasıl yapabilir?’ diye sorguluyorum” diyor.
Tyrell’ların kibrini aşıp distopik bir geleceğe mahkûm olmamak için belki her iki açıdan da mottomuzun “insan kadar insan” olması lazımdır.
Prof. Dr. Pınar Yolum (UAA’94) (Fotoğraf: www.uu.nl / Ed van Rijswijk)
Sizin gibi değerli bir akademisyenin konuğumuz olmasından çok mutluyuz. Hakikaten ilginç bir yaşam öyküsü ve bugün çok gündemde olan yapay zekâ gibi bir konuda uzmanlığınız var. Eminim çok güzel bir söyleşi olacak. Hocam istiyorsanız şöyle başlayalım. Üsküdar Amerikan Lisesindeki günlerinize dönelim. Okula girişiniz nasıl oldu, bir hikayesi var mı? Okulda nasıl bir öğrenciydiniz, nasıl bir okuldu? O yıllar biliyorsunuz kız okulu olduğu dönem.
Biliyorsunuz Türkiye'de bu tür seçimler, özellikle o yaşlarda çok fazla çocuklara bırakılan seçimler değil. Biz zamanında bir sınava girdik, sıralama yaptık. Ben Üsküdar Amerikan'ı kazandım ve Üsküdar Amerikan'a gittim. O güne kadar da aslında ne Üsküdar Amerikan'ı doğru düzgün biliyordum, kız okulu olması kavramını da bilmiyordum açıkçası. Ben günlerce bir takım erkekleri aradım okulda ve sonra olmadıklarını anladım. Tabii bir yandan ilk başta çok garip gelen bir durum. Özellikle ilkokulda benim çoğu arkadaşım erkekti. Kız okulunun da başka türlü hoşlukları ve artıları var diyeyim. Ondan sonra hemencecik alıştım galiba kız okulu olmasına. Genelde normal bir öğrenciydim. Çok çok iyi bir öğrenci değildim, çok kötü bir öğrenci de değildim, basket oynamayı çok seviyordum. Bilgisayarlara çok merakım vardı bir noktadan itibaren. Yani arada laboratuvarda vakit geçiren, arada basket oynayan, kantine takılan bir karakterdim diyebilirim.
Öğretmenlerinizin içinde sizi etkileyenler var mıydı?
Tabii. Matematiğe çok ilgim vardı. Sevdiğim bir dersti matematik. Lise 1, lise 2 arasında matematikle birlikte aslında kendi konusu bilgisayar programlama olan bir hocamız vardı. Robert Rice. Mr. Rice bilgisayarlara bizim de ilgili olduğumuzu görünce seçmeli bir bilgisayar dersi açtı. Önce birincisini açtı. Çok kalabalık bir grup aldık o dersi. Sonra bir grubumuz buna çok daha fazla ilgi gösterdik. Mr. Rice ikincisini açtı. Bize Pascal programlama diliyle program yazmayı öğretti. Zamanın çok ilerisinde bir durum. Bugün Hollanda'daki birçok okulda bile şu anda programlama dersi yok. Ben buradaki insanlara 92-93 yıllarında kendi okulumda programlama dersi alarak programlamayı öğrendim dediğimde, hiç kimseye hiçbir şey ifade etmeyen bir cümle oluyor bu. Mr. Rice bizimle çok ilgilendi. Bizim ilgimizi de gördükten sonra biz yarışmalara hazırlanmaya başladık. Türkiye'de o sırada matematik olimpiyatları, kimya olimpiyatları gibi enformatik olimpiyatları ilk defa yapılacaktı. Mr. Rice bunu öğrenmiş. Ama tabii nasıl hazırlanılacak bir bilgimiz yok. İlk defa yapılacak ne olduğunu bilmiyoruz. Birkaç arkadaş başladık. Bu şekilde olimpiyatlara, enformatik yani bilgisayar programlaması olimpiyatlarına hazırlandık. Sonra Mr. Rice bizi aldı Ankara'ya seçme sınavlarına götürdü. Trenle gittik. Sonra ben seçildim ve tek devam ettim. Çok inanılmaz emeği vardır üzerimde. Onun sayesinde bilgisayar mühendisliğini seçtim.
Yani bu şans eseri olmuş bir şey değil sanıyorum. Liseden sonra bilgisayar mühendisliğini seçmeniz böyle mi oldu?
Yani şöyle oldu. Çok severek yaptığımı fark ettim. Çok uzun zaman bilgisayarla geçirmiştim, ailem de destek oldu. Bana bir bilgisayar aldılar. Ondan sonra bizim evde, geceleri bilgisayarı atacağım, hadi yat artık, konuşmaları çok oldu. Üniversite seçimi sırasında Boğaziçi olsun hangi bölüm olursa olsun diyenler vardı. Annem de “senin bilgisayara çok ilgin var. Sadece bilgisayar mühendisliği bölümlerini yaz” diye bana destek verdi. Bu şekilde tercihlerimde bir tek bilgisayar mühendisliği bölümlerini yazdım. Böylece girdim ve onu okudum Marmara Üniversitesinde.
Üniversite nasıldı, okulda bilgisayara ilginiz nasıl gelişti?
Okurken tabii bilgisayarın her konusu o kadar da ilgimi çekmedi. Yapay zekâ özellikle bana bir sosyal tarafı da olduğu için çok enteresan geldi. Ondan sonra biraz bakmaya başladım. Hani başka türlü neler yapabilirim? Master yapabilir miyim diye araştırmaya başladım. Üniversitede çok iyi bir öğrenci değildim. Özellikle de başlarında. Onun için ortalamam düşüktü. Zar zor ucundan, şansa inanıyor muyuz bilmiyorum, ama biraz da şansın yardımıyla mastıra Amerika'ya, North Carolina State University’e gittim. Asistanlık da aldım. Onlar da rahat gitti. Sonra mastır tez hocam çok ısrar etti, doktoraya da kal diye. Ben sana burada asistanlık bulurum, dedi. Onun da çok emeği vardır üzerimde. Benimle çok ilgilendi. Sonra birlikte çok çalıştık ve hâlâ birlikte çalışırız. Böylece bu yolculuk başladı diyeyim.
Yapay zekâya yönelmeniz orada mı oldu?
Evet. Aslında daha öncesinde ilgim olduğunu fark ediyordum, ama daha böyle kavramsal seviyede. Yani ne olduğunu bilmeden, bir bilgisayarların böyle akıllı şeyler yapmaları vesaire kavramlar ilgimi çekiyordu. Diğer taraftan bu bahsettiğim olimpiyatlara hazırlanırken hep ODTÜ'de eğitim gördük. ODTÜ Bilgisayar Mühendisliğindeki hocalarımı, onların çalışmalarını, onların yapay zekâ konuşmalarını da duyarak büyümüş oldum. Ama tabii Amerika'da yapay zekânın çok değişik kollarını tanıdım. Onlardan hangisinin bana daha enteresan geldiğini seçebildim. Esas, yani şu anda bile çalıştığım konularla orada tanışıp yoğunlaştım.
Hocam, bilgisayar endüstrisine oldukça erken girmişsiniz. ABD’de akademide kalmaya ya da endüstride çalışma kararını nasıl verdiniz? Özellikle internete ilginin yoğunlaştığı, Amerika'da Silikon Vadisinin çok popüler olduğu bir dönemde oradaymışsınız. Ama endüstride çalışmak yerine akademiye yönelmişsiniz. Bu önemli kararı nasıl verdiniz?
Çocuklarım, hani aptallık etmişsin diye söylüyorlar, ama biz öyle demeyelim şimdi. Yani araştırma yapmayı çok sevdim. Bu da böyle biraz koşmak gibi hani koştukça insan daha uzun koşuyor ya… Araştırma yapmanın böyle bir tarafı var. Yaptıkça aklınıza başka sorular geliyor. O soruların peşinden gitmeye başlıyorsunuz. Öğrencilerle çalışmak zaten çok keyifli bir şey. Yani hep sizi genç tutuyor ya da yani belki genç tutmuyor da yaşlandığınızı anlayabiliyorsunuz. Yani gençlerin olduğu bir ortamda olmak çok eğlenceli bir kere. Onların hayatına dokunmak çok güzel. Onların yetiştiğini, onların da hoca olduğunu görmek inanılmaz güzel bir duygu.
Seviyorsunuz yani o tarafını?
Çok seviyorum, evet. Zaten geri dönüp baktığımda da bütün akademik kariyerime, tabii ki araştırma için buradayız, ama öğrencilerim olmasa bu işte olunmaz. Deli olmak lazım bu işi seçmiş olmak için.
"Bilgisayar dünyası açısından yapay zekâyı, bir insanın psikolojisi gibi düşünürseniz; sosyoloji de benim yaptığım şey. Yani birçok yapay zekâ sistemi bir arada olduğu zaman, bunlar nasıl bir arada var olurlar? Mesela bir yapay zekâ sistemi başka birine güvenebilir mi? Nasıl güvenir, güvenebileceğini nasıl anlar? Bir söz verebilir mi? Sözünden geri dönebilir mi? Bu tür kavramların hesaplamalı olarak bakıldığı durumları araştırıyorum genel anlamda."
Prof. Dr. Pınar Yolum yine akademisyen olan eşi Prof. Dr. İlker Birbil ile akademi dünyasına yönelik Bolbilim adıyla bir internet sitesi ve YouTube yayınları hazırlıyorlar. youtube.com/@bolbilim6898 (Fotoğraf: x.com @sibirbil)
Akademik kariyerinize nerede ve nasıl başladınız?
Şimdi biraz şöyle gelişti. Benim eşim de akademisyen. Onunla böyle birbirimizi bir kovalamaca maceramız oldu. Zaten akademide bu “iki vücut problemi” diye bilinen, yani aynı yerde iki akademisinin iş bulmasının çok zor olması durumu. Ben Amerika'da ilk mastıra ve doktoraya başladığım zaman, eşim Boğaziçi'nde doktoraya başlamıştı. Daha o zaman yeni çıkıyorduk. Sonra o benim arkamdan Amerika'ya geldi. Sonra o bitirdi, Hollanda'da bir post-doc buldu. Bu sefer ben onun arkasından Hollanda'ya geldim. Sonra o post-doc'u da bitirdi, Türkiye'de akademisyenlik işi buldu. Sabancı Üniversitesinde başladı. Bu sefer ben de Türkiye'ye de iş aradım ve Boğaziçi'ne girdim. Yaklaşık 15 yıl Boğaziçi'nde yardımcı doçent, doçent, profesör, bütün seviyelerde çalıştım. Çok çok güzel geçen 14-15 yıl, oradaki öğrencilerimle güzel ilişkilerimle, bölümümü çok severek çalıştım. Boğaziçi zaten başlı başına bir okuldur. Yani sadece öğrenciler için değil, hocalar için de bir okuldur. Şu andaki hali ne yazık ki belki böyle değil, ama zamanında benim olduğum, hoca olduğum zamanlarda bize çok şey katan bir kurumdur. Orada birçok idari görevim de oldu. Başkan yardımcılığı yaptım. Üniversitenin Erasmus Koordinatörlüğü'nü yaptım. Başka komitelerde çalıştım. Ama en güzeli, en değerlisi seçilmiş çok güzel öğrencilerle araştırmalar yaptım, dersler verdim. Sonuçta günün sonunda binlerce öğrenci yetiştirdim. Lisans seviyesinde, yüksek lisans ve doktorada da birçok öğrenciyle çalıştım.
Araştırma tarafında nasıl çalışmalar yaptınız? Yani Boğaziçi'ndeki hangi alanlarda araştırmalarınız oldu?
Boğaziçi’nde birçok değerli hoca var. Hem yapay zekâ konusunda hem diğer alanlarda. Boğaziçi Bilgisayar Mühendisliği gerçekten çok iyi bir bölümdür. Benim alanım yapay zekânın bir alt alanı. Dağıtık yapay zekâ, distributed artificial intelligence denilebilir. Biraz kabaca anlatayım. Bilgisayar dünyası açısından yapay zekâyı, bir insanın psikoloji gibi düşünürseniz. Sosyoloji de benim yaptığım şey. Yani birçok yapay zekâ sistemi bir arada olduğu zaman, bunlar nasıl bir arada var olurlar? Mesela bir yapay zekâ sistemi başka birine güvenebilir mi? Nasıl güvenir, güvenebileceğini nasıl anlar? Bir söz verebilir mi? Sözünden geri dönebilir mi? Bu tür kavramların hesaplamalı olarak bakıldığı durumları araştırıyorum genel anlamda. Boğaziçi'nde de son yıllarda bunu yapıyordum. Bir de devam ettiğim bir alan olarak mahremiyet var. Mahremiyet özellikle sosyal medyada, internet üzerinde çok önemli bir hale geldi. Veri mahremiyeti. Bazı şeyleri sosyal medyada paylaşmak istiyoruz tabii ki. Zaten onun için sosyal medyadayız. Ama bazı insanlarla paylaşmak istiyoruz, bazılarıyla paylaşmak istemiyoruz. Paylaştığımız bir şeyi kim görecek? Bunun bana ne tür bir etkisi var? Paylaşmalı mıyım, paylaşmamalı mıyım, her an bunu düşünmek istemiyoruz. Benim ve araştırma grubumla yaptığım şey, yapay zekâ yöntemleriyle biz hangi durumda paylaşmalıyız, yapay zekâ bunu nasıl anlayabilir? Bu resim gerçekten mahrem bir resim midir, değil midir? Ne açıdan mahrem olarak düşünülebilir? Başka birisi varsa resmin içinde acaba onu rahatsız eder mi bu resim? Arkada çalışıp insanlara bir şeyler paylaşırken bunu gerçekten paylaşmak istiyor musun veya resimde bir arkadaşın varsa onu rahatsız edebilir mi gibi sorgulamaları yapan bir yapay zekâ ile, insanların daha doğru mahremiyet seçimleri yapmasını sağlamaya çalışıyoruz. Bu gibi çekinceleri, kuşkuları otomatik olarak gidermeye çalışıyoruz.
“Ne demek güvenilir olmak? Burada benim çalışmalarım daha çok, sosyal bilimlerde güvenilirlik çalışmalarına bakıp insanlar, insan takımları birbirlerine ne zaman güveniyorlar. O güven modellerini alıp, yapay zekâ sistemlerinin içine bir şekilde entegre etmeye çalışıyorum.”
Hocam Boğaziçi'ndeki bu süreç şimdi Hollanda'da devam ediyor değil mi? Siz ailece Hollanda'ya göçtünüz sanıyorum. Hollanda’ya ikinci dönüş nasıl oldu?
Biz 2018 yılında göçtük. Zaten arada hep aklımıza gelen bir şeydi. Başka bir ülkede de biraz yaşamak, daha uzun bir süre yaşamak. Ama böyle bizi dürtüp, bunu yaptıracak bir şey yoktu. 2016'da meşhur Barış Bildirisi diye bilinen bir bildiriyi imzaladık. Ondan sonraki süreçte her şey çok zor oldu Türkiye'de. Başvurduğumuz fonları alamamaktan, değişik yerlerde imzasız mektuplara, insanı çok rahatsız eden ve ait olmadığını hisseden garip mahkeme süreçleri vs. Bunun sonunda birazcık da nefes almak için yurt dışına taşındık. Ama tabii çocuklu bir aile olarak taşındıktan sonra öyle bir nefes alayım, döneyim olmuyor. Tabii yerleşiyorsunuz. Biz de yerleştik. Neredeyse 7 yıl oldu.
Utrecht Üniversitesine girişiniz nasıldı hocam? Üniversitede nerede, hangi alanda başladınız? Zorluklar oldu mu?
Tabii ki zor. Yani belirli bir yaştan sonra iş bulmak genel olarak zor. Başka bir ülkede bulmak daha da zor. Akademisyenlik, hele bizim işimizde yani yapay zekâ alanı özelinde söyleyeyim, genci makbul. Yani basketbolcu gibidir bizim mesleğimiz. Çünkü çok hızlı değişen bir sektör bu. Hem sektör olarak, teknolojiler olarak, araçlar olarak… Bu sahada oyun oynayabilmeniz için çok atik olmanız, her şeyi takip ediyor olmanız, yeniliklere açık olmanız lazım. Onun için biraz genci makbul. Ama zor bir süreç olmadı çok şükür. Ama öyle çok kolay, yazdık da hemen atlayın gelin de denmedi. Ben Utrecht Üniversitesinde başladım. Eşim de o sırada Erasmus Üniversitesinde başladı. Ben Boğaziçi'nde profesör olmama rağmen burada doçent olarak başladım. Sonra tekrar profesörlüğümü almam gerekti. Bu da çok garip bir şey mesela. Normalde istenmeyecek bir şey olabilir. Ama bazı şeylerden de tabii ki fedakârlık yapmanız gerekiyor. O açılardan çok zor olmadı. Ama tabii ki başka bir ülke, dilini bilmediğiniz bir ülke. İki tane çocuğumuz, onların eğitimi vs. bunlar da bir sekteye uğramadı. Ama bazı zorluklar da tabii ki yaşadık.
Peki şu an görevleriniz neler Hocam? Utrecht’te hangi araştırmaları yapıyorsunuz?
Şimdi burada profesörüm. Trustworthy Artificial Intelligence kavramını, güvenilir yapay zekâ olarak tercüme edeyim. O alanda bir profesörüm. Bir grubum var. Burada güvenilir yapay zekâ konusunda ve buna benzer konularda çalışan başka hocalar ve doktora öğrencilerimiz var. Ayrıca Responsible Artificial Intelligence yani sorumlu yapay zekâ grubunun da başındayım diyebilirim. Bir de büyükçe bir yapay zekâ mastır programımız var. Onun da başındaki insanım. Yani hem yapay zekâ eğitimi hem de araştırma alanında aktifim.
Boğaziçi Üniversitesi Bilgisayar Mühendisliği Bölümünde profesör olarak çalışan Prof. Dr. Pınar Yolum (UAA’94), 2018 yılında ailesiyle birlikte Hollanda’ya yerleşmek durumunda (biraz da zorunda) kalınca Utrecht Üniversitesinde profesörlük unvanını yeniden almak durumunda kaldı. Temmuz ayında yapılan kürsü töreniyle ‘ikinci kez’ profesör oldu. Halen Utrecth Üniversitesinde Trustworthy Artificial Intelligence alanında bir araştırma grubunu yönetiyor. Ayrıca Responsible Artificial Intelligence yani sorumlu yapay zekâ grubunun da başında bunuluyor ve yapay zekâ mastır programının yöneticiliğini yapıyor. (Fotoğraf: x.com @MeteAtature)
Hocam iki tane farklı kavramdan bahsettiniz. Trustworthy ve Responsible. Yapay zekâ artık çok popüler bir konu ama bu kavramlar çok bilinir değil açıkçası. Ne anlama geliyor bunlar? Bizler için, endüstri için, bireyler için ya da toplum için, kamu için ne anlama geliyor?
Çok güzel bir soru aslında, bir yandan da çok zor bir soru. Çünkü bence kimse bunu tam olarak bilmiyor. Herkes kendi tarafından yorumluyor. Ben ‘güvenilir’den başlayayım. Bizim güvenilir yapay zekâdan kastımız şöyle, yapay zekâ sistemlerini öyle bir geliştirebilmek istiyoruz ki, bunlar insanlar tarafından güvenilir olsunlar. Şu anda, mesela ChatGPT kullandığınız zaman, bunu da hayatımıza son zamanda girmiş ve biraz oynamış olduğumuz bir yapay zekâ sistemi olduğu için örnek olarak veriyorum, bazı şeylere doğru cevap veriyor. Bazı şeylere çok iyi cevap veriyor. Vay be! diyoruz. Ama bazen en ufak bir hesap veriyorsun, hesabı yanlış yapıyor. Hiç olmayacak bir takım bilgiler veriyor. Öyle bir şey yok, uyduruyor. Bazen bunlara halüsinasyon deniyor. Siz böyle bir sisteme güvenerek çalışamazsınız. Cevabını bildiğiniz şeyler sorabilirsiniz. Mesela yazdığınız bir şeyi biraz daha güzel yazdırabilirsiniz. Onu kontrol edebiliyorsunuz. Ama bir şey sorayım bunun cevabını alayım ve kullanayım… Buna kimsenin güvenecek bir durumu yok henüz. Biz istiyoruz ki güvenilir olsunlar. Bu noktada da işin içine şu giriyor. Ne demek güvenilir olmak? Burada benim çalışmalarım daha çok, sosyal bilimlerde güvenilirlik çalışmalarına bakıp insanlar, insan takımları birbirlerine ne zaman güveniyorlar. O güven modellerini alıp, yapay zekâ sistemlerinin içine bir şekilde entegre etmeye çalışıyorum. Mesela insanlar diyor ki, ilk önce birinin bir işi iyi yapabilmesi güven telkin eder. Yani siz işinizi iyi yapamıyorsanız size güvenmem zaten. İşini iyi yapmak önemli. Ama ikincisi, iyi niyetli olmak, yardımsever olmak önemli. Ben size bir şey sorabilirim. Siz cevabını bana söylersiniz ve biter bu. Ama bir de şunu yapabilirsiniz, ya bir de şununla konuşsana, o da bu konuları merak ediyor. Belki sana yardım eder diyebilir. Benim size hiç sormadığım bir şeyi siz yardımsever olduğunuz için, iyi niyetli olduğunuz için bana söyleyebilirsiniz. Şimdi bu kavramlar ve davranışlar yapay zekâda çok fazla yok. Örneğin empati. Bu kadının şöyle bir derdi var. Size görev olarak düşmese bile gidip araştırabilirsiniz ve bana bir bilgi döndürebilirsiniz. Empati gene yapay zekâda şu an hiç görmediğimiz bir kavram. Ya da dürüst olup ben bu sorunun cevabını bilmiyorum, ben şimdi uydurmayayım diyebilirsiniz. Bunun cevabını bilmiyorum diyebilirsiniz. Ama bugün yapay zekâ sistemleri uyduruyorlar. İşte bunlar ‘güvenirliği’ düşüren şeyler. Biz bunları, bu kavramları hesaplamalı bir şekilde programların içine koyabilirsek, o zaman yapay zekâ sistemleri daha ‘güvenilir’ hareket edecek. Bu da umarım insanların onlara güvenmelerini arttıracak.
“Benim için önemli olan mükemmeliyetin olması değil. Ben bunun yapılabileceğini zaten düşünmüyorum. Ama sınırlarını bilmek, bilmediğini bilmek, yardımsever olmak, empati kurabilmek gibi bu tür yeteneklerle yapay zekânın insanlarla birlikte çalışabilmeyi daha iyi yapması gerektiğini düşünüyorum.”
Siz bir röportajınızda çok güzel ifade etmişsiniz. İnsanlarda kolayca kabullendiğimiz şeyleri yapay zekâda kabullenemiyoruz, mükemmel olmalarını bekliyoruz. Aslında yaşamımızda birçok şeyi olması gerektiği gibi olmadığı halde kabulleniyoruz. Ama yapay zekâdan mükemmeliyet bekliyoruz, diyorsunuz. Bu çerçevede mi düşünmek lazım bunları?
Şimdi bir kere şu önemli. Yapay zekâdan bahsedilirken çok büyük kavramlar konuşuluyor. Etik davranması lazım. Etik davranmasını biz biliyor muyuz? Etik davranma o kadar çok anlamı olan, derinliği olan bir şey ki, sizin bir davranışınız kimi insanlar için etik olabilir, kimi insanların değerlerine saygılı olabilir, ama kimi insanların değerlerine saygısızca davranmış olabilirsiniz. Bu kadar net olmayan bir şeyi pat diye birden bir teknolojide bekliyor olmak bence biraz gerçekçi bir beklenti değil. Onun için bence burada amacımız mükemmeliyet olmamalı. Mesela birisine bir soru sorduğumda, ben bilmiyorum diye bana cevap veriyorsa, bu bir mükemmeliyet değil belki, ama o bence bir dürüstlük ve kendi bilgisinin sınırını bilmek. Şimdi bunu yapabilmek çok zor bir şey. Yapay zekânın bunu tam olarak nasıl yapacağını da bilmiyoruz. Ben bunu böyle söylerken pat diye böyle bir alternatif var ona geçelim diye söylemiyorum zaten. Üzerine düşünmemiz gereken ve bu tür sistemlerin bunları yapabilecek hale getirmemiz gereken bir durum. Benim için önemli olan mükemmeliyetin olması değil. Ben bunun yapılabileceğini zaten düşünmüyorum. Ama sınırlarını bilmek, bilmediğini bilmek, yardımsever olmak, empati kurabilmek gibi bu tür yeteneklerle yapay zekânın insanlarla birlikte çalışabilmeyi daha iyi yapması gerektiğini düşünüyorum.
Yapay zekâyı böyle sizin söylediğiniz şekilde yaparken aslında kendi kendimizi de sorgulayıp insanı da yeniden inşa etmek gibi bir şeye mi dönüşüyor?
Ben çok sorguluyorum. Ben kendimi, davranışlarımı, etraftaki insanların davranışlarını sürekli sorgulayarak ve orada gördüğüm şeyleri, kendi makalelerimde ‘peki bir yapay zekâ bunu nasıl yapabilir?’ diye sorguluyorum.
‘Responsible’ da aynı şekilde mi?
Responsible'de başka bir takım şeyler de işin içine giriyor. Mesela yapaya zekâ geliştiren insanların responsible ya da sorumlu olması da bunun içine katılan bir kavram. Siz bir yapay zekâ sistemini geliştirirken onun özellikle kötü bir şeyler yapmasını engelleyebilirsiniz. Mesela sisteminizin geliştirilmesi sırasında bir hukukçudan destek alabilirsiniz, bir sosyologdan destek alabilirsiniz. Bu şekilde doğru şeyleri yaptığına daha çok emin olabilirsiniz. Bunlar da ‘sorumlu yapay zekâ’nın içine giriyor. Sadece yapay zekâ sisteminin davranışları değil, aynı zamanda o geliştirme süreçleri de sorumlu olarak yapılmış mı diye düşünebiliriz.
Bilgisayar endüstrisinin başında büyük merkezi makineler vardı. Sizin decentralization dediğinizde aklıma geldi. 1970’lerde personal computer yani kişisel bilgisayarlar çıktı. Dünya bundan çok olumlu etkilendi. Yani tıpkı kişisel bilgisayarlar gibi kişisel yapay zekâlar gelir mi ya da kişisel yapay zekâlar ne kadar mümkün?
Zaten şimdiden kişisel yapay zekâ sistemleri geldi. Telefonumuzdaki bazı uygulamalara baktığımız zaman datamızı topluyor, mesela bir spor uygulaması ile şu kadar daha adım at, şunu yap, şunu yapma, bizi yönlendiriyor. Bizim günlük davranışlarımızdan hangi saatlerde ne tür sporlar yapabildiğimizi öğreniyor. Ona göre daha anlamlı şeyler öneriyor. Akşamın köründe kalk yürü demiyor. Bunlar hep bizim verilerimizden öğrenilen şeyler. Diyebiliriz ki bazıları ilk etapta en azından bir merkezi bir veri tabanından da beslenerek çalışmaya başlıyor ama bir yerden sonra bize özel oluyor. Bu aslında çok iyi bir şey, çünkü biz verilerimizi başkalarıyla çok fazla paylaşmak istemiyoruz. Benim verimle çalıştığı zaman, en azından ben bana özel çalıştığını, benim için bir şeyler yapmaya çalıştığını biliyorum. Ve başkalarına uyan şeyleri özellikle bana önermiyor. Çünkü benim başka bir insan olduğumu ve başka şekilde davrandığımı biliyor. Bu aslında bence gidilen iyi bir yol. Bu şekilde bunlar kişisel yapay zekâ sistemleri olduğu için mutlaka birbirlerinden bağımsız olacaklar anlamına gelmiyor. Benim yapay zekâ sistemim sizinkiyle konuşabilir. Mesela ikimizinki arasında konuşup ikimizi aynı anda yürüyüşe çıkarabilir. Böylece sıkılmayacağımızı bilebilirler. Şu anki sistemlerde bile böyle bir takım iletişimler, bu tür şeyler zaten yapılıyor. Benim görüşüm bunların en sağlıklı şekli, yapay zekâ sistemlerinin merkezi olmayıp, uçlarda dediğimiz noktalarda, çok daha iyi tanımlanmış protokollerle birbiriyle konuşup hem ortak çalışabilmeleri hem de bağımsız çalışabilmelerini sağlamaktan geçiyor.
Dünyada sizin dediğiniz anlamda bunun karşılığı, bir örneği var mı? Siz ve ekibiniz kamu veya endüstri için bu konuda neler yapıyorsunuz?
Aslında bu tür yapay zekânın dağıtık çalışıp birbirleriyle konuşması ‘multi agent systems’ dediğimiz bir alan. Bunun uygulamaları var. Çalışmaları da çok var. Mesela mahremiyet alanında bizim yaptığımız birçok çalışma var. Diyelim ki ben bir grup resmini internet üzerinde bir sosyal medyada paylaşmak istiyorum. Ama emin değilim, belki resimdeki diğer insanlar istemeyecekler. O zaman ben önce bunu kendi yapay zekâ sistemime gönderiyorum. Diyorum ki, ‘sen diğerlerinin yapay zekâ sistemiyle anlaş’. Onlar orada aralarında pazarlık yapabiliyorlar. Sizin sisteminiz diyebilir ki, paylaşama saatini gösterme. Başka birisinin yapay zekâsı diyebilir ki, paylaş ama yerimizi söyleme sakın. Bu şekilde kendi aralarında konuşup anlaştıktan sonra benim yapay zekâ sistemim bunu paylaşıyor. Hepimizin olabildiğince mahremiyet isteklerini yerine getirecek şekilde bunu yapıyor. Biz bunu yapay zekâ sistemleriyle otomatize etmiş oluyoruz, otomatik yapmış oluyoruz.
Yapay zekâ ile ilgili korku senaryoları, distopik yaklaşımlar da var. Siz o tarafta değilsiniz sanıyorum değil mi? Bir şekilde çözebilir teknoloji bunları diyorsunuz.
Evet, benim daha zor bulduğum şey yapay zekânın kendisi değil. Daha politik kısımları, yapay zekânın kullanılması. Mesela yapay zekâ çok fazla dezenformasyon ortaya çıkarıyor. Tabii ki bunu yapay zekâ yapmıyor. Bir insan buraya oturuyor, bu sistemi kullanarak daha kolay bir şekilde bunu ortaya atıyor. Şimdi burada bizim insanları değiştirmemiz gerek. Ya da deniyor ki yapay zekâ insanların işini elinden alıyor. Doğru, ama bunu aslında yapay zekâ yapmıyor. İnsanları işten atıp onların yerine başka araçlar koyabilme ihtimalinin olduğunu anladıkları için ve bunun daha iyi, onlar için ucuz bir alternatifi olduğu için bunu şirketler yapıyor. Burada korkulacak şey benim açımdan teknolojinin kendisi değil. Teknolojiyi iyiye kullanırsanız iyi olur, kötüye kullanırsanız kötü olur. Her teknoloji böyledir. Arabayla alıp pazar yerine gidip insanları çarparsanız araba insanları öldürür diyebilirsiniz. Arabayla bir yerden bir yere gidiyorsanız araba hayatımızı kurtarıyor, başka nasıl gidecektik diyebilirsiniz. Bu da bence aynı şey. Yani yapay zekâ bir araçtır, bir teknolojidir. Bunu doğru kullanmak, regüle edilmesini sağlamak çok önemli. Mesela Avrupa'da şimdi EU AI Act dediğimiz, hangi tür durumlarda yapay zekâ sistemini kullanmak kesinlikle yasaktır, hangi durumda risklidir, bu riski göze alarak ne tür adımlar atılması gerekir? Bütün bunlar tanımlanıyor. Böyle bir süreçten geçiyoruz ve bütün dünyada bunun aynı şekilde yapılıyor olması gerekiyor. İlle bir teknoloji aracı var ve bunu kullanabilirim diye kullanmak zorunda değiliz.
“Yani yapay zekâ bir araçtır, bir teknolojidir. Bunu doğru kullanmak, regüle edilmesini sağlamak çok önemli. Mesela Avrupa'da şimdi EU AI Act dediğimiz, hangi tür durumlarda yapay zekâ sistemini kullanmak kesinlikle yasaktır, hangi durumda risklidir, bu riski göze alarak ne tür adımlar atılması gerekir? Bütün bunlar tanımlanıyor. Böyle bir süreçten geçiyoruz ve bütün dünyada bunun aynı şekilde yapılıyor olması gerekiyor. İlle bir teknoloji aracı var ve bunu kullanabilirim diye kullanmak zorunda değiliz.”
Hem Zuckerberg hem de Sam Altman'dı galiba, Avrupa Birliği kararlarına hayli itiraz ettiler. Katı kurallar getiriliyor, yapay zekâyı geciktiriyor, inovasyonu engelliyor diyerek…
Evet itirazlar var. Onun da bir tarafı doğru olabilir. Çünkü bir yandan da pat diye geliştirdiğiniz, akşam internete koyduğunuz şeyi, yarın birisi kullanıyor. Bu da bir şeylerin çok hızlı gelişmesini ve ilerlemesini sağlıyor. Ama bir yandan da pat diye koyduğunuz, yarın birisi kullandı, o koyduğunuz şey yarın kullanan insana bir zarar da verebilir. Bugün nasıl bir ilaç piyasaya sürmeden önce yıllarca denemelerden geçiyor, onaylar alınıyor. Şimdi bakıyorsunuz yapay zekâda böyle bir şey yok. Yani dün birisi koydu, ben bugün kullanıyorum. Öyle olmaması lazım.
Şimdi bütün bunlar akademiye gidişiniz, bilgisayar mühendisliğini seçmeniz, okulunuzun ya da Üsküdar Amerikan Lisesinin hayatınıza nasıl bir katkısı oldu? Şimdi bu çerçeveden baktığınızda okulunuz için neler söylemek istersiniz?
Geri dönüp bakınca çok çok büyük bir etkisi olduğunu söyleyebilirim. O dönem aslında çok katı bir okuldu. Belki hala öyledir tam bilmiyorum. Çok disiplinli bir okuldu. Bu açıdan sevmezdik. Ama tabii ki disiplin bir yerden sonra insana iyi gelen bir şey. Çok çalışmayı bir kere orada öğrendiğimi düşünüyorum. Şimdi özellikle Hollanda'da diğer insanlara baktığım zaman, ben çok fazla çalışabiliyorum. Bu disiplin bence o yaşlardan gelmiş bir şey. İkincisi, orta üçe kadar sanırım kız okuluyduk. Onun getirdiği garip bir dinamik var. Başka okullardan kadın arkadaşlarım hep söyler. Şu erkek mesleğidir, bu kadın mesleğidir, bu erkek sporudur, bu kadın sporudur. Bende böyle kavramlar yok. Çünkü herkes kız olduğu için bizde hepimiz herkes her şeyi yapabilirdi. Ben basket takımındaydım, işte bilgisayarlarla haşır neşirdim. Karma bir okulda olsaydım çok büyük bir ihtimalle, bu ikisi de erkeklere ayrılmış kotalara gidecekti. Ben bugün başka şeyler yapıyor olacaktım. Bunlar açısından da çok müteşekkirim aslında. Ve daha o yıllarda, bundan 30 yıl önce bilgisayar dersleri açabilmiş bir okul. Olimpiyatlara öğrenci yetiştirme vizyonu olmuş bir okul. Herhalde elle sayılacak kadar azdır bu tür okullar. Bende çok büyük etkisi ve emeği var okulumun.
Bu alanda çalışmış ve başarılı olmuş kadın bir bilgisayar bilimci olarak özellikle gençlere neler söylersiniz?
Tavsiye etmek benim haddime değil. Ama yani belki söyleyebileceğim bir şey, insanın iyi yaptığı şeylerde ve ilgisi olan şeylerde ileriye gidiyor olması. Birazcık insanın kendine bunu sorup, ben bunu seviyor muyum? Ben buna ilgi duyuyor muyum? İyi miyim bunda? Bunları kurcalaması iyi oluyor. İkincisi, mesela üniversite sınavına çalışırken, benim olimpiyat zamanım üniversite sınavımla aynı zamanlara denk geldi. Bir tarafım doğrusu üniversite sınavına çalışmaktır diyordu. Ama tabii ki öbürü, olimpiyata çalışmak çok daha zevkli bir şey. Ben birazcık daha kafamın dikine gittim. Kafanın dikine gitmek de iyi bir şey. Bir yerden sonra bir kere yaşıyoruz. Herkes bunu yapıyor diye bunu yapmak yerine, insanın kendini yoklayıp ilgisi olduğu, sevdiği şeyi, daha iyi hissettiği bir şey yapması güzel diye düşünüyorum.
Okul arkadaşlıklarınız sürüyor mu? Yani görüşüyor musunuz?
Evet görüşüyorum. Hollanda'da bile Üsküdar Amerika'ndan yakın arkadaşlarım burada da yakın arkadaşlarım. Bugün bu söyleşiden önce bütün Üsküdar Amerikan 94 grubuna mesaj atıp buraya çıkacağımı söyledim. Onlara bazı şeyler bile sordum. Nasıl biriydim ben, diye sordum. Sorulursa ne söyleyeyim dedim. Zaten Üsküdar Amerikan'ın arkadaşlıkları çok bilinen bir şey. Çok güzel arkadaşlıklarımız oldu ve devam ediyor. Benim bütün hayatım boyunca ‘go-to’ insanlarım Üsküdar Amerikan'dan arkadaşlarım oldu.
Son olarak söylemek istediğiniz şeyler var mı?
Herkes bir şekilde kendine bir yol çiziyor. Benimki de böyle. Bunun iyisi, kötüsü, doğrusu, yanlışı olmuyor. Yaşayınca hayatta, bazen hiç beklemediğimiz şeyler gösteriyor bize. Devam ediyoruz.
Çok teşekkür ediyorum Hocam. Çok sağ olun, çok keyifli bir sohbetti hakikaten.
Benim için de, çok teşekkürler.
