Bana Güvenebilir Misiniz: Kimdir Bu Sam Altman?

Geçtiğimiz haziranda düzenlenen Bloomberg Technology Summit’te, kendisine yöneltilen sorusuna böyle yanıt vermişti Open AI CEO’su Sam Altman… Böyle tek başına duyunca biraz tuhaf geliyor değil mi? Sonuçta içinde güven kelimesinin yer aldığı bir soru için güvenmesi epey güç bir cevap gibi bu.

İşte Altman’ın bu cevabından beş ay sonra olanlar oldu. İçinizde takip edenler varsa malumudur, teknoloji dünyası adına son zamanların en şok edici gelişmelerinden birisiydi bu. Koca bir sektörün gündemini değiştiren bir haberdi… Open AI, şirketin CEO’su Sam Altman’ı kovma kararı almıştı! Kimileri yaşananlara bir anlam veremiyor, kimileriyse bu kararı büyük bir hata olarak değerlendiriyordu. İşin tuhafı Open AI’ın yönetim kurulu, aldığı kararın üzerinden bir hafta geçmeden Altman’ı görevine geri getirdi.

Ben de bu haberin üzerine YouTube’da bir video çekip, oluşturduğu yankıları ve düşündürdüklerini paylaşmıştım sizlerle. Şimdiyse hikayenin daha da derinlerine, biraz da geçmişine odaklanacağız… Nedir bu süreçte yaşananlar? Kimdir bu Sam Altman, neyi savunuyor? Open AI ile neden ters düştü? Ona neden güvenmeli ya da neden güvenmemeliyiz?

Ne çok soru var değil mi? Ama bu sorulara gelmeden önce, bilmeyenler için geçtiğimiz günlerde yaşananları kısaca bir özetlemek, kaseti biraz geriye sarmak gerekiyor.

17 Kasım’da, ABD Borsaları’nın kapandığı esnada, Chat GPT ve Dall-E gibi gelişmiş yapay zekaları geliştiren Open AI şirketinin yönetim kurulu toplandı. Toplanma sebepleriyse 2020’den beri şirketin CEO pozisyonundaki Sam Altman’ın görevden alınmasıydı. Yapılan oylama sonucunda kurul, Altman’ın Open AI’dan kovulmasına karar verdi. Bu kararın ardından gelen açıklamada Altman’ın; kurulla tutarlı ve samimi bir şekilde iletişim kurmadığını, bu tutumuyla kurulu kısıtladığını ve şirkete liderlik etme becerisine dair güvenlerinin tükendiğini gerekçe göstermişlerdi.

Haberin ardından şirketin kurucu ortaklarından Greg Brockman istifa ettiğini duyurdu. Onun peşinden Open AI’ın araştırma biriminde görev alan üç üst düzey araştırmacı da istifasını verdi.

Ancak olanlar burada da bitmemişti… Ertesi sabah, yani 18 Kasım’da, Open AI’ın operasyon direktörü Brad Lightcap, şirketin çalışanlarına bir mesaj gönderdi.

Mesajında, Sam Altman'ın kovulmasının "görevi kötüye kullanma" gibi bir sebepten kaynaklanmadığı, Sam ve kurul arasında ciddi bir görüş ayrılığı yaşadığı ifade ediliyordu. Aynı gün kurulun kararına tepkili olan yatırımcılar, Sam Altman'ı yeniden CEO yapmak için görüşmelere başladılar. 20 Kasım’daysa Microsoft, yeni bir proje çalışmak üzere Sam Altman ve Greg Brockman'ı transfer ettiğini açıkladı. Hemen ardından ikili Microsoft bünyesinde sıfırdan, yepyeni bir şey inşa edeceklerini duyurdular. 22 Kasım’daysa yılan hikayesine dönen Open AI - Sam Altman ayrılığı son buldu. Şirket yaptığı açıklamada Altman’ın yeniden CEO görevine döneceği haberini servis etti...

Bu süreç filmlerde, dizilerde falan karşımıza çıkıyor daha çok değil mi? Sadece beş günde yaşanan git gelleri düşündüğümüzde bile insanın aklı karışıyor. Fakat bu tür aksiyonların, böylesi büyük şirketlerde yaşanması gayet normal aslında. Neyse ki şirkette sular şimdilik durulmuş gibi görünüyor. Ama gelin biz biraz daha geçmişe dönelim ve az önce sorduğumuz sorulardan birine cevap arayalım… “Kimdir bu Sam Altman?”

1985 doğumlu Altman, 2005’te Stanford Üniversitesi’nde Bilgisayar Mühendisliği okumaya başladı. Daha okulun ilk yılında, birkaç arkadaşıyla eğlencesine bir proje geliştirdi Sam. Kullanıcıların birbirleriyle lokasyonlarını paylaşmasını sağlayan bir app’ti geliştirdikleri Loopt… Evet, daha ortada iPhone ya da diğer akıllı telefonlar yokken, üstelik mobil uygulamaların kullanımı bile henüz yaygınlaşmamışken geliştirmişlerdi bu projeyi. Haliyle Sam de dikkatleri üzerine çekecekti. “Tahminen onun için Stanford’un yeni yıldızı bile diyenler olmuştur…” diye düşünebilirsiniz elbette. Ancak hikaye pek de öyle devam etmedi arkadaşlar. Sam ilk yılının sonunda okulu bırakma kararı aldı. Fakaat bu bir sonun değil, bir başlangıcın tetikleyicisiydi.

Ünlü bir bilgisayar programcısı ve yatırımcı olan Paul Graham’ın internette paylaştığı bir ilan, onun ve arkadaşlarının da hikayesindeki kırılma noktası olacaktı. Graham yeni bir girişimcilik topluluğu oluşturuyordu. Özellikle de bilgisayar programcılığı alanında parlak fikirleri olan gençler için, part time bir çalışma fırsatı sunuyordu bu topluluk. Bu ilanın geleceğe dair hayal ettirdiklerini de çantasına atan Sam, bir daha dönmemek üzere Stanford’dan ayrılmıştı.

Daha sonra Graham’ın davetiyle, Y Combinator isimli girişim hızlandırma programına katıldı Altman. Burada bedava yemek ve 6 bin Dolar gibi sektör için ufak sayılabilecek bir bütçeyle, kendi projelerini geliştirmeye başlayan ilk ekibin arasında yer aldı. Bu arada Y Combinator, teknoloji dünyası açısından epey önemli bir topluluk. Bu çatı altında Airbnb, Dropbox ve Reddit gibi birçok ünlü uygulama geliştirilmiş. Sekötrde “King Maker” sıfatıyla da anılıyorlar hatta.

Paul Graham da insanların bağ kurabileceği fikirlere sahip çıkan bir vizyona sahipti. Şayet böyle bir fikirle karşılaşırsa, kimden çıktığını önemsemeden bir şans verirdi. İşte bizim Sam Altman da bu vizyonun ışığında yetişti ve part time bir çalışan olarak girdiği Y Combinator’e, 2011’de partner, 2014’teyse başkan oldu. Değeri 65 milyar Dolar’ı aşan şirketin başına geçtiğinde tam olarak 28 yaşındaydı Sam Altman…

Takvimler 2015’i gösterdiğindeyse Elon Musk, Ilya Sutskever ve Greg Brockman ile birlikte kar amacı gütmeyen Open AI’ı kurdu Altman. Bu şirketi kurmaktaki esas amaçlarınıysa “dijital zekayı insanlığa maksimum fayda sağlayacak şekilde geliştirmek” olarak duyurdular.

Open AI’ın kurulmasından sonraki ilk işse, yapay zeka alanında önde gelen araştırmacılardan oluşan bir takım kurmak oldu. Bu ekip, güvenli bir şekilde artırılmış zeka ve makine öğrenmesi üzerine bir programın tasarlanması için hemen kolları sıvadı. 2016 - 2022 arasında yapılan sıkı çalışmalar ve test süreçlerinin ardından Open AI’ın ilk alametifarikası Chat CPT kullanıma açıldı. Ancak Open AI çalışanları tasarladıkları bu yapay zekanın böylesine popüler olacağını ne düşünüyor ne de hedefliyordu.

Hatta şimdilerde günlük 100 milyon kişinin kullandığı programın yayınlanmasındaki temel fikir, kullanıcılar tarafından gelecek geri bildirimlerle GPT’nin kusurlarının fark edilip giderilmesiydi. Ki zaten bu süreçte GPT’nin yazılım ekibi sürekli olarak bu kusurları tespit edip gidermeye çalıştı ve program 23 kez güncellendi. Bu da milyonlarca insanın, GPT’nin limitlerini “test etmesi” sayesinde oluyor. Yani GPT’nin kusurlarını da kullanıcılar saptıyor diyebiliriz.

Sam Altman ve Open AI’ın macerası işte böyle başladı. Chat GPT ve Dall-E gibi programlarla milyonlarca insana ulaştılar. Ancak bu romantik hikaye de bir noktada sonlanmış, neticesinde Open AI’ın yönetim kurulu ve Sam ters düşmüştü.

Pekiii sonu bir krize varan bu sürecin altında yatan esas gerekçeler neler? İşte bu sorunun cevabını da kısa bir aradan sonra ele alacağız.

Nerede kalmıştık? Heh! Sam Altman ve Open AI arasındaki krizin derinlerine inecektik, değil mi?

Konu Open AI olunca bir isimden daha bahsetmek gerek. Şirketin baş bilim insanı Ilya Sutskever’den…

Sutskever, Google Brain’de çalıştığı üç yılın ardından, Elon Musk’ın davetiyle Open AI’ın kurucu kadrosuna dahil oldu. İlk başlarda Chat GPT’nin böylesine bir başarı sağlayacağını tahmin dahi etmediğini söylüyor sık sık. Bununla birlikte yapay zekanın potansiyel tehlikeleri olduğuna dair endişelerini de dile getirmekten hiç çekinmiyor. Örneğin “on yıl içerisinde insanlardan daha üstün bir yapay zekanın ortaya çıkacağına inanıyorum” minvalinde açıklamalar yapabiliyor. Yapay zekaların gelecekte istihdam, hastalık ve yoksulluk gibi derin sorunları çözme gücüne sahip olacaklarını düşünüyor. Öte yandan otomatik yapay zeka silahlarının ortaya çıkacağını, hatta sonsuza dek sürebilecek diktatörlükler gibi yeni sorunların da yaşanabileceğini iddia ediyor.

Ancak Sutskever’in başka bir endişesi daha var… Başlangıçta kar amacı gütmeyen bir araştırma kurumu olarak konumlanan OpenAI’ın, kısa zamanda büyük bir finansal gelir elde etmesi, onun en büyük endişelerinden. Zira şirket daha büyük yatırımlar alıp, yapay zekanın gelişim hızı kontrol edilemez bir boyuta gelirse, insanlığı bir felaketin beklediğini düşünüyor. sözleriyle bu endişesinin altını çiziyor Sutskever.

İşte tam da bu noktada ayrışıyor Altman ve Sutskever… Bir tarafta hızlı bir ekonomik büyüme ve teknolojik gelişmeyi hedefleyenler dururken, diğer taraftaysa yapay zekanın kontrol edilememesine dair endişeler barındıran “efektif alturistler”, ya da Türkçe isimleriyle özgeciler.

Effective Alturism’i kabaca, en acil küresel sorunları maksimum sayıda insanın yararına çözmek için araştırma yapmayı ve akıl yürütmeyi amaçlayan bir hareket olarak tanımlayabiliriz. Burada önemli olan noktaysa yaptığınız iyilik karşısında herhangi bir beklenti içinde olmadan, tamamen empati kurularak hareket edebilmek. Örneğin; bu düşünceye sahip olan kişiler, Afrika’da susuzluğu gidermeyi ya da gelecekte yaşanabilecek yeni bir salgın hastalığı önlemeyi, terör olaylarını durdurmaktan daha önemli görüyorlar. yani hedefiyle çalışıyorlar.

Son dönemde efektif alturistler, insanlığı yok etme potansiyeli olan tehlikeler üzerine de düşünmeye başladı. Nükleer savaş ya da pandemi gibi tehlikelerin yanında, yapay zekaların dünyayı ele geçirebileceği AI Apocalypse de liste yer alıyor. Öyle ki 2000'li yılların başlarından bu yana birkaç yapay zeka teorisyeni, güçlü bir yapay zekanın ortaya çıkmasının insanlık için tehlike, hatta kıyamet anlamına gelebileceğini öne sürüyor. Bu fikir, yapay zeka oluşturma çalışmalarından kaynaklı feci sonuçları önlemeyi amaçlayan yapay zeka güvenliği konusunu da ortaya çıkardı.

Ilya’nın da savunduğu gibi, yapay zeka konusundaki ilerlemeyi kontrollü bir şekilde gerçekleştirmezsek, başımıza büyük felaketler gelebilir. Zaten o da bu tip teknolojilerin, bürokrasi ya da siyasetle birlikte şekillenmeden önce, teknik anlamda daha sağlıklı ve özgür bir ortama ihtiyaç olduğunun altını çiziyor. YouTube’daki videomda da bahsettiğim, 2019 yapımı belgesel iHuman’da, yapay zekanın birçok soruna çare sunduğu kadar yeni tehlikelere de zemin hazırladığı konusunda da net bir şekilde uyarıyor bizi Ilya.

İşte Sam ile Ilya’nın ayrıştıkları nokta tam da burası… Ki Ilya da bu zıtlık dolayısıyla yönetim kurulunun yaptığı ilk toplantıda Sam’in aleyhinde oy kullanmıştı. Her ne kadar birkaç gün sonra, Altman’ın tekrar CEO görevine geri alınması yönündeki karara destek verdiğini açıklasa da, yapay zeka gelişimindeki hıza dair duyduğu endişeler baki…

Son olarak bölümün en başında sorduğumuz bir soruyu tekrar hatırlatacağım size: “Sam Altman’a güvenmeli miyiz?” Bu elbette çok kişisel cevaplar verebileceğimiz bir soru. Ancak kime ve neye güvenip güvenmeyeceğimize karar vermeden önce, yaşanan bu süreçleri iyi analiz etmemiz gerekiyor. Gündemin akışına kapılmadan evvel tarafların savunduğu şeyleri iyi anlamalıyız. AI meselesini sadece popüler bir konu olarak değil, detaylarıyla incelenmesi gereken ciddi bir süreç olarak ele almayı unutmamalıyız. Böylece bu gelişmeleri daha iyi kavrayabilir, kime ya da neye güvenebileceğimizi daha net seçebiliriz… Bakalım bu çalkantılı Altman - Open AI süreci gelecekte nelere yol açacak ve tarihte nasıl bir yer bulacak? Bu dönemin tanıkları olarak birlikte göreceğiz.