GPT-3 ve DeepFake Gibi Tuhaflaşan Şeyler Arasında Eğitim



Makine bir kere öğrenmeyi öğrendi ve geri dönülmez bir süreç başladı.


İşlemci gücü arttıkça ve öğrenmek için daha çok kaynak buldukça daha iyi öğreniyor. Daha iyi öğrenince daha doğru algılamaya, düşünmeye ve tepki vermeye başlıyor. Daha iyi tepki verdikçe insandan daha çok rol çalışıyor. Gidişata bakınca “Makine insandan daha akıllı olur mu?” gibi saçma ama aynı zamanda mantıklı bir soru akılları meşgul ediyor. Elon Musk örneğin, 2025’te yapay zekanın artık insandan daha üstün hale geleceğini düşünüyor. Ama sağ olsun içimizi de rahatlatıyor. “Bu olduğunda ortalık cehenneme dönmeyecek ama sadece her şey daha tuhaf olacak”.

GPT-3

Her şeyi daha tuhaf hale getirecek yapay zekâ teknolojilerinden birisi de yeni gün yüzüne çıkan GPT-3 teknolojisi. Aslında yapay zekâ ile ilgili sürekli yeni haberler alıyoruz ama GPT-3 sıradan bir gelişme değil, büyük bir adım gibi duruyor. OpenAI tarafından geliştirilen teknolojinin açılımı “Generative pre-trained transformer” yani üretken ön işlemeli dönüştürücü. 175 milyar parametreye sahip bir doğal dil işleme teknolojisi.


Şöyle özetleyelim. GPT-3’ün bir hafızası var. Örneğin, yaklaşık 6 milyon sayfalık İngilizce Wikipedia’yı ezbere biliyor. Çok etkileyici. Ama daha etkileyici olan şu: Wikipedia, GPT-3 hafızasının sadece yüzde 3’ünü oluşturuyor. İnternetin tamamı, özellikle ortak tarama (common crawl) arşivi ve dijitalleştirilmiş kitaplar da GPT-3’ün beslenme kaynağı. Siz bile internete yüklediğiniz bilgilerle bu bilgi oburu sanal yaratığı besliyor olabilirsiniz. Peki bu kadar bilgiyi nasıl yönetiyor? O da bilgi kayıt yapısına bağlı. Bilgiler birbiri ile yakınlıklarına göre kaydediliyor ve bu yakınlıklardan bir sinir ağı oluşuyor. Siz GPT-3’e bir soru sorduğunuzda ya da bir miktar metin verdiğinizde, metninizde geçen ifadelere en yakın kayıtlı bilgilerden başlayarak yeni bir metin üretim zinciri başlatıyor. GPT-3’ü bu kadar popüler yapan da bu üretimin kalitesi. Üretilen metinler, elbette ki tutarsız olanlar da var, hiç olmadığı kadar başarılı. Öyle ki, bazıları bir insan tarafından mı yoksa GPT-3 tarafından mı üretildi, kolay kolay ayırt edilemiyor.


Makine tarafından üretilen ve gerçek gibi gözüken metinler doğal olarak endişe verici. GPT-3’e bu yönüyle yaklaşan birçok yorum var. Bu teknolojinin kötü amaçla kullanılması en büyük endişe kaynağı. Üstelik bu, verilen bilgilerden kendi kendine öğrenen bir yapı. Var olan bilgiler içindeki yanlışlıklar ve önyargılar doğal olarak GPT-3’ün düşünme algoritmalarını da yanlı hale getiriyor. Bu açıdan teknolojinin aslında o kadar mükemmel olmadığı ve çok abartıldığını düşünenler de az değil. Buna gerekçe olarak sorulara gelen saçma ya da tutarsız yanıtlar örnek gösteriliyor.


İşin karanlık ve eleştirel taraflarını da araştırmanızı önerelim ve şimdilik devem edelim.

İlk kullanım örnekleri

OpenAI bu teknolojinin API’sini belli kullanıcılar beta olarak açtı ve şimdiden birçok ilginç ve ürkütücü örnekler çıkmaya başladı. TheGuardian’da yayınlanan ve GPT-3 tarafından yazılan makale, bu yeni teknolojiyi birden geniş kitlelere duyurdu. Liam Porr isimli bir öğrencinin GPT-3’ü kullanarak oluşturduğu Adalos isimli blog sitesi, binlerce insan tarafından sanki gerçek birilerince yazılmış gibi algılandı. Formal yazıların ötesinde, yaratıcı kurgusal metin üretmek de GPT-3’ün ilgi alanları arasında. Devasa belleği ve giderek derinleşen ilişkisel düşünme ağı ile bu alanda da epey ilginç metin ortaya çıkacak gibi gözüküyor. Bazı yaratıcı yazım örnekleri için buraya bakabilirsiniz. Duygusal altyapısı olmadan yazılan bir şiir olur mu? Olmaz diyelim. Ama ya okuyucu bunu makinenin yazdığını anlamıyor ve okuduğu şiirden duygulanıyorsa? İşte bir tuhaflaşma durumu daha! Sorulan sorulara mantıklı yanıtlar vermek, çeviri, beste yapmak, eksik resimleri tamamlamak, mantıksal çıkarımlarda bulunmak, fikir üretmek gibi alanlar GPT-3’ün ilk kullanım örneklerinin ortaya çıktığı alanlar.


GPT-3 aynı zamanda belli programlama dillerini denetleyebiliyor hatta kod da yazabiliyor. Bu kabiliyeti ile birlikte kodlama mesleğinin geleceği ile ilgili tartışmalar da alevlendi. Acaba GPT-3 gibi yapay zekâ teknolojileri sayesinde, programlama bilgisi olmadan, konuşma diliyle kod yazmak mümkün olabilecek mi? Düz metin kullanarak tasarım, CSS kodu oluşturma ve SQL kodu yazdırma uygulamaları ilk ortaya çıkanlardan bazıları. Siz kodlamak istediğiniz şeyi tarif ediyorsunuz, o da size kodunu yazıyor. Kuşkusuz kodun kalitesi, çalışıp çalışmayacağı gibi birçok değerlendirme var ama istek ve bağlam iyi tarif edildiğinde kodun kalitesi de o oranda iyi olacak diye değerlendiriliyor.


Benzer tartışmalar başka alanlarda da var. Tıp alanı örneğin. Hastalıkla ilgili belirtileri söylediğinizde, cebinizdeki aile hekimi Doktor GPT-3, sahip olduğu devasa vaka bilgisi ile hastalık teşhisini hiçbir doktorun yapamadığı doğrulukla yapabilir mi? Peki ya hukuki konularda vakanın detaylarından hareketle hüküm veren bir uygulama? Bu tartışmaları sahiplerine bırakıp biz kendi alanımıza dönelim.

GPT-3 Eğitmen olursa

GPT-3 aslında ilk çıktığı andan itibaren bir eğitmen. Sorduğunuz sorulara bilgi birikimiyle yanıt verebilmesi onu zaten bir eğitmen yapıyor. Diyelim ki merak ettiğiniz bir şey var. Soruyorsunuz, yanıt veriyor ve öğrenmenize yardımcı oluyor. Bu deneyim, konuşma robotları ile daha önceden de yapılıyordu ama bu kadar büyük bir dil modeli daha önce hiç geliştirilmedi. Hal böyle olunca GPT-3 ciddi bir eğitmen adayı olarak gündemimize girdi.


Üstelik yorumlama gerektirmeyen bilgiler, örneğin temel ansiklopedik içerikler, tüm detayları ile kaydedilmiş gerçek olaylar, kurallar, işlem adımları, tarifler, GPT-3’ün en başarılı şekilde aktarabileceği alanlar. İnternet aralamalarında karşımıza çıkan onca alternatif kaynak yerine GPT-3’e sormak birçok kişi için daha çekici olabilir. Çünkü burada bir bilene sorma, onunla sohbet etme, gelen yanıtlara göre ek sorular sorma imkânı var. Yani ironik ama daha insani bir öğrenme deneyimi.

İşte deneysel bir çalışma: Learnfromanyone, yani birisinden öğren. Hem de öyle sıradan birileri değil. Mesela roket bilimini Elon Musk’tan, felsefeyi Aristo’dan, yazarlığı Shakespeare’den öğrenmeyi mümkün kılan bir uygulama. Siz Aristo ile konuşuyorsunuz, ona sorular soruyorsunuz ve o da size cevap veriyor. Uygulama çok deneme aşamasında ama fikrin kendisi, bunun yapılabileceği altyapının varlığı ve ilk denemelerin yapılmış olması bile heyecan verici.


Başka bir örnekte bir kullanıcı GPT-3 veri tabanından beslenen bir uygulamaya, seçenekleri de olan çoktan seçmeli bir tıp sorusu soruyor. Uygulama sadece doğru yanıtı söylemekle kalmıyor, aynı zamanda neden o yanıtın doğru olduğuna ilişkin bir açıklama da yapıyor. Çoktan seçmeli sınavların bu kadar yoğun olduğu ülkemizde, bu sınavlara çeşitli dönemlerde hazırlanan milyonlarca kişi düşünüldüğünde GPT-3’ün tek başına akıllı bir dershane olabileceği fikri ister istemez akla geliyor.


Bu uygulamalardan hareketle, bir bilgi kaynağı ve anlatıcı olarak GPT-3’ün çok işlevsel olabileceğini anlıyoruz. Şimdi biraz daha artıralım.

Peki GPT-3, "deepfake" ile birlikte sesli ve görüntülü bir eğitmen olursa

Soru sorup yanıt almak tamam ama “GPT-3 ile görüntülü konuşmak mümkün olur mu?” sorusu sorulduğunda akla hemen yine bu günlerde popüler hale gelen "deepfake" teknolojisi geliyor. Bu teknoloji, mevcut bir görüntü veya videoda yer alan bir kişi görüntüsünün, yapay sinir ağları kullanarak bir başka kişinin görüntüsü ile değiştirilmesini sağlıyor. Bu, sinemada zaten kullanılan zahmetli bir teknikti ama şimdi herkesin yapabileceği kadar basit bir hale geldi. Yani arkada ben konuşuyorum ama siz bu konuşmayı başka birisinden dinliyorsunuz. Uygulama çıktığından beri birçok video üretildi, mutlaka denk gelmişinizdir, ama yine de YouTube’da bir "deepfake" araması yapmanızı öneririz.


Eğlenceli olmasının yanı sıra tehlikeleri de ile gündeme gelen bir uygulama. Gerçeğinden ayırt edilmesi zor olan görüntülerin, sahtekarlık, kandırma, manipülasyon, provokasyon, iftira vb. amaçlarla da kullanılma ihtimali çok yüksek. Bu yüzden uygulama kullanımının denetlenmesi ve sınırlama getirilmesi gibi önlemlerin de gündeme gelebileceği bekleniyor.


Ama biz şimdilik "deepfake" teknolojisini GPT-3 eğitmenimize bir görüntü giydirmek için kullandığımızı düşünelim. Diyelim ki GPT-3 altyapısı ile çalışan “Benden öğren” diye bir uygulama var. Ona bir soru soruyorsunuz ve size “Yanıtı kimden dinlemek istersin?” diye soruyor. Seçenekler arasında birçok ünlü isim var. Siz birisini seçiyorsunuz ve o isim sizin sorunuzu yanıtlıyor ya da size bir şey anlatıyor. Hatta doğrudan o bilginin sahibinden eğitim alabiliyorsunuz. Örneğin Einstein canlı ve görüntülü bir şekilde fizik bilgisini doğrudan seninle paylaşıyor. Senin adını söylüyor, sana istediğin kadar vakit ayırıyor, her sorunu yanıtlıyor…


Bu sayede öğrenme heyecan verici bir deneyime dönüşebilir. Ama biraz daha artıralım.

Peki GPT-3 karma geçeklik ile bizzat bir öğrenme ortamının kendisi olursa

Karma gerçeklik (mixed reality) sanal ve artırılmış gerçekliğin birlikte kullanımı. Sanal gerçeklikte, gerçek dünyadan kopup kurgusal başka bir dünyaya giriliyor. Artırılmış gerçeklikte ise gerçek dünyadan kopmadan gerçek ortamlar üzerinden ek bilgi ve görüntülere ulaşılabiliyor. Karma gerçeklikte, gerçek ortamlar üzerinden ek dijital içeriklere ulaşılabildiği gibi sanal kurgusal katmanlara da geçiş yapılabiliyor. Böylece deneyim çok daha gerçekçi ve zengin hale geliyor.


Çalışma odanızda oturuyorsunuz. Karma gerçeklik gözlüğünüzü taktınız. O da ne! Einstein hemen yanımızdaki koltukta oturup size gülümsüyor ve “Hadi sor bana?” di sesleniyor. Veri kaynağı yine GPT 3. Biz de Einstein’ın karşısına oturuyoruz. Sohbet başlıyor. Sorularınıza yine sabırla yanıt veriyor. Siz istediğiniz sürece sizinle sohbet ediyor. Derken atomun yapısı ile ilgili bir soru sordunuz. O sırada çalışma odanızın duvarında birden bir kapı açılıyor ve Einsten o kapıya doğru yönelirken sizi de çağırıyor. Kapıdan geçer geçmez kendinizi birden bir atomun içinde buluyorsunuz. Atomun içinde seyahat ediyorsunuz. Tüm işleyişi yerinde görüyorsunuz. Einstein da size her şeyi göstererek anlatıyor.


Öğrenmemek mümkün değil. Ama hadi biraz daha artıralım.

Peki GPT-3 ve insanımsı bir robot ile gerçekmiş gibi canlı bir eğitmen olursa

İnsan, implant, yapay doku, çip gibi eklentilerle makineleşiyor; makine de zekâsı, hareketleri ve görüntüsüyle giderek insanlaşıyor. Teknolojik tekillik (singularity) denen durum da makine ve insanın birbirine yakınlaşmasının son noktasını ifade etmek için kullanılan bir terim. Bu süreç adım adım ilerliyor. İnsan gibi hareket eden Atlas robotu, ya da insan gibi görünen Sophia, Nadine robotlar zaten üretildi. Başka örnekler de var. Benzer şekilde insan kapasitesini artıracak teknolojiler üzerine de sürekli çalışılıyor.


Peki çalışma odanızda çalışırken birden kapı açılsa (gerçek oda kapısı) ve içeriye bire bir Einstein gibi görünen bir insanımsı robot girse. Yine GPT-3 destekli devasa bilgi birikimi ile sizinle sohbet etse. Hatta sürekli sizde kalsa. Sürekli danışabileceğiniz kişisel bir mentorunuz olsa…


Bunun ötesi yok gibi ama biz yine de biraz artıralım.

Peki ya biz doğrudan GPT-3’e bağlanabilsek

İşte burası son nokta. Tekillik denen seviyede gerçek olması olası ya da istenen şey. Tüm bilgilere, vücuda yerleştirilecek belli arabirimler sayesinde doğrudan ulaşabilmek ve tam tersi, belleği dijital ortama aktarabilmek. “Mümkün olur mu?” gibi teknik soruları ve “İyi olur mu?” gibi etik soruları bir kenara bırakarak daha önceden başladığımız akıl yürütmeyi tamamlayalım.


En yakın GPT-3 kliniğine giderek kendinize bir arabirim taktırdınız. Ya da kim bilir, internetten satın alıp kendiniz taktınız. Belleğiniz birden milyarlarca sayfalık veri kaynağına doğrudan erişebilir oldu. Öğrenmek istediğiniz şeyi sadece düşünmeniz yeterli. Bu düşünce, beyninizdeki arabirimler tarafından bir sorgulama talebi olarak algılandı ve GPT-3’e iletildi. GPT-3 sorunuza ilişkin en makul yanıtları topladı ve size gönderdi. İşte sihir geçekleşiyor. Bir şeyi bilmek istediğiniz anda onu zaten bildiğinizi fark ediyorsunuz.


Black Mirror dizisinden bir sahne gibi oldu. Ama adı üstünde, olur ya da olmaz diye düşünmeden akıl yürütme yapıyoruz. GPT-3’ü geliştiren OpenAI’ın yatırımcılarından birisinin Elon Musk olduğunu ve aynı kişinin tam da bu söylediklerimize benzer işler yapması için Neuralink adında bir şirket kurduğunu biliyoruz. "GPT-2 çok tehlikeli yasaklanmalı!" tartışmaları bitmeden, birden ondan çok daha kapasiteli ve doğal olarak daha tehlikeli bir dil modelini konuşmaya başlıyoruz. Her şey çok hızlı ilerliyor ve her şeyin mümkün olabileceğine dair kanı giderek yerleşik hale geliyor.


Son olarak bu eğitmen meselesini bizzat GPT-3’e sorarak bitirelim. Soru sorma kanalları henüz çok değil ama GPT-3 ile çalışan bir fikir üretme motoruna “GPT-3 bir eğitmen mi?” sorusunu sordum. Biraz düşündükten sonra şu gizemli yanıt geldi: GPT-3, bir parça kâğıt ve bir kalem ile size eğlenceli ve etkileşimli bir şekilde nasıl çizim yapılacağını öğreten bir "öğretmen"dir. Kalemi kâğıdın üzerine koyduğunuzda, kalem kâğıda çizmeye başlar ve size bundan sonra ne yapacağınızı söyler. Her adımdan sonra, kalem bir sonraki adımda nereye gideceğinizi göstermek için bir çizgi çizer.


Yani, evet ben her şeyi bilen bir öğretmenim demek istiyor sanırım. :)


Mehmet Gürsoy, 2020

Bu yazıya atıfta bulunmak isterseniz aşağıdaki referans metnini kopyalayabilirsiniz.

Gürsoy, M (2020), GPT-3 ve DeepFake Gibi Tuhaflaşan Şeyler Arasında Eğitim. Ledd. Erişim Tarihi: gg.aa.yyyy, https://www.ledd.io/post/gpt3-ve-deepfake-gibi-tuhaflasan-seyler-arasinda-egitim