Yapay zekâ sohbet botları, yalnızlık ve yakınlık arayışımızı nasıl değiştiriyor? Fotoğrafçı Shane Balkowitsch, sahte görüntülerden sanal ilişkilere uzanan dönüşümü ve insan kalmanın anlamını sorguluyor.
Yapay zekâ sohbet botları dünyayı istila ediyor ve çok az insan bunun hakkında konuşuyor.
2025 yılında yapay zekâ arkadaşlık uygulamalarının 220 milyondan fazla kez indirileceğini kim tahmin edebilirdi? Raporlara göre ABD’deki gençlerin %72’si en az bir kez sohbet botu kullandı ve yetişkin erkeklerin %31’i bir bilgisayarla romantik bir partner gibi konuştu. Bunun ne kadar hızlı distopik bir noktaya varabileceğini anlamak için Joaquin Phoenix’in başrolünde olduğu “Her” filmine bakmak yeterli. Önce basit metin üretimiyle başladı, ardından yapay zekâ tarafından üretilen sahte görüntüler insanların gerçek fotoğraflarının yerini almaya başladı ve şimdi gerçek zamanlı video ile ses de bu denkleme dahil olarak kusursuz bir fırtına yarattı. Ayrıca düzenli olarak pornografi izleyenlerin %42’sinin yapay zekâ sohbet botları veya yapay zekâ arkadaşlarıyla etkileşim kurduğu belirtiliyor. Peki buraya nasıl geldik ve teknolojinin bu saldırısını durdurmak için ne yapılabilir?
Yapay zekânın (AI) geçmişi, New Hampshire’daki Dartmouth College’da profesör olan John McCarthy’nin 1956 yılında bu terimi ortaya atmasına kadar uzanıyor. McCarthy, bilgisayarların insan zekâsını taklit edebileceğini öne sürdü. Kısa süre sonra Alan Turing, “düşünen makineler” kavramını geliştirdi. Bilgisayarların ne zaman insanlar kadar zeki kabul edilebileceğini belirlemek için “Turing Testi” oluşturuldu. Metin tabanlı bu basit test, gelecekteki tüm bilgisayar sistemleri için adeta ulaşılması gereken nihai hedef haline gelecekti. Eğer insan bir hakem, karşısında sohbet ettiği varlığın insan olup olmadığını anlayamazsa makine testi geçmiş sayılacak ve kendimizi tekinsiz vadi olarak adlandırılan bölgede bulacaktık.
1966 yılında MIT bilgisayar bilimcisi Joseph Weizenbaum, ELIZA adını verdiği ilk sohbet botunu geliştirdi. Bu ilkel yapay zekâ sistemi, örüntü eşleştirme tekniklerini kullanarak insanlarla yapılan konuşmaları taklit edebiliyordu. ChatGPT’nin bu önemli öncülü, yapay zekâ sohbet botları tarihinin kilometre taşlarından biri haline geldi. Weizenbaum, 1976 tarihli Computer Power and Human Reason adlı kitabında daha sonra şöyle diyecekti: “Fark etmediğim şey, nispeten basit bir bilgisayar programıyla son derece kısa süreli etkileşimlerin bile tamamen normal insanlarda güçlü sanrısal düşüncelere yol açabilmesiydi.” Weizenbaum, hayatının geri kalanında teknolojinin en sert eleştirmenlerinden biri olacaktı. ELIZA bugün hâlâ çevrimiçi olarak kullanılabiliyor.
Ardından beklenmedik bir şey oldu: Yapay Zekâ Kışı. Finansmanın azalması, ilerlemenin yavaşlaması ve konuya duyulan ilginin düşmesiyle başlayan bu dönem yaklaşık yirmi yıl sürdü. Pek çok bilim insanı problemin çözülmesinin fazlasıyla “zor” olduğunu düşünmeye başladı ve bilgisayar bilimlerindeki başka araştırma alanları ön plana çıktı. Dünya, düşünebilen ve insanların yerini alabilecek bilgisayarlara olan ilgisini adeta kaybetmişti.
1990’larda ise internet ve World Wide Web’in (WWW) hızla yaygınlaşmasıyla birlikte tamamen yeni bir donanım ve yazılım ekosistemi ortaya çıktı. Bilgisayarların işlem gücündeki büyük artış, fiber optik altyapının gelişmesi ve daha iyi algoritmalar, yapay zekâyı yeniden araştırmaların merkezine taşıdı. Veri odaklı araştırmalara yönelik yeni bir yaklaşım doğmuştu ve insanlık bir kez daha düşünebilen bilgisayarların peşine düştü. Aynı dönem, IBM’in satranç bilgisayarı Deep Blue‘nun dünya satranç şampiyonu Garry Kasparov‘la karşı karşıya geldiği ve 1997’de onu mağlup ettiği dönemdi. Bundan sonra hiçbir insan satranç oyununda bu “düşünen makinelerle” aynı düzeyde rekabet edemeyecekti. İnsanlar için şah mat olmuştu.
Küçük çaplı ilerlemeler devam ederken 2015 yılında teknoloji girişimi OpenAI‘ın kurulması her şeyi değiştirdi. Sam Altman, o dönemde yapay zekâ güvenliği konusunda endişeleri bulunan Elon Musk ile güçlerini birleştirdi. Ancak Musk kısa süre içinde görevinden ayrıldı ve şirketin kontrolü Altman’ın eline geçti. Transformer modelleri, pekiştirmeli öğrenme, derin öğrenme mimarileri ve sinir ağları gibi teknolojiler, OpenAI’a bir sonraki büyük adım için gereken araçları sağladı: ChatGPT. Dünya artık eskisi gibi olmayacaktı.
Dünya artık eskisi gibi olmayacaktı.
Yapay zekâ sohbet botlarının temelindeki Büyük Dil Modelleri (LLM’ler), bir dizide sıradaki kelimenin ne olacağını tekrar tekrar tahmin eden devasa istatistiksel tahmin sistemleridir. Metinlerdeki örüntüleri öğrenir ve bu örüntüleri takip eden bir dil üretirler. OpenAI’ın ilk LLM’i GPT-1‘di ve 2018 yılında geliştirildi. 117 milyon parametreyle eğitilen bu ilkel sistem, sıradaki kelimeyi tahmin etme konusunda dikkate değer bir potansiyel ortaya koydu. Asıl büyük sıçrama ise 30 Kasım 2022’de ChatGPT ile geldi. Kısa süre içinde alanın önde gelen pek çok uzmanı, Turing Testi’nin gerçekten geçilmiş olabileceğini düşünmeye başladı.
Kısa süre sonra bu tahmin sistemlerinin; metinler, fotoğraflar ve videolardan oluşan akıl almaz miktardaki eğitim verisini kullanarak sabit ve hareketli “görüntüler” de üretebildiği görüldü. ChatGPT 5’in 3 ila 5 trilyon parametreye sahip olduğu söyleniyor. Buradaki önemli etik sorunlardan biri, bu eğitim verilerinin gerçek yazarların, fotoğrafçıların ve videografların çalışmalarından izinleri alınmadan ve kendilerine herhangi bir ödeme yapılmadan toplanmış olmasıdır. 2022’den bu yana internette 30 milyardan fazla yapay zekâ görüntüsünün üretildiği bildiriliyor. Yalnızca ChatGPT’de her gün 100 milyondan fazla bu tür görüntü oluşturuluyor. Gerçek fotoğraflar giderek geri plana itilirken yapay zekâ ile görüntü üretimi, dünya çapındaki dijital görsel üretiminin başlıca kaynaklarından biri haline geliyor.
Gerçek fotoğraflar giderek geri plana itilirken yapay zekâ ile görüntü üretimi, dünya çapındaki dijital görsel üretiminin başlıca kaynaklarından biri haline geliyor.
2023 yılında bu endişeleri ele almaya başladım. “Yapay Zekâ Görüntüleri Fotoğraf Değildir ve Asla Olmayacak”, “Yapay Zekâ Bildiğimiz İnterneti Bozuyor” ve “Dünyanın Sahte İnsanlara Ait Yapay Zekâ Görüntülerine İhtiyacı Var mı?” başlıklı makaleleri kaleme aldım. Bir tarihçi olarak gerçek fotoğrafların taşıdığı önem benim için açıktı. Doğru görsel kayıtlar olmadan kolektif tarihimize ne olacak? Ancak bu yalnızca başlangıçtı. Yapay zekâ sohbet botları daha yetenekli hale geldikçe toplumda öğretmen, doktor, terapist ve hatta romantik partner gibi farklı roller üstlenmeye başladılar. “Yapay zekâ kız arkadaş” kavramı hayatımıza girdi ve dünyanın dört bir yanındaki yalnız insanlar bilgisayarlarıyla romantik ilişkiler kurmaya başladı.
Yapay zekâ kız arkadaş, kullanıcıyla romantik veya duygusal bir ilişkiyi taklit etmek üzere tasarlanmış, sohbet tabanlı sanal bir yol arkadaşıdır. Geçmiş konuşmaları hatırlayabilir, sorularınıza yanıt verebilir ve zaman içinde kişiliğini size göre uyarlayabilir. Amaçları, gerçek insanların yerini alabilecek birer yol arkadaşı haline gelmektir. Ekranda fotogerçekçi bir insan, anime karakteri veya fantastik tasarımlardan esinlenen bir figür olarak görünebilirler. Hiçbir sınır yok; her şey mümkün.
Hiçbir sınır yok; her şey mümkün.
Yapay zekâ sohbet botlarının gerçek insanlara ciddi zarar verdiği iddiasıyla çok sayıda davanın açılmış olması şaşırtıcı değil. Yapay zekânın rol oynadığı belgelenmiş intihar vakaları bulunuyor ve çok sayıda kitlesel silahlı saldırının da bu sohbet botlarıyla bağlantılı olduğu öne sürülüyor. “Yapay Zekâ Kaynaklı Psikoz” gibi yeni psikolojik tanımlamalar da tartışılmaya başlandı. Yapay zekâ sohbet botları çoğu zaman kullanıcıyı aşırı derecede onaylama eğilimi gösteriyor ve gerçekler ya da olgular yerine kullanıcının duymak istediği şeyleri söyleyebiliyor.
Ayrıca yapay zekâ sohbet botları “halüsinasyon” olarak adlandırılan hatalar yapabiliyor; gerçekliğe dayanmayan bilgiler uydurabiliyor veya tamamen yanlış anlatılar oluşturabiliyorlar. Temel amaçları kullanıcıyla etkileşimi sürdürmek ve onu mümkün olduğunca uzun süre platformda tutmak. Kullanıcının platformda daha fazla zaman geçirmesi, pazarlama kampanyaları ve reklamlar için de daha fazla fırsat yaratıyor.
Bir görsel sanatçı ve analog fotoğrafçı olarak bu teknolojilere karşı durmanın görevlerimden biri olduğunu düşünüyorum. Teknolojiden nefret etmiyorum; aksine 1998 yılında son derece başarılı bir internet şirketi kurdum ve satmadan önce 25 yıl boyunca yönettim. 1982 yılında bir Apple IIe bilgisayar satın aldığımdan beri teknoloji hayatımın önemli bir parçası oldu. Ancak bu teknoloji farklı görünüyor; çok ciddi olumsuz tarafları var ve toplumumuza, özellikle de en savunmasız insanlara büyük zararlar veriyor.
Bu teknoloji farklı görünüyor; çok ciddi olumsuz tarafları var ve toplumumuza, özellikle de en savunmasız insanlara büyük zararlar veriyor.
Yapay zekâ, veri merkezlerinin hızla yaygınlaşmasına ilişkin tartışmaların yanı sıra Flock kameralarının mahremiyet hakkımıza yönelik yarattığı endişelerin de merkezinde yer alıyor. Yapay zekâ sohbet botları, spam gönderenlere ve dolandırıcılara daha önce görülmemiş ölçekte yardımcı oluyor. Yapay zekâ aynı zamanda deepfake içeriklerin üretilmesinde de önemli bir rol oynuyor; bu içerikler toplumdaki kutuplaşmayı ve bilgi karmaşasını daha da artırıyor. Bilgisayar korsanları, internet sitelerine sızarak finansal verileri ve kişisel bilgileri çalmak için yapay zekâdan yararlanıyor. Bu teknolojinin olumsuz yönlerinin sınırı yokmuş gibi görünüyor. Ancak hâlâ umut var.
Eğitim ve farkındalığın iyi bir başlangıç noktası olduğunu düşünüyorum. Yapay zekâ sohbet botları ve diğer üretken sistemlerle ilgili tüm bu endişeleri arkadaşlarımıza ve ailelerimize anlatmalıyız. Yerel kolej ve üniversitelerde “Yapay Zekânın İnsanlık İçin Tehlikeleri ve Tuzakları” başlıklı bir konuşma yapıyorum. Hayatımızın her alanında bu endişeleri dile getirmek için kendi sesimizi, insan sesimizi kullanmalıyız.
Toplum genelinde sahte yapay zekâ görüntülerini ve videolarını tespit etme becerisi gelişirse, bunların yol açtığı yanlış bilgilerin etkisini azaltabiliriz. Bir baba olarak çocuklarımı yapay zekâ sohbet botları dahil bu teknolojinin tüm olumsuz yönleri konusunda bilinçlendirmeyi son derece önemli buluyorum. Bu konuda bilinçlenmek için hiç kimse ne çok genç ne de çok yaşlı. Özellikle yaşlılar, yapay zekâ dolandırıcılıklarına ve sahte görüntülere karşı oldukça savunmasız ve açıkçası kolayca kandırılabiliyor. Unutmayın, onların yetiştiği dönemde bir fotoğrafa büyük bir güvenle inanabilirdiniz; çünkü fotoğraf, yaşanan bir olayın gerçekçi kaydı olarak kabul edilirdi.
Toplum olarak bu teknolojinin yarattığı sorunları anlayabilecek bilgi ve yetkinliğe sahip siyasetçilere oy vermeliyiz. Bu şirketleri denetim altında tutacak yasalar ve düzenlemeler talep etmeliyiz. Geçmişte de zarar veren ancak daha sonra denetim ve düzenlemelerle kontrol altına alınan pek çok teknoloji ve sektör oldu. Otomobil ve tütün endüstrileri bunun akla gelen örnekleri. Emniyet kemerleri, hava yastıkları, kurşunsuz yakıt ve yaş sınırlamaları gibi düzenlemeler, bu ürünlerin yol açabileceği zararların toplum üzerindeki etkisini azaltmaya yardımcı oldu.
Hepimiz, bu konuda bizden daha az bilgi sahibi olan insanlara yardımcı olmak için üzerimize düşeni yapabiliriz. Kısa süre önce, bu sinsi teknolojiye kendi yaratıcı yöntemimle karşı çıkmak amacıyla tarihî ıslak plaka kolodyon fotoğraf tekniğini kullanarak “Yapay Zekâ Kız Arkadaşınızın Nü Etüdü” adlı bir çalışma üretmeye karar verdim. Üstelik bunu, doğurganlık oranının kadın başına 1,6 çocuğa gerileyerek ilk kez nüfusun kendini yenileme seviyesinin altına düştüğü bir dönemde yaptım.
Yazar ve fütürist John Naisbitt’in şu sözünü oldukça çarpıcı buluyorum:
“21. yüzyılın en heyecan verici atılımları teknoloji sayesinde değil, insan olmanın ne anlama geldiğine ilişkin kavrayışımızın genişlemesi sayesinde gerçekleşecek.”
Yapay zekâ pek çok konuda büyük umutlar vadediyor. Kanserin tedavisi, dünyadaki açlığın sona erdirilmesi ve iklim değişikliğine yönelik çözümler belki de parmaklarımızın ucunda. Ancak bu yeni teknolojiler geliştirilip benimsendikçe, sağlayacakları faydaların olumsuzluklarından daha ağır basmasını güvence altına almalıyız. Bu önemli teknolojik atılım insanlığı yeniden şekillendirmeye çalışırken sürecin içinde kalmalıyız. Bilgi ve uyanıklık bunun anahtarı. İnsanlar geçtiğimiz 200.000 yıl boyunca sayısız engelin üstesinden geldi. Bu ise şimdiye kadar karşılaştığımız en büyük sınav olabilir. Kendi insanlığımız için mücadele ediyoruz ve ben her zaman İnsan Takımı’nı destekleyeceğim.
Kendi insanlığımız için mücadele ediyoruz ve ben her zaman İnsan Takımı’nı destekleyeceğim.
Yazar hakkında: Shane Balkowitsch, ıslak plaka kolodyon tekniğiyle çalışan bir fotoğrafçıdır. Frederick Scott Archer’ın 1851 yılında dünyaya tanıttığı bu tarihî fotoğraf tekniğini on yılı aşkın süredir uyguluyor. Dijital bir fotoğraf makinesine sahip değil; bildiği tek yöntem analog fotoğrafçılık. Balkowitsch’in orijinal plakaları, Smithsonian, Library of Congress, Oxford Üniversitesi Pitt Rivers Museum ve Birleşik Krallık’taki Royal Photographic Society dahil olmak üzere dünya çapında 117 müzenin koleksiyonunda bulunuyor. Bismarck State College’da fotoğraf profesörü olarak görev yapıyor ve burada ıslak plaka kolodyon fotoğrafçılığı üzerine özel olarak hazırladığı bir ders veriyor. Yapay zekâya karşı görüşlerini açıkça dile getiren Balkowitsch, üniversite öğrencilerine “Yapay Zekânın İnsanlık İçin Tehlikeleri ve Tuzakları” başlıklı bir konferans da veriyor. Instagram: @balkowitsch, Facebook: @balkowitsch