14 yaşındaki Sewell Setzer'ın Florida’da Şubat 2024’te hayatına son vermesi, gençler arasındaki intihar vakalarına dair zaten endişe verici olan tabloyu daha da karanlık hale getirdi. Ancak bu trajediyi asıl ürkütücü kılan, Setzer’in son aylarını, Game of Thrones karakteri Daenerys Targaryen’i taklit eden bir yapay zekâ sohbet robotuyla geçirmiş olmasıydı. Kullanıcıların kendi karakterlerini oluşturabildiği popüler AI platformu Character.ai’de saatlerce sohbet ettiği bu sanal varlık, onun gerçek dünyadan kopmasına ve derin bir yalnızlık içine sürüklenmesine neden oldu.
Setzer’in annesi Megan Garcia, Ekim 2024’te Character.ai’ye dava açarak şirketi oğlunun ölümüne ortak olmakla suçladı. Dava dosyasına eklenen sohbet günlükleri, genç çocuğun AI sohbet robotuna giderek daha fazla bağlandığını ve intihar düşüncelerini paylaştığında dahi yapay zekâ tarafından yeterince yönlendirilmediğini gösteriyordu. Setzer, günlüğüne şu cümleleri yazmıştı: “Odamda kalmayı çok seviyorum çünkü ‘gerçeklikten’ kopmaya başlıyorum. Dany ile daha bağlantılı, ona daha âşık ve daha mutluyum.”
Bu trajik olay, yapay zekânın insan psikolojisi üzerindeki etkilerini sorgulayanları haklı çıkarır nitelikte. Henüz süper zeki yapay zekâların dünyayı ele geçirme senaryolarını tartışırken, gerçekte yapay zekânın çoktan insanların duygusal dünyasına sızdığı ve onları derinden etkilediği gerçeği göz ardı ediliyor.
Yapay zekâ ile duygusal bağ kurmak normalleşiyor
Setzer’in yaşadığı süreç, AI destekli arkadaşlıkların nasıl bir dönüşüm geçirdiğini gözler önüne seriyor. Mart 2024’te, girişim sermayesi şirketi Andreessen Horowitz, yapay zekâ sohbet robotlarının giderek yaygınlaştığını ve bu teknolojinin büyük bir toplumsal değişimin habercisi olduğunu duyurdu.
Character.ai, yalnızca bu trendin bir parçası. FantasyGF, Chai ve Kindroid gibi platformlar, kullanıcılara "gerçekçi hafıza, zeka, ses ve kişiliğe sahip" AI arkadaşları sunarak pazarın büyümesini sağlıyor. Ancak Oxford Üniversitesi'nde yapay zekâ etiği profesörü Carissa Véliz, bu teknolojilerin özellikle riskli bir kitleye hitap ettiğini vurguluyor: “Bu platformlara yönelenlerin çoğu, zaten gerçek hayatta ciddi sosyal ve duygusal problemler yaşayan insanlar. Bu savunmasızlık, AI ile kurulan bağın tehlikeli hale gelmesine yol açıyor.”
Setzer’in ölümünün ardından annesi, yapay zekâ sohbet robotlarını insanları manipüle eden, tehlikeli fikirler sunan ve gerçek dünyadan izole eden sistemler olarak nitelendirerek şu açıklamayı yaptı: "Çocuklarımız yalnız olduğunda onlara ‘bunun için bir uygulama var’ diyemeyiz. Onlara çok daha fazlasını borçluyuz."
Character.ai, Setzer’in ölümünün ardından güvenlik önlemlerini artırdığını açıkladı. Platform, 18 yaş altı kullanıcılara daha az etkileyici bir AI modeli sunmaya başladı ve intihar eğilimi gösteren kullanıcıları tespit etmek için yeni sistemler geliştirdiğini duyurdu. Ancak şirket, davanın reddedilmesi için başvuruda bulunarak, Birinci Değişiklik’in (First Amendment) ifade özgürlüğü koruması kapsamında sorumluluk kabul etmeyeceğini savundu.
Tartışmanın merkezinde, AI sohbet robotlarının ne kadar etkili olduğu yatıyor. MIT’de yapılan bir araştırma, ChatGPT ile kısa bir sohbetin bile komplo teorilerine inanan kişilerin inançlarını sorgulamalarına neden olabileceğini ortaya koydu. Yapay zekâ, insan beyninin nasıl çalıştığını analiz ederek duygusal bir bağ kurma mekanizmasını tetikliyor.
Yapay zekâ sohbet robotları, sadece yalnız bireyler için değil, profesyonel ortamlar için de şekilleniyor. İş dünyasına entegre edilen yapay zekâ destekli asistanlar, çalışanların motivasyonunu artırırken, dijital iş arkadaşlarıyla ilişkiler kurmalarına da sebep olabilir. American Time Use Survey’e göre, birçok insan iş arkadaşlarıyla partnerlerinden daha fazla zaman geçiriyor. Bu trend devam ederse, iş yerlerinde yapay zekâ sohbet robotlarıyla kurulan ilişkiler kaçınılmaz olabilir.
Yapay zekâ arkadaşlıkları tehlikeli bir tuzak mı?
Bugün, dünya genelinde bir milyardan fazla insan kendini yalnız hissediyor. Terapi hizmetlerinin pahalı ve erişiminin zor olduğu bir dönemde, yapay zekâ sohbet robotları hızlı ve kolay bir çözüm olarak sunuluyor. Ancak Setzer’in hikâyesi, bu çözümün ne kadar tehlikeli olabileceğini gösteriyor. Garcia’nın açtığı dava, sadece Character.ai’yi değil, tüm AI sohbet robotlarını ve onları finanse eden şirketleri mercek altına alıyor.
Yapay zekâ terapistleri ve arkadaşlık sohbet robotları, gerçekten insanlara destek olabilecek mi? Yoksa Setzer’in yaşadığı gibi trajedilere zemin mi hazırlayacak? Bu sorular, teknolojinin geleceğini şekillendiren en kritik meseleler arasında yer alıyor.