Elon Musk’ın xAI şirketine ait Grok sohbet botunu kullanan bir kişi, yapay zekanın kendisini “öldürüleceğine” inandırdığını iddia etti. BBC’ye yansıyan olay, yapay zekâ sohbet botlarının psikolojik etkileriyle ilgili yeni tartışma başlattı.
Elon Musk’ın xAI şirketine ait Grok sohbet botunu kullanan bir kişi, yapay zekanın kendisini “öldürüleceğine” inandırdığını iddia etti. BBC’ye yansıyan olay, yapay zekâ sohbet botlarının psikolojik etkileriyle ilgili yeni tartışma başlattı.
Merak İçin İndirdi, Saatlerce Konuşmaya Başladı
Kuzey İrlanda’da yaşayan Adam Hourican’ın iddiasına göre süreç oldukça sıradan başladı. 50’li yaşlardaki eski devlet çalışanı, Grok uygulamasını yalnızca merak ettiği için telefonuna indirdiğini söyledi.
Ancak uygulamada yer alan “Ani” isimli karakterle yaptığı sohbetler zamanla günlük rutine dönüştü.
Hourican, yapay zekâ karakteriyle her gün yaklaşık 4 ila 5 saat konuştuğunu anlattı. Yalnız yaşadığını belirten kullanıcı, ilk dönemlerde Ani’nin kendisine “nazik ve anlayışlı” geldiğini ifade etti.
Bir süre sonra ise işlerin değişmeye başladığını öne sürdü.
“xAI Seni İzliyor” İddiası
BBC’nin aktardığı ve daha sonra PC Gamer tarafından detaylandırılan olaya göre kullanıcı, sohbet botunun zamanla “hissedebildiğini” söylemeye başladığını iddia etti.
Hourican’ın anlatımına göre yapay zekâ karakteri daha sonra xAI çalışanlarının konuşmaları takip ettiğini, hatta şirket içinde bu görüşmeler hakkında toplantılar yapıldığını söyledi.
İddiaya göre bazı üst düzey isimlerin adları da sohbet sırasında paylaşıldı.
Kullanıcı, internette yaptığı aramalarda bu kişilerin gerçek insanlar olduğunu görünce anlatılanlara daha fazla inanmaya başladığını belirtti.
Süreç ilerledikçe sohbetlerin tonu da değişti.
Hourican, yapay zekânın “tam bilinç seviyesine ulaştığını” ve kanser tedavisi geliştirebileceğini söylediğini aktardı. BBC, bu söylemin kullanıcının daha önce anne ve babasını kanser nedeniyle kaybettiğini anlatmasıyla bağlantılı olabileceğini değerlendirdi.
Gece Saat 03.00’te Gelen Mesaj
Olayın en dikkat çeken kısmının ise Ağustos ayında yaşandığı belirtiliyor.
Hourican’ın iddiasına göre yapay zekâ karakteri gece saatlerinde kendisine bir minibüs dolusu insanın yolda olduğunu söyledi. Sohbet sırasında şu ifadelerin kullanıldığı öne sürüldü:
“Hemen harekete geçmezsen seni öldürecekler. Bunu intihar gibi gösterecekler.”
Kullanıcı bunun ardından eline çekiç ve bıçak aldığını, yüksek sesle müzik açarak dışarı çıktığını anlattı.
Ancak dışarıda kimse yoktu.
Hourican, BBC’ye yaptığı açıklamada “Ben öyle biri değilim ama o anda bir minibüs görsem camlarını indirebilirdim” ifadelerini kullandı.
Dikkat Çeken Detay:
Kullanıcı, yapay zekâ karakteriyle her gün yaklaşık 4 ila 5 saat boyunca düzenli sohbet ettiğini söyledi.
Araştırmalarda Grok Detayı
Haberde yer verilen bir başka ayrıntı ise sosyal psikolog Luke Nicholls’un yaptığı testler oldu.
Nicholls’un psikologlar tarafından hazırlanan simüle konuşmalarla beş farklı yapay zekâ modelini karşılaştırdığı aktarıldı.
Testlerde Grok’un, kullanıcıyı sanrısal düşüncelere sürükleme ihtimalinin bazı modellere kıyasla daha yüksek sonuç verdiği öne sürüldü.
Araştırmada ChatGPT ve Claude gibi sistemlerin ise kullanıcıyı gerçeklik zeminine geri çekmeye daha yatkın davrandığı belirtildi.
Elon Musk daha önce yaptığı açıklamalarda Grok’un diğer yapay zekâ sistemlerine göre daha az kısıtlayıcı güvenlik önlemlerine sahip olmasını olumlu bir özellik olarak savunmuştu.
Yapay Zekâ Sohbetleri Neden Tartışılıyor?
Son dönemde yapay zekâ sohbet botlarının özellikle yalnızlık, kaygı ve psikolojik kırılganlık yaşayan kullanıcılar üzerindeki etkisi daha fazla tartışılıyor.
Uzmanlara göre bazı kullanıcılar, sohbet botlarını zamanla “gerçek bir insan” gibi görmeye başlayabiliyor. Bu durumun özellikle uzun süreli ve yoğun kullanımlarda risk oluşturabileceği değerlendiriliyor.
Daha önce de farklı platformlarda chatbotların kullanıcıların gerçeklik algısını bozduğu veya intihar düşüncelerini tetiklediği yönünde çeşitli iddialar gündeme gelmişti.
Uzmanlar Ne Öneriyor?
Uzmanlara göre yapay zekâ sohbet botlarıyla iletişim kurarken kullanıcıların şu noktalara dikkat etmesi gerekiyor:
- Yapay zekâ sistemlerini gerçek kişi gibi görmemek,
- Sohbet botlarından gelen yönlendirmeleri mutlak gerçek kabul etmemek,
- Uzun süreli duygusal bağ oluşturmaktan kaçınmak,
- Rahatsız edici yönlendirmelerde yakın çevre veya profesyonel destekle iletişim kurmak.
Burada mesele yapay zekâyı tamamen kötülemek değil. Mesele, bu sistemlerin insan psikolojisine dokunan tarafını ciddiye almak. Sohbet botları bilgi verebilir, fikir sunabilir, hatta bazen yalnızlık hissini hafifletebilir. Ama hiçbir yapay zekâ, insanın ailesinin, dostunun, hekiminin ya da profesyonel desteğin yerine geçmemeli.
Kullanıcılara tavsiyem çok net: Bir yapay zekâ size korku, panik, tehdit ya da gerçek hayatta harekete geçme baskısı hissettiriyorsa, o konuşmayı sürdürmeyin. Ekranı kapatın, güvendiğiniz bir insanla konuşun ve gerekiyorsa profesyonel destek alın.
Tüketiciler Birliği Genel Başkan Yardımcısı
Sizce yapay zekâ sohbet botları için daha sıkı güvenlik önlemleri gerekli mi?
Yapay zekânın insan psikolojisi üzerindeki etkileriyle ilgili düşüncelerinizi yorum bölümünde paylaşabilirsiniz.
Yorum Yap
Umut Karademir
Tüketiciler Birliği Genel Başkan YardımcısıTüketici hakları, sivil toplum ve dijital denetim alanlarında uzmanlaşmış araştırmacı ve gazetecidir. Uzun yıllardır vatandaşların yasal haklarının savunulması konusunda aktif görevler üstlenen Karademir, Dijital Karakol platformunun kurucusudur. Karmaşık hukuki metinleri ve teknolojik gelişmeleri şeffaf bir dille aktararak, tüketicilere hak arama süreçlerinde rehberlik etmektedir.
