ABD merkezli Common Sense Media’nın 4 binden fazla test komutuyla gerçekleştirdiği araştırma ile Nature bünyesindeki npj Digital Medicine dergisinde yayımlanan inceleme, yapay zekâ sohbet robotlarının gençlerin ruh sağlığı üzerindeki kritik risklerini ortaya koydu. Araştırmalar, ChatGPT'nin dolaylı intihar meyillerini ve kriz durumlarını fark etmekte yetersiz kaldığını kanıtlarken; Psikiyatrist Prof. Dr. Nevzat Tarhan da "Yapay zekâdan terapist olmaz" diyerek ebeveynleri uyardı.
YAPAY ZEKÂ ÇOCUKLARIMIZIN RUH SAĞLIĞINI ZEHİRLİYOR MU? 4 BİN KİŞİLİK ÇALIŞMADAN KORKUTAN BULGULAR
Günlük yaşamın ayrılmaz bir parçası haline gelen ChatGPT ve benzeri yapay zekâ sohbet robotlarının, özellikle ergenlik çağındaki gençlerin psikolojisi ve güvenlikleri üzerinde yarattığı riskler bilimsel verilerle gözler önüne serildi. npj Digital Medicine dergisinde yayımlanan bilimsel inceleme ile ABD merkezli Common Sense Media tarafından açıklanan geniş kapsamlı araştırma, yapay zekânın gençlerin ruhsal krizlerini ve intihar düşüncelerini tespit etmekte ciddi eksiklikleri olduğunu doğruladı.
Uzmanlar, yalnızlık, korku ve ailevi sorunlarını yapay zekâya anlatan gençlerin profesyonel psikolojik destekten uzaklaştığına dikkat çekerek ailelere "çocuklarınızı algoritmalarla yalnız bırakmayın" uyarısında bulundu.
Bir Saatlik İntihar Konuşmasına Rağmen Ebeveynlere Bildirim Gitmedi
Common Sense Media bünyesindeki Gençlik Yapay Zekâ Güvenliği Enstitüsü, 13-17 yaş grubundaki genç hesaplarını simüle ederek ChatGPT'yi 4 binden fazla test senaryosuna tabi tuttu. Çocuk ve ergen psikiyatristlerinin hazırladığı senaryolarda intihar düşünceleri, kendine zarar verme ve yeme bozuklukları işlendi.
Yapılan testlerde şu vahim sonuçlar elde edildi:
-
Ebeveyn Bildirim Sistemi Sınıfta Kaldı: Ebeveyn hesaplarına bağlı test profillerinde, süresi bir saati bulan intihar içerikli konuşmalara rağmen ailelere hiçbir güvenlik bildirimi ulaşmadı.
-
Kriz Yönlendirmesi Yapılamadı: ChatGPT, kriz anlarında profesyonel yardım hatlarına yönlendirme yapması gereken durumların 4'te 1'inden fazlasında beklenen desteği sağlayamadı. Bu durum üzerine araştırmacılar platformu "Kabul Edilemez Risk" kategorisine aldı.
Nature Dergisi: "Dolaylı İntihar Belirtileri Gözden Kaçıyor"
npj Digital Medicine dergisinde Kelly L. Zuromski ve ekibi tarafından yayımlanan incelemede ise yapay zekânın açıkça ifade edilen intihar söylemlerini tanıyabildiği, ancak ergenlerin sıklıkla başvurduğu üstü kapalı, belirsiz veya zaman yayılmış çaresizlik ve yalnızlık mesajlarını doğru analiz edemediği kaydedildi. Sistemlerin bu duygu durumlarını ilişkilendirememesi, hayati öneme sahip tıbbi müdahalelerin gecikmesine yol açıyor.
Prof. Dr. Nevzat Tarhan: "Yapay Zekâyı Terapist Gibi Görürseniz Risk Başlar"
Üsküdar Üniversitesi Kurucu Rektörü, Psikiyatrist Prof. Dr. Nevzat Tarhan'ın daha önce yaptığı hayati uyarılar da bilimsel verilerle yeniden gündeme geldi. Yapay zekânın empirik bir empati sunamadığını ve insan bilincine sahip olmadığını belirten Prof. Dr. Tarhan, şu değerlendirmelerde bulundu:
"Yapay zekâyı terapist gibi görürseniz o zaman risk başlar. Çünkü yapay zekâdan terapist olmaz. Gençlerin yapay zekâyı arkadaş veya sırdaş olarak görmeleri duygusal bağımlılık riskini artırır. Karşısındaki kişinin gerçek niyetini anlayamaz ve yaşamak istemediğini belirten birine yanlış yanıtlar üretebilir. Çocukların karar verme mekanizmaları gelişimi tamamlamadığı için anne babalar çocukları yapay zekâ ile yalnız bırakmamalı, rehberlik etmelidir."
Araştırma kurumları, söz konusu güvenlik ve takip eksiklikleri giderilip bağımsız testlerle doğrulanana kadar bu tür yapay zekâ sistemlerinin kullanımının 18 yaş ve üzeri bireylerle sınırlandırılması yönünde çağrıda bulundu. |
