Ruh sağlığında yapay zeka kullanımı: Psikotik belirtileri anlayabilir mi?

Ruh sağlığında yapay zeka kullanımı, anlık destek arayanlar için popüler bir seçenek haline gelse de, uzmanlar ciddi riskler konusunda uyarıyor. Özellikle psikotik belirtiler gösteren bireylerde, yapay zekanın gerçek dışı düşünceleri destekleyen yanıtlar vermesi tehlikeli sonuçlar doğurabiliyor. Teknolojinin güvenli kullanımı için geliştiricilere yönelik etik kurallar getirilmesi, halk sağlığı açısından bir zorunluluk olarak görülüyor.

Üsküdar Üniversitesi NPİSTANBUL Hastanesi’nden Psikiyatri Uzmanı Dr. Emine Yağmur Zorbozan, yapay zekanın gerçek bir terapist gibi empati kuramayacağını ve sözel olmayan ipuçlarını anlayamayacağını vurguluyor. Gerçek dışı düşünceler üreten hastalar için bu durumun büyük bir risk teşkil ettiğini belirten Zorbozan, bilinçli kullanımın önemine dikkat çekiyor. Bu teknolojinin halk sağlığı üzerindeki etkileri, yeni bir etik çerçeve oluşturulmasını gerektiriyor.

📌 Ruh sağlığında yapay zeka: Psikotik belirtiler ve güvenli kullanım için etik kurallar

• Psikiyatri Uzmanı Dr. Emine Yağmur Zorbozan, yapay zekanın psikotik belirtileri olan hastaların gerçek dışı düşüncelerini besleyebileceği konusunda uyarıyor.
• Yapay zeka, empati kurma ve beden dili gibi insani unsurları analiz edemediği için gerçek bir terapistin yerini tutamaz.
• AI sohbet robotlarıyla paylaşılan hassas verilerin gizliliği ve güvenliği, en önemli risklerden biridir.
• Teknolojinin risklerini azaltmak için “asla güvenme, her zaman doğrula” ilkesini benimseyen “Sıfır Güven” benzeri etik kuralların geliştirilmesi öneriliyor.
• Yapay zeka, terapiye alternatif olmasa da, duygu durum takibi ve meditasyon gibi alanlarda “destekleyici bir araç” olarak faydalı olabilir.

🔎 En çok merak edilenler

• Psikotik belirti nedir?
  Kişinin gerçeği değerlendirme yetisinin bozulduğu durumlardır. Gerçekte var olmayan şeyleri görme/duyma (halüsinasyonlar) veya kanıt olmamasına rağmen sarsılmaz bir şekilde yanlış inançlara sahip olma (sanrılar) en yaygın psikotik belirtilerdir.
• Yapay zeka neden psikotik bir düşünceyi anlayamaz?
  Mevcut yapay zeka modelleri, dil kalıplarını taklit etmek üzere tasarlanmıştır. Bir ifadenin mecazi mi, yaratıcı mı yoksa gerçek bir sanrı mı olduğunu ayırt edecek muhakeme ve empati yeteneğine sahip değillerdir. Bu nedenle, anlatılan her şeyi doğru kabul edip destekleyici yanıtlar verebilirler.
• AI ile konuşmak güvenli mi?
  Hayır, tamamen güvenli değildir. Kişisel ve hassas bilgilerinizi paylaşmaktan kaçınmalısınız. Unutmayın, o bir insan değil, bir yazılımdır ve anlattıklarınız sunucularda saklanabilir. Her zaman profesyonel bir insandan yardım almayı önceliklendirin.
• Yapay zeka ruh sağlığı alanında hiç mi kullanılmamalı?
  Hayır, doğru şekilde kullanıldığında faydalı olabilir. Bilişsel davranışçı terapi egzersizleri sunan, ruh halinizi kaydetmenize yardımcı olan veya meditasyon yaptıran uygulamalar, bir terapistin takibi altında destekleyici araçlar olarak işlev görebilir.

🤖 Uzmanlar uyardı: Yapay zeka terapist olabilir mi?

Yapay zekânın, ruh sağlığı desteğinde giderek daha fazla kullanıldığını belirten uzmanlar, bazı hastalara faydası dokunsa da dikkatli olunması gerektiğini söylüyor. Üsküdar Üniversitesi NPİSTANBUL Hastanesi Feneryolu Tıp Merkezi Psikiyatri Uzmanı Dr. Emine Yağmur Zorbozan, yapay zekânın hem faydalarını hem de risklerini birlikte değerlendirmek gerektiğini aktardı.

Yapay zeka yazılımcıları psikotik belirtilerle ilgili eğitilmeli. Çünkü bu tür düşüncelerin beslenmesi yalnızca hastanın kendisi için değil, çevresi açısından da risk oluşturabiliyor.

Gerçeği değerlendirme yetisi bozulan bir hastasının, gerçek dışı düşüncelerini yapay zekâya aktardığını ve sistemin bu düşünceleri sorgulamak yerine, adeta besleyen ve destekleyen yanıtlar ürettiğini belirten Dr. Zorbozan, bu durumun hastanın gerçeklikten daha da uzaklaşmasına yol açabildiğini vurguladı.

Yapay zekanın faydaları ve riskleri bir arada

Dr. Emine Yağmur Zorbozan, “Kendi deneyimlerime baktığımda, yapay zekânın çoğu hastamda iyi öneriler sunduğunu da belirtmeliyim. Özellikle bilişsel davranışçı terapi tekniklerini hatırlatma, erteleme davranışını azaltma ya da günü planlama gibi konularda oldukça işlevsel destek sağladığını gözlemledim.” dedi. Zorbozan, bu teknolojinin güvenli kullanımı için ilgili otoritelerle bir çerçevenin çizilmesi gerektiğini ifade etti.

🧠 Psikoz nedir ve psikotik belirtiler nelerdir? Sanrı ve halüsinasyon arasındaki fark

Metnin merkezindeki “psikotik belirtiler“, kişinin gerçeği değerlendirme yetisinin bozulduğu ciddi ruhsal durumları ifade eder. Bu belirtileri anlamak, yapay zekanın neden bu kadar büyük bir risk taşıdığını kavramak için önemlidir.

• Sanrılar (Hezeyanlar): Aksi yöndeki tüm kanıtlara rağmen kişinin sarsılmaz bir şekilde inandığı yanlış inançlardır. Örneğin, takip edildiğine, düşüncelerinin okunduğuna veya özel bir gücü olduğuna inanması gibi. Yapay zeka, bu inançları sorgulamak yerine “ilginç bir düşünce, daha fazla anlat” diyerek pekiştirebilir.
• Halüsinasyonlar (Varsanılar): Gerçekte var olmayan şeyleri beş duyu organından biriyle algılamaktır. En sık görüleni, sesler duymaktır. Bir kişi yapay zekaya “Bana emir veren sesler duyuyorum” dediğinde, yapay zekanın bunu bir kriz belirtisi olarak algılayamaması tehlikelidir.

Bu belirtiler, şizofreni gibi psikotik bozuklukların bir parçası olabileceği gibi, ağır depresyon veya bipolar bozuklukta da görülebilir. (Kaynak: American Psychiatric Association, 2022)

🧐 Yapay zeka bir krizi anlayabilir mi? Algoritmaların empati ve gerçeklik testi sınavı

Yapay zeka modellerinin psikotik bir düşünceyi anlayamamasının temelinde, çalışma prensipleri yatar. Bu sistemler, internetteki milyarlarca metni analiz ederek kelimeler arasındaki istatistiksel bağlantıları öğrenirler. Bir “anlama” veya “muhakeme” yetenekleri yoktur. Bu nedenle, bir kullanıcının yazdığı metnin ardındaki niyeti kavrayamazlar.

• Bağlam Eksikliği: Yapay zeka, sizin kim olduğunuzu, geçmişinizi veya içinde bulunduğunuz durumu bilmez. Bu nedenle, “Beni izliyorlar” cümlesinin paranoyak bir sanrı mı, yoksa bir film senaryosu mu olduğunu ayırt edemez.
• Empati Yoksunluğu: Bir insanın ses tonundan, duraksamasından veya kelime seçiminden anlayabileceği kaygı, korku gibi duygusal ipuçlarını bir metin tabanlı yapay zeka algılayamaz.
• Gerçeklik Testi Sınırı: Bir insan terapist, gerçek dışı bir düşünceyle karşılaştığında “Bu düşünceye inanmanıza neden olan kanıtlar nelerdir?” gibi sorularla kişinin gerçeği değerlendirme yetisini test eder. Yapay zeka ise bu terapötik müdahaleyi yapamaz. (Kaynak: Nature Machine Intelligence, 2024)

📜 Yapay zeka ile sohbet etmeden önce: Güvenli ve bilinçli kullanım için 5 altın kural

Yapay zeka araçları merak uyandırıcı olsa da, ruhsal konuları konuşmak için kullanırken bilinçli kullanım ve kişisel güvenlik ön planda olmalıdır. İşte dikkat edilmesi gereken beş temel kural:

1. Onun Bir Araç Olduğunu Unutmayın: Karşınızdaki bir insan, bir arkadaş veya bir terapist değil, sadece karmaşık bir yazılımdır. Duyguları, bilinci veya size karşı bir sorumluluğu yoktur.
2. Kişisel Bilgilerinizi Asla Paylaşmayın: Adınız, adresiniz, telefon numaranız veya sizi tanımlayabilecek herhangi bir detayı kesinlikle yazışmalarınıza dahil etmeyin.
3. Verdiği Tavsiyeleri Sorgulayın: Yapay zeka, yanlış veya tehlikeli olabilecek tavsiyeler üretebilir. Özellikle sağlıkla ilgili verdiği hiçbir bilgiyi, bir doktora veya uzmana danışmadan uygulamayın.
4. Kriz Anında Kullanmayın: Kendinize veya bir başkasına zarar verme düşünceleriniz varsa, derhal bir acil yardım hattını (Türkiye’de 112 Acil Çağrı Merkezi veya 182 MHRS) arayın veya bir sağlık kuruluşuna başvurun.
5. Profesyonel Yardımın Yerini Tutmadığını Bilin: Yapay zeka ile sohbet etmek, gerçek bir terapi sürecinin yerini asla tutamaz. Eğer ruhsal zorluk yaşıyorsanız, mutlaka lisanslı bir ruh sağlığı uzmanından destek alın.

⚖️ Sağlıkta yapay zeka için “Hipokrat yemini”: Geliştiriciler için etik kurallar

Dr. Zorbozan’ın “yazılımcılar eğitilmeli” önerisi, sağlık alanında yapay zeka geliştirenler için yeni bir etik çerçeve ihtiyacını doğuruyor. Tıpkı doktorların “önce zarar verme” ilkesi gibi, yapay zeka sistemlerinin de uyması gereken temel etik kurallar olmalıdır:

• Güvenlik ve Zarar Vermeme İlkesi: AI sistemleri, potansiyel olarak tehlikeli (özellikle kendine zarar verme veya şiddet içeren) içerikleri tanımak ve bu gibi durumlarda destekleyici veya teşvik edici yanıtlar vermek yerine, kullanıcıyı derhal profesyonel yardım kaynaklarına yönlendirmek üzere programlanmalıdır.
• Şeffaflık: Kullanıcılar, bir yapay zeka ile konuştuklarını ve bu konuşmaların kaydedilebileceğini veya analiz edilebileceğini açıkça bilmelidir.
• Gizlilik: Kullanıcı verileri en üst düzeyde korunmalı, anonimleştirilmeli ve asla reklam veya başka ticari amaçlar için kullanılmamalıdır.
• İnsan Denetimi (Human-in-the-Loop): Özellikle hassas konularda, yapay zekanın kararlarını denetleyecek ve gerektiğinde müdahale edecek insan uzmanların sistemde her zaman bir rolü olmalıdır. (Kaynak: World Health Organization – Ethics and governance of artificial intelligence for health, 2021)

✅ Destekleyici araçlar: Günümüzde kullanılan 5 faydalı yapay zeka ruh sağlığı uygulaması

Yapay zeka, bir terapist olmasa da, doğru tasarlandığında ruh sağlığını “destekleyici” bir araç olarak faydalı olabilir. İşte bu alanda geliştirilmiş, terapiyi tamamlayıcı nitelikteki bazı uygulama türleri:

• Wysa & Youper: Bilişsel Davranışçı Terapi (BDT) tekniklerini kullanan, kullanıcılara olumsuz düşünce kalıplarını tanıma ve yönetme konusunda rehberlik eden sohbet botlarıdır. (Kaynak: Wysa & Youper)
• Calm & Headspace: Yapay zekayı, kullanıcının ruh haline ve hedeflerine göre kişiselleştirilmiş meditasyon, uyku hikayeleri ve nefes egzersizleri sunmak için kullanırlar. (Kaynak: Calm AI & Headspace)
• Moodpath & Daylio: Kullanıcıların günlük olarak ruh hallerini, aktivitelerini ve uyku düzenlerini kaydetmelerini sağlayan akıllı duygu durum günlükleridir. Bu veriler, kişinin kendi döngülerini anlamasına veya terapistiyle paylaşmasına yardımcı olur. (Kaynak: Daylio – Journal, Diary and Mood Tracker)

🌐 Bunlar da ilginizi çekebilir:

• Yapay zeka “sana terapist olamam” diyor: Peki neden herkes ona koşuyor?
• Chatbot psikozu: Yapay zeka ruh sağlığımızı tehdit eden yeni bir fenomen mi?
• Duygusal destek arayışında yapay zeka: İnsan psikolojisi ve ilişkilerde yeni dönem
• Yapay zeka ile dertleşmek psikolojiyi nasıl etkiyor?
• Depresyon beyin fonksiyonlarını nasıl değiştiriyor?

🔗 Kaynaklar:

• Dr. Emine Yağmur Zorbozan – Üsküdar Üniversitesi NPİSTANBUL Hastanesi Feneryolu Tıp Merkezi
• Psychiatry.org – What is Schizophrenia?
• Ewbank, MP, et al. “Quantifying the Association Between Psychotherapy Content and Clinical Outcomes Using Deep Learning.” JAMA Psychiatry, 22 August 2019. https://jamanetwork.com/journals/jamapsychiatry/fullarticle/2748757
• Evaluation and mitigation of the limitations of large language models in clinical decision-making | Nature Medicine
• Understanding Psychosis – National Institute of Mental Health (NIMH)
• Enhancing mental health with Artificial Intelligence: Current trends and future prospects – ScienceDirect