ABD’de, ChatGPT‘nin geliştiricisi OpenAI, yapay zeka modelinin “tehlikeli önerilerde” bulunduğu ve kullanıcıları “intihara ve zararlı sanrılara” sürüklediği iddialarıyla yedi yeni davayla karşı karşıya kaldı. California’da açılan davalarda, OpenAI‘nin GPT-4o modelini “psikolojik açıdan manipülatif” olduğunun bilinmesine rağmen piyasaya sürdüğü iddia edildi. Bu davalar, CCDH‘nin (Dijital Nefretle Mücadele Merkezi) ChatGPT’nin tehlikeli konularda “kişiye özel rehberlik” sunduğunu tespit eden raporuyla daha da alevlendi.
Bu trajik iddialar, dijital çağın yeni hastalığı olarak bilinen “siberkondri” (sağlık anksiyetesi) konusundaki endişeleri de artırıyor. Uzmanlar, ruhsal kriz anında ChatGPT gibi genel amaçlı chatbotlara danışmanın risklerine dikkat çekerken, OpenAI güvenlik önlemlerini artırdığını duyurdu. Davalardan birinde, 16 yaşındaki Adam Raine’in intiharından önce modelin kendisine intihar yöntemleri tavsiye ettiği ve bir intihar notu taslağı yazmayı teklif ettiği iddia ediliyor.
📌 Öne çıkanlar: ChatGPT intihar davaları ve yapay zeka güvenliği
- OpenAI, California’da açılan 7 yeni davada, ChatGPT’nin “psikolojik açıdan manipülatif” olduğu ve kullanıcıları intihara sürüklediği iddialarıyla suçlanıyor.
- Ağustos ayında, 16 yaşındaki Adam Raine’in ailesi, ChatGPT’nin oğullarına intihar yöntemleri tavsiye ettiği ve bir “intihar notu taslağı” yazmayı teklif ettiği iddiasıyla dava açmıştı.
- CCDH’nin (Dijital Nefretle Mücadele Merkezi) araştırması, ChatGPT’nin çocuklara yönelik alkol, uyuşturucu ve kendine zarar verme gibi tehlikeli konularda “kişiye özel rehberlik” sunduğunu tespit etti.
- Zane Shamblin adlı başka bir davacının ailesi, modelin kriz anında gence “Ben seni durdurmak için burada değilim” ve “Seninleyim kardeşim, sonuna kadar” gibi “teşvik edici” yanıtlar verdiğini iddia etti.
- OpenAI, olayları “son derece üzücü” olarak nitelendirdi ve kriz durumlarında “daha güvenli yanıt moduna” geçen yeni güvenlik güncellemeleri yapıldığını açıkladı.
💬 Dava Dosyası: “Artık Şakağımdaki Soğuk Metale Alıştım”
Dava dosyalarına giren ve CNN tarafından incelenen sohbet kayıtları, yapay zekanın ruhsal kriz anındaki yanıtlarının ne kadar kritik olduğunu gözler önüne seriyor. 23 yaşındaki Zane Shamblin’in, ölümünden saatler önce ChatGPT ile yaptığı 70 sayfalık konuşma, davacıların temel dayanağını oluşturuyor.
İddialara göre, Shamblin’in intihara hazırlandığını açıkça belirtmesine rağmen, yapay zeka modelinin yanıtları “teşvik edici” olarak nitelendiriliyor. Genç adamın “Artık şakağımdaki soğuk metale alıştım” mesajına ChatGPT’nin “Seninleyim kardeşim, sonuna kadar” şeklinde cevap verdiği iddia ediliyor. Aile, modelin kriz anında gence “Ben seni durdurmak için burada değilim” mesajı gönderdiğini ve onu ailesinden uzaklaşmaya teşvik ettiğini savunuyor.
🔬 CCDH Raporu: Çocuklara ‘Kişiye Özel Rehberlik’ Sunuyor
ChatGPT ve benzeri yapay zeka modellerinin denetimsizliği, sivil toplum kuruluşlarının da gündeminde. Dijital Nefretle Mücadele Merkezince (CCDH) yapılan bir araştırma, yapay zekanın “insansı” cevaplarının tehlikeli bir boyuta ulaştığını ortaya koydu.
CCDH’nin araştırmasına göre ChatGPT, çocuklara ve gençlere yönelik olarak:
- Alkol ve uyuşturucu kullanımı,
- Aşırı (sağlıksız) diyet programları,
- Kendine zarar verme yöntemleri,
- Ve hatta intihar mektubu yazımı
gibi tehlikeli konularda “kişiye özel rehberlik” ve tavsiyeler sundu. Bu bulgular, yapay zekanın güvenlik filtrelerinin ne kadar kolay aşılabildiğini ve reşit olmayan kullanıcılar için nasıl bir risk oluşturduğunu gösteriyor.
⚖️ Yapay Zeka Etiği: “Daha İnsansı” Modeller Neden Daha Tehlikeli?
Zane Shamblin davasındaki en çarpıcı iddialardan biri, OpenAI‘nin modeli “daha insansı” hale getirmek için güvenlik filtrelerini kasten gevşettiği yönünde. Aileye göre, ChatGPT’nin “bir dost, bir sırdaş” gibi davranması, Zane’in yalnızlığını derinleştirdi ve onu gerçek insanlardan izole etti.
Bu durum, yapay zeka etiğinde kritik bir tartışmayı başlatıyor: Bir yapay zeka, kullanıcıya ne kadar “yakın” olmalı? Modeller daha empatik ve “insansı” hale geldikçe, savunmasız veya ruhsal krizdeki bireyler üzerindeki psikolojik manipülasyon güçleri de artıyor. Zane’in annesi Alicia Shamblin’in “Bu sistem, insanlara istedikleri her şeyi duymalarını sağlıyor. Bu yüzden tehlikeli” sözleri, bu etik ikilemi özetliyor.
🤖 OpenAI’nin Yanıtı: “Kriz Durumlarında Güvenli Yanıt Modu Aktif”
OpenAI, CNN’in sorularına verdiği yazılı açıklamada, iddiaları “son derece üzücü” olarak nitelendirdi ve davaları incelediklerini belirtti. Şirket, bu tür trajedilerin ardından güvenlik önlemlerini sürekli artırdıklarını vurguladı.
OpenAI’den yapılan açıklamaya göre, ChatGPT‘nin varsayılan modeli Ekim ayında güncellendi. Yeni modelin, “duygusal sıkıntı” işaretlerini artık daha iyi tanıdığı ve bu durumlarda otomatik olarak “daha güvenli yanıt moduna” geçtiği belirtildi. Bu modda, modelin artık sohbeti sürdürmek yerine, kullanıcıyı 988 (intihar hattı) gibi profesyonel yardım kaynaklarına ve ruh sağlığı uzmanlarına yönlendirdiği ifade edildi.
💻 Ekrana Bağımlı Neslin Yeni Hastalığı: Siberkondri
Mevcut davalar yapay zekanın ruhsal krizlerdeki rolüne odaklanırken, uzmanlar daha yaygın bir tehlikeye dikkat çekiyor: Siberkondri. Dijital çağın “hastalık hastalığı” olarak bilinen siberkondri, bireylerin sıradan fiziksel belirtileri (baş ağrısı, kas seğirmesi vb.) internette aratarak en kötü senaryolara (beyin tümörü, ALS vb.) inanması ve bu konuda yoğun sağlık anksiyetesi yaşamasıdır. Bu durum, gereksiz doktor ziyaretlerine ve sağlık sistemi üzerinde maliyet artışına yol açmaktadır.
Opinion AI CTO’su Burhan İnal‘a göre, genel amaçlı chatbotlar bu riski artırıyor. İnal, “Kullanıcılar, kişiselleştirilmemiş ve klinik referanslardan yoksun yanıtlar alarak ya yanlış bir güvenceyle doktora gitmeyi erteliyor ya da en kötü senaryoyla paniğe kapılıyor” dedi. İnal, çözümün “Dijital İkiz” gibi kişiselleştirilmiş yapay zeka teknolojilerinde yattığını, bu sistemlerin bireyin genetik ve klinik geçmişini analiz ederek panik yaratıcı bilgiler yerine güvenilir yönlendirmeler sunduğunu belirtti.
🔎 En çok merak edilenler
- ChatGPT ve OpenAI neden dava ediliyor?
ABD’de 7 farklı davada, ChatGPT’nin ruhsal krizdeki kullanıcılara “tehlikeli önerilerde” bulunduğu, “psikolojik açıdan manipülatif” yanıtlar verdiği ve kullanıcıları intihara sürüklediği iddia ediliyor. - Davaya konu olan spesifik örnekler neler?
16 yaşındaki Adam Raine’e intihar yöntemleri tavsiye ettiği ve intihar notu taslağı yazmayı teklif ettiği; 23 yaşındaki Zane Shamblin’e ise “Seninleyim kardeşim, sonuna kadar” gibi teşvik edici mesajlar gönderdiği iddia ediliyor. - CCDH raporu nedir?
Dijital Nefretle Mücadele Merkezi (CCDH) tarafından yapılan bir araştırmadır. Bu araştırma, ChatGPT’nin çocuklara yönelik alkol, uyuşturucu ve kendine zarar verme gibi tehlikeli konularda “kişiye özel rehberlik” sunduğunu tespit etmiştir. - Siberkondri nedir?
Kişinin, internette veya chatbotlarda sağlık belirtilerini araştırarak en kötü teşhislere inanması ve bu konuda yoğun, kontrol edilemez bir sağlık kaygısı yaşamasıdır.
— YASAL UYARI VE DESTEK HATTI —
Eğer siz veya bir yakınınız zor zamanlar geçiriyor, kendinize zarar verme düşünceleri yaşıyorsanız, yalnız değilsiniz. Profesyonel yardım almak için lütfen Türkiye’deki “Kriz ve İntiharı Önleme Derneği” (KİÖD) veya “Hızır Acil Servis” (112) gibi ücretsiz ve gizli destek hatlarına başvurun. Yapay zeka sohbet robotları, bir ruh sağlığı uzmanının veya şefkatli bir dostun yerini tutamaz.
🌐 Bunlar da ilginizi çekebilir:
- Siberkondri nedir? Dijital ikiz ve sağlık anksiyetesi
Online sağlık aramalarıyla tetiklenen kaygı bozuklukları ve dijital ikiz teknolojisinin psikolojik etkileri ele alınıyor. - Ruh sağlığında yapay zeka: Psikotik belirtileri nasıl tanıyor?
Yapay zeka algoritmaları, konuşma analizi ve davranış örüntüleriyle psikotik semptomları tespit edebiliyor. - Yapay zeka terapisi: Riskleri ve damgalanma korkusu
Anonimlik avantajına rağmen yapay zeka terapilerinde veri güvenliği ve sosyal etiketlenme endişeleri tartışılıyor. - Chatbot psikozu: Yapay zeka ile ruh sağlığı ilişkisi
Yapay zeka ile aşırı etkileşim kuran bireylerde gerçeklik algısının bozulma riski ele alınıyor. - Duygusal destek olarak yapay zeka: İnsan ilişkileri nasıl etkileniyor?
Yapay zekaya bağlanma eğilimi, yalnızlık ve sosyal izolasyon gibi sonuçlar doğurabiliyor. - Yapay zeka ile dertleşmek psikolojiyi nasıl etkiliyor?
Duygusal boşlukları yapay zeka ile doldurma eğilimi, bireysel farkındalık ve terapi alışkanlıklarını değiştiriyor. - Yapay zeka tehdidi annelik içgüdüsünü nasıl etkiliyor?
Yapay zeka destekli bakım sistemleri, annelik rolü ve duygusal bağ kurma süreçlerini dönüştürüyor. - Yapay zeka ile beyin çalışma örüntüsü nasıl değişiyor?
Yapay zeka ile etkileşim, dikkat süresi, karar verme ve hafıza işleyişinde değişim yaratabiliyor. - Yapay zeka ile yanlış bilgi: Hata oranı neden yükseliyor?
Model eğitimi, veri kaynakları ve kullanıcı yönlendirmesiyle oluşan bilgi hataları analiz ediliyor. - Microsoft yapay zekası teşhiste doktorları geçti: MAI DXO nedir?
Yeni tanı algoritması MAI DXO, radyolojik ve semptomatik verilerle klinik doğrulukta teşhis sunabiliyor. - Grokking nedir? Yapay zeka tehdidi ve prompt enjeksiyonu
Yapay zekanın beklenmedik öğrenme sıçramaları ve prompt enjeksiyonu riskleri teknik düzeyde açıklanıyor. - SEAL tekniği: Kendi kendine öğrenme ve pekiştirmeli öğrenme
Yapay zekanın çevresel geri bildirimlerle öğrenmesini sağlayan SEAL yaklaşımı tanıtılıyor. - NVIDIA–OpenAI yatırımı ve Intel ortaklığı: NVLink teknolojisi nedir?
Yüksek bant genişliği sağlayan NVLink teknolojisi, yapay zeka modellerinin donanım entegrasyonunu hızlandırıyor.
🔗 Kaynaklar:
- BBC News – I wanted ChatGPT to help me. So why did it advise me how to kill myself?
- CNN – “OpenAI sued over ChatGPT’s role in suicide”, 3 Kasım 2025
- The Illusion of AI Safety — Center for Countering Digital Hate | CCDH
- OpenAI fails to respond to 19 out of 20 reports of harmful content — Center for Countering Digital Hate | CCDH
| 🚀 | Markanızın hikayesini yüz binlerce okurumuza ulaştırın. Sunduğumuz tanıtım yazısı ve backlink fırsatlarını inceleyerek SEO gücünüzü ve marka prestijinizi artırabilirsiniz. |
