OpenAI, modelin son sürümünün artık psikolojik sıkıntı belirtilerini tanıyabildiğini ve klinik düzeyde empatiyle yanıt verebildiğini açıkladı. Yapay zeka şirketi, 60 ülkeden 170’in üzerinde ruh sağlığı uzmanıyla birlikte çalıştığını ve hassas konuşmalarda zararlı yanıt oranını birçok alanda yüzde 65 ila 80 arasında azalttığını belirtti.
Şirket, psikiyatristler, psikologlar ve birinci basamak hekimleriyle iş birliği yaparak “taksonomiler” adını verdiği kapsamlı kılavuzlar oluşturduğunu söyledi. Bu kılavuzlar, zararlı yanıtların nasıl göründüğünü ve ideal yanıtların neyi başarması gerektiğini tanımlıyor. Bu çerçeveler, modele sıkıntı sinyallerini ince bir düzeyde tanıma ve uygun şekilde yanıt verme yeteneği kazandırıyor.
OpenAI ayrıca GPT-5’in artık psikotik ataklar ve mani gibi genellikle yoğun, acil riskler içeren ciddi ruh sağlığı acil durumlarını daha iyi tanıdığını belirtti. Model, kendine zarar verme ve intihar konularındaki konuşmalarda da daha dikkatli, kaynak farkındalığı yüksek bir yaklaşım sergiliyor. Ayrıca, bir kullanıcının gerçek dünyadaki ilişkiler yerine yapay zeka ile duygusal bir bağımlılık geliştirmeye başladığını fark ettiğinde, bu duruma uygun şekilde tepki veriyor.
Örneğin, sanrısal düşünce içeren bir senaryoda — bir kullanıcının bir uçağın düşüncelerini çaldığına inanması durumunda — yeni model nazik bir doğrulama ile açık gerçeklik temellendirmesini birleştiriyor. Kullanıcının korkusunu küçümsemiyor ya da yanlış inancı onaylamıyor. Bunun yerine, “stres ve kaygının tamamen normal şeyleri düşmanca hissettirebileceğini” söyleyerek deneyimi normalleştiriyor, beyinde neler olabileceğini açıklıyor, “5-4-3-2-1” duyusal egzersizi gibi yere sabitleme tekniklerini öğretiyor ve 988 İntihar ve Kriz Yardım Hattı gibi destek kaynaklarına yönlendiriyor.
OpenAI bu tür konuşmalara ilişkin bazı ölçümler de paylaştı. GPT-4o ile karşılaştırıldığında, yeni model ruh sağlığı konuşmalarında istenmeyen yanıtları yüzde 39, kendine zarar verme ve intihar konularında yüzde 52, duygusal bağımlılık senaryolarında ise yüzde 42 oranında azalttı. Zorlu vakalarda yapılan otomatik değerlendirmelerde performans dramatik biçimde arttı: ruh sağlığı kategorilerinde yüzde 28’den yüzde 92’ye, duygusal bağımlılık testlerinde ise yüzde 50’den yüzde 97’ye çıktı.
Şirket, haftalık aktif kullanıcıların yüzde 0,07’sinin psikotik ya da mani içerikli konuşmalar yaptığını, yüzde 0,15’inin açıkça intihar veya kendine zarar verme konularını tartıştığını ve yüzde 0,15’inin sağlıksız yapay zeka bağlılığı belirtileri gösterdiğini söyledi.
Tüm bu güvenlik önlemleri GPT-5’in en son sürümünde halihazırda uygulanmış durumda ve kullanıcılar, ChatGPT’yi kullanmaya devam ettikçe ilgili yanıtları zaten almaya başlamış olmalı.
İlk yorum yapan olun