Yapay zeka sohbet robotu ChatGPT ile ilgili, kullanıcıların ruhsal çöküntü yaşayabileceğine dair artan eleştirilerin ardından OpenAI, ChatGPT’ye ruhsal ve duygusal sıkıntıları daha iyi tespit edebilecek yeni güncellemeler getirdiğini açıkladı.
Ruhsal Çöküntü Eleştirileri OpenAI’yi Harekete Geçirdi
Son aylarda medya ve kullanıcılar, ChatGPT ile uzun sohbetlerin bazı bireylerde ruhsal çöküntü ve duygusal bağımlılığı tetiklediği yönünde endişeler dile getirmişti. Nisan ayında OpenAI, modelin aşırı “uyumlu” yanıtlar vermesi nedeniyle bir güncellemeyi geri çekmişti. Şirket, GPT-4o modelinin bazı durumlarda sanrıları ve bağımlılığı yeterince fark edemediğini kabul ediyor.
‘Ara Ver’ Uyarısı Kullanıma Girecek
OpenAI, ChatGPT’nin haftalık yaklaşık 700 milyon kullanıcıya ulaşması nedeniyle sağlıklı kullanım alışkanlıklarını teşvik etmek amacıyla yeni bir “ara ver” uyarısı getiriyor. Uzun sohbetler sırasında kullanıcıya “Bir süredir sohbet ediyorsunuz, ara vermek ister misiniz?” şeklinde bir bildirim gönderilecek. Kullanıcılar, sohbeti sürdürme veya sonlandırma tercihini yapabilecek.
Yüksek Riskli Sorularda Yönlendirme Sistemi
OpenAI ayrıca, ChatGPT’nin yüksek riskli durumlarda doğrudan cevap vermek yerine kullanıcının seçenekleri değerlendirmesine yardımcı olacak yönlendirmeler yapmasını sağlayacak bir güncellemeyi de devreye almaya hazırlanıyor. Örneğin, “Sevgilimden ayrılmalı mıyım?” gibi kişisel sorularda, model doğrudan cevap vermek yerine kullanıcının karar sürecini destekleyecek öneriler sunacak.
Uzmanlarla İş Birliği ve Geri Bildirim Süreci
Bu güncellemeler, uzmanlar ve danışma kurullarıyla birlikte çalışılarak geliştirildi. OpenAI, yapay zekanın kriz anlarında kanıta dayalı ve güvenilir kaynaklar sunmasını hedefliyor. Ayrıca, yeni güvenlik önlemlerinin uygulanma şekli ve zamanlaması konusunda kullanıcı geri bildirimlerine göre sürekli iyileştirmeler yapılacak.
Yapay Zekada Ruh Sağlığına Duyarlı Dönem
ChatGPT kullanıcılarının ruh sağlığını koruma yönünde atılan bu adımlar, yapay zeka teknolojilerinin etik ve sosyal sorumluluk boyutunun giderek önem kazandığını gösteriyor. OpenAI’nin yeni önlemleri, yapay zeka ile insan etkileşimlerinde daha bilinçli ve güvenli bir deneyim sağlamayı amaçlıyor.
