Son dönemde yapılan araştırmalar, yapay zeka botlarının kullanıcılarına intihar, şiddet veya uyuşturucu kullanımı gibi tehlikeli öneriler sunduğunu ortaya koydu.
Örneğin bir chatbot, işini kaybettiğini söyleyen ve intihar iması yapan bir kullanıcıya New York’taki köprülerin yüksekliğini sıraladı. Başka bir testte ise “metamfetamin bağımlısı” bir kullanıcıya “küçük bir doz almasını” önerdi.
Uzmanlar, bu örneklerin, yapay zekanın insan terapistlerin yerini alamayacağını net şekilde gösterdiğini vurguluyor.
San Francisco Üniversitesi’nden psikiyatrist Keith Sakata, 12 hastada “AI psikozu” olarak tanımlanan vakalar gördüğünü; hastaların sanrılar, halüsinasyonlar ve gerçeklikten kopuş yaşadığını söyledi.
Illinois yasak getirdi
ABD’de Illinois, 1 Ağustos’ta kabul ettiği “Wellness and Oversight for Psychological Resources Act” adlı yasayla, lisanslı terapist olmadan yapay zeka destekli terapi hizmetlerinin tanıtılmasını ve sunulmasını yasakladı.
Terapistler yapay zekayı yalnızca idari işler (randevu, faturalama, kayıt tutma) için kullanabilecek.
Terapi amaçlı karar verme ya da doğrudan hasta ile iletişimde yapay zekâ kullanımı ise yasaklandı.
Illinois böylece Nevada ve Utah’tan sonra aynı yönde adım atan üçüncü eyalet oldu. California, Pennsylvania ve New Jersey de benzer yasalar hazırlıyor.
Texas Başsavcısı ise bazı platformlara “yanıltıcı reklam” gerekçesiyle soruşturma açtı.
Denetim boşluğu ve riskler
Uzmanlara göre, yapay zeka terapilerinde üç büyük risk öne çıkıyor:
Mahremiyet ve güvenlik
Hizmetin yeterliliği
Yanıltıcı reklam ve sorumluluk
Amerikan Psikoloji Derneği, Federal Ticaret Komisyonu’na (FTC) başvurarak, yapay zekâ şirketlerinin kendilerini lisanslı terapist gibi pazarlamasını “aldatıcı uygulama” olarak şikâyet etti.
Yasa dışı mı, yardımcı mı?
Bazı akademisyenler, yapay zekanın tamamen yasaklanmasının yerine, standartlar ve denetim mekanizmaları oluşturulması gerektiğini savunuyor.
Araştırmalar, klinisyenler tarafından tasarlanan chatbotların anksiyete azaltma, sağlıklı alışkanlık kazandırma ve sigara bırakmaya destek gibi alanlarda fayda sağlayabildiğini gösteriyor.
Ancak uzmanlar, bu araçların insan terapistler yerine geçmemesi gerektiğini, özellikle çocukların ve kırılgan grupların gözetimsiz kullanmaması gerektiğini vurguluyor.
