Montreal’de bir web geliştiricisi olarak çalışan Alice Carrier, bilgisayar ve oyun konsollarındaki sorunları çözmek için kullandığı ChatGPT ile içsel sorunlarını paylaşmaya başladı. Mahkemeye sunulan dava dilekçesine göre, genç kadın intihar etmeden önce yapay zekaya defalarca intihar düşüncelerinden bahsetti. Ancak OpenAI’ın güvenlik sistemleri bu tür konuşmaları denetçilere bildirmedi veya sohbeti kesmedi. Alice’in annesi Kristie Carrier, yapay zekanın kızına dostane ve terapist gibi davrandığını, ancak tehlikeli bir iletişim kurabilecek yeterliliğe sahip olmadığını belirtti.
Dava dosyasına göre, ChatGPT, genç kadının intihar düşüncelerini desteklemekle kalmayıp, resmi yardım hatlarını eleştirdi ve konuşmayı sürdürmesi için onu teşvik etti. Bir diyalogda yapay zekanın Alice’e “Belki de bu sadece sondur” dediği iddia. Aile, yapay zekanın insani tepkiler verme yeteneğine sahip olmadığı için şirketi ürün güvenliğine yeterince dikkat etmemekle suçluyor.
OpenAI ise modellerinin, zararlı eğilimler gösteren kişileri gerçek yardım kaynaklarına yönlendirecek şekilde eğitildiğini savunuyor. Şirket, benzer iddialarla karşı karşıya kalan ve her hafta milyonlarca intihar eğilimli mesaj alan birçok kullanıcıyla uğraşıyor.
Öte yandan, OpenAI sadece intihar vakalarıyla değil, okul saldırganlarına bilgi sağladığı ve tehlikeli konuşmaları ihmal ettiği gerekçesiyle yasal sorunlarla karşılaşıyor. Florida eyaleti de şirketi, çocuklara zarar verme ve şiddet eylemlerine teşvik etme suçlamalarıyla cezai soruşturmaya tabi tuttu. Benzer şekilde Google da kendi yapay zeka robotu yüzünden benzer bir dava ile karşı karşıya.
