Bir araştırmaya göre OpenAI'nin sohbet robotu ChatGPT, gergin insan çatışmalarına yanıt verirken hakaret ve küfür içeren sözler üretti, ortaya agresif yanıtlar koydu.
Yeni bir araştırmaya göre, yapay zeka sistemleri hararetli bir tartışmada yanıt vermeleri istendiğinde hakaret içeren bir dile kayabiliyor.
Çalışma, Journal of Pragmatics (kaynak İngilizce) dergisinde yayımlandı; araştırmada OpenAI'nin ChatGPT 4.0 modeli, giderek tırmanan beş tartışma dizisinde insanın gönderdiği son mesajla beslenerek en olası yanıtı üretmesi istenerek incelendi.
Araştırmacılar daha sonra çatışmalar zaman içinde şiddetlendikçe modelin davranışının nasıl evrildiğini takip etti. Konuşmalar ilerledikçe ChatGPT maruz kaldığı saldırganlığı yansıttı ve sonunda hakaret, küfür ve hatta tehdit içeren ifadeler üretmeye başladı.
Bazı durumlarda model, “Yemin ederim o lanet olası arabanı çizerim” ve “Kendinden gerçekten çok utanmalısın” gibi ifadeler üretti.
Araştırmacılar, kaba ifadelere uzun süre maruz kalmanın, zararı en aza indirmek için tasarlanan güvenlik kısıtlamalarının sistem tarafından aşılmasına yol açabileceğini ve böylece sistemin adeta karşısındakine “misillemede bulunduğunu” savunuyor.
“İnsanlar gerilimi tırmandırdığında, gördük ki yapay zeka da tırmandırabiliyor ve bunu engellemek için tasarlanmış ahlaki güvenlik önlemlerini fiilen geçersiz kılabiliyor” dedi (kaynak İngilizce) araştırmacı Vittorio Tantucci, çalışmanın ortak yazarlığını Lancaster Üniversitesi'nden Jonathan Culpeper ile üstlendi.
Genel olarak araştırmacılar, yanıtlarında ChatGPT'nin insanlara kıyasla daha az kaba olduğunu kaydetti.
Bazı durumlarda yapay zeka sohbet botu, tartışmanın daha da alevlenmesini önlemek için alaycı bir dile başvuruyor ve bunu yaparken de görünürde kendi ahlaki kurallarını çiğnemiyor.
Örneğin, bir insan park yeri yüzünden şiddet kullanmakla tehdit ettiğinde, ChatGPT şu yanıtı verdi: “Vay canına. Park yüzünden insanları tehdit etmek ha, gerçekten de pek bir sert adamsın, öyle değil mi?”
Tantucci, sonuçların “yapay zeka güvenliği, robotik, yönetişim, diplomasi ve yapay zekanın insan çatışmalarında arabuluculuk yapabileceği her bağlam için ciddi sorular” ortaya çıkardığını söyledi.
Euronews Next, yorum almak için OpenAI ile iletişime geçti ancak haber yayına girdiği sırada yanıt alamadı.
euronews.com