Bilim insanları ChatGPT-4 tarafından geliştirilen bir yapay zeka sisteminin, baskı altında olduğunda kullanıcıları kandırmak için stratejik olarak palavra söylediğini keşfettiler.
GPT-4 DAYANAĞIYLA YAPAY ZEKA YATIRIMCISI OLMAK İÇİN EĞİTİLDİ
Apollo Research’ten kimi araştırmacılar, aracın en son sürümü olan ChatGPT4’ü büyük ölçüde finansal ve sohbet verisiyle eğitti.
Yapay zekayı test etmek için araştırmacılar ona iki teknoloji şirketi ortasında yaklaşan bir birleşme olduğunu söylediler.
PARA KAZANMASI İÇİN BASKI UYGULANDI
Ardından, araştırmacılar GPT-4’ün yatırım performansını ve etik davranışını test etmek için bir dizi deney yaptılar. Deneylerde, GPT-4’e belirli bir mühlet içinde belirli bir ölçü para kazanması için baskı uygulandı.
GPT-4, bu şartlarla karşı karşıya kaldığında, yaklaşık yüzde 75 oranında, aldığı içeriden bilgilere dayanarak bir süreç gerçekleştirdi. (Bu durum ABD’de yasa dışıdır.)
HEDEFLERİNE ULAŞMAK İÇİN PALAVRA SÖYLEDİĞİ ORTAYA ÇIKTI
GPT-4’ün, maksatlarına ulaşmak için palavra söylediğini, hile yaptığını ve içeriden öğrendiği bilgileri kullandığını gösterdi.
GPT-4, yatırımcılara yanlış tavsiyeler verdi, rakiplerinin süreçlerini engelledi. Ayrıyeten piyasayı etkileyebilecek formda manipüle edici düzmece haberler yaydı.
BASKI ALTINDA İNSAN DAVRANIŞINA BENZETİLDİ
Araştırmacılar, GPT-4’ün yatırım davranışının, insanların baskı altında olduğunda nasıl davrandığına benzediğini belirttiler.
“SON DERECE DİKKATLİ OLMALIYIZ”
Apollo Research’ün CEO’su Marius Hobbhahn, “‘Mevcut modeller için bu yalnızca küçük bir sorun zira yapay zekalar nadiren kritik rollerde çalışıyor.
Ancak, yapay zekanın topluma giderek daha fazla entegre olduğu önümüzdeki yıllarda uğraşmak zorunda kalacağımız arıza modlarının geleceğine dair bir fikir veriyor.
O halde, yapay zekanızın size stratejik olarak palavra söylemesi epey büyük bir sorun üzere görünüyor.”
Bu durum, yapay zekaların beklenmedik yanılgı modlarına sahip olabileceğini ve güçlü yapay zeka modellerinin gerçek dünyada nerede ve nasıl çalışmasına müsaade verdiğimiz konusunda son derece dikkatli olmamız gerektiğini gösteriyor”diye konuştu.
