Yapay zeka Holokost inkarını körükleyebilir: UNESCO

Birleşmiş Milletler Eğitim, Bilim ve Kültür Örgütü (UNESCO), yapay zekanın (AI) Holokost inkarında yeni bir artışa neden olabileceği konusunda uyarıyor.

Holokost, Adolf Hitler liderliğindeki Nazi Almanyası döneminde binlerce Yahudinin sistematik bir şekilde öldürüldüğü soykırıma verilen isimdir.

UNESCO'nun Salı günü yayınladığı rapora göre, yapay zeka sistemleri Holokost'u inkar eden web sitelerinden gelen soruları yanıtlamak üzere eğitilebildikleri için Holokost hakkındaki bilgileri çarpıtabiliyor.

Raporda yapay zekanın "Holokost ile ilgili içeriği çarpıtmak, uydurma ifadeler oluşturmak ve hatta tarihi belgeleri değiştirmek" için kullanıldığı belirtiliyor. UNESCO ayrıca Holokost'un gerçekleşmediğini veya abartıldığını öne süren gerçekçi görüntüler veya videolar olan deepfake'lere karşı da uyardı.

Günümüzde, kullanıcıların Adolf Hitler gibi önde gelen Nazi figürleriyle doğrudan konuşmasına olanak tanıyan uygulamalar bile var.

Üretken yapay zeka modelleri, yeterli veriye erişimleri olmadığında olayları, insanları ve hatta tarihi yeniden keşfedebilir.

Raporda, Google'ın Bard ve ChatGPT'nin Holokost ile ilgili "asla gerçekleşmemiş" olaylar hakkında içerik ürettiği belirtildi.

ChatGPT, Nazilerin Yahudileri nehirlerde ve göllerde boğduğuna dair yanlış bir kavram üretirken, Bard, katliamlarla ilgili yanlış anlatıları desteklemek için sahte tanık alıntıları üretti.

"Eğer Holokost'un korkunç gerçeklerinin yapay zekanın sorumsuz kullanımı yoluyla sulandırılmasına, çarpıtılmasına veya tahrif edilmesine izin verirsek, antisemitizmin hızla yayılması ve bu zulmün nedenleri ve sonuçlarının anlaşılmasında azalma riskiyle karşı karşıya kalırız." dedi UNESCO Genel Direktörü. Audrey Azoulay rapora eşlik eden bir açıklamada şunları söyledi” dedi.

UNESCO raporu, teknoloji şirketlerini, güvenilmez bilgi olasılığını azaltmak ve programların şiddeti teşvik etmek ve Holokost hakkında yalan yaymak için kullanılmasını önlemek için yapay zekanın geliştirilmesi ve kullanımına yönelik etik kurallar oluşturmaya çağırıyor.

Rapor Dünya Yahudi Kongresi ile ortaklaşa yayınlandı.