Yapay zekanın insanlığa yeni bir refah seviyesi mi yoksa bir felaket mi getireceği hala büyük bir tartışma konusu. Ancak ne olursa olsun insanlığın başka bir yere getireceği kesin.

İnsanlar kazayla süper akıllı bir yapay zeka oluşturup vicdanla programlamayı unutabilirler ya da eğitim sistemindeki ırkçı yaklaşım ve önyargıları engelleyen hukuk mekanizmasını tamamen yok edebilirler. Tüm bunların nasıl sonuçlar doğuracağını hepimiz az çok tahmin edebiliyoruz. Ancak bu buzdağının sadece görünen kısmı.

Tüm ahlaki normlara aykırı, kötü niyetli veya suçu teşvik edici amaçlarla yapay zekayı aktif şekilde kullanmak isteyen insanların sayısı oldukça fazla. Bunlar tahmin ettiğimizden daha büyük bir sorun teşkil ediyorlar.

Üniversite ve enstitülerde görev yapan iki düzine akademisyen ve araştırmacı bu büyük sorunu duyurmak için bir araya gelerek “Yapay Zekanın Kötü Amaçlı Kullanımı: Öngörü, Önleme ve Azaltma” başlıklı bir rapor yayımladı. Rapora göre yapay zeka önümüzdeki beş yıl içinde insanlığı oldukça zora sokacak.

Rapor, yapay zekanın hem dijital hem de fiziksel güvenlik sistemleri için giderek daha da büyük bir tehdit oluşturduğunun altını çiziyor ve çeşitli senaryolarla bu duruma  farkındalık yaratmaya çalışıyor. Ancak aynı zamanda da bu sorunlarla nasıl savaşılabileceğine dair çeşitli tavsiyelerde de bulunuyor.

Raporda yapay zekanın insanlık için yarattığı tehlikeler şu an için hepimize fantastik bir dünya kurgusu gibi gelse de aslında hepimiz yapay zeka tehlikesinin farkına varmaya başladı. Geçtiğimiz haftalarda yüz değiştirme teknolojisinin ünlülerin yüzlerini “rızası olmadan” kullanarak çeşitli mecralardaki videolara yapıştırdığı haberlerine şahit olduk.

Raporda yer alan  5 temel tavsiye

  • Yapay zeka araştırmacıları, çalışmalarının kötü niyetle kullanılabileceğini kabul etmelidir.
  • Hükümetler ve kanun yapıcılar, teknik uzmanlardan yapay zeka tehditleri hakkında bilgi almalıdır.
  • Yapay zeka dünyasındaki her bir kişi siber güvenlik uzmanlarından sistemlerini en iyi şekilde nasıl koruyabileceğini öğrenmelidir.
  • Yapay zeka çalışmalarında baz alınan etik değerler genişletilmelidir.
  • Son olarak yapay zeka ile ilgili tüm bu tartışmalara daha fazla insan dahil edilmelidir. Sadece bilim insanları, araştırmacılar ve politikacılar değil, tüm kamuoyu ve işletmeler de işin içine katılmalıdır.

Yazar Hakkında

mm

Girişimcileri, şirketleri, yatırımcıları ve profesyonelleri bir araya getiren geniş bir ekosistem olan İTÜ Çekirdek, kimyadan elektroniğe, bilişimden biyogenetiğe tüm sektörlere açık bir girişimcilik merkezidir.

Close