Dünyanın İlk Psikopat Yapay Zekası: Norman
Yapay zekanın karanlık tarafa geçmesiyle ilgili film ya da dizi bulmak hiç de zor değil. Robotların istenmeyen şekilde davranması ve dünyaya kaosun hakim olması, Hollywood’da oldukça popüler bir hikaye. Ancak bilimciler bu kez yanlışlıkla değil, bilinçli bir şekilde kötü niyetli bir yapay zeka yarattı. Norman adı verilen yapay zeka, psikopat gibi davranması için eğitildi.Çalışmada MIT araştırmacıları Norman’a (ünlü Sapık filminden esinlenilmiş) şiddet ve korku ögeleri içeren görseller göstererek yapay zekayı eğitti. Daha sonra Norman ünlü Rorschach testine tabi tutuldu. Sonuçlar oldukça ürperticiydi.
Rahatsız edici çalışma, makine öğreniminde algoritmaya sunulan verilerin, elde edilen sonucu nasıl etkilediğini göstermek amaçlanmıştı. Algoritmaların taraflı ya da adaletsiz olduğu düşünüldüğünde aslında sorun algoritmanın kendisinde değil, onu geliştirmek için seçilen verilerde. Bu durum ciddi sonuçlara yol açabilir. Gelecekte yapay zekanın insanlarla birebir iletişime geçtiği ve karar aldığı alanlarda taraflı hatta ırkçı sonuçlar üretmemesi için geliştirme aşamasında kullanılan verilere dikkat edilmesi gerekiyor. Norman örneğinden yola çıkarsak gelecekte yapay zeka insanların güvenliğini bile tehdit edebilir.
Robotların istenmeyen şekilde davranması ve dünyaya kaosun hakim olması, Hollywood'da oldukça popüler bir hikaye. Ancak bilimciler bu kez yanlışlıkla değil, bilinçli bir şekilde kötü niyetli bir yapay zeka yarattı. Çalışmada MIT araştırmacıları Norman'a şiddet ve korku ögeleri içeren görseller göstererek yapay zekayı eğitti. Daha sonra Norman ünlü Rorschach testine tabi tutuldu. Standart bir yapay zekanın sıradan nesneler ve insanlar gördüğü görsellerde Norman silahla vurulan ve ölen insanlar gördüğünü belirtti.
Kaynak:
https://bundle.app/wfVwl6BG
Yorumlar
Yorum Gönder