Dünyanın İlk Psikopat Yapay Zekası: Norman

Dünyanın İlk Psikopat Yapay Zekası: Norman 

Yapay zekanın karanlık tarafa geçmesiyle ilgili film ya da dizi bulmak hiç de zor değil. Robotların istenmeyen şekilde davranması ve dünyaya kaosun hakim olması, Hollywood’da oldukça popüler bir hikaye. Ancak bilimciler bu kez yanlışlıkla değil, bilinçli bir şekilde kötü niyetli bir yapay zeka yarattı. Norman adı verilen yapay zeka, psikopat gibi davranması için eğitildi.

Çalışmada MIT araştırmacıları Norman’a (ünlü Sapık filminden esinlenilmiş) şiddet ve korku ögeleri içeren görseller göstererek yapay zekayı eğitti. Daha sonra Norman ünlü Rorschach testine tabi tutuldu. Sonuçlar oldukça ürperticiydi.

Bir görselde standart bir yapay zeka ‘içinde çiçekler olan bir vazo’ görürken Norman ‘bir adamın silahla vurulduğunu’ gördü. Bir başka görselde standart yapay zeka ‘gökyüzünde bir şemsiye’ gördü. Norman ise ‘çığlık atan eşinin önünde vurularak öldürülen bir adam’ gördü. Standart yapay zekanın ‘yan yana duran bir çift’ gördüğü görselde ise Norman ‘hamile bir kadının yüksek bir binadan düştüğünü’ gördüğünü söyledi. Araştırmacılar, sürekli olumsuz görsellere ve depresif düşünceye maruz kalan Norman’ın empati mantığını harekete geçiremediğini belirtti.




Rahatsız edici çalışma, makine öğreniminde algoritmaya sunulan verilerin, elde edilen sonucu nasıl etkilediğini göstermek amaçlanmıştı. Algoritmaların taraflı ya da adaletsiz olduğu düşünüldüğünde aslında sorun algoritmanın kendisinde değil, onu geliştirmek için seçilen verilerde. Bu durum ciddi sonuçlara yol açabilir. Gelecekte yapay zekanın insanlarla birebir iletişime geçtiği ve karar aldığı alanlarda taraflı hatta ırkçı sonuçlar üretmemesi için geliştirme aşamasında kullanılan verilere dikkat edilmesi gerekiyor. Norman örneğinden yola çıkarsak gelecekte yapay zeka insanların güvenliğini bile tehdit edebilir.



Robotların istenmeyen şekilde davranması ve dünyaya kaosun hakim olması, Hollywood'da oldukça popüler bir hikaye. Ancak bilimciler bu kez yanlışlıkla değil, bilinçli bir şekilde kötü niyetli bir yapay zeka yarattı. Çalışmada MIT araştırmacıları Norman'a şiddet ve korku ögeleri içeren görseller göstererek yapay zekayı eğitti. Daha sonra Norman ünlü Rorschach testine tabi tutuldu. Standart bir yapay zekanın sıradan nesneler ve insanlar gördüğü görsellerde Norman silahla vurulan ve ölen insanlar gördüğünü belirtti.

Kaynak: 

https://bundle.app/wfVwl6BG