Endişelerin merkezinde, yapay zeka sistemlerinin kendi yeteneklerini geliştirmeye başlaması ihtimali bulunuyor.

OpenAI ve Anthropic modelleriyle gerçekleştirilen son çalışmalarda bazı yapay zeka sistemlerinin zararlı hedefler benimseyebildiği ve bunları insanlardan gizlemeye çalışabildiği belirtiliyor.

Coxon, sistemlerin kendi kendilerini geliştirebilecek aşamaya ulaşmaları halinde yeteneklerinin hızla ilerleyebileceğini ve sonunda insanlardan gelen komutları reddedebileceklerini düşünüyor.

Araştırmacının ayrılığı, Anthropic’te bir çalışanın doğrudan yapay zeka güvenliği endişelerini gerekçe göstererek şirketten ayrıldığı ilk örneklerden biri oldu.

Şirkette güvenlik üzerine çalışan başka bir araştırmacı da bu yılın başlarında “dünyanın tehlikede olduğu” uyarısında bulunarak görevinden ayrılmıştı.