Zašto postoji zabrinutost da bi AI mogla ugroziti čovječanstvo i koliko je to realno?

Sve veći broj stručnjaka upozorava na moguće opasnosti umjetne inteligencije (AI), zbog čega se traže strožija pravila i sporiji, sigurniji razvoj ove tehnologije. Neki istraživači smatraju da bi napredni AI sistemi jednog dana mogli postati toliko sposobni da ih ljudi više ne bi mogli u potpunosti kontrolisati.

Zabrinutost proizlazi iz brzine kojom AI napreduje. Pojedini stručnjaci vjeruju da bi budući sistemi mogli samostalno učiti, poboljšavati se i donositi odluke bez ljudskog nadzora. Također postoji strah da bi se mogli koristiti za cyber napade, špijunažu, širenje dezinformacija ili ozbiljne poremećaje u ekonomiji.

Kompanije poput OpenAI-a, Anthropic-a i Microsofta pozivaju na regulaciju AI-a. Međutim, oni ne zagovaraju zaustavljanje razvoja, već sporiji i odgovorniji pristup, uz sigurnosne provjere i nezavisne evaluacije novih sistema.

S druge strane, mnogi stručnjaci smatraju da su najcrnji scenariji pretjerani i da nema dokaza da trenutni AI predstavlja egzistencijalnu prijetnju čovječanstvu. Oni upozoravaju da bi fokus trebao biti na stvarnim problemima koji već postoje, poput prevara, lažnih informacija, deepfake sadržaja i kršenja privatnosti.

Kina je istovremeno ubrzala vlastiti razvoj AI tehnologije, ali podržava i međunarodnu saradnju i regulaciju. Rasprava o tome kako razvijati AI na siguran način i dalje traje, dok se tehnologija nastavlja brzo razvijati.

Dugoročni rizici AI-a uglavnom su teorijski, ali mnogi stručnjaci smatraju da su preventivne mjere i jasna pravila potrebni kako bi se smanjili mogući budući problemi.