Veštačka inteligencija bi mogla da dovede do izumiranja čovečanstva, upozoravaju stručnjaci

Veštačka inteligencija bi mogla da dovede do izumiranja čovečanstva, upozorili su stručnjaci - uključujući čelnike OpenAI-a i Google Deepmind-a. Desetine njih podržalo je izjavu objavljenu na sajtu Centra za AI bezbednost "Ublažavanje rizika od izumiranja čovečanstva zbog veštačke inteligencije trebalo bi da bude globalni prioritet uz druge društvene rizike kao što su pandemije i nuklearni rat", navodi se.

Sem Altman, izvršni direktor kompanije ChatGPT-maker OpenAI, Demis Hassabis, izvršni direktor Google DeepMind-a i Dario Amodei iz Anthropic-a, podržali su ovu izjavu. Dr Geoffrey Hinton, koji je izdao ranije upozorenje o rizicima od superinteligentne veštačke inteligencije, kao i Yoshua Bengio, profesor računarstva na univerzitetu u Montrealu takođe su podržali ovu izjavu, piše BBC.

Dr Hinton, profesor Bengio i profesor Iann LeCun sa Univerziteta u Njujorku često se opisuju kao "kumovi veštačke inteligencije" zbog svog revolucionarnog rada u ovoj oblasti - za koji su zajedno osvojili Turingovu nagradu 2018, koja priznaje izuzetan doprinos u računarskoj nauci.

Profesor LeKun, koji takođe radi u kompaniji Meta, rekao je da su ova apokaliptička upozorenja preterana. I mnogi drugi stručnjaci veruju da su strahovi da će AI uništiti čovečanstvo nerealni i da odvlače pažnju od pitanja kao što je pristrasnost u sistemima, koji su već realan problem.

Arvind Narajanan, kompjuterski naučnik sa Univerziteta Prinston, ranije je rekao za BBC da su scenariji katastrofa, nalik naučnoj fantastici, nerealni.

- Trenutna veštačka inteligencija nije ni blizu dovoljno sposobna da se ovi rizici materijalizuju. Kao rezultat toga, odvlači pažnju sa kratkoročne štete od AI - rekao je Narajanan.

Viši naučni saradnik Oksfordskog instituta za etiku u veštačkoj inteligenciji Elizabet Renijeris rekla je za BBC da se više brine o rizicima koji su bliži sadašnjosti.

- Napredak u veštačkoj inteligenciji povećaće obim automatizovanog donošenja odluka koje je pristrasno, diskriminatorno, isključujuće ili na neki drugi način nepravedno, a istovremeno je nedokučivo i neosporno - rekla je ona. Ono bi "dovelo do eksponencijalnog povećanja obima i širenja dezinformacija, čime bi erodirali poverenje javnosti, i podstakli dalju nejednakost, posebno za one koji ostaju na pogrešnoj strani digitalnog jaza".

Mnogi alati veštačke inteligencije u suštini "besplatno koriste" "celokupno ljudsko iskustvo do danas", rekla je Renijeris. Mnogi su obučeni o sadržaju, tekstu, umetnosti i muzici koje su kreirali ljudi, a zatim mogu da imitiraju – a njihovi kreatori su "efikasno preneli ogromno bogatstvo i moć iz javne sfere na mali broj privatnih subjekata".

Međutim, direktor Centra za AI bezbednost Den Hendriks rekao je za BBC da buduće rizike i sadašnje zabrinutosti "ne treba posmatrati antagonistički".

- Rešavanje nekih pitanja danas može biti korisno za rešavanje mnogih kasnijih rizika sutra - rekao je on.

Medijsko izveštavanje o navodnoj "egzistencijalnoj" pretnji od veštačke inteligencije naglo je poraslo od marta 2023. godine kada su stručnjaci, uključujući šefa Tesle, Ilona Maska, potpisali otvoreno pismo pozivajući na zaustavljanje razvoja sledeće generacije AI tehnologije.

U tom pismu se postavlja pitanje da li treba da "razvijamo neljudske umove koji bi nas na kraju mogli nadmašiti, nadmudriti i zameniti nas."

Nasuprot tome, nova kampanja ima veoma kratku izjavu, osmišljenu da "otvori diskusiju".

U izjavi se poredi rizik sa onim koji predstavlja nuklearni rat. U postu na blogu OpenAI je nedavno sugerisano da bi superinteligencija mogla biti regulisana na sličan način kao nuklearna energija: "Verovatno će nam na kraju trebati nešto poput IAEA (Međunarodne agencije za atomsku energiju) za superobaveštajne napore", navodi se u izjavi.

I Sem Altman i izvršni direktor Google-a Sundar Pichai su među tehnološkim liderima koji su nedavno sa britanskim premijerom Rišijem Sunakom razgovarali o regulaciji veštačke inteligencije.

Govoreći novinarima o najnovijem upozorenju o riziku od veštačke inteligencije, Sunak je istakao prednosti za ekonomiju i društvo.

- Videli ste da je nedavno pomogla paralizovanim ljudima da hodaju i otkrila nove antibiotike, ali moramo da se uverimo da se to radi na bezbedan način. Zato sam se prošle nedelje sastao sa izvršnim direktorima velikih kompanija, da razgovaramo o tome koje su zaštite koje treba da postavimo, koja je vrsta regulative koja bi trebalo da se uspostavi da bismo bili bezbedni - rekao je on.

On je istakao da je o ovome nedavno razgovarao sa drugim liderima, na samitu G7 vodećih industrijalizovanih zemalja.

G7 je nedavno osnovao radnu grupu za veštačku inteligenciju.