Mask i stručnjaci upozoravaju: "AI može prouzrokovati ozbiljnu štetu" :: Semberija INFO ::

 

Mask i stručnjaci upozoravaju: "AI može prouzrokovati ozbiljnu štetu"


Američki milijarder Ilon Mask i grupa stručnjaka za umjetnu inteligenciju pozivaju na šestomjesečnu pauzu u sistemima za obuku umjetne inteligencije. U otvorenom pismu navode da su ti sistemi moćniji otkada je nedavno lansirana naprednija verzija chatbota ChatGPT tvrtke Open AI, piše Reuters.

Pismo, koje je objavio neprofitni institut Future of Life, potpisalo je preko 1.000 osoba, uključujući Maska. 

U pismu, koje je objavio neprofitni institut "Fjučer of lajf", a potpisalo više od 1.000 pojedinaca, uključujući Maska, izvršnog direktora "Stabiliti AI" Emad Mostaka, istraživače iz kompanije "Dip majnd" u vlasništvu "Alfabeta", i vodećih naučnika u oblasti AI Džošue Bengia i Stjuarta Rasela, poziva se na zaustavljanje naprednog razvoja veštačke inteligencije sve dok nezavisni stručnjaci ne razviju, implementiraju i revidiraju zajedničke bezbednosne protokole za takva otkrića.   "Moćne sisteme vještačke inteligencije treba razvijati tek kada budemo uvjereni da će njihovi efekti biti pozitivni i da će se njihovim rizicima moći upravljati", navodi se u pismu.

Takođe, traže da te sisiteme razviju, implementiraju i revidiraju nezavisni stručnjaci. U pismu opisali rizike za društvo i civilizaciju. U pismu su opisali potencijalne rizike za društvo i civilizaciju koje donosi umjetna inteligencija. 

Navode da se umjetna inteligencija takmiči s ljudima te da to može dovesti do ekonomskih i političkih poremećaja.
Analitičari su pozvali programere da sarađuju s kreatorima politike i regulatornim tijelima. 
Pismo je uslijedilo nakon što je Evropol nakon istraživanja načina na koje kriminalci mogu da zloupotrebe velike jezičke modele (LLM), kao što je Čet GPT,  u ponedjeljak upozorio na potencijalnu zloupotrebu ovog sistema kroz tri oblasti kriminalnih aktivnosti koje izazivaju najveću zabrinutost, "pecanje", odnosno "fišing", širenje dezinformacija, i sajber kriminal.

Mask, čija kompanija Tesla koristi AI za sistem autopilota u vozilima, saopštio je i ranije svoje zabrinutosti u vezi sa razvojem vještačke inteligencije.

Milijarder je bio  jedan od suosnivača i prvih investitora u Open AI, koji stoji iza ovog četbota, a prema njegovim tvrdnjama više nema udio u kompaniji i nije uključen u njene operacije.
U svojoj ranijoj objavi na Tviteru  Mask je citirao izjavu Čet GPT-a o tome da je savršena vještačka inteligencija i da ne pravi greške, i da "ako postoje greške, to je zbog spoljnih faktora, kao što su problemi sa serverom, korisnički unosi, rezultati na vebu ili kvarovi na mreži".

Sem Altman, izvršni direktor kompanije Open AI koja je stvorila Čet GPT nije potpisao ovo pismo, navodi Rojters.


Nezavisne novine