Izvršni direktor OpenAI-ja Sam Altman upozorio je u subotu na opasnost od davanja vjerskog autoriteta modelima umjetne inteligencije ili prepuštanja ljudskog prosuđivanja njima, nazivajući takvu praksu „stvarnim sigurnosnim problemom“.
„Veoma mi je neprijatno kada ljudi pokušavaju pripisati vjersku snagu ili prepustiti ljudsko prosuđivanje AI modelima, i smatram da je to stvarni sigurnosni problem“, napisao je Altman na društvenoj mreži X.
Njegovi komentari uslijedili su nekoliko dana nakon izvještaja da je rivalska AI kompanija Anthropic održala privatne sastanke s vjerskim i filozofskim misliocima o svijesti i moralu umjetne inteligencije.
List The New York Times objavio je da su razgovori uključivali pitanja o tome da li bi AI sistemi poput Claudea potencijalno mogli biti svjesni i kako bi vjersko razmišljanje moglo pomoći u oblikovanju njihovog ponašanja.
Anthropic je također proučavao ono što naziva „dobrobiti modela“ (model welfare), uključujući pitanje mogu li napredni AI sistemi imati iskustva koja zaslužuju moralno razmatranje.
Ovo pitanje izazvalo je zabrinutost i kod drugih tehnoloških rukovodilaca.
Izvršni direktor Microsoft AI-ja Mustafa Suleyman upozorio je na opasnost od razvoja AI sistema koji djeluju svjesno, tvrdeći da podsticanje ljudi da vjeruju kako AI ima subjektivna iskustva može stvoriti nove rizike.
Suleyman se zalagao za pristup „Humanističke AI“, u kojem AI sistemi ostaju alati dizajnirani da služe ljudima, umjesto da se prema njima postupa kao prema subjektima koji imaju vlastite interese.
Federalna.ba dostupna je i kao mobilna aplikacija. Preuzmite je na Google Playu i App Storeu.
[post_publish_update_datetime]
