Više od 150 matematičara upozorava na opasnosti preuveličavanja sposobnosti AI-ja

Ranije ove godine javnost su zaintrigirale vijesti o pojedincima koji su, bez formalnog matematičkog obrazovanja, samo pomoću ChatGPT-a, navodno riješili neke od poznatih otvorenih Erdősevih problema. Isto tako, prošlog je mjeseca OpenAI objavio kako je njihova umjetna inteligencija samostalno opovrgnula 80 godina staru pretpostavku o jediničnim udaljenostima, koju je također osmislio mađarski matematičar Paul Erdős. Iz kompanije su se tada pohvalili kako ovo predstavlja prvi slučaj u kojem je AI autonomno riješio istaknuti otvoreni problem u matematici, koji je dobio i službenu “ljudsku” potvrdu.

Leidenska deklaracija

Međutim, među stručnjacima se i dalje vodi oštra rasprava o tome predstavljaju li napredni AI modeli doista preokret u rješavanju desetljećima starih matematičkih zagonetki. Više od 150 matematičara iz cijelog svijeta potpisalo je novu deklaraciju kojom otvoreno upozoravaju vlade da “ne vjeruju marketinškom pretjerivanju” kada je riječ o sposobnostima umjetne inteligencije u rješavanju kompleksnih problema, čime zapravo žele ublažiti tvrdnje o revoluciji u ovom znanstvenom polju.

Potpisnici “Leidenske deklaracije o umjetnoj inteligenciji i matematici”, dokumenta na 11 stranica dostupnoga ovdje, naglašavaju prije svega potrebu za oprezom. Potpredsjednica Međunarodne matematičke unije, Ulrike Tillmann, istaknula je da AI otvara pitanja koja se ne smiju ostaviti neistraženima te da budućnost istraživanja mora biti vođena ljudskom procjenom i transparentnim praksama.

Kontaminacija literature

U deklaraciji se navodi da tehnološka industrija trenutačno ima snažan komercijalni interes za preuveličavanje mogućnosti svojih proizvoda, zbog čega se zakonodavcima savjetuje da se konzultiraju sa stručnjacima, umjesto da se oslanjaju na priopćenja za medije. Kao jedan od ključnih problema izdvaja se činjenica da AI modeli mogu proizvesti uvjerljive, ali posve netočne argumente koje je teško razlikovati od ispravnih dokaza.

Leslie Ann Goldberg, voditeljica odjela za računalne znanosti na Sveučilištu u Oxfordu, upozorila je da matematika i teorijska računalna znanost uvijek nadograđuju prethodna istraživanja, zbog čega je od presudne važnosti da literatura sadrži isključivo točne rezultate. Kontaminacija recenzentskih postupaka “halucinacijama” umjetne inteligencije već izaziva zabrinutost u širem znanstvenom krugu, ne samo u domeni matematike.

Između industrije i etike

Deklaracija također rasvjetljava nezavidan položaj akademika u eri nedovoljnog financiranja visokog obrazovanja i nesigurnog zaposlenja na sveučilištima. Tehnološka industrija privlači matematičare unosnim poslovima, novčanim nagradama i računalnim resursima, što ih često stavlja u poziciju da podržavaju nove tehnologije pod svaku cijenu. Tehnološke tvrtke privlači matematika jer se ispravnost formaliziranih dokaza može provjeriti automatski, bez ljudskog nadzora, stvarajući tako neograničen izvor povratnih informacija za treniranje modela.

Znanstvenici upozoravaju da se tako razvijeni modeli opće namjene komercijaliziraju za aplikacije koje potiču ozbiljna etička pitanja, poput ratovanja, masovnog nadzora, ugnjetavanja i potkopavanja demokracije. Mnogi matematičari nisu očekivali da će njihov rad postati dio sustava s tako dubokim društvenim i ekološkim posljedicama. Autori deklaracije stoga pozivaju na to da suradnja između matematičara i industrije poštuje profesionalne standarde i slobodu savjesti zaposlenika koji moraju imati pravo otvoreno govoriti o korporativnim politikama. Bitno je naglasiti da se u deklaraciji ne spominju konkretni dokazi niti se dovodi u pitanje ranije navedeni uspjeh u razrješavanju Erdősovih problema, već se naglasak stavlja na potrebu ljudskog utjecaja, kontrole i opreza pri korištenju novih AI alata u matematici.