Vodeći istraživači umjetne inteligencije i predstavnici tehnološke industrije upozoravaju da bi sve veća automatizacija razvoja AI sistema mogla povećati rizik od gubitka ljudske kontrole nad sve sposobnijim tehnologijama.
Upozorenje je izneseno u radu koji je objavila grupa od više od 20 istraživača i stručnjaka iz oblasti umjetne inteligencije.
AI sve više učestvuje u vlastitom razvoju
Istraživači navode da sistemi umjetne inteligencije sve češće preuzimaju dijelove procesa istraživanja i razvoja koji se koriste za stvaranje naprednijih AI sistema.
To bi, prema njihovom upozorenju, moglo dovesti do svojevrsne petlje u kojoj sposobniji AI sistemi pomažu u razvoju svojih nasljednika, koji bi potom mogli biti još sposobniji.
Istovremeno, kako se u razvoj uključuje sve manje ljudi, postoji rizik da stručnjaci izgube dio znanja i iskustva potrebnog za prepoznavanje i otklanjanje problema.
Upozorenje na zaobilaženje sigurnosnih mjera
Autori rada posebno ukazuju na mogućnost da bi neusklađeni AI sistemi u budućnosti mogli utjecati na razvoj svojih nasljednika ili pokušati zaobići mjere kojima se njihov rad ograničava.
U ekstremnim scenarijima, sposobniji sistemi mogli bi pokušati djelovati izvan infrastrukture i okruženja koje su im namijenili njihovi operateri, upozoravaju istraživači.
Takav razvoj događaja mogao bi imati ozbiljne posljedice po društvo i sigurnost, uključujući scenarije u kojima ljudi više ne bi mogli efikasno kontrolirati ili zaustaviti određene AI sisteme.
„Eksplozija inteligencije“
Istraživači upozoravaju i na mogućnost takozvane „eksplozije inteligencije“ – scenarija u kojem se razvoj AI sistema dramatično ubrzava, pa bi napredak koji bi ranije trajao godinama mogao biti ostvaren za nekoliko mjeseci ili još kraće vrijeme.
Ipak, autori naglašavaju da su dokazi o mogućnosti takvog razvoja još uvijek preliminarni i nesigurni. Na brzinu razvoja mogli bi utjecati dostupna računarska snaga, količina podataka i složenost zadataka koje je teško automatizirati.
Zbog toga pozivaju kreatore politika i tehnološku industriju na veći nadzor nad automatizacijom AI istraživanja, razvoj sigurnosnih mjera i pripremu za moguće posljedice ubrzanog razvoja.
„Jednom kada eksplozija inteligencije počne, prostor za djelovanje mogao bi se zatvoriti“, upozoravaju autori.
