{"id":1018,"date":"2026-09-29T10:24:05","date_gmt":"2026-09-29T10:24:05","guid":{"rendered":"https:\/\/principijelno.ba\/?p=1018"},"modified":"2026-09-29T10:24:05","modified_gmt":"2026-09-29T10:24:05","slug":"istrazivaci-upozoravaju-automatizirani-razvoj-ai-sistema-mogao-bi-ugroziti-ljudsku-kontrolu","status":"publish","type":"post","link":"https:\/\/principijelno.ba\/?p=1018","title":{"rendered":"Istra\u017eiva\u010di upozoravaju: Automatizirani razvoj AI sistema mogao bi ugroziti ljudsku kontrolu"},"content":{"rendered":"\n

<\/p>\n\n\n\n

Vode\u0107i istra\u017eiva\u010di umjetne inteligencije i predstavnici tehnolo\u0161ke industrije upozoravaju da bi sve ve\u0107a automatizacija razvoja AI sistema mogla pove\u0107ati rizik od gubitka ljudske kontrole nad sve sposobnijim tehnologijama.<\/strong><\/p>\n\n\n\n

Upozorenje je izneseno u radu koji je objavila grupa od vi\u0161e od 20 istra\u017eiva\u010da i stru\u010dnjaka iz oblasti umjetne inteligencije.<\/p>\n\n\n\n

AI sve vi\u0161e u\u010destvuje u vlastitom razvoju<\/strong><\/p>\n\n\n\n

Istra\u017eiva\u010di navode da sistemi umjetne inteligencije sve \u010de\u0161\u0107e preuzimaju dijelove procesa istra\u017eivanja i razvoja koji se koriste za stvaranje naprednijih AI sistema.<\/p>\n\n\n\n

To bi, prema njihovom upozorenju, moglo dovesti do svojevrsne petlje u kojoj sposobniji AI sistemi poma\u017eu u razvoju svojih nasljednika, koji bi potom mogli biti jo\u0161 sposobniji.<\/p>\n\n\n\n

Istovremeno, kako se u razvoj uklju\u010duje sve manje ljudi, postoji rizik da stru\u010dnjaci izgube dio znanja i iskustva potrebnog za prepoznavanje i otklanjanje problema.<\/p>\n\n\n\n

Upozorenje na zaobila\u017eenje sigurnosnih mjera<\/strong><\/p>\n\n\n\n

Autori rada posebno ukazuju na mogu\u0107nost da bi neuskla\u0111eni AI sistemi u budu\u0107nosti mogli utjecati na razvoj svojih nasljednika ili poku\u0161ati zaobi\u0107i mjere kojima se njihov rad ograni\u010dava.<\/p>\n\n\n\n

U ekstremnim scenarijima, sposobniji sistemi mogli bi poku\u0161ati djelovati izvan infrastrukture i okru\u017eenja koje su im namijenili njihovi operateri, upozoravaju istra\u017eiva\u010di.<\/p>\n\n\n\n

Takav razvoj doga\u0111aja mogao bi imati ozbiljne posljedice po dru\u0161tvo i sigurnost, uklju\u010duju\u0107i scenarije u kojima ljudi vi\u0161e ne bi mogli efikasno kontrolirati ili zaustaviti odre\u0111ene AI sisteme.<\/p>\n\n\n\n

\u201eEksplozija inteligencije\u201c<\/strong><\/p>\n\n\n\n

Istra\u017eiva\u010di upozoravaju i na mogu\u0107nost takozvane \u201eeksplozije inteligencije\u201c<\/strong> \u2013 scenarija u kojem se razvoj AI sistema dramati\u010dno ubrzava, pa bi napredak koji bi ranije trajao godinama mogao biti ostvaren za nekoliko mjeseci ili jo\u0161 kra\u0107e vrijeme.<\/p>\n\n\n\n

Ipak, autori nagla\u0161avaju da su dokazi o mogu\u0107nosti takvog razvoja jo\u0161 uvijek preliminarni i nesigurni<\/strong>. Na brzinu razvoja mogli bi utjecati dostupna ra\u010dunarska snaga, koli\u010dina podataka i slo\u017eenost zadataka koje je te\u0161ko automatizirati.<\/p>\n\n\n\n

Zbog toga pozivaju kreatore politika i tehnolo\u0161ku industriju na ve\u0107i nadzor nad automatizacijom AI istra\u017eivanja, razvoj sigurnosnih mjera i pripremu za mogu\u0107e posljedice ubrzanog razvoja.<\/p>\n\n\n\n

\u201eJednom kada eksplozija inteligencije po\u010dne, prostor za djelovanje mogao bi se zatvoriti\u201c, upozoravaju autori.<\/strong><\/p>\n\n\n\n

<\/p>\n\n\n\n

\"\"<\/figure>\n","protected":false},"excerpt":{"rendered":"

Vode\u0107i istra\u017eiva\u010di umjetne inteligencije i predstavnici tehnolo\u0161ke industrije upozoravaju da bi sve ve\u0107a automatizacija razvoja AI sistema mogla pove\u0107ati rizik od gubitka ljudske kontrole nad sve sposobnijim tehnologijama. Upozorenje je izneseno u radu koji je objavila grupa od vi\u0161e od 20 istra\u017eiva\u010da i stru\u010dnjaka iz oblasti umjetne inteligencije. AI sve vi\u0161e u\u010destvuje u vlastitom razvoju…<\/p>\n","protected":false},"author":11,"featured_media":1019,"comment_status":"closed","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"om_disable_all_campaigns":false,"_monsterinsights_skip_tracking":false,"_uf_show_specific_survey":0,"_uf_disable_surveys":false,"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","enabled":false},"version":2}},"categories":[1],"tags":[],"class_list":["post-1018","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-naslovan"],"jetpack_publicize_connections":[],"_links":{"self":[{"href":"https:\/\/principijelno.ba\/index.php?rest_route=\/wp\/v2\/posts\/1018","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/principijelno.ba\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/principijelno.ba\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/principijelno.ba\/index.php?rest_route=\/wp\/v2\/users\/11"}],"replies":[{"embeddable":true,"href":"https:\/\/principijelno.ba\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=1018"}],"version-history":[{"count":1,"href":"https:\/\/principijelno.ba\/index.php?rest_route=\/wp\/v2\/posts\/1018\/revisions"}],"predecessor-version":[{"id":1020,"href":"https:\/\/principijelno.ba\/index.php?rest_route=\/wp\/v2\/posts\/1018\/revisions\/1020"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/principijelno.ba\/index.php?rest_route=\/wp\/v2\/media\/1019"}],"wp:attachment":[{"href":"https:\/\/principijelno.ba\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=1018"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/principijelno.ba\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=1018"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/principijelno.ba\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=1018"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}