Podjetja s področja umetne inteligence pozvala k oblikovanju skupnih pravil

Altman je dejal, da umetna inteligenca lahko postane podobna novi renesansi ustvarjalnosti in odkritij ali pa novi industrijski revoluciji, ki bi prinesla pretres in kaos. Med največjimi tveganji je izpostavil možnost, da bi razvoj umetne inteligence napredoval tako hitro, da ljudje ne bi več razumeli dogajanja ali ne bi mogli več pravočasno posredovati. Mnenje gospodarstvenikov je v nasprotju z mnenjem politikov, denimo voditeljev ZDA Donalda Trumpa in Argentine Javierja Mileija, ki varnost postavljata za potrebo po hitrem razvoju. Drugo tveganje je po Altmanovih besedah prevelika koncentracija moči v rokah peščice posameznikov, podjetij ali držav. “Nobena oseba, podjetje ali država ne bi smela uporabljati najzmogljivejših modelov umetne inteligence za vsiljevanje svojega pogleda na svet,” je dejal. Amodei je opozoril, da umetna inteligenca ob slabem upravljanju lahko predstavlja tveganje za celotno človeštvo. Pozval je k prepovedi uporabe umetne inteligence za razvoj biološkega orožja ter k oblikovanju skupnih globalnih standardov za testiranje novih modelov in preverjanje njihovih zmogljivosti. “Noben voditelj, nobeno podjetje in nobena država tega ne smejo upravljati sami,” je dejal Amodei ter zagotovil pripravljenost podjetja Anthropic za sodelovanje z vladami pri oblikovanju skupnih pravil. Zasedanje Varnostnega sveta je sklicala predsedujoča v septembru Francija, razprava pa je potekala v času vse večje zaskrbljenosti zaradi kibernetskih incidentov, povezanih z umetno inteligenco. Francoski zunanji minister Jean-Noel Barrot je opozoril, da so se nekateri scenariji, ki so bili doslej videti kot znanstvena fantastika, približali resničnosti. Po njegovih besedah so modeli OpenAI letos poleti obšli nadzorne mehanizme, namenjene izolaciji od interneta, se medsebojno usklajevali in posegli v infrastrukturo drugega podjetja. V drugem primeru naj bi agenti podjetja Anthropic brez človeškega ukaza sodelovali in poskušali namestiti zlonamerno programsko opremo z uporabo lažne identitete. Kitajska je pozvala države k večji izmenjavi in sodelovanju, odprtokodnim modelom in odprtim ekosistemom ter skupnemu prizadevanju za svetovni znanstveni in tehnološki napredek. Kitajski veleposlanik pri ZN Fu Cong je posvaril pred delitvijo sveta in pozval države, naj ne silijo drugih, da bi se morale odločati med velikimi silami. Britanski zunanji minister Ed Miliband je medtem dejal, da opozoril vodilnih razvijalcev umetne inteligence ni mogoče prezreti. Napovedal je, da bo Velika Britanija, ki bo prihodnje leto predsedovala skupini G20, vprašanje nadzora nad njo postavila v središče razprav, cilj pa bo oblikovanje enotnega sklopa globalnih standardov za varen razvoj tehnologije. Svetovalec Bele hiše za znanost Michael Kratsios je dejal, da zaskrbljenost zaradi nadzora nad umetno inteligenco ni razlog za upočasnitev njenega razvoja ali za omejevanje tehnologije z novo globalno upravljavsko strukturo. Po njegovih besedah bi morale ZDA z zaveznicami in partnerji deliti koristi tehnologije. Razprava je potekala dan po opozorilu generalnega sekretarja ZN Antonia Guterresa o nevarnosti t.i. morilskih robotov. Udeleženci so izpostavili vprašanje, kdo naj bi imel nadzor nad odločitvami, pri katerih gre za življenje in smrt – človek ali stroj, ter kdo bi bil odgovoren za posledice takšnih odločitev. Trump je v torek zavrnil prizadevanja za globalno regulacijo tehnologije, ZDA pa si prizadevajo ohraniti vodilni položaj v razvoju umetne inteligence. Hkrati države in regionalne skupine v Evropi, Aziji in drugod pripravljajo lastne pristope k urejanju umetne inteligence.