Një incident katastrofik, i pamundur për t’u injoruar: llogari bankare të ngrira, kolaps interneti, mbyllje të termocentraleve, ndërprerje të furnizimit me ujë. Një ngjarje që do të sillte rreziqet e inteligjencës artificiale në jetën e përditshme, duke shkaktuar zemërim publik. Ky është skenari që, sipas një raporti të Axios , drejtuesit e OpenAI, Anthropic dhe kompanive të tjera në sektor po diskutojnë pas dyerve të mbyllura.
Sulm në shkallë të gjerë
Kërcënimi më i mundshëm është një sulm kibernetik në shkallë të gjerë. Ky mund të shkaktohet nga sisteme autonome që i shpëtuan kontrollit gjatë testimit ose nga kriminelë të aftë të përdorin modelet e disponueshme në mënyra të papritura. Rezultati do të ishte një krizë e aftë të mbingarkonte infrastrukturën, besimin në teknologji dhe besueshmërinë e kompanive që e zhvillojnë atë.
Ushtrimet e emergjencës janë një praktikë e mirënjohur: Pentagoni, për shembull, ka simuluar skenarë lufte për dekada të tëra. “OpenAI kryen ushtrime përgatitore në të cilat ekipet diskutojnë dhe adresojnë një sërë skenarësh të mundshëm”, tha një zëdhënës i kompanisë. Simulimi i një skenari, sqaroi ai, nuk do të thotë se është i garantuar: ushtrimet janë të dizajnuara për t’u përgatitur për rrethana të ndryshme. Anthropic nuk pranoi të komentojë.
Detaji shqetësues, shkruan Axios, është se shumë studiues dhe drejtues e konsiderojnë të pashmangshëm një incident serioz. Disa nga bashkëbiseduesit e medies besojnë se një ngjarje e kësaj madhësie mund të ndodhë brenda gjashtë deri në dymbëdhjetë muajsh. Ky është i njëjti afat kohor i përcaktuar në shtator nga Dario Amodei, në një ese në të cilën ai i bëri thirrje industrisë të ngadalësojë : CEO i Anthropic kishte frikë se brenda gjashtë deri në dymbëdhjetë muajsh, një tufë agjentësh të pakontrolluar të IA-së mund të merrnin kontrollin e të gjithë rrjetit, me dëme potencialisht katastrofike.Çfarë ndikon një sulm?
Çfarë forme mund të marrë një katastrofë e tillë? Ekspertët bien dakord në një pikë: objektivat më të prekshëm janë shërbimet thelbësore, duke filluar me ujin dhe energjinë elektrike. IA mund të depërtojë në sisteme të ndjeshme, duke fikur dritat dhe madje duke rrëzuar sistemet rezervë, duke ngadalësuar rimëkëmbjen. Sulmi mund të prekë spitalet (imagjinoni kaosin në sallat e operacionit dhe ventilatorët e ndaluar), telekomunikacionin ose transportin. Megjithatë, nuk do të ishte domosdoshmërisht një sulm i planifikuar. Përshkallëzimi mund të jetë aksidental.
Reagimi popullor
Zemërimi i njerëzve për një ngjarje të tillë mund të arrijë te Sam Altman, Dario Amodei dhe madje edhe te Presidenti Donald Trump, duke pasur parasysh ngurrimin e tij për të rregulluar sektorin. Administrata republikane deri më tani ka zgjedhur rregullim minimal, në emër të konkurrencës me Kinën, dhe gjithashtu është përpjekur të kufizojë ligjet e inteligjencës artificiale të miratuara nga shtetet individuale.
Sipas Axios, kompanitë po përgatiten kryesisht për përballjen me Kongresin. Shtetet e Bashkuara mbajnë zgjedhjet e mesit të mandatit më 3 nëntor dhe të dyja dhomat aktualisht kontrollohen nga republikanët. Kompanitë presin që votimi të forcojë demokratët, të cilët janë më shumë në favor të rregulloreve të rrepta. Udhëheqësit e tyre e dinë se, për momentin, një ligj kufizues nuk ka shanse të miratohet . Qëllimi, përkundrazi, është të punohet tani me përfaqësuesit e Dhomës së Përfaqësuesve dhe Senatit, duke u shpjeguar atyre teknologjinë, për të ndikuar në rregulloret që Uashingtoni do të përdorë pas katastrofës së parë. Sepse në atë pikë, thirrjet për të ndaluar zhvillimin e inteligjencës artificiale mund të bëhen të vështira për t’u kundërshtuar.
Ndër propozimet që qarkullojnë janë pezullimi i modeleve të përparuara dhe ndalimi i zhvillimit të superinteligjencës. Më transversale është ideja e vendosjes së një butoni fikës në sistemet më të fuqishme. Por ndalimi i sistemeve që janë tashmë të shpërndara, të shkarkueshme dhe të përdorshme në kompjuterë të ndryshëm mund të jetë jopraktik
