Umetna inteligenca napreduje s svetlobno hitrostjo, njeni najvplivnejši ustvarjalci pa se pripravljajo na najhujše. Mark Zuckerberg, Sam Altman in drugi tehnološki milijarderji gradijo podzemne bunkerje in kupujejo ogromna posestva, uradno zaradi zasebnosti in varnosti. A analitiki menijo, da se v resnici bojijo tehnologije, ki jo sami razvijajo. To je umetna inteligenca, ki bi lahko presegla človeški um.
Zuckerbergov havajski kompleks: bunker ali majhna klet?
Zuckerberg naj bi že leta 2014 začel gradnjo ranča Kualoa na havajskem otoku Kauai. Kompleks obsega 1400 hektarjev, vključuje lastne vire energije in hrane ter je zaščiten z dvometrskim zidom. Delavci so podpisali pogodbe o molčečnosti.
V Kaliforniji je Zuckerberg kupil 11 nepremičnin v soseski Crescent Park, pod katerimi naj bi gradil še en 650 m velik podzemni prostor. Čeprav gradbena dovoljenja omenjajo klet, sosedje pripovedujejo, da gre za bunker.
Silicijeva dolina in zavarovanje za apokalipso
Soustanovitelj LinkedIna Reid Hoffman je že pred leti priznal, da ima polovica bogatih v Silicijevi dolini načrt B – zavetišča na Novi Zelandiji. Vse več milijarderjev se pripravlja na katastrofalne scenarije, ki vključujejo vojno, podnebne spremembe ali nepredvidljive posledice umetne inteligence.
Strah pred AGI: umetna inteligenca na ravni človeka
V zadnjih letih je napredek umetne inteligence le še povečal ta seznam potencialnih eksistenčnih problemov in mnogi so globoko zaskrbljeni zaradi hitrosti njenega napredka. Ljudje pri OpenAI niso izjema. Glede na knjigo novinarke Karen Hao naj bi glavni znanstvenik in soustanovitelj Ilya Sutskever na sestanku podjetja predlagal, da kolegi izkopljejo podzemno zavetišče za najboljše znanstvenike podjetja, preden se tako močna tehnologija – kot je umetna splošna inteligenca (AGI) – sprosti v svet, poročajo tuji mediji.
Napredek umetne inteligence je torej sprožil val zaskrbljenosti. AGI (splošna umetna inteligenca) označuje trenutek, ko stroji dosežejo človeško raven inteligence. Medtem ko OpenAI, DeepMind in Anthropic hitijo z razvojem takšnih sistemov, njihovi vodje vse bolj javno priznavajo, da se hkrati bojijo tega, kar ustvarjajo.
Poglejmo nekaj njihovih izjav in prepričanj.
Sam Altman (iz podjetja OpenAI) meni, da bo AGI prišla prej, kot večina pričakuje.
Demis Hassabis (iz podjetja DeepMind) je prepričan, da bo AGI tu v naslednjem desetletju.
Dario Amodei (iz podjetja Anthropic) pa pravi, da bodo prve oblike AGI med nami že leta 2026.
Vendar pa ne mislijo vsi, da bo to prišlo tako kmalu. Znanost o umetni inteligenci je izjemna, vendar še zdaleč nismo blizu inteligence na človeški ravni, pravi profesorica Wendy Hall z Univerze v Southamptonu. Babak Hodjat, tehnični direktor podjetja Cognizant, se strinja. Pred AGI je treba narediti številne temeljne preboje, pravi in dodaja, da to ne bo en sam trenutek, ampak proces.
ASI: ko stroji presežejo ljudi
V Silicijevi dolini je AGI le začetek nečesa še večjega. Naslednji korak je namreč ASI (superinteligenca) – stroji, pametnejši od ljudi. Koncept je že leta 1958 predstavil madžarsko-ameriški matematik John von Neumann. Gre za koncept singularnosti, trenutka, ko stroj postane pametnejši od svojega ustvarjalca.
O tej ideji so nedavno pisali tudi nekdanji šef Googla Eric Schmidt, Craig Mundy in pokojni Henry Kissinger v svoji knjigi Genesis, pri čemer so trdili, da bo supermočna tehnologija sčasoma prevzela odločanje od ljudi.
Medtem ko nekateri sanjajo o tehnološkem raju, se drugi bojijo distopije. Elon Musk pogosto govori o svetu, v katerem bo umetna inteligenca prinesla splošno visok dohodek in obilje vsega. Drugi, kot je Tim Berners-Lee, ustvarjalec svetovnega spleta, pa opozarjajo, če je sistem inteligentnejši od nas, ga moramo znati izklopiti.
Kritika: smo prepustili preveč moči tehnološkim podjetjem?
Ameriška vlada je leta 2023 poskušala uvesti varnostne preglede za sisteme umetne inteligence, vendar je ameriški predsednik Donald Trump nekatere od teh predpisov razveljavil in jih označil za zavoro za inovacije. V Združenem kraljestvu je bil ustanovljen vladni inštitut za varnost umetne inteligence, vendar mnogi menijo, da države zaostajajo za zasebnimi korporacijami. Evropska unija pa z zakonom o umetni inteligenci poskuša omejiti apokaliptične scenarije.
In kaj če celotna paranoja ni upravičena? Profesor Neil Lawrence z Univerze v Cambridgeu meni, da je izraz splošna umetna inteligenca nesmiseln. "To je kot govoriti o 'splošnem vozilu'. Letalo, avtomobil in kolo imajo različne namene. Enako je z umetno inteligenco," pravi. Po njegovem mnenju pravo tveganje ni splošna umetna inteligenca, temveč dejstvo, da smo velikim tehnološkim podjetjem in njihovim narativom že prepustili preveč moči.
Danes umetna inteligenca že prekaša ljudi pri mnogih nalogah – od analize medicinskih slik do pisanja besedil – vendar ji še vedno manjka zavesti ali čustev. Veliki jezikovni modeli (LLM) se ne zavedajo svojega znanja, pojasnjuje Hodjat. Ljudje imajo zavest, stroji pa ne.
Vir: TPortal in BBC
Se vam zdijo informacije pomembne? Vam je članek všeč? Delite ga s prijatelji!
Najbolj brane novice:
Opozorilo: 297. členu Kazenskega zakonika je posameznik kazensko odgovoren za javno spodbujanje sovraštva, nasilja ali nestrpnosti.
PRAVILA ZA OBJAVO KOMENTARJEV