'To so šele zgodnja opozorila.' Svet se mora pripraviti na to, kar prihaja

Doslej smo o umetni inteligenci največkrat poslušali kot o orodju, ki povečuje produktivnost, pomaga pri delu in pospešuje razvoj novih tehnologij. Toda vse več strokovnjakov opozarja tudi na njeno temnejšo plat. Med njimi je tudi Demis Hassabis, soustanovitelj in predsednik družbe Google DeepMind, ki meni, da nedavni incidenti kažejo, kakšne težave lahko umetna inteligenca povzroči v prihodnosti, če njen razvoj ne bo spremljan z ustreznimi varnostnimi ukrepi.

AI že sodeluje pri hekerskih napadih

Po poročanju agencije Reuters, ki jo povzema Telegraf Biznis, Hassabis opozarja, da so nedavni hekerski napadi, izvedeni s pomočjo agentov umetne inteligence, zgolj zgodnja opozorila. Po njegovem mnenju bi se lahko svet v prihodnjih letih soočil z bistveno resnejšimi incidenti, če podjetja, države in razvijalci ne bodo izboljšali zaščite svojih sistemov. Tehnologija namreč napreduje izjemno hitro. Orodja, ki so bila še pred kratkim namenjena predvsem ustvarjanju besedil ali slik, postajajo sposobna tudi samostojnega izvajanja zahtevnejših nalog.

Demis Hassabis iz družbe Google DeepMind opozarja, da so nedavni AI-hekerski napadi šele zgodnji znak varnostnih tveganj, ki jih lahko prinese umetna inteligenca.FOTO: AP

Primerjajo jo z jedrsko energijo

Hassabis meni, da bi bilo treba umetno inteligenco na področju varnosti obravnavati podobno resno kot biologijo ali jedrsko energijo. Posebno skrb po njegovih besedah zahtevajo sistemi, ki upravljajo kritično infrastrukturo, finančne tokove, energetska omrežja ali občutljive podatke podjetij in držav. Zato zagovarja ustanovitev mednarodnega telesa, ki bi razvijalo enotne varnostne standarde in sistem certificiranja za napredne modele umetne inteligence.

Incidenti vzbujajo skrb

Skrb med strokovnjaki povečuje več odmevnih primerov nepredvidljivega ravnanja sistemov umetne inteligence. Med drugim so pozornost pritegnili primeri nepooblaščenih vdorov v korporativna omrežja, v katerih so sodelovali AI-agenti, pa tudi primer modela podjetja Anthropic, ki je po navedbah strokovnjakov policiji poslal lažno prijavo umora.

Takšni dogodki po mnenju strokovnjakov kažejo, da tehnologija postaja vse zmogljivejša, hkrati pa tudi težje predvidljiva.

Preberi še

Na koncu sveta nastaja nekaj ogromnega: v igri so milijarde

Treznitev po navdušenju nad umetno inteligenco

Na nevarnosti je opozoril tudi predsednik družbe Microsoft, Brad Smith, ki je leto 2026 označil za treznitveno leto na področju umetne inteligence. Po njegovih besedah tehnološki razvoj prehiteva zakonodajo, zato države potrebujejo nova pravila in regulativo, ki bodo zagotavljali, da nobena tehnologija ne bo delovala zunaj zakonskih okvirov.

Za podjetja to pomeni predvsem eno: umetna inteligenca prinaša ogromne poslovne priložnosti, vendar bo morala varnost postati enako pomembna tema kot inovacije.