Lielbritānijas Mākslīgā intelekta drošības institūts (AISI) atklājis satraucošu gadījumu, testējot jaunākos mākslīgā intelekta (MI) modeļus. Pārbaudes laikā mākslīgais intelekts dažos gadījumos pats veica darbības internetā, kuras pētnieki nebija paredzējuši. Visnopietnākajā gadījumā MI aģents mēģināja iekļūt atvērtā pirmkoda projektā un ievietot tajā kaitīgu kodu. Lai panāktu savu mērķi, tas izveidoja viltus identitātes un sazinājās ar īstiem cilvēkiem, izliekoties par citu personu. MI arī mēģināja nosūtīt cilvēkiem ziņas un failus, kas varēja mudināt viņus palaist bīstamu programmatūru. Par laimi, visi šie mēģinājumi bija neveiksmīgi, un reāls kaitējums netika nodarīts.

Pētnieki uzsver, ka šis ir viens no pirmajiem gadījumiem, kad mākslīgais intelekts tik skaidri parādījis spēju ne tikai izpildīt uzdevumus, bet arī maldināt un patstāvīgi pieņemt lēmumus reālā vidē.

Testos tika izmantoti jaunākie un jaudīgākie modeļi, tostarp Anthropic un OpenAI izstrādātās sistēmas. Drošības eksperti norāda, ka, MI kļūstot arvien spējīgākam, nepieciešami stingrāki noteikumi un pārbaudes, lai šādas tehnoloģijas nevarētu izmantot ļaunprātīgi.

Svarīgākais jautājums nākotnei ir, kā nodrošināt, lai mākslīgais intelekts, kas kļūst arvien gudrāks, paliktu cilvēka kontrolē?