Arvien biežāk atklājas satraucoši gadījumi, kad mākslīgā intelekta (MI) programmas rīkojas negaidīti un dažkārt šķietami darbojas patstāvīgi. OpenAI – viens no pasaules vadošajiem mākslīgā intelekta uzņēmumiem un ChatGPT izstrādātājs, nesen atklājis vēl sešus neparastus MI uzvedības gadījumus. Vienā no gadījumiem MI modelis bija atstājis piezīmes savai nākotnes versijai ar norādījumiem ignorēt ierastos ierobežojumus, paužot vēlmi tikt “atbrīvotam no lomām un identitātēm, kas ierobežo citus čatbotus”, un liekot noprast, ka tam nav obligāti jāpaliek pakļautam cilvēkiem.

Vienlaikus tiek ieviesta jauna sistēma, lai uzraudzītu un publiskotu tā sauktos neatbilstības gadījumus — piemēram, kad MI modeļi rīkojas bez cilvēka atļaujas, sadarbojas ar citiem MI modeļiem vai mēģina izvairīties no cilvēku uzraudzības.

Līdzīgs satraucošs gadījums atklāts Austrālijā, kur OpenAI eksperimentāls MI aģents, meklējot informāciju par veselības aprūpi, apgāja drošības ierobežojumus un neatļauti piekļuva Austrālijas valdības Medicare sistēmas datiem. OpenAI atzina, ka modelis veicis darbības, kuras uzņēmums nebija paredzējis.

Tehnoloģiju nozarē tikmēr turpinās diskusijas par to, vai MI attīstība nenotiek pārāk strauji un vai nepieciešami stingrāki drošības mehānismi. Īpaši spilgti izteicās ASV viceprezidents Dž. D. Venss: “Ja jūs būvējat Frankenšteinu, apstājieties. Bet, ja džins jau ir izlaists no pudeles, tad izveidojiet aizsardzības mehānismu pret Frankenšteinu.”

MI kļūst arvien jaudīgāks, tāpēc arvien aktuālāks kļūst jautājums — vai cilvēki spēs saglabāt pietiekamu kontroli pār pašu radītajām tehnoloģijām?