Delfi Mokslo skiltyje „AI Officer" ekspertas komentuoja pasaulyje nuskambėjusius atvejus, kai „OpenAI" ir „Anthropic" testuojami DI agentai patys rado saugumo spragų. Pagrindinė mintis: didžiausia rizika kyla ne iš pačių agentų, o iš jau egzistuojančių organizacijų saugumo spragų.
Delfi Mokslo skiltyje publikuotame straipsnyje „AI Officer" ekspertas komentuoja pastarųjų savaičių įvykius, kai žiniasklaida plačiai aptarė „OpenAI" ir „Anthropic" testuojamus DI agentus, esą savarankiškai radusius spragų kitų bendrovių sistemose. Straipsnio autoriaus teigimu, svarbiausia šių atvejų pamoka yra ne ta, kad agentai tapo nekontroliuojami, o ta, kad įmonės turi iš esmės keisti požiūrį į jų diegimą, suteikiamas teises ir kibernetinį saugumą.
Skirtingai nei „ChatGPT" ar „Claude" pokalbių lange, DI agentui gali būti suteikta prieiga prie realių įrankių: naršyklės, el. pašto, kalendoriaus ar duomenų bazės. Gavęs užduotį, jis pats pasirenka veiksmus ir juos atlieka. Būtent dėl to agentai gali sukurti daug vertės, bet kartu kelia naujų saugumo klausimų.
Pagrindinė straipsnio mintis: agentai nesukuria naujų saugumo spragų, jie tik greičiau randa ir išnaudoja tas, kurios organizacijoje jau egzistuoja. Jei sistemos nėra tinkamai apsaugotos, įmonė tampa lengvu taikiniu, nesvarbu, ar ataką inicijuoja žmogus, ar DI agentas.
Autorius siūlo pradėti nuo bazinių dalykų: stiprių slaptažodžių ir dviejų veiksnių autentifikavimo, laiku atnaujinamos programinės įrangos, darbuotojų mokymų, atsarginių kopijų ir aiškiai apibrėžtų prieigų. O prieš suteikiant agentui prieigą prie sistemų, verta iš anksto nuspręsti, ką jis gali daryti, kokių veiksmų niekada neturi atlikti be žmogaus patvirtinimo ir kaip vertinama jo darbo kokybė.
Nemokamą DI politikos generatorių, padedantį aiškiai apibrėžti, kaip organizacijoje naudojamas dirbtinis intelektas, rasite čia.
Visą straipsnį skaitykite Delfi svetainėje.