Ar saugu prijungti ChatGPT prie įmonės duomenų?

Ar saugu ChatGPT suteikti prieigą prie įmonės duomenų?

Taip, ChatGPT galima integruoti su įmonės sistemomis, tačiau saugumas nėra automatiškai garantuojamas vien dėl pasirinktos technologijos.

Svarbu, kokius duomenis AI programa gali pasiekti, kaip nustatoma naudotojo tapatybė, kokie leidimai suteikiami integracijai ir kokios sąlygos taikomos duomenų tvarkymui.

Pavyzdžiui, pardavimų vadybininkui gali reikėti prieigos prie jam priskirtų klientų, tačiau tai nereiškia, kad jis turi matyti visų darbuotojų atlyginimus ar įmonės banko operacijas. Tinkamai suprojektuota integracija leidžia atskirti šias teises.

Kokie duomenys perduodami ChatGPT?

Tai priklauso nuo naudojamos AI paslaugos, integracijos architektūros ir konkretaus klausimo.

Kai darbuotojas paprašo pateikti neapmokėtas sąskaitas, integracija gali kreiptis į apskaitos sistemą ir grąžinti tik reikalingus įrašus. Tačiau dalis šių duomenų gali būti perduodama AI paslaugai, kad ji galėtų suformuoti atsakymą.

Todėl svarbu įvertinti:

• Kokie duomenys siunčiami AI modeliui.
• Ar perduodami asmens duomenys.
• Ar galima sumažinti perduodamos informacijos kiekį.
• Kokios duomenų saugojimo sąlygos.
• Kokie duomenų naudojimo ir mokymo nustatymai taikomi konkrečiam produktui bei planui.

Negalima automatiškai teigti, kad naudojant MCP visi duomenys lieka įmonės serveryje. MCP apibrėžia bendravimo su įrankiais standartą, bet savaime nenustato visos duomenų tvarkymo architektūros.

Kaip veikia autentifikacija ir prieigos teisės?

Autentifikacija atsako į klausimą: kas yra naudotojas? Autorizacija atsako į kitą klausimą: ką šis naudotojas gali matyti ir atlikti? Tai du skirtingi saugumo elementai.

Pavyzdžiui, prisijungęs pardavimų vadybininkas gali turėti teisę matyti tik savo klientų informaciją. Pardavimų vadovas gali turėti platesnę prieigą prie komandos rezultatų. Finansų darbuotojas gali matyti sąskaitų informaciją, tačiau neturėti teisės keisti pardavimų galimybių CRM.

Tokios taisyklės dažnai įgyvendinamos naudojant roles ir prieigos politiką. Svarbu, kad teisės būtų tikrinamos ne vien AI pokalbio instrukcijose, bet ir pačioje integracijoje bei duomenų šaltinyje.

Kodėl svarbus minimalios prieigos principas?

Minimalios prieigos principas reiškia, kad sistemai ar naudotojui suteikiamos tik būtinos teisės.

Jeigu AI agentas turi tik parodyti užsakymo būseną, jam nebūtina suteikti galimybės ištrinti užsakymus. Jeigu darbuotojas turi tikrinti sąskaitų mokėjimo būsenas, nebūtina suteikti prieigos prie visų finansinių operacijų detalių.

Tai mažina riziką, kad neteisinga užklausa, integracijos klaida ar piktavališkas bandymas sukels nepageidaujamų pasekmių. Praktiškai verta atskirti:

1. Duomenų skaitymo įrankius.
2. Duomenų keitimo įrankius.
3. Jautrius veiksmus, kuriems reikia papildomo patvirtinimo.

Ar AI agentas gali pakeisti ar ištrinti duomenis?

Tik tuo atveju, jeigu integracijoje yra atitinkamos funkcijos ir suteikti reikalingi leidimai. MCP serveris gali pateikti įrankius duomenims skaityti arba konkretiems veiksmams atlikti. Pavyzdžiui:

• Sukurti užduotį CRM.
• Atnaujinti užsakymo būseną.
• Pridėti komentarą prie kliento.
• Paruošti mokėjimo priminimą.

Tačiau didesnę riziką keliantiems veiksmams verta taikyti papildomas apsaugas. Prieš atliekant pakeitimą AI gali parodyti, kas bus pakeista, ir paprašyti darbuotojo patvirtinimo.

Finansiniams ar negrįžtamiems veiksmams gali būti reikalingos griežtesnės taisyklės arba visai neleidžiama jų atlikti per AI sąsają.

Kokios yra pagrindinės AI integracijų saugumo rizikos?

Svarbu įvertinti ne tik tradicines API saugumo problemas, bet ir AI sistemoms būdingas rizikas.

Per plačios teisės. Integracija gali pasiekti daugiau informacijos, nei reikia konkrečiam darbuotojui.

Netinkamas naudotojų atskyrimas. Jeigu teisės tikrinamos neteisingai, vienas naudotojas gali gauti kito naudotojo informaciją.

Prompt injection. Nepatikimame dokumente ar išoriniame turinyje gali būti instrukcijų, kuriomis bandoma paveikti AI elgesį.

Nesaugūs įrankiai. Netinkamai suprojektuotas veiksmo įrankis gali leisti atlikti nepageidaujamus pakeitimus.

Perteklinis duomenų perdavimas. AI paslaugai gali būti perduodama daugiau informacijos, nei būtina atsakymui.

Nepakankamas auditas. Nesant veiksmų registravimo sunkiau nustatyti, kas ir kada atliko konkretų veiksmą.

Šias rizikas reikia valdyti techninėmis priemonėmis, prieigos politika ir testavimu.

Ką svarbu žinoti apie BDAR?

Jeigu integracija tvarko asmens duomenis, reikia įvertinti Bendrojo duomenų apsaugos reglamento (BDAR) reikalavimus. Priklausomai nuo situacijos gali būti svarbu:

• Nustatyti duomenų tvarkymo tikslą ir teisinį pagrindą.
• Įvertinti duomenų tvarkytojų vaidmenis.
• Peržiūrėti sutartis su paslaugų tiekėjais.
• Įvertinti duomenų perdavimą už Europos ekonominės erdvės ribų.
• Nustatyti saugojimo terminus.
• Įgyvendinti tinkamas technines ir organizacines apsaugos priemones.
• Įvertinti, ar reikalingas poveikio duomenų apsaugai vertinimas.

Ne kiekvienai integracijai automatiškai reikia tokio paties teisinio vertinimo. Sprendimas priklauso nuo tvarkomų duomenų pobūdžio, masto ir rizikų.

Ką patikrinti prieš paleidžiant integraciją?

Prieš suteikiant darbuotojams prieigą verta atsakyti į kelis klausimus:

1. Kokie duomenys bus pasiekiami?
2. Kas galės naudotis integracija?
3. Ar kiekvieno naudotojo teisės tikrinamos teisingai?
4. Ar jautrūs veiksmai reikalauja patvirtinimo?
5. Ar registruojami svarbūs veiksmai?
6. Kokie duomenys perduodami AI paslaugai?
7. Ar patikrintos klaidingos ir piktavališkos užklausos?
8. Ar aišku, kas atsakingas už integracijos priežiūrą?

Pradėti galima nuo riboto funkcijų rinkinio ir palaipsniui plėsti galimybes.

Apibendrinimas

ChatGPT integracija su įmonės sistemomis gali būti įgyvendinta saugiai, jeigu tinkamai suprojektuojama prieigos kontrolė, duomenų perdavimas ir veiksmų valdymas.

Tačiau saugumas nėra vien MCP serverio ar AI paslaugos savybė. Jis priklauso nuo viso sprendimo.

Daugiau apie individualius sprendimus: AI integracijos verslui.