Používanie AI vo firmách: hrozba, výzva, prínos

Pre niekoho je AI hrozbou, pre iného výzvou, no pre väčšinu progresívnych spoločností je predovšetkým obrovským prínosom.

Nástroje s podporou AI priniesli riešenia, ktoré zásadne menia spôsob práce. Firma, ktorá chce rásť a prosperovať, si dnes nemôže dovoliť umelú inteligenciu ignorovať. Musí ju podporovať, systematicky testovať a integrovať do procesov. Bez toho riskuje, že ju konkurencia predbehne.

Zároveň však platí, že používanie umelej inteligencie so sebou prináša nové riziká. Je veľmi jednoduché porušiť interné pravidlá či legislatívu – často neúmyselne. Stačí, aby zamestnanec vložil do verejne dostupného AI nástroja citlivé údaje. A čo považujeme za citlivé? Nielen osobné údaje klientov či zamestnancov, ale aj interné firemné dáta, obchodné stratégie, know-how a kľúčové procesy. Ich únik môže mať právne aj reputačné dôsledky.

Technológie na kontrolu používania AI zamestnancami sú zatiaľ v plienkach. Organizácie preto kombinujú nové nástroje s tradičnými bezpečnostnými riešeniami – napríklad s Data Loss Prevention systémami, AI firewallmi, či proxy kontrolou prístupu.

Tieto vrstvy dokážu zmierniť riziko, monitorovať komunikáciu a obmedziť tok dát smerom k externým službám. Vyžadujú veľa udržiavacích prác a nekonečné ladenie systému. Napriek tomu však zostávajú systémy do istej miery „deravé“. Úplná ochrana dnes jednoducho neexistuje.

Ako rozumné riešenie sa javí nepoužívať úplne otvorené, verejné modely bez kontroly, ale umelú inteligenciu zazmluvniť a využívať iba vybrané, overené riešenia.

Kľúčové je zmluvne ošetriť, že poskytnuté dáta, používateľské prompty ani odpovede nebudú zdieľané naprieč systémom s inými používateľmi a nebudú použité na ďalšie doučovanie modelu. Len tak možno spojiť inováciu s bezpečnosťou.

Umelá inteligencia teda nie je ani čierna, ani biela. Je to nástroj. A ako každý nástroj – môže pomôcť aj uškodiť. Budúcnosť firiem bude patriť tým, ktoré sa ju naučia používať odvážne, ale zodpovedne.

Marek Zeman generálny riaditeľ

Kompetenčné a certifikačné centrum kybernetickej bezpečnosti