AI jest szeregowcem, a nie generałem cyberbezpieczeństwa

Przeczytasz w 3 min

Algorytmy AI nie dominują dziś ani w obszarze cyberobrony, ani cyberataków. Nic też nie zapowiada, aby jeszcze przez dłuższy czas miało do takiej zmiany dojść. Obecnie to ludzie są po obu stronach barykady – ciemnej i jasnej strony – cyberbezpieczeństwa. I to oni są podstawą gry o bezpieczeństwo firm i instytucji.

FOTO: GRATISOGRAPHY

Czy sztuczna inteligencja ma dzisiaj w ogóle znaczenie w cyberbezpieczeństwie? Na tak sformułowane pytanie można odpowiedzieć najkrócej, że algorytmy AI grają ważną, pożyteczną rolę wszędzie tam, gdzie trzeba zrobić coś szybko (np. zablokować atak) albo przeanalizować ogromną ilość danych (np. logów). Należy jednak w tym miejscu postawić wyraźne zastrzeżenie. Mówimy o algorytmach, którym raczej daleko jeszcze do sztucznej inteligencji, do jakiejś mocno posuniętej autonomii.

Miraż ofensywnego Cybersec-AI

 Algorytmy uczenia maszynowego są zatem przydatne w detekcji anomalii, jednak daleko im – i nam – do etapu, w którym podejmowałyby decyzje obronne. Algorytmy co najwyżej wybierają wcześniej przygotowane strategie obronne według ściśle przygotowanych zasad. Dlaczego? Ponieważ nic nie zapowiada, abyśmy mieli przekroczyć podstawowe ograniczenie algorytmów opartych na uczeniu maszynowym. Uczenie maszynowe ma to do siebie, że skuteczność wyniku działania już nauczonego algorytmu jest ściśle zależna od tego, czego się algorytm nauczył. Zupełnie jak w przypadku dzieci. Ich wiedza jest ściśle zależna od tego, jak były uczone.

 Tym bardziej trudno sobie wyobrazić dzisiaj, aby konstruować – na podstawie dostępnych metodyk – modele i narzędzia o charakterze AI, które miałyby aktywnie i ofensywnie przeciwdziałać cyberzagrożeniom, „utrzymywać ład i porządek” w otoczeniu firmy, na cyberszlakach łączących ją z partnerami biznesowymi, klientami, administracją. Tak jak na dawnych szlakach handlowych – prywatne armie prowadzą do chaosu rodem z Dzikiego Zachodu. Prawa powinno więc strzec cyfrowe państwo. Myślę, że to dobra analogia.

W biznesie nigdy bym się nie odważył zdać na AI w kwestii podejmowania działań ofensywnych. I tylko w ograniczonym zakresie –  działań defensywnych. Zbyt łatwo zrobić coś sprzecznego z prawem, zbyt mocno regulowany mamy świat. Z drugiej strony, nauczanie AI powinno być skonstruowane tak, aby Prawa Robotyki były zaimplementowane w sposobie działania AI. Czy to AI na potrzeby bezpieczeństwa, czy jakiekolwiek inne. Myślę, że to jednak nie kwestia regulacji, ale zdrowego rozsądku.

Dowodzą ludzie, nie AI

Jasna strona mocy dziś wygrywa i to nie dzięki algorytmom AI, tylko ludziom, którzy te algorytmy tworzą oraz tym, które te algorytmy wykorzystują w codziennej pracy. Masowe zastosowanie AI może wiele zmienić. Może przyspieszyć działania ludzi, zastąpić ludzi w wielu czynnościach, które są pracochłonne lub trudne dla ludzi, ale nie dla komputerów. Ale powtórzę, w biznesie nie powierzyłbym jeszcze AI funkcji decyzyjnych… Istnieją obszary, gdzie już dziś te funkcje decyzyjne można sobie wyobrazić. Nie zawaham się stwierdzić, że takim obszarem jest wojsko i sprawy obronności. Tam ograniczenia prawne są mniejsze, zadania większe – utrzymanie cyber ładu i porządku w polskiej cyberprzestrzeni. I tam prędzej można sobie wyobrazić „wojny algorytmów”.

Użycie AI oczywiście spowoduje zmiany w kompetencjach w tych obszarach, gdzie zabierze pracę ludziom. Podobnie jak to mam miejsce przy robotyzacji procesów. Ludzie będą musieli uczyć AI, a nie wykonywać te czynności osobiście. Będą również musieli rozumieć lepiej jak działa AI. Po to, aby znajdować ich słabe punkty, dlatego że będą to zarazem słabe punkty obrony. To ważny obszar, gdzie my, ludzie cyberbezpieczeństwa, kierujemy dzisiaj uwagę. Niewątpliwie AI stanie się najpierw uzupełnieniem, dopełnieniem wysiłków ludzi na tym polu, zanim zacznie zastępować ich przy niektórych działaniach. Stwarza to czas na dostosowanie kompetencji, być może wykreowanie nowych.

 Piotr Skibiński, dyrektor bezpieczeństwa ICT w Polkomtelu

O zastosowaniu AI w cyberbezpieczeństwie interesująco wypowiadali się na naszych łamach także Przemysław Dęba, CSO w Orange Polska oraz Jan Kostrzewa, CISO w Ministerstwie Sprawiedliwości.

Dodaj komentarz

Twój adres e-mail nie zostanie opublikowany. Wymagane pola są oznaczone *

Przeczytaj też:

Przeczytasz w 5 min
0

Kryzys sprzyja cyberatakom, jak więc zabezpieczyć się przed hakerami?

Przeczytasz w 5 min Firmy i instytucje musiały w okresie pandemii i wymuszonej izolacji błyskawicznie przestawić się na pracę zdalną. To był często jedyny sposób, aby móc kontynuować świadczenie usług – zarówno tych ustawowych (w przypadku urzędów), jak i biznesowych. Te podmioty, które dokonały odpowiednych inwestycji i przeszły transformację cyfrową wcześniej, dużo łatwiej odnalazły się w nowej rzeczywistości, bo były w stanie prawie z dnia na dzień po prostu poprosić swoich pracowników o pozostanie w domu, a zdigitalizowane procesy mogły niezakłócone iść dalej.

Przeczytasz w 6 min
0

Odpowiedzialność osobista CIO

Przeczytasz w 6 min Natłok obowiązków i dynamicznie zmieniająca się rzeczywistość sprawiają, że coraz trudniej znaleźć czas na zagadnienia związane z odpowiedzialnością osobistą. To zresztą naturalne, że więcej czasu poświęcamy efektywnemu wykonaniu pracy, celom biznesowym czy własnej karierze niż zastanawianiu się nad ryzykiem wtrącenia do więzienia czy zapłaty odszkodowania. Czy więc na pewno wiemy, za co odpowiadamy? Jeśli nie, warto poznać hasło Liability Compliance…

Dziś tam gdzie jest cyfrowe terra incognita są członkowie CXOHUB, którzy są pionierami cyfryzacji, transformacji do nowej gospodarki (new normal).

Zapraszam do udziału,
Szymon Augustyniak

Misja, wizja i wartości CXO HUB

  • CXO HUB powstało, aby zgromadzić najlepszych menedżerów i ekspertów w zakresie szeroko pojętej cyfrowej zmiany.
  • Misją społeczności CXO HUB jest promowanie wiedzy oraz sylwetek jej członków na arenie polskiej oraz międzynarodowej.
  • Społeczność CXO HUB stanie się widoczną, słyszalną siłą w dyskursie o przyszłości i standardach w zakresie zastosowań nowych technologii.

Zdobywaj kontakty, buduj relacje

CXO HUB:

  • wspiera budowę wizerunku merytorycznej i doświadczonej firmy
  • zapewnia oryginalne, inteligentne formaty budowania relacji
  • tworzy zaangażowaną i aktywną społeczność
  • buduje i dystrybuuje unikalny content dla publiczności
  • zapewnia przestrzeń do budowy kontaktu, relacji i wpływu

Dołącz do nas!

Formuła CXO HUB jest etyczna w wymiarze moralnym, obiektywna w wymiarze poznawczym oraz neutralna w wymiarze relacji z rynkiem.

Dołącz do naszej społeczności w serwisie LinkedIn

 

Dla kogo jest CXO HUB:

  • CIO polskich przedsiębiorstw
  • szefowie IT
  • liderzy największych firm w Polsce
  • decydenci zakupu rozwiązań informatycznych