AI jest szeregowcem, a nie generałem cyberbezpieczeństwa

Przeczytasz w 3 min

Algorytmy AI nie dominują dziś ani w obszarze cyberobrony, ani cyberataków. Nic też nie zapowiada, aby jeszcze przez dłuższy czas miało do takiej zmiany dojść. Obecnie to ludzie są po obu stronach barykady – ciemnej i jasnej strony – cyberbezpieczeństwa. I to oni są podstawą gry o bezpieczeństwo firm i instytucji.

FOTO: GRATISOGRAPHY

Czy sztuczna inteligencja ma dzisiaj w ogóle znaczenie w cyberbezpieczeństwie? Na tak sformułowane pytanie można odpowiedzieć najkrócej, że algorytmy AI grają ważną, pożyteczną rolę wszędzie tam, gdzie trzeba zrobić coś szybko (np. zablokować atak) albo przeanalizować ogromną ilość danych (np. logów). Należy jednak w tym miejscu postawić wyraźne zastrzeżenie. Mówimy o algorytmach, którym raczej daleko jeszcze do sztucznej inteligencji, do jakiejś mocno posuniętej autonomii.

Miraż ofensywnego Cybersec-AI

 Algorytmy uczenia maszynowego są zatem przydatne w detekcji anomalii, jednak daleko im – i nam – do etapu, w którym podejmowałyby decyzje obronne. Algorytmy co najwyżej wybierają wcześniej przygotowane strategie obronne według ściśle przygotowanych zasad. Dlaczego? Ponieważ nic nie zapowiada, abyśmy mieli przekroczyć podstawowe ograniczenie algorytmów opartych na uczeniu maszynowym. Uczenie maszynowe ma to do siebie, że skuteczność wyniku działania już nauczonego algorytmu jest ściśle zależna od tego, czego się algorytm nauczył. Zupełnie jak w przypadku dzieci. Ich wiedza jest ściśle zależna od tego, jak były uczone.

 Tym bardziej trudno sobie wyobrazić dzisiaj, aby konstruować – na podstawie dostępnych metodyk – modele i narzędzia o charakterze AI, które miałyby aktywnie i ofensywnie przeciwdziałać cyberzagrożeniom, „utrzymywać ład i porządek” w otoczeniu firmy, na cyberszlakach łączących ją z partnerami biznesowymi, klientami, administracją. Tak jak na dawnych szlakach handlowych – prywatne armie prowadzą do chaosu rodem z Dzikiego Zachodu. Prawa powinno więc strzec cyfrowe państwo. Myślę, że to dobra analogia.

W biznesie nigdy bym się nie odważył zdać na AI w kwestii podejmowania działań ofensywnych. I tylko w ograniczonym zakresie –  działań defensywnych. Zbyt łatwo zrobić coś sprzecznego z prawem, zbyt mocno regulowany mamy świat. Z drugiej strony, nauczanie AI powinno być skonstruowane tak, aby Prawa Robotyki były zaimplementowane w sposobie działania AI. Czy to AI na potrzeby bezpieczeństwa, czy jakiekolwiek inne. Myślę, że to jednak nie kwestia regulacji, ale zdrowego rozsądku.

Dowodzą ludzie, nie AI

Jasna strona mocy dziś wygrywa i to nie dzięki algorytmom AI, tylko ludziom, którzy te algorytmy tworzą oraz tym, które te algorytmy wykorzystują w codziennej pracy. Masowe zastosowanie AI może wiele zmienić. Może przyspieszyć działania ludzi, zastąpić ludzi w wielu czynnościach, które są pracochłonne lub trudne dla ludzi, ale nie dla komputerów. Ale powtórzę, w biznesie nie powierzyłbym jeszcze AI funkcji decyzyjnych… Istnieją obszary, gdzie już dziś te funkcje decyzyjne można sobie wyobrazić. Nie zawaham się stwierdzić, że takim obszarem jest wojsko i sprawy obronności. Tam ograniczenia prawne są mniejsze, zadania większe – utrzymanie cyber ładu i porządku w polskiej cyberprzestrzeni. I tam prędzej można sobie wyobrazić „wojny algorytmów”.

Użycie AI oczywiście spowoduje zmiany w kompetencjach w tych obszarach, gdzie zabierze pracę ludziom. Podobnie jak to mam miejsce przy robotyzacji procesów. Ludzie będą musieli uczyć AI, a nie wykonywać te czynności osobiście. Będą również musieli rozumieć lepiej jak działa AI. Po to, aby znajdować ich słabe punkty, dlatego że będą to zarazem słabe punkty obrony. To ważny obszar, gdzie my, ludzie cyberbezpieczeństwa, kierujemy dzisiaj uwagę. Niewątpliwie AI stanie się najpierw uzupełnieniem, dopełnieniem wysiłków ludzi na tym polu, zanim zacznie zastępować ich przy niektórych działaniach. Stwarza to czas na dostosowanie kompetencji, być może wykreowanie nowych.

 Piotr Skibiński, dyrektor bezpieczeństwa ICT w Polkomtelu

O zastosowaniu AI w cyberbezpieczeństwie interesująco wypowiadali się na naszych łamach także Przemysław Dęba, CSO w Orange Polska oraz Jan Kostrzewa, CISO w Ministerstwie Sprawiedliwości.

Dodaj komentarz

Twój adres e-mail nie zostanie opublikowany.

Przeczytaj też:

Przeczytasz w 7 min

KGHM: IT stało się kluczowym graczem utrzymującym w działaniu system nerwowy firmy

Z Ireneuszem Jazownikiem, dyrektorem naczelnym Centralnego Ośrodka Przetwarzania Informacji w KGHM Polska Miedź rozmawiamy o tym, jak na stan epidemii w Polsce reaguje sektor przemysłowy, czy można było się przygotować na taką sytuację, jakie nowe projekty zrealizowano w odpowiedzi na obecny kryzys, z jakimi, największymi problemami musiała poradzić sobie KGHM Polska Miedź, w jaki sposób tego dokonano i jak IT postrzega dziś biznes.

Artykuł dostępny tylko dla zarejestrowanych użytkowników.
Zaloguj się Dołącz do nas
Przeczytasz w 5 min

ARiMR: Jak wprowadziliśmy zwinne metody rozwoju IT

W ciągu dwóch lat Agencja Restrukturyzacji i Modernizacji Rolnictwa dokonała fundamentalnych zmian w zakresie cyfryzacji obsługi klientów. Jednocześnie długo oczekiwane efekty przyniosły: pełne przejście na zwinne metodyki wytwórcze przy pisaniu oprogramowania, budowa własnych kompetencji oraz ciągła rozbudowa działu IT.

Artykuł dostępny tylko dla zarejestrowanych użytkowników.
Zaloguj się Dołącz do nas
Przeczytasz w 4 min

Transformacja cyfrowa i skalowanie podejścia DevSecOps w PKO BP

Umiejętność szybkiego dostosowania się do zmiennych oczekiwań klientów w świecie cyfrowym, polega na ciągłym eksperymentowaniu i błyskawicznym uczeniu się. Możliwe jest to dzięki skróceniu cykli produkcyjnych oprogramowania, czyli szybkiemu przechodzeniu od pomysłu do wdrożenia i wyciągnięciu wniosków biznesowych z udostępnionej usługi dla klientów. W świecie usług cyfrowych zwyciężają bowiem organizacje, które potrafią adaptować się do szybko zmieniających się oczekiwań klientów i warunków rynkowych.

Artykuł dostępny tylko dla zarejestrowanych użytkowników.
Zaloguj się Dołącz do nas

Dziś tam gdzie jest cyfrowe terra incognita są członkowie CXOHUB, którzy są pionierami cyfryzacji, transformacji do nowej gospodarki (new normal).

Zapraszam do udziału,
Szymon Augustyniak

Misja, wizja i wartości CXO HUB

  • CXO HUB powstało, aby zgromadzić najlepszych menedżerów i ekspertów w zakresie szeroko pojętej cyfrowej zmiany.
  • Misją społeczności CXO HUB jest promowanie wiedzy oraz sylwetek jej członków na arenie polskiej oraz międzynarodowej.
  • Społeczność CXO HUB stanie się widoczną, słyszalną siłą w dyskursie o przyszłości i standardach w zakresie zastosowań nowych technologii.

Zdobywaj kontakty, buduj relacje

CXO HUB:

  • wspiera budowę wizerunku merytorycznej i doświadczonej firmy
  • zapewnia oryginalne, inteligentne formaty budowania relacji
  • tworzy zaangażowaną i aktywną społeczność
  • buduje i dystrybuuje unikalny content dla publiczności
  • zapewnia przestrzeń do budowy kontaktu, relacji i wpływu

Dołącz do nas!

Formuła CXO HUB jest etyczna w wymiarze moralnym, obiektywna w wymiarze poznawczym oraz neutralna w wymiarze relacji z rynkiem. Dołącz do społeczności

 

Dla kogo jest CXO HUB:

  • CIO polskich przedsiębiorstw
  • szefowie IT
  • liderzy największych firm w Polsce
  • decydenci zakupu rozwiązań informatycznych