Skip to main content

Wpływ generatywnej sztucznej inteligencji na bezpieczeństwo

Ewolucja roli szefów bezpieczeństwa informacji wraz z nadejściem generatywnej sztucznej inteligencji

W cyfrowym świecie szefowie bezpieczeństwa informacji (CISO) są odpowiedzialni za zarządzanie bezpieczeństwem w szeroko rozproszonej sieci. Wraz z pojawieniem się i integracją nowych modeli sztucznej inteligencji (AI) z dotychczasowym cyklem pracy, rola CISO została zwiększona do obsługi i zarządzania zabezpieczeniami generatywnej sztucznej inteligencji.

Navigating the impact of generative AI on security

Potencjalne zagrożenia bezpieczeństwa związane z generatywną sztuczną inteligencją


Drugi rok z rzędu incydenty cybernetyczne zostały uznane za najważniejsze ryzyko na świecie. Raporty wykazały, że średnie koszty takich incydentów osiągnęły rekordowy poziom w 2022 r. i będą nadal rosły w nadchodzących latach. W miarę jak te incydenty i zagrożenia stają się coraz powszechniejsze i droższe, rola CISO prawdopodobnie nabierze jeszcze większego znaczenia strategicznego w ramach zarządzania cyberbezpieczeństwem w organizacji.

W dzisiejszym cyfrowym świecie, CISO jest odpowiedzialny za zarządzanie bezpieczeństwem w szeroko rozproszonej sieci. Biorąc pod uwagę, że 82% największych ubezpieczycieli padło ofiarą ataków ransomware, zespoły ds. bezpieczeństwa powinny edukować pracowników i informować kadrę kierowniczą o potencjalnych zagrożeniach. Bardzo ważne jest, aby przetwarzane dane pozostały bezpieczne i zachowywały zgodność z regulacjami.
 

Obawy i korzyści związanych z cyberbezpieczeństwem w związku z użyciem generatywnej sztucznej inteligencji


Ponieważ generatywna sztuczna inteligencja (GenAI) jest integrowana z przepływami pracy, dyrektorzy ds. bezpieczeństwa informacji powinni rozważyć sposoby i środki, w jakie można wykorzystać jej możliwości, aby pomóc organizacjom stać się bardziej efektywnymi i wydajnymi.

Wpływ Gen AI bez wątpienia jest już widoczny, ale liderzy powinni również przygotować się na to, jak wpłynie ona na przyszłe obowiązki pracowników.

Z punktu widzenia wdrożenia GenAI, jej ogólne wykorzystanie może nakładać na CISO więcej obowiązków dotyczących:

  • Bezpieczeństwa i prywatności danych: dyrektorzy ds. bezpieczeństwa informacji będą musieli ocenić, w jaki sposób modele przetwarzają dane wrażliwe i upewnić się, że są one zgodne z przepisami i regulacjami dotyczącymi ochrony danych.
  • Kontroli dostępu: zarządzający organizacjami powinni wdrożyć kontrolę dostępu systemów, aby zapewnić, że tylko upoważnione osoby mają do nich dostęp.
  • Integralność i bezpieczeństwo modeli AI: ważne jest, aby chronić modele sztucznej inteligencji przed manipulacją i inżynierią wsteczną, co obejmuje zapewnienie, że same modele są odpowiednio chronione.
  • Rejestrowanie i monitorowanie: zespoły ds. bezpieczeństwa powinny mieć ustanowione systemy rejestrowania i monitorowania w celu wykrywania incydentów bezpieczeństwa i odpowiedniego reagowania na nie.
  • Szkolenia i edukowanie: organizacje powinny zapewniać swoim pracownikom, na każdym szczeblu, odpowiednie szkolenia, jak również podnosić świadomość związaną z użyciem Gen AI wśród pracowników i udziałowców.

Istotne jest, aby dyrektorzy ds. bezpieczeństwa informacji traktowali priorytetowo możliwość ciągłego dokształcania, jeśli chodzi o nowe rozwiązania związane z użyciem modeli AI i ich wpływ na stan bezpieczeństwa firm ubezpieczeniowych.

Z drugiej strony, rola CISO prawdopodobnie zmieni się: od ponoszenia głównej odpowiedzialności za zagrożenia cybernetycznej związane z użyciem AI/GenAI, do zapewnienie liderom biznesowym możliwości i wiedzy niezbędnej do podejmowania, często obarczonych wysokim ryzykiem decyzji, korzystając ze sztucznej inteligencji.
 

Droga do wdrożenia Gen AI


W kolejnych etapach organizacje powinny natychmiast zacząć wykorzystywać metody, takie jak szkolenia osobiste, kursy i warsztaty uświadamiające, aby edukować i kształcić pracowników w zakresie potencjalnych zagrożeń związanych z wdrażaniem Gen AI. Dodatkowo warto dołożyć wszelkich starań, aby jeszcze bardziej zintegrować szkolenia z istniejącymi w organizacjach procesami.

Zapoznaj się z tym naszym raportem, aby dowiedzieć się więcej o wdrażaniu GenAI, najlepszych praktykach, minimalizacji ryzyka cyberbezpieczeństwa związanego z sztuczną inteligencja oraz o kluczowej roli pracowników w zapewnianiu bezpieczeństwa firmy.

Did you find this useful?

Thanks for your feedback

If you would like to help improve Deloitte.com further, please complete a 3-minute survey