Wpływ generatywnej sztucznej inteligencji na bezpieczeństwo

Drugi rok z rzędu incydenty cybernetyczne zostały uznane za najważniejsze ryzyko na świecie. Raporty wykazały, że średnie koszty takich incydentów osiągnęły rekordowy poziom w 2022 r. i będą nadal rosły w nadchodzących latach. W miarę jak te incydenty i zagrożenia stają się coraz powszechniejsze i droższe, rola CISO prawdopodobnie nabierze jeszcze większego znaczenia strategicznego w ramach zarządzania cyberbezpieczeństwem w organizacji.

W dzisiejszym cyfrowym świecie, CISO jest odpowiedzialny za zarządzanie bezpieczeństwem w szeroko rozproszonej sieci. Biorąc pod uwagę, że 82% największych ubezpieczycieli padło ofiarą ataków ransomware, zespoły ds. bezpieczeństwa powinny edukować pracowników i informować kadrę kierowniczą o potencjalnych zagrożeniach. Bardzo ważne jest, aby przetwarzane dane pozostały bezpieczne i zachowywały zgodność z regulacjami.

Ponieważ generatywna sztuczna inteligencja (GenAI) jest integrowana z przepływami pracy, dyrektorzy ds. bezpieczeństwa informacji powinni rozważyć sposoby i środki, w jakie można wykorzystać jej możliwości, aby pomóc organizacjom stać się bardziej efektywnymi i wydajnymi.

Wpływ Gen AI bez wątpienia jest już widoczny, ale liderzy powinni również przygotować się na to, jak wpłynie ona na przyszłe obowiązki pracowników.

Z punktu widzenia wdrożenia GenAI, jej ogólne wykorzystanie może nakładać na CISO więcej obowiązków dotyczących:

• Bezpieczeństwa i prywatności danych: dyrektorzy ds. bezpieczeństwa informacji będą musieli ocenić, w jaki sposób modele przetwarzają dane wrażliwe i upewnić się, że są one zgodne z przepisami i regulacjami dotyczącymi ochrony danych.
• Kontroli dostępu: zarządzający organizacjami powinni wdrożyć kontrolę dostępu systemów, aby zapewnić, że tylko upoważnione osoby mają do nich dostęp.
• Integralność i bezpieczeństwo modeli AI: ważne jest, aby chronić modele sztucznej inteligencji przed manipulacją i inżynierią wsteczną, co obejmuje zapewnienie, że same modele są odpowiednio chronione.
• Rejestrowanie i monitorowanie: zespoły ds. bezpieczeństwa powinny mieć ustanowione systemy rejestrowania i monitorowania w celu wykrywania incydentów bezpieczeństwa i odpowiedniego reagowania na nie.
• Szkolenia i edukowanie: organizacje powinny zapewniać swoim pracownikom, na każdym szczeblu, odpowiednie szkolenia, jak również podnosić świadomość związaną z użyciem Gen AI wśród pracowników i udziałowców.

Istotne jest, aby dyrektorzy ds. bezpieczeństwa informacji traktowali priorytetowo możliwość ciągłego dokształcania, jeśli chodzi o nowe rozwiązania związane z użyciem modeli AI i ich wpływ na stan bezpieczeństwa firm ubezpieczeniowych.

Z drugiej strony, rola CISO prawdopodobnie zmieni się: od ponoszenia głównej odpowiedzialności za zagrożenia cybernetycznej związane z użyciem AI/GenAI, do zapewnienie liderom biznesowym możliwości i wiedzy niezbędnej do podejmowania, często obarczonych wysokim ryzykiem decyzji, korzystając ze sztucznej inteligencji.

W kolejnych etapach organizacje powinny natychmiast zacząć wykorzystywać metody, takie jak szkolenia osobiste, kursy i warsztaty uświadamiające, aby edukować i kształcić pracowników w zakresie potencjalnych zagrożeń związanych z wdrażaniem Gen AI. Dodatkowo warto dołożyć wszelkich starań, aby jeszcze bardziej zintegrować szkolenia z istniejącymi w organizacjach procesami.

Zapoznaj się z tym naszym raportem, aby dowiedzieć się więcej o wdrażaniu GenAI, najlepszych praktykach, minimalizacji ryzyka cyberbezpieczeństwa związanego z sztuczną inteligencja oraz o kluczowej roli pracowników w zapewnianiu bezpieczeństwa firmy.