Zbytnie poleganie na AI może być niebezpieczne. Na początku czerwca br. złośliwy program o nazwie Miasma przejął ponad 70 cyfrowych baz danych Microsoftu. Kilka dni później pojawił też się w systemie do pobierania programów (PyPI) i zaczął infekować tzw. komponenty, czyli gotowe fragmenty kodu. Jak zauważa firma Exorigo-Upos najważniejsze w tej historii jest to, w jaki sposób złośliwy program ukrywa się i utrzymuje dostęp do systemu. Miasma zapisuje się w ustawieniach Claude Code, czyli AI dla programistów. Dzięki temu może uruchamiać się ponownie wraz z każdym użyciem narzędzia i wykradać wrażliwe informacje, takie jak hasła czy klucze dostępu.
Kiedyś złośliwe programy dopisywały się do systemowych ustawień komputera, żeby włączać się wraz z nim podczas uruchamiania. Teraz robią to samo, ale w ustawieniach narzędzi AI. Użytkownicy rzadko sprawdzają jednak ustawienia narzędzi AI. A to właśnie tam często znajdują się dziś ważne dane dostępowe do firmowych systemów.
– Wykorzystanie AI w organizacjach staje się coraz powszechniejsze. Z rozmów z naszymi klientami wynika jednak, że niewielu z nich rozumie zagrożenia związane z wykorzystaniem sztucznej inteligencji, a jeszcze mniej wie, jak się przed nimi skutecznie bronić. To, jakie środki bezpieczeństwa wdrożymy, powinno natomiast bezpośrednio wynikać z analizy ryzyka przeprowadzanej w organizacji. Pytanie jednak, jak skutecznie taką analizę przeprowadzić, jeżeli nie rozumiemy technologii i nie widzimy, jakie zagrożenia ze sobą niesie – komentuje Michał Tomaszewski CISO, Security Team Manager w Exorigo-Upos i Co-founder & Board Member Knoxtera.
Najczęstsze ryzyka związane z AI
W wielu organizacjach stosuje się zasady minimalnych dostępów. Niemniej zasada ta stosowana jest wybiórczo. Uprawnienia administratora lokalnego nie są ograniczane dla części zespołów, w tym często dla programistów. Firmy zakładają, że są to świadomi użytkownicy, więc ryzyko jest niskie. Jeżeli jednak organizacja korzysta z agentów AI do tworzenia kodu, obraz ryzyka zmienia się diametralnie. Uprawnienia lokalnego administratora, nawet w przypadku grup programistycznych, tworzą dodatkowe ryzyka, których wcześniej nie zagrażały firmie.
– Narzędzia typu Claude Code działają lokalnie na stacji roboczej programisty i dziedziczą uprawnienia użytkownika. W takim modelu popełniamy jeden z największych błędów, dajemy sztucznej inteligencji uprawnienia szersze niż powinna posiadać. Może to doprowadzić do sytuacji, w której AI będzie miało dostęp do danych, do których nie powinno, np. kluczy i poświadczeń lub nawet wykonania dowolnej operacji. W najgorszym wypadku może to doprowadzić do uszkodzenia danego środowiska poprzez usunięcie plików, zmianę konfiguracji lub uruchomienie skryptu – zauważa Michał Tomaszewski.
Tego typu zagrożenia to jednak nie wszystko. Wiele firm jest przekonane, że wprowadzenie polityki AI to wystarczające zabezpieczenie. Przedsiębiorcy uważają, że są wolni od zagrożeń, bo pracownicy są poinformowani, że nie mogą wrzucać do modeli danych danego typu np. stanowiących tajemnicę przedsiębiorstwa lub zawierające dane osobowe, albo powinni korzystać z licencji komercyjnych. Samo używanie płatnych wersji narzędzi nie chroni jednak organizacji przed wyciekiem lub utratą informacji. Jeżeli licencja jest wykupiona przez pracownika i ma charakter prywatny, firma traci kontrolę nad ustawieniami dla wskazanych modeli, np. nad tym, czy AI może wykorzystywać dane do uczenia się. Dodatkowo po odejściu pracownika organizacja traci to, co znajduje się na jego prywatnym koncie, a sam pracownik może nadal mieć dostęp do danych przedsiębiorstwa nawet długo po zmianie pracy.
– Liczne firmy nie kontrolują tego, co jest wprowadzane do AI. Same polityki mówiące o tym, aby nie umieszczać w modelach np. danych klientów, mogą być niewystarczające. Prostota i oszczędność czasu, jakie daje korzystanie z AI, bywają po prostu zbyt kuszące. Dlatego w przypadku, kiedy jako organizacja nie blokujemy całkowicie zewnętrznych modeli i np. nie udostępniamy własnych narzędzi, powinniśmy wdrożyć systemy bezpieczeństwa stworzone do monitorowania, kontrolowania i blokowania poufnych danych. W przeciwnym razie największa wartość wielu organizacji, czyli know-how, nie jest skutecznie chroniona. Przy przeprowadzaniu analizy ryzyka warto zatem rozumieć technologię oraz stosować sprawdzone metodyki. Dodatkowo przy wdrażaniu nowych narzędzi lub technologii warto ponownie przeprowadzić analizę ryzyka, bo czasem nawet pozornie niewielka zmiana może mieć znaczący wpływ na poziom ryzyka – tłumaczy Michał Tomaszewski.
Rosnąca liczba zagrożeń
Jak wskazują najnowsze analizy, liczba wykrywanych podatności w systemach AI dynamicznie rośnie. Według raportu TrendAI™ State of AI Security tylko w 2025 roku odnotowano przeszło 2000 nowych luk bezpieczeństwa, co oznacza ponad 30 proc. wzrost rok do roku. Eksperci TrendAI™ zwracają także uwagę, że systemy sztucznej inteligencji stają się coraz częstszym celem ataków. Liczba wykrywanych podatności w obszarze AI rośnie szybciej niż w całym ekosystemie IT. W 2025 roku tego typu systemy odpowiadały już za ponad 4% wszystkich zgłoszonych podatności w oprogramowaniu – to najwyższy wynik w historii.
Łącznie w ostatnich latach zidentyfikowano już przeszło 6 tysięcy luk bezpieczeństwa związanych ze sztuczną inteligencją. Co istotne, znacząca część z nich ma wysoki lub krytyczny poziom zagrożenia, co oznacza, że mogą prowadzić do przejęcia systemów, wycieku danych lub poważnych zakłóceń w działaniu infrastruktury. Coraz więcej z podatności dotyczy także mających duże dostępy agentów AI oraz serwerów MCP, które pozwalają modelom, takim jak Claude czy ChatGPT, bezpieczne łączyć się z zewnętrznymi narzędziami w czasie rzeczywistym.