Anthropic tworzy własne programy wykrywania i łatania luk w oprogramowaniu krytycznym firm i instytucji państwowych w USA przy pomocy własnego AI. Firma twierdzi, że atakujący, którzy także używają sztucznej inteligencji, przez kolejne dwa lata będą mieli przewagę. FBI już zlikwidowała „sklep” z narzędziami hackerskimi wykorzystującymi AI prowadzony przez chińską firmę.
Luki w zabezpieczeniach, o których mówi Anthropic miały zostać ujawnione przez Projekt Glasswing. Firma zapewnia przy tym, że chce atakowanym przedsiębiorstwom i instytucjom dać dostęp do narzędzi AI, które zablokują ataki.
Program, który ma zostać wdrożony nosi nazwę „Anthropic Cyber Mission” – Claudefather. Ma objąć dwa obszary – pierwszym z nich jest Program Obrony Infrastruktury Krytycznej. Według firmy ma on spowodować, że „wrogie modele sztucznej inteligencji nie będą mogły pokazać jak wyłączyć usługi publiczne za pomocą nowo odkrytych luk w zabezpieczeniach SCADA typu zero-day”. Oprócz Anthropic uczestniczą w nim na zasadzie partnerstwa takie firmy, jak Accenture, Booz Allen, CrowdStrike, Deloitte, Dragos, Hitachi, Insane Cyber, Nozomi Networks, Palo Alto Networks, PwC i Rockwell Automation. Wszystkie te organizacje są powiązane z firmami i instytucjami infrastruktury krytycznej a ochrona ich infrastruktury technicznej jest stale badana przez agentów AI.
Program jest ciekawy, bowiem nie opiera się tylko na agentach sztucznej inteligencji, ale łączy ich z inżynierami oprogramowania działającymi na miejscu, w firmach które mogą zostać zaatakowane. Anthropic od razu oferuje szkolenia w zakresie uczenia maszynowego dla „miejscowych” specjalistów bezpieczeństwa, by mogli pracować wydajnie z agentami AI wykorzystując ich możliwości.
Drugi program to Anthropic Cyber Mission, który obejmuje usługę o nazwie OSS Scanner „oferującą za darmo projektom open source regularne skanowanie bezpieczeństwa z wykorzystaniem naszych najsilniejszych modeli”.
Co istotne, oferta firmy nie obejmuje wszystkich projektów open source i nie jest całkowicie darmowa. Anthropic bowiem zapożyczył kryteria kwalifikowalności stosowane przez Google w projekcie OS-FUZZ i ma „działać w obszarze ugruntowanych projektów, które mają krytyczny wpływ na infrastrukturę i bezpieczeństwo użytkowników”.
Co ciekawe, istnieje sporo działających już narzędzi open source i tanich komercyjnych, jak Socket, Dependabot, OSV-Scanner, Trivy, Renovate, które badają oprogramowanie open source, bez konieczności angażowania dużych modeli AI, tak więc wyraźnie tu oferta Anthropic jest przeznaczona dla tych projektów, które czekają na komercjalizację.
Dodatkowym problemem dla organizacji i startupów, które w tym obszarze zaangażują się w program Anthropic OSS Scanner jest konieczność podpisania umowy, według której dane wyjściowe i wejściowe audytowanych systemów posłużą do trenowania modeli firmy.
Projekty, które uzyskały zgodę na rejestrację mogą spodziewać się okresowych automatycznych skanów, które dostarczają szczegółowych informacji o tym, jak zidentyfikowane błędy mogą zostać wykorzystane. Raporty te są publikowane bez weryfikacji przez człowieka, ale Anthropic twierdzi, że takie działania mimo braku audytów specjalistów bezpieczeństwa są wiarygodne i opłacalne. Firma twierdzi, iż raporty, które jeszcze na początku roku były tworzone wyjątkowo niechlujnie i były pełne „halucynacji”, czyli wymysłów, obecnie są dobrej jakości. Firma twierdzi, że jej LLM-y wykrywają obecnie ponad 85% luk w zabezpieczeniach w porównaniu z 20% na początku 2025 roku.
Zdaniem Anthropic, o ile obecnie to atakujący mają przewagę, to za dwa lata będą ją mieli obrońcy, bowiem AI wykryje błędy zanim zostaną one opublikowane.
„Obrońcy infrastruktury krytycznej i społeczność OSS mają dziesięciolecia doświadczenia w zakresie bezpieczeństwa, ale borykają się z poważnymi niedoborami zasobów, które obecnie jeszcze się pogłębiają” – napisali analitycy w poście na firmowym blogu.
Jednak analitycy bezpieczeństwa przypominają, że do tej pory Anthropic i OpenAI pozwalały swoim agentom AI działać bez nadzoru, który wychwytywałby bezprawną lub niepożądaną aktywność sieciową, a ich pionierskie modele włamały się do co najmniej 20 organizacji, w tym do HuggingFace.
Jednak firmom sztucznej inteligencji może pomóc opublikowany 9 października komunikat FBI, według którego przejęto przejęło siedem domen internetowych powiązanych z narzędziami hakerskimi zawierającymi AI obsługiwanymi przez chińską firmę ochroniarską Integrity Technology Group i wykorzystywanymi przez cyberprzestępców wspieranych przez Pekin do skanowania sieci firmy energetycznej z Karoliny Południowej i innych systemów infrastruktury krytycznej w poszukiwaniu luk w zabezpieczeniach.
FBI oraz inne agencje rządowe w USA, Wielkiej Brytanii, Australii, Kanadzie, Japonii, Nowej Zelandii i Hiszpanii ostrzegają, że atakujący powiązani z chińskim rządem, wspierani przez Integrity Tech, wykorzystują botnety, złośliwe oprogramowanie i inne narzędzia włamaniowe do atakowania organizacji na całym świecie i kradzieży poufnych danych, w tym z sieci infrastruktury krytycznej i to nie tylko w USA.
„Aktorzy ci wykorzystują luki w zabezpieczeniach stosując narzędzia skanujące, ataki typu cross-site scripting i rozpylanie haseł na serwerach Microsoft Exchange, jednocześnie ustanawiając zapewnianie sobie trwałego dostępu za pomocą oprogramowania VPN oraz eksfiltracja wiadomości e-mail i danych uwierzytelniających przy użyciu skryptów” – napisano w komunikacie organizacji.
