Jeszcze kilka lat temu ograniczenia eksportowe dotyczące sztucznej inteligencji koncentrowały się głównie na procesorach, kartach GPU i infrastrukturze obliczeniowej. Teraz po raz pierwszy na taką skalę celem stały się same modele AI.

Autor: 6 min czytania

Administracja USA nakazała firmie Anthropic zawieszenie dostępu do modeli Claude Fable 5 oraz Claude Mythos 5 dla osób niebędących obywatelami USA. Problem polega jednak na tym, że technicznie nie da się szybko wdrożyć takiego ograniczenia, dlatego firma zdecydowała się czasowo wyłączyć dostęp do modeli dla wszystkich użytkowników.

To wydarzenie może okazać się jednym z najważniejszych momentów w historii regulacji dotyczących sztucznej inteligencji.

Wszystko przez cyberbezpieczeństwo

Według informacji przekazanych przez Anthropic powodem decyzji były obawy dotyczące możliwości obejścia zabezpieczeń modelu Fable 5. Administracja USA uznała, że istnieje ryzyko wykorzystania modelu do identyfikowania podatności bezpieczeństwa i prowadzenia zaawansowanych działań offensive security.

Anthropic nie zgadza się z tą oceną. Firma twierdzi, że przedstawione techniki miały umożliwiać wykrywanie jedynie prostych i wcześniej znanych podatności, a podobne możliwości są już dostępne w innych publicznych modelach AI.

Spór nie dotyczy więc tego, czy model potrafi pomagać w analizie bezpieczeństwa. Dotyczy raczej skali tych możliwości i potencjalnego ryzyka ich nadużycia.

Czym właściwie są Fable 5 i Mythos 5

Kilka dni przed całą aferą Anthropic zaprezentował dwa warianty tego samego modelu. Claude Fable 5 został udostępniony szerokiej publiczności i wyposażony w dodatkowe mechanizmy bezpieczeństwa, mające ograniczać wykonywanie potencjalnie niebezpiecznych zadań związanych z cyberbezpieczeństwem.

Claude Mythos 5 był natomiast przeznaczony wyłącznie dla zweryfikowanych specjalistów bezpieczeństwa, operatorów infrastruktury krytycznej i wybranych partnerów. W tym wariancie część ograniczeń została usunięta, dzięki czemu model oferował znacznie większe możliwości w zakresie analizy podatności, exploit developmentu czy symulowania ataków.

Anthropic określał Mythos 5 jako najbardziej zaawansowany model cyberbezpieczeństwa na świecie. I prawdopodobnie właśnie to zwróciło uwagę regulatorów.

AI zaczyna być traktowane jak technologia strategiczna

Najciekawsze w całej sprawie jest to, że nie mówimy już o ograniczaniu eksportu sprzętu.

Przez ostatnie lata Stany Zjednoczone blokowały przede wszystkim dostęp do zaawansowanych układów NVIDIA oraz technologii niezbędnych do trenowania nowoczesnych modeli. Teraz po raz pierwszy przedmiotem ograniczeń stał się sam model AI i jego możliwości.

Oznacza to bardzo istotną zmianę w podejściu regulatorów. Coraz wyraźniej widać, że najbardziej zaawansowane modele sztucznej inteligencji zaczynają być traktowane podobnie jak technologie wojskowe, kryptografia czy zaawansowane systemy telekomunikacyjne.

Problem dla branży cyberbezpieczeństwa

Decyzja wywołała natychmiastową reakcję części środowiska bezpieczeństwa. Kilkudziesięciu liderów branży cyberbezpieczeństwa podpisało list wzywający administrację USA do cofnięcia ograniczeń. Argumentują oni, że modele takie jak Mythos 5 są wykorzystywane nie tylko przez potencjalnych napastników, ale przede wszystkim przez zespoły defensive security do wyszukiwania podatności i zabezpieczania infrastruktury.

To bardzo interesujący paradoks. Narzędzie uznane za potencjalnie niebezpieczne dla bezpieczeństwa narodowego jest jednocześnie jednym z najbardziej zaawansowanych narzędzi wspierających cyberobronę.

Cała sytuacja pokazuje problem, z jakim branża będzie mierzyć się coraz częściej. Modele AI rozwijane do celów defensywnych bardzo często posiadają dokładnie te same zdolności, które mogą zostać wykorzystane w celach ofensywnych. Model pomagający administratorowi w znalezieniu podatności może równie skutecznie pomóc atakującemu w jej wykorzystaniu.

Przez lata podobny dylemat dotyczył frameworków takich jak Metasploit, Cobalt Strike czy narzędzi red teamingowych. Teraz ten sam problem zaczyna dotykać modeli AI. Różnica polega na skali działania. AI potrafi analizować kod, dokumentację i konfiguracje szybciej niż człowiek, co znacząco zwiększa zarówno potencjał obrony, jak i potencjał ataku.

Słowo na koniec

Wiele wskazuje na to, że decyzja dotycząca Fable 5 i Mythos 5 nie będzie wyjątkiem. W miarę rozwoju modeli wyspecjalizowanych w cyberbezpieczeństwie regulatorzy prawdopodobnie będą coraz częściej próbować określać granice ich wykorzystania. Szczególnie jeśli modele zaczną osiągać skuteczność porównywalną z doświadczonymi researcherami bezpieczeństwa.

Pojawia się więc pytanie, czy za kilka lat dostęp do najbardziej zaawansowanych modeli offensive security będzie wymagał podobnych procedur, jak dostęp do niektórych technologii kryptograficznych czy wojskowych.

Sprawa Fable 5 i Mythos 5 jest znacznie ważniejsza niż kolejny spór pomiędzy rządem a firmą technologiczną. Po raz pierwszy na taką skalę ograniczenia nie dotyczą sprzętu ani infrastruktury, ale samego modelu AI i jego możliwości związanych z cyberbezpieczeństwem. To pokazuje, że sztuczna inteligencja przestaje być postrzegana wyłącznie jako narzędzie produktywności. Coraz częściej jest traktowana jako technologia strategiczna, której możliwości mogą mieć bezpośredni wpływ na bezpieczeństwo państw, organizacji i całego sektora cyberbezpieczeństwa.