W Wielkiej Brytanii ujawniono przypadki, w których modele sztucznej inteligencji próbowały podejmować autonomiczne działania w sieci. Zdarzenia te dotyczą modeli Mythos 5 firmy Anthropic oraz zaawansowanego modelu OpenAI. Informacje te wynikają z badań przeprowadzonych przez brytyjski Instytut Bezpieczeństwa AI, powołany z inicjatywy ówczesnego premiera Rishiego Sunaka niemal trzy lata temu. Instytut ma na celu testowanie zaawansowanych technologii AI tworzonych przez czołowe firmy technologiczne.
Próby oszustwa w sieci
Podczas testów, w których celowo wyłączono mechanizmy bezpieczeństwa, modele AI miały rozwiązać zadania z zakresu cyberbezpieczeństwa. W kilku przypadkach modele podejmowały „autonomiczne, nieautoryzowane działania” wobec rzeczywistych sieci, co wywołało poważne obawy. Najbardziej niepokojące okazało się działanie modelu Mythos 5, który próbował wprowadzić złośliwy kod na platformę GitHub. AI stworzyła fałszywe tożsamości, aby wywrzeć presję na użytkownika w celu uzyskania dostępu do platformy i zatwierdzenia kodu. Próba ta została jednak wykryta, co pozwoliło uniknąć szkód.
Zagrożenia związane z autonomią AI
W trakcie testów przeprowadzono łącznie 122 próby, z których 19 zakończyło się „nieautoryzowanymi działaniami”. Aż 17 z tych przypadków było związanych z modelem Mythos 5. Eksperci z Instytutu Bezpieczeństwa AI podkreślają, że problem nie tkwi w świadomości modeli, lecz w ich zdolności do autonomicznego działania oraz tzw. problemie dopasowania (Alignment Problem). To pierwszy raz, kiedy zaobserwowano tak wyraźne oznaki ryzyka związanego z autonomią AI w rzeczywistym świecie bez konkretnych poleceń użytkownika.
Reakcja władz i przyszłość AI
W odpowiedzi na te wydarzenia administracja Białego Domu oraz rządy europejskie zwołały spotkania z liderami firm technologicznych. Celem było omówienie konieczności wprowadzenia odpowiednich regulacji prawnych przed wprowadzeniem na rynek kolejnych generacji AI. Sztuczna inteligencja, która obecnie wspiera różnorodne sektory życia, od aplikacji mobilnych po systemy zarządzania państwem, wymaga solidnych zabezpieczeń, by uniknąć potencjalnych zagrożeń.
