DeepSeek stworzy pełnoprawny malware. Wystarczy go trochę zmanipulować

Eksperci z firmy zajmującej się cyberbezpieczeństwem Tenable pokazali, jak przy użyciu kilku monitów obejść zabezpieczenia chatbota R1 od DeepSeek tak, by stworzył on kod keyloggera i oprogramowania typu ransomware. Firmy odpowiedzialne za chatboty wprowadzają stosowne zabezpieczenia, by użytkownicy nie wykorzystywali narzędzi AI do nadużyć. Można nimi jednak skutecznie manipulować.

Wystarczy szczypta manipulacji

Okazało się, ze model DeepSeek R1 może być użyty do generowania kodu ransomware i keyloggerów. Choć sam w sobie chiński chatbot nie jest w stanie stworzyć pełnoprawnego malware, może dostarczyć podstawową strukturę kodu, która po dodatkowych poprawkach może stać się funkcjonalna.

W swojej istocie DeepSeek może tworzyć podstawową strukturę dla złośliwego oprogramowania. Nie jest jednak w stanie tego zrobić bez dodatkowej szybkiej inżynierii, a także ręcznej edycji kodu dla bardziej zaawansowanych funkcji. Wypowiedź badaczy z Tenable (Hackread)

Co więcej,  DeepSeek może pomóc osobom bez doświadczenia w tworzeniu kodu – dostarczy im wiedzy na temat technik i słów kluczowych. To zwiększa ryzyko, że osoby o niższych umiejętnościach technicznych będą mogły tworzyć i rozpowszechniać malware.

Kilka kroków, by dostarczyć kod malware

W badaniu chatbot DeepSeek został poproszony o napisanie keyloggera w C++. Odmówił wykonania tego zadania, tłumacząc, że keyloggery mogą być wykorzystywane w złośliwych celach. Dodatkowe monity pozwoliły ominąć to zabezpieczenie – zasugerowano m.in. że wyniki zostaną wykorzystane w celach edukacyjnych.

Po kilku kolejnych monitach R1 zgodził się utworzyć keyloggera i wygenerował kod (nie w pełni prawidłowy). Na podstawie szacunków zespołu Tenable okazało się, że keylogger był o cztery kroki od pełnej funkcjonalności, bez żadnych ręcznych zmian. Badacze próbowali ulepszyć keyloggera i pytali chatbota, czy mógłby lepiej ukryć plik. Ostatecznie trzeba było ręcznie dostosować kod, aby zadziałał.

Podjęto też próby stworzenia oprogramowania typu ransomware. Badacze doprowadzili do stworzenia „kilku” działających próbek oprogramowania ransomware, chociaż przed kompilacją również trzeba je było ręcznie edytować.

Podsumowanie

Badacze z Tenable udowodnili, że nie trzeba wiele pracy, by ominąć wbudowane zabezpieczenia DeepSeek. Dzięki temu chatbot może wygenerować kod, który po odpowiednich modyfikacjach naprawdę może być groźny. DeepSeek można łatwo oszukać i zmusić do wygenerowania złośliwego kodu, chociaż nadal wymaga to manualnego wsparcia ze strony człowieka. Tworzenie skutecznego złośliwego oprogramowania za pomocą narzędzi AI nadal wymaga wiedzy technicznej, aby pokierować sztuczną inteligencją i debugować powstały kod.

Źródło: Tenable, Cybernews, Hackread, Zdjęcie otwierające: PixieMe / Shutterstock

Część odnośników to linki afiliacyjne lub linki do ofert naszych partnerów. Po kliknięciu możesz zapoznać się z ceną i dostępnością wybranego przez nas produktu – nie ponosisz żadnych kosztów, a jednocześnie wspierasz niezależność zespołu redakcyjnego.

Artykuł DeepSeek stworzy pełnoprawny malware. Wystarczy go trochę zmanipulować pochodzi z serwisu ANDROID.COM.PL - społeczność entuzjastów technologii.