Mroczna strona ChatGPT od OpenAI. Skala problemu poraża

Badacze z SentinelLabs udokumentowali ciekawy przypadek wykorzystania ChatGPT, niestety, niekoniecznie w sposób, o którym marzyliby twórcy tej sztucznej inteligencji z OpenAI.

Spam zasilany AI

OpenAI nie ma lekko, ostatnio głośno jest o pozwie złożonym przez tę firmę przeciwko Elonowi Muskowi, do tego kontrowersje związane z generowaniem obrazów w stylu Ghibli, a teraz jeszcze to. Jeden z najpopularniejszych czatbotów świata był (i nadal jest) wykorzystywany przez spamerów. Użyli oni technologii OpenAI do generowania setek tysięcy wiadomości, które były unikalne dla każdego odbiorcy. Taka dywersyfikacja treści, jak się okazało, pozwoliła skutecznie omijać spamerom zautomatyzowane filtry antyspamowe w wielu organizacjach. Efekt? Zalew spamu przynajmniej w przypadku 80 000 stron internetowych w ciągu czterech miesięcy.

Spam generowany za pomocą prostych mechanizmów automatyzacji może być wykrywany przez współczesne, często również oparte na wyuczonych maszynowo algorytmach mechanizmy filtrowania niepożądanych treści. Niestety w przypadku, gdy do generowania niechcianych wiadomości użyjemy AI, a treść przekazu będzie wyjątkowa, w sensie inna dla każdego adresata danej kampanii spamerskiej, to taka wiadomość jest w istocie nieodróżnialna od wiadomości napisanej przez człowieka.

AI okazuje się obosiecznym mieczem

Za eksplozję spamu wygenerowanego dzięki pomocy AI odpowiada framework AkiraBot. Narzędzie to umożliwia spamerom masowe wysyłanie olbrzymich ilości wiadomości, aby np. promować podejrzane usługi. Za prostą automatyzację odpowiadały relatywnie proste skrypty napisane w języku Python. Służyły one m.in. do rotacji nazw domen w reklamowych wiadomościach.

Jednak oprócz tego użyto API ChatGPT od OpenAI powiązanego z modelem GPT-4o-mini do generowania niepowtarzalnych wiadomości dostosowanych do każdego adresata/witryny, do której dana treść była wysyłana. Przy czym nie chodzi o wiadomości e-mail, lecz treści wprowadzane za pośrednictwem widżetów czatu na docelowych stronach internetowych, czy formularzy udostępnionych na atakowanych przez spam witrynach.

Kiedy eksperci SentinelLabs pozyskali dzienniki pozostawione przez AkiraBot na serwerze znaleźli informacje, że unikalne, wygenerowane z pomocą API OpenAI wiadomości zostały skutecznie dostarczone do ponad 80 000 witryn od września 2024 roku do stycznia br. Wyniki analizy zostały przekazane do OpenAI, firma podziękowała i oświadczyła, że takie wykorzystanie ich API narusza warunki korzystania z usługi. Nie zdradzono, czy Sentinel Labs zostało nagrodzone za swoje odkrycia, bo warto przypomnieć, że OpenAI płaci za wykrycie luk w zabezpieczeniach. Nie zmienia to jednak zasadniczego faktu: dopiero wchodzimy w strefę zagrożeń tworzonych z wykorzystaniem sztucznej inteligencji.

Jest jednak grupa urządzeń, która wydaje się wolna od spamu i póki co jest odporna na tego typu zagrożenia, w przeciwieństwie do smartfonów czy laptopów. Główną zasługą jest tu… charakter konsumowanych na nim treści. To czytniki e-booków. Nasz ranking najlepszych czytników podpowie, jaki obecnie warto wybrać.

Źródło: opracowanie własne. Zdjęcie otwierające: Photo Agency / Shutterstock

Część odnośników to linki afiliacyjne lub linki do ofert naszych partnerów. Po kliknięciu możesz zapoznać się z ceną i dostępnością wybranego przez nas produktu – nie ponosisz żadnych kosztów, a jednocześnie wspierasz niezależność zespołu redakcyjnego.

Artykuł Mroczna strona ChatGPT od OpenAI. Skala problemu poraża pochodzi z serwisu ANDROID.COM.PL - społeczność entuzjastów technologii.