Eksperci raz po raz ostrzegali ludzkość przed niebezpieczeństwami związanymi ze sztuczną inteligencją, stwierdzając, że może ona zostać wykorzystana do złych celów przez złych aktorów, jeśli nie zostaną wprowadzone odpowiednie kontrole. Teraz, OpenAIjeden z pionierów w tej dziedzinie i firma stojąca za niezwykle popularnym chatbotem AI, ChatGPT, wyraża te same obawy. OpenAI, jak zauważył Piszczący Komputer, opublikował A szczegółowy raport wyjaśniając, w jaki sposób powstrzymał ponad 20 operacji wykorzystujących ChatGPT do tworzenia złośliwego oprogramowania, rozpowszechniania dezinformacji na temat wyborów w Indiach w mediach społecznościowych i nie tylko.
Przeczytaj także: Seria Vivo X200 wprowadzona na rynek z procesorem MediaTek Dimensity 9400 SoC – wszystkie szczegóły
OpenAI zidentyfikowało trendy, aby zobaczyć, jak sztuczna inteligencja pasuje do tworzenia zagrożeń
W swoim oficjalnym raporcie OpenAI stwierdza, że firma pracowała nad identyfikacją wzorców i trendów, które pokazują, w jaki sposób generatywna sztuczna inteligencja wchodzi w grę, gdy złe podmioty wykorzystują ją do tworzenia złośliwego oprogramowania i ułatwiania innych nikczemnych celów.
Jednym ze złych aktorów zidentyfikowanych przez OpenAI był Słodki Specterpodobno pochodzenia chińskiego. OpenAI twierdzi, że stanowiło bezpośredni cel i otrzymywało e-maile phishingowe zawierające wirusy udające pliki zip z żądaniami pomocy technicznej.
OpenAI zapobiegło manipulacji wyborami powszechnymi w Indiach
OpenAI twierdzi, że w maju, kiedy w Indiach trwały wybory powszechne, ochrzczono spółkę handlową wywodzącą się z Izraela Zero Zenona próbował generować w mediach społecznościowych komentarze na temat wyborów w Indiach. Firma twierdzi, że była w stanie przerwać operację w niecałe 24 godziny od jej rozpoczęcia. Później firma również wstrzymała podobną operację przed wyborami do Parlamentu Europejskiego.
Przeczytaj także: Wkrótce premiera iOS 18.1: Apple wprowadza nową wersję beta przed wielką premierą
ChatGPT Używany do atakowania systemów przemysłowych, macOS
Inną dużą grupą korzystającą z ChatGPT była Cyb3rAv3ngers. Ich celem były systemy i infrastruktura przemysłowa w krajach zachodnich. Wykorzystali ChatGPT, prosząc go o wygenerowanie domyślnych danych uwierzytelniających, opracowywanie skryptów Bash i Python i nie tylko. Irańska grupa również ukrywała swoją działalność i wykorzystywała luki w zabezpieczeniach, aby uzyskać dostęp do haseł użytkowników w systemie macOS.
OpenAI szczegółowo opisało także inną nikczemną irańską grupę o nazwie Burza-0817. Wykorzystali ChatGPT do debugowania złośliwego oprogramowania, a nawet tworzenia nowego złośliwego oprogramowania dla Androida.
Przeczytaj także: Wydanie Red Dead Redemption na PC: wymagania systemowe, aktualizacje i najważniejsze szczegóły dla graczy
