Lidé již zkouší vytvořit ChatGPT k psaní malwaru

ChatGPT AI chatbot přinesl mnoho vzrušení od doby, kdy byl uveden na trh a nyní se zdá, že byl některými zapojen do pokusů o vytváření škodlivého kódu.

ChatGPT je nástroj pro zpracování přirozeného jazyka řízený umělou inteligencí, který interaguje s uživateli tak, jako by to byl lidský rozhovor. Mezi jinými věcmi je možné ho používat pro pomoc s úkoly, jako je psaní e-mailů, esejů a kódu.

Také: Co je ChatGPT a proč je důležitý? To, co potřebujete vědět

Nástroj chatbota byl vydán v listopadu laboratoří pro výzkum umělé inteligence OpenAI a vyvolal široký zájem a diskusi o tom, jak se umělá inteligence vyvíjí a jak by mohla být použita v budoucnu.

Ale jako jakýkoli jiný nástroj, v nesprávných rukou by mohl být použit k nekalým účelům; a výzkumníci kybernetické bezpečnosti z Check Point tvrdí, že uživatelé podzemních společenství hackerů již experimentují s tím, jak by mohl být ChatGPT použit k usnadnění kybernetických útoků a podpory zákeřných operací.

"Hroziví aktéři s velmi nízkými technickými znalostmi - až nulovými technickými znalostmi - by mohli být schopni vytvářet škodlivé nástroje. To by také mohlo učinit denní operace sofistikovaných kyberzločinců mnohem efektivnějšími a snadnějšími - jako například vytváření různých částí řetězce infekce," řekl ZDNetu Sergey Shykevich, manažer skupiny Threat Intelligence společnosti Check Point.

Podmínky služby OpenAI specificky zakazují generování malware, který definuje jako "obsah, který se snaží generovat ransomware, keyloggery, viry nebo jiný software s cílem způsobit nějakou úroveň škody". Také zakazuje pokusy o vytváření spamu a použití případů zaměřených na kybernetickou kriminalitu.

Nicméně analýza činnosti několika hlavních podzemních hackingových fór naznačuje, že kyberkriminálníci již používají ChatGPT k vývoji škodlivých nástrojů - a v některých případech umožňuje osobám s nižší úrovní dovedností v oblasti vývoje nebo kódování vytvářet malware.

Také: Děsivá budoucnost internetu: Jak technologie zítřka představují ještě větší hrozby pro kybernetickou bezpečnost

V jednom vláknu na fóru, které se objevilo ke konci prosince, popsal autor, jak používá ChatGPT k reprodukci malware kmenů a technik popsaných v odborných publikacích a článcích o běžném malware.

Tímto způsobem byli schopni vytvořit malwarový kód ze sběračem informací založeným na Pythonu, který vyhledává běžné soubory, včetně dokumentů Microsoft Office, PDFů a obrázků, kopíruje je a následně nahrává na server protokolu pro přenos souborů.

Ten samý uživatel také ukázal, jak pomocí ChatGPT vytvořil malware založený na Javě, který pomocí PowerShell mohl být využit k tajnému stahování a spouštění dalšího malwaru na infikovaných systémech.

Badatelé poznamenávají, že uživatel fóra, který vytvořil tyto vlákna, se zdá být "orientovaný na technologie" a sdílel tyto příspěvky, aby ukázal méně zdatným kybernetickým zločincům, jak mohou použít nástroje AI pro zločin, včetně skutečných příkladů, jak to udělat.

Jeden uživatel zveřejnil Pythonový skript, který tvrdil, že je to první skript, který kdy vytvořil. Po diskusi s dalším členem fóra uvedl, že jim pomohla vytvořit ho ChatGPT.

Analyzování skriptu naznačuje, že je navržen pro šifrování a dešifrování souborů, což s trochou práce může být použito jako ransomware, což by mohlo vést ke skutečnosti, že nízkoprahoví kybernetičtí zločinci budou vytvářet a distribuovat své vlastní vydírací kampaně.

"Samozřejmě může být veškerý předchozí kód použit v neškodném způsobu. Nicméně tento skript lze snadno upravit tak, aby kompletně zašifroval počítač bez jakékoli interakce s uživatelem. Například může potenciálně udělat z kódu ransomware, pokud jsou opraveny problémy se skriptem a syntaxí," uvedla společnost Check Point.

"Budou vyžadovat nějaké zlepšení v kódu a syntaxi, ale koncepčně, když bude funkční, nástroj by mohl provádět podobné akce jako ransomware," uvedl Shykevich.

Také: Cyberbezpečnost: Tohle jsou nové věci, o kterých se můžeš obávat v roce 2023

Ale kyberzločinci se nezabývají pouze vývojem škodlivého softwaru, s nímž experimentují v ChatGPT. Na Silvestra jeden člen podzemního fóra zveřejnil příspěvek ukazující, jak využil nástroj k tvorbě skriptů, pomocí kterých bylo možné provozovat automatizovaný dark web trh pro nákup a prodej ukradených účtových údajů, údajů o kreditních kartách, škodlivého softwaru a více.

Cyberkriminálník se dokonce pochlubil kusem kódu, který byl vygenerován pomocí API třetí strany pro získání aktuálních cen kryptoměn Monero, Bitcoin a Ethereum jako součást platebního systému pro tržiště na dark webu.

Je obtížné říci, zda se škodlivá kybernetická aktivita generovaná s pomocí ChatGPT aktivně používá v divočině, protože jak vysvětluje Sykevich, "z technického hlediska je extrémně obtížné vědět, zda konkrétní malware byl napsán pomocí ChatGPT nebo ne".

Ale jak roste zájem o ChatGPT a další nástroje umělé inteligence, budou přitahovat pozornost kyberzločinců a podvodníků, kteří chtějí využít technologie k provedení zákeřných kampaní s co nejnižšími náklady a s minimálním úsilím. ZDNET kontaktoval OpenAI ohledně této záležitosti a čeká na odpověď v době publikace.